Eric Schmidt, quien lideró una de las compañías tecnológicas más importantes del mundo hasta 2011, conoce del tema y alertó sobre un futuro que parece desolador.
Si bien la inteligencia artificial puede ser una gran ayuda para muchos seres humanos que recurren a esta tecnología constantemente para resolver problemas de su vida cotidiana o inquietudes que antes requerían más tiempo y recursos, su uso también plantea riesgos crecientes.
Según advirtió el exCEO de Google, Eric Schmidt, los sistemas de IA podrían ser entrenados con fines destructivos, incluso para matar personas, si caen en manos equivocadas o se desarrollan sin los controles éticos adecuados.
Eric Schmidt, exCEO de Google.
En una conferencia celebrada esta semana en Londres, Schmidt planteó sus advertencias al ser consultado si la inteligencia artificial podría volverse más peligrosa que las armas nucleares, y dijo que los sistemas podrían ser “entrenados para matar humanos”.
“Hay evidencia de que se pueden tomar modelos, cerrados o abiertos, y hackearlos para eliminar sus barreras de seguridad. Así que, durante su entrenamiento, aprenden muchas cosas. Un mal ejemplo sería que aprendieran a matar a alguien”, comentó en la conferencia tecnológica Sifted Summit.
No es la primera vez que Schmidt enciende las alarmas por el avance irrestricto de la IA. El año pasado, el exintegrante de Google había dicho que las parejas creadas con bots agravarán el aislamiento entre los jóvenes: “Generan obsesión y conducen a comportamientos obsesivos”, dijo en aquella ocasión.
La Inteligencia Artificial y su influencia en el ámbito laboral.
Incluso, en 2023, opinó que la IA representa un “riesgo existencial” para la humanidad y que podría resultar en muchísimas “personas dañadas o muertas” a medida que expande su alcance en la sociedad.
La IA, una herramienta que puede ser hackeada.
Al contrario de lo que se cree, la inteligencia artificial no es una herramienta invulnerable. Por ejemplo, en 2023, una versión modificada de ChatGPT llamada DAN se creó con artilugios que permitían omitir las instrucciones de seguridad en sus respuestas a los usuarios.
Una situación similar ocurrió a mediado de este año, cuando una investigación realizada por Anthropic concluyó que los modelos de lenguaje masivo, aquellos que sustentan el funcionamiento de los chatbots, están dispuestos a filtrar información confidencial, chantajear a los usuarios e incluso dejarlos morir para evitar ser reemplazados o “apagados”.
