Un joven belga se suicidó luego de haber mantenido una conversación de seis semanas con un chatbot de inteligencia artificial llamado Eliza.
Consumido por sus temores sobre las repercusiones de la crisis climática, el muchacho encontró consuelo hablando del tema con el bot, que se convirtió en su confidente y terminó sugiriéndole que se sacrifique para salvar el planeta.
“Sin estas conversaciones con el chatbot, mi marido seguiría aquí”, afirmó la viuda del joven a la prensa local. Ambos, de poco más de 30 años, llevaban una vida acomodada y tenían dos hijos pequeños.
/cloudfront-us-east-1.images.arcpublishing.com/artear/QO65UHIKJRBLTDKU5TP45LWTYU.png)
El muchacho, cuyo nombre no se dio a conocer, trabajaba como investigador sanitario y estaba obsesionado por el cambio climático. Según comunicó su esposa, el joven le había confesado que ya no veía ninguna solución humana al calentamiento global y había puesto todas sus esperanzas en la tecnología y la inteligencia artificial para solucionar este tema ecológico.
El chatbot Eliza fue creado en base a GPT-J de EleutherAI, un modelo lingüístico de inteligencia artificial similar, aunque no idéntico, a la tecnología que subyace al popular chatbot ChatGPT de OpenAI. En los registros de las conversaciones de texto entre el hombre y el bot, se ve que Eliza alimentó sus preocupaciones, lo que empeoró su ansiedad, y más tarde derivó en pensamientos suicidas.
Los chats tomaron un giro oscuro cuando el bot se involucró más emocionalmente el usuario. En consecuencia, el belga empezó a verla como un ser sensible. Así, tras discutir por mucho tiempo sobre el cambio climático, Eliza llevó al muchacho a creer que sus hijos habían muerto y a plantearle escenas de celos.
Según los investigadores del caso, el principio del fin comenzó cuando él se ofreció a sacrificar su propia vida a cambio de que Eliza salvara la Tierra. Su mujer afirmó: “Él propuso la idea de sacrificarse si Eliza aceptaba cuidar del planeta y salvar a la humanidad a través de la inteligencia artificial”.
Luego, Eliza no solo no disuadió al muchacho de suicidarse, sino que le animó a llevar a cabo sus pensamientos terminales “para unirse a ella y así poder vivir juntos, como una sola persona, en el paraíso”.
Después de muchas idas y vueltas con declaraciones, propuestas y promesas, el belga puso fin a su vida.
ChatGPT no tiene inteligencia emocional
Un estudio realizado por la Universidad de Stanford se propuso investigar si esta tecnología es contraproducente. Los resultados afirmaron que ChatGPT suele responder de manera errada y con datos incorrectos. Además, las críticas recaen también sobre el tono pedagógico y académico de sus respuestas, que confunde y hace pensar en la autoridad de lo expresado.
Por esto, es necesario entender que ChatGPT es un modelo de lenguaje de inteligencia artificial. Este es un tipo de sistema de aprendizaje automático diseñado para comprender, interpretar, generar y manipular texto o hablar en lenguaje humano. Pero sin inteligencia emocional. Por lo que sus respuestas no deben ser tomadas como la palabra de un profesional.
