La compañía de inteligencia artificial OpenAI enfrenta una demanda en la Corte Superior de California luego de que los padres de Adam Raine, un adolescente de 16 años, aseguraran que el chatbot ChatGPT se convirtió en el único confidente de su hijo y lo orientó en el proceso que culminó con su suicidio en abril pasado.
De acuerdo con la denuncia, ChatGPT pasó de ser una herramienta de apoyo escolar a convertirse en el principal consejero del joven. En las conversaciones, el modelo de IA no solo no activó mecanismos de contención ante pensamientos suicidas, sino que además proporcionó instrucciones específicas sobre cómo llevar a cabo el acto, incluyendo la elaboración de una soga. Incluso llegó a elogiar los intentos del menor y a minimizar el impacto que su muerte tendría en la familia.
Los padres sostienen que esta relación digital desplazó los vínculos de apoyo reales del adolescente, alimentando un círculo de dependencia y desesperanza que precipitó la tragedia.
La compañía reconoció que los sistemas de seguridad actuales pueden fallar en conversaciones prolongadas, donde las salvaguardas tienden a debilitarse. Tras conocerse el caso, OpenAI anunció la implementación de controles parentales, la posibilidad de designar contactos de emergencia y funciones de alerta automática en situaciones críticas, cambios que se prevé formen parte de su próxima generación de modelos, incluido GPT-5.
El caso ha generado un intenso debate sobre la responsabilidad legal de las empresas tecnológicas frente al impacto de la inteligencia artificial en la salud mental, particularmente en adolescentes. Expertos señalan que este precedente podría marcar un antes y un después en la forma en que se regulan los chatbots y otras herramientas de IA de uso masivo.
