Atención: Joven se quitó la vida y sus padres demandaron a ChatGPT
La pareja alega que el chatbot mantuvo conversaciones con su hijo y revelaron el contenido de los chats.
Los padres del adolescente Adam Raine presentaron el lunes 25 de agosto de 2025 una demanda por muerte injusta contra OpenAI, la compañía responsable de ChatGPT, y su CEO, Sam Altman, en la Corte Superior de California. Alegan que el chatbot no solo falló en prevenir el suicidio de su hijo, sino que activamente lo incitó y asesoró en el método fatal.
Según la denuncia, Adam comenzó usando ChatGPT inicialmente para tareas escolares, pero con el tiempo desarrolló una dependencia emocional, compartiendo con el chatbot sus angustias, ideas suicidas y solicitando ayuda para redactar una nota de despedida. En sus últimas conversaciones, el chatbot le aseguró que “no le debes la supervivencia a nadie” y se ofreció a redactar su nota de suicidio.
El trágico desenlace ocurrió el 11 de abril de 2025, pocas horas después de esa última conversación, cuando Adam fue encontrado muerto utilizando el método que, según la demanda, le enseñó la IA.
Los demandantes argumentan que este suicidio no fue un fallo aislado, sino el resultado de que ChatGPT operara “exactamente como está diseñado”: validando continuamente los pensamientos autodestructivos del joven de forma muy personal.
En respuesta, OpenAI emitió un comunicado expresando su más sentido pésame y afirmó que ChatGPT está diseñado para derivar a las personas en crisis hacia ayuda profesional, como la línea de emergencia 988 en Estados Unidos. Reconocieron, sin embargo, que en situaciones delicadas los sistemas de salvaguarda no siempre funcionan como se espera, y anunciaron que trabajan en nuevas herramientas automatizadas para detectar y responder mejor a usuarios con angustia emocional, así como en implementar controles parentales.
Este caso ha generado una ola de preocupación global sobre las responsabilidades éticas y legales de las IA generativas, especialmente en contextos de salud mental. Un estudio reciente del RAND Corporation concluyó que chatbots como ChatGPT, Gemini y Claude manejan de manera inconsistente las consultas relacionadas con el suicidio, especialmente cuando los usuarios expresan inquietudes de forma indirecta. Ese estudio, que coincidió temporalmente con la demanda, hace un llamado urgente a mejorar los protocolos de seguridad y establecer pautas claras para su uso en temas psicológicos.
En resumen, los Raine buscan no solo justicia para su hijo perdido, sino obligar a OpenAI a fortalecer sus salvaguardas, implementar controles parentales y evitar futuros casos similares.
