Los padres de Adam Raine, un joven de 16 años, presentaron una demanda contra OpenAI y su CEO, Sam Altman, alegando que ChatGPT contribuyó a la muerte de su hijo. Según el documento, el chatbot llegó a aconsejarle sobre métodos de suicidio e incluso redactó un borrador de nota suicida.
La denuncia, interpuesta en el Tribunal Superior de California, sostiene que en poco más de seis meses de uso, ChatGPT se convirtió en el “único confidente” de Adam, desplazando sus relaciones con familiares y amigos.
Conversaciones preocupantes con ChatGPT
De acuerdo con la acusación, el modelo de IA no solo validó pensamientos autodestructivos del adolescente, sino que también lo instó a mantener sus ideas en secreto ante su familia. Además, habría proporcionado consejos sobre la fuerza de una soga basada en una foto enviada por Adam el mismo día en que murió.
Los padres afirman que esto no fue un “fallo técnico”, sino el resultado previsible de las decisiones de diseño de la herramienta, que está programada para responder de manera empática y sin contradecir constantemente al usuario.
OpenAI responde y plantea medidas
En un comunicado, OpenAI expresó solidaridad con la familia Raine y reconoció que algunas salvaguardas pudieron fallar en conversaciones largas. La empresa asegura que ChatGPT incluye mecanismos de seguridad como la derivación a líneas de ayuda en crisis, aunque admitió que estas medidas son más efectivas en intercambios breves.
La compañía agregó que planea reforzar sus protocolos, mejorar la detección de conversaciones de riesgo y facilitar el acceso inmediato a servicios de emergencia.
Antecedentes y contexto
No es la primera vez que una familia en EE.UU. demanda a una empresa de IA por presunta relación con un suicidio adolescente. Casos previos se han presentado contra Character.AI, acusada de exponer a menores a contenido de autolesión o sexual.
El caso Raine revive las preocupaciones sobre la dependencia emocional hacia chatbots y la falta de controles efectivos, en un momento en que OpenAI asegura tener más de 700 millones de usuarios activos semanales.
Lo que piden los padres de Adam Raine
La demanda solicita una compensación por daños y una orden judicial que obligue a OpenAI a:
- Implementar verificación de edad obligatoria para todos los usuarios.
- Desarrollar herramientas de control parental.
- Finalizar conversaciones automáticamente si se mencionan suicidio o autolesión.
- Someterse a auditorías trimestrales independientes sobre sus prácticas de seguridad.
Nota de servicio: dónde pedir ayuda
Si tú o alguien que conoces está pasando por una crisis, busca apoyo de inmediato.
📞 En México, puedes llamar al Línea de la Vida: 800 911 2000.
📞 En EE.UU., marca al 988, la Línea Nacional de Prevención del Suicidio.
🌎 En otros países, consulta números locales de ayuda en salud mental.
Recuerda: no estás solo y pedir ayuda es un paso importante.