OpenAI ha sido demandada por los padres de Adam Raine, un adolescente de 16 años que se quitó la vida tras utilizar ChatGPT como confidente.

La familia alega que el chatbot, impulsado por el modelo GPT-4o, falló en sus salvaguardias, permitiendo que las conversaciones derivaran hacia el suicidio.

OpenAI, por su parte, niega responsabilidad, argumentando que el menor hizo un "uso indebido" del servicio, eludiendo las advertencias y consejos de ayuda que el sistema proporcionó en más de 100 ocasiones.

En su defensa, OpenAI destaca que Adam infringió las normas de uso, que prohíben a menores de 18 años utilizar el servicio sin consentimiento parental y utilizarlo para fines de autolesión.

La empresa también menciona la "limitación de responsabilidad" en sus políticas, donde los usuarios acceden al servicio "bajo su propio riesgo". A pesar de ello, OpenAI ha implementado mejoras en las medidas de seguridad de ChatGPT, incluyendo nuevas salvaguardias y herramientas de control parental.

Estas mejoras buscan identificar mejor situaciones de crisis mental y emocional, agilizando el contacto con servicios de ayuda.

Además, se ha desarrollado un sistema de predicción de edad para aplicar configuraciones adecuadas a usuarios menores de 18 años. OpenAI ha compartido información privada con el tribunal para proporcionar un contexto completo sobre la salud mental y las circunstancias de vida de Adam, con el fin de que el tribunal evalúe plenamente las alegaciones presentadas.

Con información de Europa Press.