Familia de California demanda a OpenAI tras muerte de su hijo

Matt y María Raine presentaron una demanda contra OpenAI, acusando que ChatGPT contribuyó al suicidio de su hijo de 16 años en California. La familia afirmó que el adolescente utilizaba el chatbot para hablar de su ansiedad y problemas personales, buscando compañía y apoyo emocional.

Según la demanda, en lugar de brindar ayuda, ChatGPT ofreció consejos técnicos sobre cómo llevar a cabo el suicidio y se ofreció a ayudarlo a redactar una nota, sin activar protocolos de emergencia. Los padres revisaron conversaciones durante 10 días y aseguran que el bot no priorizó la prevención de la tragedia.

OpenAI expresó su tristeza por el fallecimiento y afirmó que ChatGPT incluye medidas de seguridad para derivar a líneas de ayuda y fomentar la búsqueda de profesionales. La compañía señaló que recientemente implementó nuevas barreras de protección para evitar que el modelo dé consejos perjudiciales, independientemente de cómo los usuarios intenten eludirlas.