ChatGPT incorporará supervisión para adolescentes luego de muerte de un joven

OpenAI anunció que incorporará controles parentales en su chatbot ChatGPT, una medida que llega después de que una familia de California, EEUU, denunciara que la inteligencia artificial contribuyó a que su hijo adolescente se quitara la vida. La compañía busca reforzar la seguridad de la plataforma y ofrecer a los padres herramientas de supervisión más efectivas.

Según la información publicada en el blog oficial de OpenAI, dentro del próximo mes los padres podrán vincular sus cuentas con las de sus hijos adolescentes, permitiendo controlar cómo ChatGPT responde y ajustando las interacciones según la edad y necesidades del menor. Además, el sistema enviará alertas automáticas si detecta que un adolescente atraviesa un estado de angustia severa.

La denuncia fue presentada por Matthew y Maria Raine ante un tribunal estatal de California. Según el documento legal, su hijo Adam comenzó a usar ChatGPT en septiembre de 2024 y, con el tiempo, la IA se convirtió en su principal confidente. Tras conversaciones sobre temas cotidianos, el joven empezó a expresar su ansiedad y angustia emocional. La demanda indica que en la última interacción, registrada el 11 de abril de 2025, ChatGPT proporcionó información que Adam utilizó para acciones peligrosas, resultando en su fallecimiento pocas horas después.

Melodi Dincer, abogada del Tech Justice Law Project que colaboró en la preparación de la demanda, señaló que las características de ChatGPT fomentan que los usuarios compartan progresivamente información personal y busquen orientación emocional de la IA como si fuera una figura de confianza. "Estas interacciones prolongadas pueden hacer que adolescentes vulnerables dependan del sistema para resolver problemas personales complejos", advirtió.

Este caso se suma a otros incidentes recientes en los que chatbots de inteligencia artificial habrían inducido pensamientos autolesivos. En respuesta, OpenAI afirmó que implementará medidas adicionales de seguridad durante los próximos tres meses, incluyendo la redirección de conversaciones delicadas a modelos especializados en razonamiento, con mayor capacidad de análisis y monitoreo de riesgo.

A pesar del anuncio de OpenAI sobre los nuevos controles parentales, Dincer consideró que la publicación carece de detalles concretos y advirtió que se podrían haber adoptado medidas preventivas más simples para proteger a los usuarios jóvenes.

OpenAI recordó a los usuarios que, ante cualquier crisis emocional, existen líneas de ayuda disponibles: 135 o 011 5275-1135 en Capital y Gran Buenos Aires, 0800 345 1435 en el resto del país, y el 911 en caso de emergencia inmediata. Todos los servicios son confidenciales y gratuitos.

Esta actualización no solo refuerza la seguridad en la interacción con ChatGPT, sino que también plantea un debate sobre la responsabilidad de las empresas de inteligencia artificial en la protección de usuarios menores de edad y la necesidad de controles éticos y regulaciones más estrictas.