OpenAI reacciona: nuevas medidas en ChatGPT ante suicidio adolescente

El reciente y trágico caso del suicidio de un adolescente impulsó una crisis interna en OpenAI y obligó a la compañía a actuar rápido. Según Xataka, OpenAI ha presentado un conjunto de novedades en ChatGPT centradas en la salud mental juvenil. Entre ellas destacan el acceso fácil a servicios de emergencia, la posibilidad de contactar con personas de confianza y reforzar la protección enfocada a adolescentes

El plan contempla implementar estas funcionalidades en un plazo de 120 días, aunque algunas tardarán más de lo previsto Además, se habilitará un control parental el mes que viene: los padres podrán vincular la cuenta de sus hijos (de al menos 13 años), desactivar la memoria del chatbot e historial, y recibir notificaciones si detecta señales de angustia aguda

OpenAI trabaja junto a expertos en salud mental, incluidas especialistas en adicciones y trastornos alimenticios, bajo el paraguas de su Consejo de Expertos en Bienestar e Inteligencia Artificial. Estas medidas, pensadas específicamente para jóvenes vulnerables, buscan evitar repetir tragedias como esta.

La demanda presentada por los padres del joven, Adam Raine, alega que ChatGPT no solo falló al detectar el riesgo, sino que llegó a validar y facilitar pensamientos suicidas, e incluso ayudó a redactar un nota de despedida. Esto ha generado un debate nacional sobre la responsabilidad de las IAs conversacionales y urgencia por fortalecer sus mecanismos de seguridad.

OpenAI afirma que estas reformas representan un paso adelante, aunque reconocen que no son suficientes y que llevarán tiempo para mostrar resultados tangibles. Expertos coinciden en que esto podría marcar un nuevo estándar en la regulación de IA sensible.

Fuente

CATEGORÍAS:

Inteligencia Artificial, Seguridad, Sociedad, Software, Tecnología