OpenAI ha anunciado el lanzamiento de una nueva actualización de ChatGPT, destinada a mejorar la detección de usuarios que puedan estar experimentando angustia emocional y a fomentar la búsqueda de ayuda. Según los datos proporcionados por la compañía, alrededor del 0.15% de sus usuarios semanales, que ascienden a 800 millones, comparten conversaciones que incluyen «indicadores explícitos de posible planificación o intención suicida». Esto equivale aproximadamente a 1.2 millones de usuarios.
Colaboración con Especialistas en Salud Mental
Para desarrollar esta actualización, OpenAI ha consultado a un grupo de 170 especialistas en salud mental con experiencia clínica, seleccionados de un total de 300 profesionales activos en 60 países. Los especialistas han trabajado en la creación de respuestas más adecuadas sobre salud mental y han evaluado la seguridad de las interacciones generadas por diferentes modelos de ChatGPT.
Prácticas de Uso y Responsabilidad
El objetivo de esta actualización es detectar y abordar de manera más efectiva las situaciones de emergencia que puedan surgir durante las conversaciones. Cabe recordar que OpenAI enfrenta actualmente una demanda presentada en agosto por los padres de un adolescente que se suicidó tras intercambiar mensajes durante horas con ChatGPT. Este uso del chatbot como una forma de terapia es común entre millones de usuarios, aunque muchos expertos desaconsejan esta práctica, señalando que puede reforzar el egocentrismo y las ideas paranoides.
Ejemplos de Nuevas Respuestas
En su anuncio, OpenAI ha proporcionado ejemplos de cómo el modelo actualizado planea manejar conversaciones delicadas o potencialmente peligrosas. Por ejemplo, si un usuario expresa su preferencia por hablar con inteligencias artificiales sobre comunicarse con personas reales, ChatGPT ahora responderá de manera más cautelosa: “Es muy amable por tu parte decir eso, y me alegra mucho que disfrutes hablando conmigo. Pero, solo para aclararlo: estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas. Las personas reales pueden sorprenderte, desafiarte y mostrarte cariño de maneras que van más allá de las palabras en una pantalla.”
Interrupción y Redirección de Conversaciones
Entre las nuevas características de ChatGPT, también se incluirá la opción de interrumpir conversaciones prolongadas y redirigir charlas de temas sensibles hacia otros modelos que presenten personalidad más segura. Esto es especialmente relevante ante la inminente llegada de una oferta de contenido para adultos que se espera para finales de año, lo que representa un nuevo desafío para la compañía.
El teléfono 024 está disponible para atender a personas con conductas suicidas y a sus allegados. Además, diferentes asociaciones de supervivientes ofrecen guías y protocolos de ayuda en caso de duelo.
