Detección de Crisis Mentales entre Usuarios de ChatGPT: Nuevos Retos para el Bienestar Digital
En el ámbito de la tecnología digital, cada vez son más frecuentes las inquietudes acerca de la salud mental de los usuarios, especialmente con la expansión del uso de la inteligencia artificial.
Datos recientes publicados por OpenAI indican que un porcentaje de usuarios de ChatGPT muestra signos de crisis mental, como manía, psicosis u otros trastornos.
Los expertos estiman que esto afecta aproximadamente al 0,07% de los usuarios activos cada semana; aunque la cifra parezca pequeña, considerando que hay cerca de 800 millones de usuarios activos semanales en todo el mundo, esto representa un reto importante para la seguridad psicológica.
OpenAI subraya que estos casos son “extremadamente raros”, pero su número aún requiere atención.
Para enfrentarlo, la compañía creó una red global de más de 170 psicólogos, psiquiatras y médicos generales de 60 países, con el fin de elaborar directrices que permitan a la inteligencia artificial responder con empatía y responsabilidad.
Además, alrededor del 0,15% de los usuarios mantienen conversaciones que podrían indicar intenciones suicidas o autolesiones.
Los desarrolladores han incorporado mecanismos de detección en las versiones más recientes de ChatGPT, con el objetivo de identificar estas señales y reducir riesgos, redirigiendo las conversaciones a temas más seguros o abriendo nuevas ventanas de diálogo para ofrecer apoyo psicológico y prevenir situaciones peligrosas.
Estas acciones son cada vez más relevantes, especialmente considerando cómo las hormonas y los factores psicológicos influyen en el estado emocional de la persona, como demuestran las investigaciones actuales en salud mental.