Détection de Crises Psychologiques chez les Utilisateurs de ChatGPT : Nouveaux Défis pour le Bien-être Numérique
Dans le domaine des technologies numériques, les préoccupations concernant la santé mentale des utilisateurs deviennent de plus en plus pressantes, en particulier avec la popularité croissante de l’intelligence artificielle.
Des données récentes publiées par OpenAI révèlent qu’une partie des utilisateurs de ChatGPT présentent des signes de crises psychiques, comme la manie, la psychose ou d’autres troubles.
Les spécialistes estiment que cela concerne environ 0,07 % des utilisateurs actifs chaque semaine.
Bien que ce chiffre semble faible, le fait qu’il concerne près de 800 millions d’utilisateurs actifs dans le monde entier soulève des enjeux majeurs pour la sécurité psychologique.
OpenAI insiste sur le fait que ces cas restent « extrêmement rares », mais leur présence doit être prise en compte.
Afin de faire face à ces problématiques, la société a constitué un réseau mondial de plus de 170 psychologues, psychiatres et médecins généralistes issus de 60 pays pour élaborer des recommandations permettant à l’IA de répondre avec empathie et responsabilité.
Par ailleurs, environ 0,15 % des utilisateurs engageant des conversations présentent des signes potentiels de pensées suicidaires ou d’automutilation.
Les développeurs ont intégré des mécanismes de détection dans les versions récentes de ChatGPT pour repérer ces signaux et diminuer les risques, en orientant la conversation vers des sujets plus sûrs ou en ouvrant une nouvelle fenêtre pour apporter un soutien psychologique.
Ces mesures sont particulièrement importantes dans un contexte où les hormones et les facteurs psychologiques jouent un rôle clé dans l’état mental et émotionnel de chaque individu, comme le confirment les recherches en santé mentale.