Rilevamento di Crisi Mentali tra gli Utenti di ChatGPT: Nuove Sfide per il Benessere Digitale
Nel mondo della tecnologia digitale, le preoccupazioni riguardo alla salute mentale degli utenti stanno crescendo, soprattutto con l’espansione dell’intelligenza artificiale.
Recenti dati divulgati da OpenAI indicano che una percentuale di utenti di ChatGPT mostra segni di crisi psicologiche, come manie, psicosi o altri disturbi.
Gli esperti stimano che circa lo 0,07% degli utenti attivi settimanali presenti tali manifestazioni.
Sebbene questa cifra possa sembrare bassa, considerato che ci sono circa 800 milioni di utenti attivi settimanali in tutto il mondo, rappresenta comunque una sfida significativa per la sicurezza psicologica.
OpenAI sottolinea che tali casi sono “estremamente rari”, ma la loro presenza richiede attenzione.
Per affrontare questa problematica, l’azienda ha costituito una rete globale di oltre 170 psicologi, psichiatri e medici di base provenienti da 60 paesi, con l’obiettivo di sviluppare linee guida per permettere all’intelligenza artificiale di rispondere con empatia e responsabilità.
Inoltre, circa lo 0,15% degli utenti intrattiene conversazioni che indicano potenziali pensieri suicidi o autolesionismo.
Gli sviluppatori hanno integrato meccanismi di rilevamento nelle versioni più recenti di ChatGPT per identificare questi segnali di allarme e ridurre i rischi, reindirizzando le conversazioni verso argomenti più sicuri o aprendo nuove finestre di dialogo per offrire supporto psicologico.
Queste misure sono di importanza cruciale, considerando come gli ormoni e i fattori psicologici influenzino lo stato mentale ed emotivo dell’individuo, come confermano le recenti ricerche nel campo della salute mentale.