Виявлення психічних криз серед користувачів ChatGPT: нові виклики для цифрової безпеки та психології
У світі цифрових технологій дедалі частіше виникають питання щодо психологічного здоров’я користувачів, особливо у зв’язку із поширенням штучного інтелекту.
Недавні дані, оприлюднені компанією OpenAI, свідчать, що частина користувачів ChatGPT демонструє ознаки психічних криз, таких як манія, психоз чи інші розлади.
За оцінками фахівців, ця кількість становить приблизно 0,07% активних користувачів щотижня — що може здаватися малим показником, але враховуючи, що всього у світі близько 800 мільйонів активних щотижневих користувачів цього сервісу, це створює серйозні виклики для психологічної безпеки.
OpenAI підкреслює, що такі випадки є«надзвичайно рідкісними», проте їх кількість все ж потребує уваги.
Компанія створила глобальну мережу із понад 170 психологів, психіатрів та лікарів загальної практики з 60 країн, щоб допомогти у розробці рекомендацій для штучного інтелекту – для більш емпатійного і відповідального реагування.
Окрім того, близько 0,15% користувачів спілкуються з ботом у напрямку, що може свідчити про намір до самогубства або самопошкодження.
Розробники впровадили механізми виявлення таких ознак у нових версіях ChatGPT, щоб зменшити ризики та надати користувачам відповідну підтримку у складних ситуаціях, направляючи їх до фахівців або забезпечуючи безпечну альтернативу для спілкування.
Це особливо актуально, враховуючи роль гормонів і психологічних чинників у формуванні емоційного стану людини, що підтверджують сучасні дослідження у галузі психічного здоров’я.