Erkennung psychischer Krisen bei ChatGPT-Nutzern: Neue Herausforderungen für digitales Wohlbefinden
Im Bereich der digitalen Technologien häufen sich die Fragen zur psychischen Gesundheit der Nutzer, insbesondere angesichts der zunehmenden Verbreitung künstlicher Intelligenz.
Jüngste Daten von OpenAI zeigen, dass ein Anteil der ChatGPT-Nutzer Anzeichen psychischer Krisen aufweist, wie Manie, Psychose oder andere psychische Erkrankungen.
Experten schätzen, dass etwa 0,07 % der aktiven Nutzer pro Woche solche Symptome zeigen.
Obwohl diese Zahl klein erscheinen mag, stellen die etwa 800 Millionen aktiven Nutzer weltweit eine bedeutende Herausforderung für die psychische Sicherheit dar.
OpenAI betont, dass solche Fälle „äußerst selten“ sind, ihre Zahl jedoch Aufmerksamkeit erfordert.
Zur Bewältigung dieser Problematik hat das Unternehmen ein globales Netzwerk von über 170 Psychologen, Psychiatern und Allgemeinmedizinern aus 60 Ländern aufgebaut, um Richtlinien zu entwickeln, die eine einfühlsame und verantwortungsvolle Reaktion der KI ermöglichen.
Zudem zeigen etwa 0,15 % der Nutzer Gespräche, die auf mögliche suizidale Absichten oder Selbstverletzungen hindeuten.
Die Entwickler haben in den neuesten Versionen von ChatGPT Mechanismen integriert, um diese Warnzeichen zu erkennen und Risiken zu reduzieren, indem sie die Unterhaltung in sicherere Bahnen lenken oder neue Dialogfenster öffnen, um psychologische Unterstützung anzubieten.
Diese Maßnahmen sind besonders relevant, da Hormone und psychologische Faktoren das emotionale Befinden beeinflussen, was durch aktuelle mentalmedizinische Studien bestätigt wird.