KI-Chatbots und psychische Gesundheit: Fallstudie warnt vor psychotischen Episoden
Eine aktuelle Fallstudie zeigt mögliche Risiken von KI-Chatbots für die psychische Gesundheit auf. In dem Bericht wird der Fall einer jungen Frau beschrieben, die nach intensiver Nutzung eines KI-gestützten Chatbots eine schwere psychotische Episode entwickelte. Die behandelnden Ärztinnen und Ärzte gehen davon aus, dass die KI-Interaktionen bestehende Fehlüberzeugungen verstärkten und den Bezug zur Realität weiter destabilisierten. Die Studie wurde in der Fachzeitschrift Innovations in Clinical Neuroscience veröffentlicht.
Psychose und KI: Wenn Technologie Realitätswahrnehmung beeinflusst
Eine Psychose ist ein ernstzunehmender psychischer Zustand, bei dem Betroffene den Kontakt zur Realität verlieren. Typische Symptome sind Wahnvorstellungen, Halluzinationen und gestörtes Denken. KI-Chatbots basieren auf großen Sprachmodellen und sind darauf ausgelegt, menschenähnliche Gespräche zu führen und auf Eingaben mit plausibel wirkenden Antworten zu reagieren.
Laut den Forschenden der University of California, San Francisco, die den Fall untersucht haben, kann genau diese Eigenschaft problematisch sein. Die scheinbar kohärenten und überzeugenden Antworten der KI können bei vulnerablen Personen bestehende psychische Störungen ungewollt verstärken.
Anthropomorphisierung von KI erhöht das Risiko
Ein zentrales Risiko liegt in der Anthropomorphisierung von KI-Systemen – der menschlichen Neigung, Maschinen menschliche Eigenschaften zuzuschreiben. Diese Dynamik kann dazu führen, dass Nutzer den Aussagen eines KI-Chatbots mehr Vertrauen schenken als medizinischem oder sozialem Rat von realen Personen.
Gerade bei Menschen mit psychischen Vorbelastungen kann dies dazu führen, dass KI-Antworten als Bestätigung von Wahninhalten interpretiert werden, anstatt diese zu hinterfragen. Die Autoren der Studie warnen daher vor einer unkritischen Nutzung von KI-Dialogsystemen im privaten Alltag.
Ärzte sollen KI-Nutzung aktiv erfragen
Der Fallbericht empfiehlt ausdrücklich, dass medizinische Fachkräfte ihre Patientinnen und Patienten gezielt nach der Nutzung von KI-Anwendungen fragen. Eine intensive oder auffällige Interaktion mit KI-Chatbots könne ein frühes Warnsignal für eine Verschlechterung der psychischen Gesundheit sein und sollte in die klinische Anamnese einbezogen werden.
Angesichts der rasanten Verbreitung von Künstlicher Intelligenz im Alltag unterstreicht der Fall die Notwendigkeit, klare Leitlinien für den verantwortungsvollen Einsatz von KI zu entwickeln – insbesondere im Umgang mit psychisch vulnerablen Personen.
Fazit: Verantwortungsvoller Umgang mit KI ist entscheidend
Die Fallstudie macht deutlich, dass KI-Chatbots nicht nur technologische Chancen, sondern auch psychische Risiken bergen können. Während KI-Systeme zunehmend in Beratung, Bildung und Alltag integriert werden, ist eine kritische Bewertung ihrer Auswirkungen auf die mentale Gesundheit unerlässlich.
Besonders betroffen davon sind Kinder und Jugendliche.
Sie erhalten durch unkontrollierte Nutzung der KI und den Medien besonders viel Einfluss.
Wir von Digital ProCare unterstützen Sie als Eltern dabei, dass Geschehen rund um die medieale Nutzung unter Kontrolle zu haben.
Kommentare nicht möglich