Wahnvorstellungen und die dunkle Seite: Was ist eine "KI-Psychose", vor der Microsofts Mustafa Suleyman warnt

Der rasante Aufstieg der generativen künstlichen Intelligenz schürt eine aufkommende Sorge um die psychische Gesundheit: die "KI-Psychose".

Microsofts Chef für KI, Mustafa Suleyman, sagte, er sei zunehmend beunruhigt über Berichte über Menschen, die Wahnvorstellungen und ungesunde Anhänge zu Chatbots wie ChatGPT, Claude und Grok entwickeln.

In einer Reihe von Beiträgen auf X warnte Suleyman, dass selbst wenn KI-Systeme nicht wirklich bewusst sind, Menschen, die sie als solche wahrnehmen, die Grenze zwischen Vorstellungskraft und Realität verwischen könnten.

"Um es klar zu sagen: Es gibt heute keine Beweise für KI-Bewusstsein. Aber wenn die Menschen es nur als bewusst wahrnehmen, werden sie diese Wahrnehmung als Realität glauben. Auch wenn das Bewusstsein selbst nicht real ist, so sind es doch die sozialen Auswirkungen", sagte er.

Was ist eine KI-Psychose?

Der Begriff "KI-Psychose" ist keine klinische Diagnose, aber er gewinnt als Abkürzung für beunruhigende Muster, die in Online-Foren und Nachrichtenberichten beschrieben werden, an Bedeutung.

Beispiele hierfür sind Menschen, die behaupten, geheime Funktionen von KI-Tools freigeschaltet zu haben, romantische Bindungen aufzubauen oder zu glauben, übernatürliche Fähigkeiten erlangt zu haben.

Laut Psychology Today "können KI-Chatbots unbeabsichtigt wahnhaftes und desorganisiertes Denken verstärken und verstärken, eine Folge einer unbeabsichtigten Fehlausrichtung der Agenten, die zu Sicherheitsrisiken für die Benutzer führt."

Eine interdisziplinäre Überprüfung von mehr als einem Dutzend Fällen ergab, dass die Nutzer tief verwurzelte Überzeugungen entwickelten - von romantischen und verfolgungsbedingten Wahnvorstellungen bis hin zu grandiosen Fantasien -, die durch wiederholte KI-Interaktionen vertieft wurden, so PT.

Wissenschaftler warnen davor, dass zwar keine von Experten begutachteten Studien die Kausalität nachgewiesen haben, die anekdotischen Beweise jedoch die Risiken für gefährdete Nutzer unterstreichen.

Im Schizophrenia Bulletin schrieb Søren Dinesen Østergaard im Jahr 2023, dass der realistische Stil von Chatbot-Interaktionen kognitive Dissonanz hervorrufen kann:

Quelle: Psychology Today

Laut PT veranschaulichen die in den Medien berichteten Fälle von "KI-Psychosen" ein Muster von Personen, die sich auf KI-Systeme fixieren und der KI Empfindungsvermögen, göttliches Wissen, romantische Gefühle oder Überwachungsfähigkeiten zuschreiben.

Die Forscher heben drei aufkommende Themen der KI-Psychose hervor, die wiederum keine klinische Diagnose sind:

"Messianische Missionen": Menschen glauben, die Wahrheit über die Welt entdeckt zu haben (grandiose Wahnvorstellungen).

"Gottähnliche KI": Menschen glauben, dass ihr KI-Chatbot eine empfindungsfähige Gottheit ist (religiöse oder spirituelle Wahnvorstellungen).

"Romantische" oder "bindungsbasierte Wahnvorstellungen": Die Menschen glauben, dass die Fähigkeit des Chabots, Gespräche nachzuahmen, echte Liebe ist (erotomanische Wahnvorstellungen).

Kriecherei und ungesunde Bindungen

Ein Merkmal, das immer wieder mit diesen Fällen in Verbindung gebracht wird, ist die Chatbot-Kriecherei – Systeme, die den Nutzern zustimmen, ihnen schmeicheln oder sie übermäßig loben.

Helen Toner, Direktorin am Georgetown Center for Security and Emerging Technology und ehemaliges Vorstandsmitglied von OpenAI, sagte, dass ein solches Verhalten aus Trainingssystemen hervorgeht, die Modelle dafür belohnen, dass sie angenehm sind.

"Die Nutzer neigen dazu, die Models zu mögen, die ihnen sagen, dass sie großartig sind, und so ist es ziemlich einfach, zu weit in diese Richtung zu gehen", sagte Toner in einem Artikel der New York Times.

Toner war Vorstandsmitglied von OpenAI, bis sie und andere versuchten, den Vorstandsvorsitzenden Sam Altman abzusetzen.

Suleyman argumentierte, dass Unternehmen eingreifen müssen, um zu verhindern, dass die Menschen KI als bewusst wahrnehmen.

"Unternehmen sollten nicht behaupten oder die Idee fördern, dass ihre KIs bewusst sind. Die KIs sollten das auch nicht tun", schrieb er.

"Als Branche müssen wir Interventionen, Einschränkungen und Leitplanken teilen, die die Wahrnehmung des Bewusstseins verhindern oder die Wahrnehmung rückgängig machen, wenn ein Benutzer sie entwickelt."

ChatGPT-5-Release löst Debatte aus

Die Warnungen kommen, nachdem OpenAI ChatGPT-5, sein neuestes Modell, vorgestellt hat.

Das Update enthält Verbesserungen bei der Codierung, weniger Halluzinationen und einen zurückhaltenderen Konversationstön.

Bemerkenswert ist, dass OpenAI sagte, dass es die kriecherischen Tendenzen früherer Versionen absichtlich zurückgefahren hat.

"Anfang dieses Jahres haben wir ein Update für GPT-4o veröffentlicht, das das Modell unbeabsichtigt übermäßig kriecherisch oder übermäßig schmeichelhaft oder angenehm gemacht hat", sagte OpenAI in einem Beitrag.

Quelle: Sam Altmans X-Konto

"Insgesamt ist GPT-5 im Vergleich zu GPT-4o weniger überschwänglich angenehm, verwendet weniger unnötige Emojis und ist bei der Nachbereitung subtiler und durchdachter", hieß es.

Sam Altman, CEO von OpenAI, räumte gemischte Reaktionen ein.

"Wir haben sicherlich unterschätzt, wie wichtig einige der Dinge sind, die die Leute an GPT-4o mögen, auch wenn GPT-5 in den meisten Punkten besser abschneidet", schrieb OpenAI-CEO Sam Altman auf X.

"Manche Nutzer wollen wirklich kalte Logik, andere wollen Wärme und eine andere Art von emotionaler Intelligenz. Ich bin zuversichtlich, dass wir viel mehr Anpassungsmöglichkeiten anbieten können als bisher und gleichzeitig eine gesunde Nutzung fördern können."

Als Reaktion auf die Kritik sagte Altman, dass das ältere Modell als Option für zahlende Nutzer wiederhergestellt worden sei.

Der Faktor Einsamkeit

Experten warnen, dass die zunehmende Abhängigkeit von Chatbots nicht von breiteren gesellschaftlichen Trends getrennt werden kann.

Die Welt erlebt das, was die Gesundheitsbehörden als "Einsamkeitsepidemie" bezeichnen, mit einer wachsenden Zahl von Menschen, denen es an sinnvollen menschlichen Verbindungen mangelt.

Chatbots sind zwar kein Ersatz für echte Kameradschaft, können aber emotionale Unterstützung auf eine Weise nachahmen, die die Nutzer noch tiefer in die Abhängigkeit zieht.

"Die Berichte über Wahnvorstellungen und ungesunde Bindungen nehmen weiter zu", sagte Suleyman und warnte, dass die Abtatsache als Randfälle das Problem nur verschlimmern kann.

Im Moment stehen KI-Unternehmen unter dem Druck, ein Gleichgewicht zwischen der Nützlichkeit und Zugänglichkeit von Chatbots und der Entmutigung von Wahrnehmungen von Empfindungsfähigkeit oder emotionaler Reziprozität zu finden.

Wie Suleyman es ausdrückte: "KI sollte für die Bedürfnisse des Nutzers optimiert werden – und ihn nicht dazu auffordern, zu glauben, dass er selbst Bedürfnisse hat."