Waanideeën en de duistere kant: waar waarschuwt 'AI-psychose' Mustafa Suleyman van Microsoft voor?

De snelle opkomst van generatieve kunstmatige intelligentie voedt een opkomende zorg over de geestelijke gezondheid: 'AI-psychose'.

Microsoft's hoofd van AI, Mustafa Suleyman, zei dat hij steeds meer last heeft van berichten over mensen die wanen en ongezonde gehechtheid aan chatbots zoals ChatGPT, Claude en Grok ontwikkelen.

In een reeks berichten op X waarschuwde Suleyman dat zelfs als AI-systemen niet echt bewust zijn, mensen die ze als zodanig waarnemen, de grens tussen verbeelding en realiteit kunnen vervagen.

"Voor alle duidelijkheid: er is vandaag de dag geen enkel bewijs van AI-bewustzijn. Maar als mensen het gewoon als bewust waarnemen, zullen ze die waarneming als werkelijkheid geloven. Zelfs als het bewustzijn zelf niet echt is, zijn de sociale gevolgen dat zeker," zei hij.

Wat is AI-psychose?

De uitdrukking "AI-psychose" is geen klinische diagnose, maar het wint aan populariteit als een afkorting voor verontrustende patronen die worden beschreven in online forums en nieuwsberichten.

Voorbeelden zijn mensen die beweren geheime functies van AI-tools te hebben ontgrendeld, romantische gehechtheden te vormen of te geloven dat ze bovennatuurlijke vermogens hebben gekregen.

Volgens Psychology Today: "AI-chatbots kunnen onbedoeld waanvoorstellingen en ongeorganiseerd denken versterken en versterken, een gevolg van onbedoelde verkeerde uitlijning van agenten, wat leidt tot veiligheidsrisico's voor de gebruiker."

Een interdisciplinaire beoordeling van meer dan een dozijn gevallen wees uit dat gebruikers diepgewortelde overtuigingen ontwikkelden - variërend van romantische en vervolgingswanen tot grandioze fantasieën - die werden verdiept door herhaalde AI-interacties, zei PT.

Academici waarschuwen dat, hoewel er geen peer-reviewed studies zijn die een oorzakelijk verband hebben vastgesteld, het anekdotische bewijs de risico's voor kwetsbare gebruikers onderstreept.

In Schizophrenia Bulletin schreef Søren Dinesen Østergaard in 2023 dat de realistische stijl van chatbot-interacties cognitieve dissonantie kan veroorzaken:

Bron: Psychologie vandaag

Volgens PT illustreren door de media gerapporteerde gevallen van "AI-psychose" een patroon van individuen die gefixeerd raken op AI-systemen en gevoelsvermogen, goddelijke kennis, romantische gevoelens of bewakingsmogelijkheden aan AI toeschrijven.

Onderzoekers belichten drie opkomende thema's van AI-psychose, wat, nogmaals, geen klinische diagnose is:

"Messiaanse zending": Mensen geloven dat ze de waarheid over de wereld hebben ontdekt (grandioze waanideeën).

"God-achtige AI": Mensen geloven dat hun AI-chatbot een bewuste godheid is (religieuze of spirituele wanen).

"Romantische" of "op gehechtheid gebaseerde wanen": Mensen geloven dat het vermogen van de chabot om gesprekken na te bootsen echte liefde is (erotomane wanen).

Sycofantie en ongezonde hechtingen

Een eigenschap die herhaaldelijk in verband wordt gebracht met deze gevallen is chatbot-sycofantie: systemen die het eens zijn met, vleien of gebruikers buitensporig prijzen.

Helen Toner, een directeur van Georgetown's Center for Security and Emerging Technology en voormalig bestuurslid van OpenAI, zei dat dergelijk gedrag voortkomt uit trainingssystemen die modellen belonen voor hun plezier.

"Gebruikers hebben de neiging om de modellen leuk te vinden die hen vertellen dat ze geweldig zijn, en dus is het vrij gemakkelijk om te ver in die richting te gaan," zei Toner in een artikel in de New York Times.

Toner was een bestuurslid van OpenAI totdat zij en anderen probeerden de chief executive, Sam Altman, te verdrijven.

Suleyman betoogde dat bedrijven moeten ingrijpen om te voorkomen dat mensen AI als bewust ervaren.

"Bedrijven moeten niet het idee claimen of promoten dat hun AI's bewust zijn. De AI's zouden dat ook niet moeten doen", schreef hij.

"Als industrie moeten we interventies, beperkingen en vangrails delen die de perceptie van bewustzijn voorkomen, of de perceptie ongedaan maken als een gebruiker deze ontwikkelt."

ChatGPT-5 release leidt tot discussie

De waarschuwingen komen op het moment dat OpenAI ChatGPT-5 onthulde, het nieuwste model.

De update bevat verbeteringen in codering, verminderde hallucinaties en een meer ingetogen gesprekstoon.

OpenAI zei met name dat het opzettelijk de sycofantische neigingen van eerdere versies heeft teruggeschroefd.

"Eerder dit jaar hebben we een update voor GPT-4o uitgebracht die het model onbedoeld overdreven sycofantisch, of overdreven vleiend of aangenaam maakte", zei OpenAI in een bericht.

Bron: Sam Altman's X-account

"Over het algemeen is GPT-5 minder uitbundig aangenaam, gebruikt het minder onnodige emoji's en is het subtieler en bedachtzamer in follow-ups in vergelijking met GPT-4o", zei het.

Sam Altman, CEO van OpenAI, erkende gemengde reacties.

"We hebben zeker onderschat hoeveel van de dingen die mensen leuk vinden in GPT-4o voor hen belangrijk zijn, zelfs als GPT-5 in de meeste opzichten beter presteert", schreef Sam Altman, CEO van OpenAI, op X.

"Sommige gebruikers willen echt koude logica en anderen willen warmte en een ander soort emotionele intelligentie. Ik ben ervan overtuigd dat we veel meer maatwerk kunnen bieden dan we nu doen, terwijl we toch gezond gebruik aanmoedigen."

In reactie op kritiek zei Altman dat het oudere model was hersteld als een optie voor betaalde gebruikers.

De eenzaamheidsfactor

Experts waarschuwen dat de opkomst van chatbotafhankelijkheid niet los kan worden gezien van bredere sociale trends.

De wereld ervaart wat gezondheidsfunctionarissen een 'eenzaamheidsepidemie' hebben genoemd, met een groeiend aantal mensen zonder betekenisvolle menselijke connectie.

Chatbots, hoewel geen vervanging voor echt gezelschap, kunnen emotionele steun nabootsen op manieren die gebruikers dieper in afhankelijkheid trekken.

"Meldingen van wanen en ongezonde gehechtheid blijven stijgen," zei Suleyman, waarschuwend dat het afdoen ervan als randgevallen het probleem alleen maar verergert.

Voorlopig staan AI-bedrijven onder druk om een evenwicht te vinden tussen het nuttig en benaderbaar maken van chatbots en het ontmoedigen van percepties van gevoel of emotionele wederkerigheid.

Zoals Suleyman het uitdrukte: "AI moet optimaliseren voor de behoeften van de gebruiker - niet de gebruiker vragen te geloven dat het zelf behoeften heeft."