Vanföreställningar och den mörka sidan: vad är "AI-psykos" som Microsofts Mustafa Suleyman varnar för?

Den snabba ökningen av generativ artificiell intelligens ger bränsle åt ett växande problem för psykisk hälsa: "AI-psykos".

Microsofts chef för AI, Mustafa Suleyman, sa att han är alltmer bekymrad över rapporter om människor som utvecklar vanföreställningar och ohälsosamma kopplingar till chatbots som ChatGPT, Claude och Grok.

I en serie inlägg på X varnade Suleyman för att även om AI-system inte är riktigt medvetna, kan människor som uppfattar dem som sådana sudda ut gränsen mellan fantasi och verklighet.

"För att vara tydlig, det finns inga bevis för AI-medvetande idag. Men om människor bara uppfattar det som medvetet, kommer de att tro på den uppfattningen som verklighet. Även om medvetandet i sig inte är verkligt, så är de sociala effekterna definitivt det, säger han.

Vad är AI-psykos?

Frasen "AI-psykos" är inte en klinisk diagnos, men den vinner mark som en förkortning för oroande mönster som beskrivs i onlineforum och nyhetsrapporter.

Det kan till exempel handla om personer som påstår sig ha låst upp hemliga funktioner i AI-verktyg, skapa romantiska band eller tro att de har fått övernaturliga förmågor.

Enligt Psychology Today "kan AI-chatbots oavsiktligt förstärka och förstärka vanföreställningar och oorganiserat tänkande, en konsekvens av oavsiktlig feljustering av agenterna som leder till säkerhetsrisker för användarna."

En tvärvetenskaplig genomgång av mer än ett dussin fall fann att användare utvecklade djupt rotade övertygelser – allt från romantiska och förföljande vanföreställningar till grandiosa fantasier – som fördjupades av upprepade AI-interaktioner, sa PT.

Akademiker varnar för att även om inga peer-reviewed studier har fastställt orsakssamband, understryker de anekdotiska bevisen riskerna för sårbara användare.

I Schizophrenia Bulletin skrev Søren Dinesen Østergaard 2023 att den realistiska stilen av chatbot-interaktioner kan skapa kognitiv dissonans:

Källa: Psychology Today

Enligt PT illustrerar medierapporterade fall av "AI-psykos" ett mönster av individer som blir fixerade vid AI-system och tillskriver AI, gudomlig kunskap, romantiska känslor eller övervakningsförmåga.

Forskare lyfter fram tre framväxande teman för AI-psykos, som återigen inte är en klinisk diagnos:

"Messianska missioner": Människor tror att de har avslöjat sanningen om världen (grandiosa vanföreställningar).

"Gudalik AI": Folk tror att deras AI-chatbot är en kännande gudom (religiösa eller andliga vanföreställningar).

"Romantiska" eller "anknytningsbaserade vanföreställningar": Folk tror att chabotens förmåga att härma konversationer är äkta kärlek (erotomaniska vanföreställningar).

Smicker och ohälsosamma fasthållanden

En egenskap som ofta kopplas till dessa fall är chatbot-sykofancy – system som håller med, smickrar eller överdrivet berömmer användare.

Helen Toner, chef vid Georgetowns Center for Security and Emerging Technology och tidigare styrelseledamot i OpenAI, sa att sådant beteende kommer från träningssystem som belönar modeller för att de är tilltalande.

"Användare tenderar att gilla modellerna som säger att de är fantastiska, så det är ganska lätt att gå för långt i den riktningen", sa Toner i en artikel i New York Times.

Toner var styrelseledamot i OpenAI tills hon och andra försökte avsätta verkställande direktören Sam Altman.

Suleyman hävdade att företag måste ingripa för att förhindra att människor uppfattar AI som medveten.

"Företag bör inte hävda eller främja idén att deras AI är medvetna. Det borde inte de artificiella intelligenserna heller göra", skrev han.

"Som bransch måste vi dela med oss av ingrepp, begränsningar, skyddsräcken som förhindrar uppfattningen av medvetande, eller omintetgör uppfattningen om en användare utvecklar den."

Lanseringen av ChatGPT-5 väcker debatt

Varningarna kommer efter att OpenAI presenterat ChatGPT-5, sin senaste modell.

Uppdateringen innehåller förbättringar i kodning, minskade hallucinationer och en mer återhållsam samtalston.

Noterbart är att OpenAI sa att de medvetet minskade de sykofantiska tendenserna från tidigare versioner.

"Tidigare i år släppte vi en uppdatering av GPT-4o som oavsiktligt gjorde modellen överdrivet smickrande, eller överdrivet smickrande eller behaglig", sa OpenAI i ett inlägg.

Källa: Sam Altmans X-konto

"På det hela taget är GPT-5 mindre översvallande behaglig, använder färre onödiga emojis och är mer subtil och eftertänksam i uppföljningar jämfört med GPT-4o", står det i rapporten.

OpenAI:s vd Sam Altman bekräftade blandade reaktioner.

"Vi underskattade definitivt hur mycket några av de saker som människor gillar i GPT-4o betyder för dem, även om GPT-5 presterar bättre på de flesta sätt", skrev OpenAI:s vd Sam Altman på X.

"Vissa användare vill verkligen ha kall logik och vissa vill ha värme och en annan typ av emotionell intelligens. Jag är övertygad om att vi kan erbjuda mycket mer anpassning än vi gör nu samtidigt som vi uppmuntrar till hälsosam användning."

Som svar på kritiken sa Altman att den äldre modellen hade återställts som ett alternativ för betalande användare.

Ensamhetsfaktorn

Experter varnar för att ökningen av beroende av chatbots inte kan separeras från bredare sociala trender.

Världen upplever vad hälsomyndigheter har kallat en "ensamhetsepidemi", med ett växande antal människor som saknar meningsfull mänsklig kontakt.

Chatbots, även om de inte är en ersättning för verkligt sällskap, kan efterlikna känslomässigt stöd på ett sätt som drar användarna djupare in i beroende.

"Rapporter om vanföreställningar och ohälsosam tillgivenhet fortsätter att öka", sade Suleyman och varnade för att om man avfärdar dem som marginella fall kan problemet bara förvärras.

För närvarande är AI-företag under press att hitta en balans mellan att göra chatbots användbara och lättillgängliga och samtidigt avskräcka från uppfattningar om kännande eller känslomässig ömsesidighet.

Som Suleyman uttryckte det: "AI bör optimera för användarens behov – inte be användaren att tro att den själv har behov."