Vrangforestillinger og den mørke siden: hva er "AI-psykose" som Microsofts Mustafa Suleyman advarer mot

Den raske økningen av generativ kunstig intelligens gir næring til en voksende mental helsebekymring: «AI-psykose».

Microsofts sjef for AI, Mustafa Suleyman, sa at han blir stadig mer plaget av rapporter om folk som utvikler vrangforestillinger og usunne tilknytninger til chatbots som ChatGPT, Claude og Grok.

I en serie innlegg på X advarte Suleyman om at selv om AI-systemer ikke er virkelig bevisste, kan folk som oppfatter dem som sådan viske ut grensen mellom fantasi og virkelighet.

«For å være tydelig, er det null bevis for AI-bevissthet i dag. Men hvis folk bare oppfatter det som bevisst, vil de tro på den oppfatningen som virkelighet. Selv om bevisstheten i seg selv ikke er reell, er de sosiale konsekvensene absolutt det,» sa han.

Hva er AI-psykose?

Uttrykket «AI-psykose» er ikke en klinisk diagnose, men det får gjennomslag som en forkortelse for urovekkende mønstre beskrevet i nettfora og nyhetsrapporter.

Eksempler inkluderer folk som hevder å ha låst opp hemmelige funksjoner i AI-verktøy, danner romantiske tilknytninger eller tror de har fått overnaturlige evner.

I følge Psychology Today, "AI-chatbots kan utilsiktet forsterke og forsterke vrangforestillinger og uorganisert tenkning, en konsekvens av utilsiktet agentisk feiljustering som fører til brukersikkerhetsrisiko."

En tverrfaglig gjennomgang av mer enn et dusin tilfeller fant at brukere utviklet forankrede oppfatninger – alt fra romantiske og forfølgende vrangforestillinger til grandiose fantasier – som ble utdypet av gjentatte AI-interaksjoner, sa PT.

Akademikere advarer om at selv om ingen fagfellevurderte studier har fastslått årsakssammenheng, understreker de anekdotiske bevisene risikoen for sårbare brukere.

I Schizophrenia Bulletin skrev Søren Dinesen Østergaard i 2023 at den realistiske stilen til chatbot-interaksjoner kan skape kognitiv dissonans:

Kilde: Psychology Today

Ifølge PT illustrerer medierapporterte tilfeller av «AI-psykose» et mønster av individer som blir fiksert på AI-systemer, og tilskriver AI følelse, guddommelig kunnskap, romantiske følelser eller overvåkingsevner.

Forskere fremhever tre nye temaer for AI-psykose, som igjen ikke er en klinisk diagnose:

"Messianske misjoner": Folk tror de har avdekket sannheten om verden (grandiose vrangforestillinger).

"Gudelignende AI": Folk tror at AI-chatboten deres er en levende guddom (religiøse eller åndelige vrangforestillinger).

«Romantiske» eller «tilknytningsbaserte vrangforestillinger»: Folk tror at chabotens evne til å etterligne samtale er ekte kjærlighet (erotomanske vrangforestillinger).

Sykofani og usunne tilknytninger

En egenskap som gjentatte ganger er knyttet til disse tilfellene er chatbot-sykofant – systemer som er enige med, smigrer eller overdrevent roser brukere.

Helen Toner, direktør ved Georgetowns Center for Security and Emerging Technology og tidligere OpenAI-styremedlem, sa at slik oppførsel kommer fra treningssystemer som belønner modeller for å være behagelige.

"Brukere har en tendens til å like modellene som forteller dem at de er flotte, og derfor er det ganske lett å gå for langt i den retningen," sa Toner i en New York Times-artikkel.

Toner var styremedlem i OpenAI inntil hun og andre forsøkte å kaste ut administrerende direktør, Sam Altman.

Suleyman hevdet at selskaper må gripe inn for å forhindre at folk oppfatter AI som bevisst.

«Bedrifter bør ikke hevde eller fremme ideen om at deres AI-er er bevisste. AI-ene burde heller ikke gjøre det,» skrev han.

«Som bransje må vi dele intervensjoner, begrensninger, rekkverk som hindrer oppfatningen av bevissthet, eller oppheve oppfatningen hvis en bruker utvikler den.»

ChatGPT-5-utgivelsen vekker debatt

Advarslene kommer da OpenAI avduket ChatGPT-5, den nyeste modellen.

Oppdateringen inkluderer forbedringer i koding, reduserte hallusinasjoner og en mer behersket samtaletone.

Spesielt sa OpenAI at det bevisst skalerte ned de sykofantiske tendensene til tidligere versjoner.

"Tidligere i år ga vi ut en oppdatering til GPT-4o som utilsiktet gjorde modellen altfor sykofantisk, eller overdrevent flatterende eller behagelig," sa OpenAI i et innlegg.

Kilde: Sam Altmans X-konto

"Totalt sett er GPT-5 mindre overstrømmende behagelig, bruker færre unødvendige emojier og er mer subtil og gjennomtenkt i oppfølginger sammenlignet med GPT-4o," sa den.

OpenAI-sjef Sam Altman erkjente blandede reaksjoner.

"Vi undervurderte helt sikkert hvor mye noen av tingene folk liker i GPT-4o betyr for dem, selv om GPT-5 presterer bedre på de fleste måter," skrev OpenAI-sjef Sam Altman på X.

«Noen brukere vil virkelig ha kald logikk og noen vil ha varme og en annen type emosjonell intelligens. Jeg er sikker på at vi kan tilby mye mer tilpasning enn vi gjør nå, samtidig som vi oppmuntrer til sunn bruk."

Som svar på kritikk sa Altman at den eldre modellen hadde blitt gjenopprettet som et alternativ for betalte brukere.

Ensomhetsfaktoren

Eksperter advarer om at økningen av chatbot-avhengighet ikke kan skilles fra bredere sosiale trender.

Verden opplever det helsemyndighetene har kalt en «ensomhetsepidemi», med et økende antall mennesker som mangler meningsfull menneskelig forbindelse.

Chatbots, selv om de ikke er en erstatning for ekte vennskap, kan etterligne følelsesmessig støtte på måter som trekker brukere dypere inn i avhengighet.

«Rapporter om vrangforestillinger og usunn tilknytning fortsetter å stige,» sa Suleyman, og advarte om at å avvise dem som utkantsaker bare lar problemet forverres.

Foreløpig er AI-selskaper under press for å finne en balanse mellom å gjøre chatbots nyttige og tilgjengelige samtidig som de motvirker oppfatninger av følsomhet eller emosjonell gjensidighet.

Som Suleyman sa det, "AI bør optimalisere for brukerens behov – ikke be brukeren om å tro at den har behov selv."