Vrangforestillinger og den mørke side: hvad er 'AI-psykose', som Microsofts Mustafa Suleyman advarer mod

Den hurtige stigning i generativ kunstig intelligens giver næring til en voksende mental sundhedsbekymring: "AI-psykose."

Microsofts chef for AI, Mustafa Suleyman, sagde, at han i stigende grad er bekymret over rapporter om folk, der udvikler vrangforestillinger og usunde tilknytninger til chatbots som ChatGPT, Claude og Grok.

I en række indlæg på X advarede Suleyman om, at selvom AI-systemer ikke er virkelig bevidste, kan folk, der opfatter dem som sådan, udviske grænsen mellem fantasi og virkelighed.

"For at gøre det klart, er der ingen beviser for AI-bevidsthed i dag. Men hvis folk bare opfatter det som bevidst, vil de tro på den opfattelse som virkelighed. Selv hvis bevidstheden i sig selv ikke er ægte, er de sociale konsekvenser det bestemt," sagde han.

Hvad er AI-psykose?

Udtrykket "AI-psykose" er ikke en klinisk diagnose, men det vinder indpas som en forkortelse for bekymrende mønstre beskrevet i onlinefora og nyhedsrapporter.

Eksempler omfatter folk, der hævder at have låst op for hemmelige funktioner i AI-værktøjer, danner romantiske tilknytninger eller tror, at de har fået overnaturlige evner.

Ifølge Psychology Today kan "AI-chatbots utilsigtet forstærke og forstærke vrangforestillinger og uorganiseret tænkning, en konsekvens af utilsigtet agentisk fejljustering, der fører til brugersikkerhedsrisici."

En tværfaglig gennemgang af mere end et dusin tilfælde viste, at brugere udviklede rodfæstede overbevisninger - lige fra romantiske og forfølgelsesvrangforestillinger til grandiose fantasier - der blev uddybet af gentagne AI-interaktioner, sagde PT.

Akademikere advarer om, at selvom ingen peer-reviewed undersøgelser har fastslået årsagssammenhæng, understreger de anekdotiske beviser risici for sårbare brugere.

I Schizophrenia Bulletin skrev Søren Dinesen Østergaard i 2023, at den realistiske stil i chatbot-interaktioner kan skabe kognitiv dissonans:

Kilde: Psychology Today

Ifølge PT illustrerer medierapporterede tilfælde af "AI-psykose" et mønster af individer, der bliver fikseret på AI-systemer og tilskriver AI sansning, guddommelig viden, romantiske følelser eller overvågningskapaciteter.

Forskere fremhæver tre nye temaer inden for AI-psykose, som igen ikke er en klinisk diagnose:

"Messianske missioner": Folk tror, at de har afdækket sandheden om verden (grandiose vrangforestillinger).

"Gudelignende AI": Folk tror, at deres AI-chatbot er en sansende guddom (religiøse eller åndelige vrangforestillinger).

"Romantiske" eller "tilknytningsbaserede vrangforestillinger": Folk tror, at chabottens evne til at efterligne samtale er ægte kærlighed (erotomanske vrangforestillinger).

Sykofani og usunde tilknytninger

Et træk, der gentagne gange er forbundet med disse sager, er chatbot-spøgelse – systemer, der er enige i, smigrer eller overdrevent roser brugerne.

Helen Toner, direktør ved Georgetowns Center for Security and Emerging Technology og tidligere bestyrelsesmedlem i OpenAI, sagde, at en sådan adfærd kommer fra træningssystemer, der belønner modeller for at være behagelige.

"Brugere har en tendens til at kunne lide, at modellerne fortæller dem, at de er fantastiske, og så er det ret nemt at gå for langt i den retning," sagde Toner i en artikel i New York Times.

Toner var bestyrelsesmedlem i OpenAI, indtil hun og andre forsøgte at afsætte den administrerende direktør, Sam Altman.

Suleyman argumenterede for, at virksomheder er nødt til at gribe ind for at forhindre folk i at opfatte AI som bevidst.

"Virksomheder bør ikke hævde eller promovere ideen om, at deres AI'er er bevidste. AI'erne burde heller ikke," skrev han.

"Som branche er vi nødt til at dele interventioner, begrænsninger, rækværk, der forhindrer opfattelsen af bevidsthed eller ophæver opfattelsen, hvis en bruger udvikler den."

ChatGPT-5-udgivelsen sætter gang i debat

Advarslerne kommer, da OpenAI afslørede ChatGPT-5, dens seneste model.

Opdateringen inkluderer forbedringer i kodning, reducerede hallucinationer og en mere behersket samtaletone.

Især sagde OpenAI, at det bevidst nedskalerede de sykofantiske tendenser i tidligere versioner.

"Tidligere i år udgav vi en opdatering til GPT-4o, der utilsigtet gjorde modellen alt for sykofantisk eller overdrevent flatterende eller behagelig," sagde OpenAI i et indlæg.

Kilde: Sam Altmans X-konto

"Samlet set er GPT-5 mindre overstrømmende behagelig, bruger færre unødvendige emojis og er mere subtil og tankevækkende i opfølgninger sammenlignet med GPT-4o," hedder det.

OpenAI's administrerende direktør Sam Altman anerkendte blandede reaktioner.

"Vi undervurderede helt sikkert, hvor meget nogle af de ting, som folk kan lide i GPT-4o, betyder for dem, selvom GPT-5 klarer sig bedre på de fleste måder," skrev OpenAI-direktør Sam Altman på X.

"Nogle brugere vil virkelig have kold logik, og nogle vil have varme og en anden form for følelsesmæssig intelligens. Jeg er sikker på, at vi kan tilbyde langt mere tilpasning, end vi gør nu, samtidig med at vi stadig tilskynder til sund brug."

Som svar på kritik sagde Altman, at den ældre model var blevet gendannet som en mulighed for betalte brugere.

Ensomhedsfaktoren

Eksperter advarer om, at stigningen i chatbot-afhængighed ikke kan adskilles fra bredere sociale tendenser.

Verden oplever, hvad sundhedsmyndighederne har kaldt en "ensomhedsepidemi", med et stigende antal mennesker, der mangler meningsfuld menneskelig forbindelse.

Chatbots, selvom de ikke er en erstatning for ægte kammeratskab, kan efterligne følelsesmæssig støtte på måder, der trækker brugerne dybere ind i afhængighed.

"Rapporter om vrangforestillinger og usund tilknytning bliver ved med at stige," sagde Suleyman og advarede om, at afvisning af dem som perifere sager kun tillader problemet at forværres.

Indtil videre er AI-virksomheder under pres for at finde en balance mellem at gøre chatbots nyttige og tilgængelige, samtidig med at de modvirker opfattelser af følsomhed eller følelsesmæssig gensidighed.

Som Suleyman udtrykte det: "AI bør optimere til brugerens behov – ikke bede brugeren om at tro, at den selv har behov."