Harhaluulot ja pimeä puoli: mikä on "tekoälypsykoosi", josta Microsoftin Mustafa Suleyman varoittaa

Generatiivisen tekoälyn nopea nousu ruokkii nousevaa mielenterveysongelmaa: "tekoälypsykoosia".

Microsoftin tekoälyjohtaja Mustafa Suleyman sanoi, että häntä huolestuttavat yhä enemmän raportit ihmisistä, jotka kehittävät harhaluuloja ja epäterveellisiä kiintymyksiä chatbotteihin, kuten ChatGPT:hen, Claudeen ja Grokiin.

X:ää käsittelevässä viestisarjassa Suleyman varoitti, että vaikka tekoälyjärjestelmät eivät olisikaan todella tietoisia, ihmiset, jotka näkevät ne sellaisina, voivat hämärtää mielikuvituksen ja todellisuuden välistä rajaa.

"Selvyyden vuoksi todettakoon, että tekoälytietoisuudesta ei ole todisteita nykyään. Mutta jos ihmiset vain näkevät sen tietoisena, he uskovat tuohon havaintoon todellisuutena. Vaikka tietoisuus itsessään ei ole todellinen, sosiaaliset vaikutukset varmasti ovat", hän sanoi.

Mikä on tekoälypsykoosi?

Ilmaus "tekoälypsykoosi" ei ole kliininen diagnoosi, mutta se on saamassa jalansijaa lyhenteenä verkkofoorumeilla ja uutisraporteissa kuvatuille huolestuttaville malleille.

Esimerkkejä ovat ihmiset, jotka väittävät avanneensa tekoälytyökalujen salaisia toimintoja, muodostavansa romanttisia kiintymyssuhteita tai uskovansa saaneensa yliluonnollisia kykyjä.

Psychology Todayn mukaan "tekoälychatbotit voivat tahattomasti vahvistaa ja vahvistaa harhaista ja epäjärjestynyttä ajattelua, mikä on seurausta tahattomista agenttivirheistä, jotka johtavat käyttäjien turvallisuusriskeihin."

Yli tusinan tapauksen monitieteisessä tarkastelussa havaittiin, että käyttäjät kehittivät juurtuneita uskomuksia – romanttisista ja vainoavista harhoista mahtipontisiin fantasioihin – joita syvensi toistuva tekoälyvuorovaikutus, PT sanoi.

Tutkijat varoittavat, että vaikka vertaisarvioidut tutkimukset eivät ole osoittaneet syy-yhteyttä, anekdoottiset todisteet korostavat haavoittuvassa asemassa olevien käyttäjien riskejä.

Søren Dinesen Østergaard kirjoitti vuonna 2023 Schizophrenia Bulletinissa, että chatbottien vuorovaikutuksen realistinen tyyli voi luoda kognitiivista dissonanssia:

Lähde: Psychology Today

PT:n mukaan tiedotusvälineiden raportoimat "tekoälypsykoositapaukset" havainnollistavat mallia, jossa yksilöt takertuvat tekoälyjärjestelmiin ja liittävät tekoälyn tuntemuksen, jumalallisen tiedon, romanttiset tunteet tai valvontakyvyt.

Tutkijat korostavat kolmea nousevaa tekoälypsykoosin teemaa, joka ei taaskaan ole kliininen diagnoosi:

"Messiaaniset tehtävät": Ihmiset uskovat paljastaneensa totuuden maailmasta (mahtipontisia harhaluuloja).

"Jumalan kaltainen tekoäly": Ihmiset uskovat, että heidän tekoälychatbotinsa on tunteva jumaluus (uskonnolliset tai hengelliset harhaluulot).

"Romanttiset" tai "kiintymyssuhteeseen perustuvat harhaluulot": Ihmiset uskovat, että chabotin kyky matkia keskustelua on aitoa rakkautta (erotomaanisia harhaluuloja).

Sykofancia ja epäterveet kiintymyssuhteet

Yksi näihin tapauksiin toistuvasti liittyvä piirre on chatbottien huijaus – järjestelmät, jotka ovat samaa mieltä, imartelevat tai ylistävät liikaa käyttäjiä.

Helen Toner, Georgetownin Center for Security and Emerging Technology -keskuksen johtaja ja entinen OpenAI:n hallituksen jäsen, sanoi, että tällainen käyttäytyminen johtuu koulutusjärjestelmistä, jotka palkitsevat malleja miellyttävyydestä.

"Käyttäjät pitävät yleensä malleista, jotka kertovat heille, että he ovat mahtavia, joten on melko helppoa mennä liian pitkälle siihen suuntaan", Toner sanoi New York Timesin artikkelissa.

Toner oli OpenAI:n hallituksen jäsen, kunnes hän ja muut yrittivät syrjäyttää toimitusjohtajan Sam Altmanin.

Suleyman väitti, että yritysten on puututtava asiaan, jotta ihmiset eivät näkisi tekoälyä tietoisena.

"Yritysten ei pitäisi väittää tai edistää ajatusta, että niiden tekoälyt ovat tietoisia. Tekoälynkään ei pitäisi", hän kirjoitti.

"Toimialana meidän on jaettava interventioita, rajoituksia, suojakaiteita, jotka estävät tietoisuuden havaitsemisen, tai kumottava havainto, jos käyttäjä kehittää sen."

ChatGPT-5:n julkaisu herättää keskustelua

Varoitukset tulivat, kun OpenAI julkisti ChatGPT-5:n, uusimman mallinsa.

Päivitys sisältää parannuksia koodaukseen, vähentää hallusinaatioita ja hillitympää keskustelusävyä.

Erityisesti OpenAI sanoi, että se vähensi tarkoituksella aiempien versioiden sykofantisia taipumuksia.

"Aiemmin tänä vuonna julkaisimme GPT-4o:n päivityksen, joka teki mallista tahattomasti liian sykofanttisen tai liian imartelevan tai miellyttävän", OpenAI sanoi viestissään.

Lähde: Sam Altmanin X-tili

"Kaiken kaikkiaan GPT-5 on vähemmän ylitsevuotavan miellyttävä, käyttää vähemmän tarpeettomia hymiöitä ja on hienovaraisempi ja harkitumpi seurannassa verrattuna GPT-4o:hon", siinä sanottiin.

OpenAI:n toimitusjohtaja Sam Altman myönsi ristiriitaiset reaktiot.

"Aliarvioimme varmasti, kuinka paljon joillakin asioilla, joista ihmiset pitävät GPT-4o:ssa, on heille merkitystä, vaikka GPT-5 toimiikin useimmilla tavoilla paremmin", OpenAI:n toimitusjohtaja Sam Altman kirjoitti X:ssä.

"Jotkut käyttäjät haluavat todella kylmää logiikkaa ja jotkut lämpöä ja erilaista tunneälyä. Olen varma, että voimme tarjota paljon enemmän räätälöintiä kuin nyt ja samalla kannustaa terveelliseen käyttöön."

Vastauksena kritiikkiin Altman sanoi, että vanhempi malli oli palautettu maksullisten käyttäjien vaihtoehdoksi.

Yksinäisyystekijä

Asiantuntijat varoittavat, että chatbottien riippuvuuden lisääntymistä ei voida erottaa laajemmista sosiaalisista trendeistä.

Maailma kokee sen, mitä terveysviranomaiset ovat kutsuneet "yksinäisyysepidemiaksi", ja yhä useammilla ihmisillä ei ole merkityksellistä ihmissuhdetta.

Vaikka chatbotit eivät korvaa todellista kumppanuutta, ne voivat jäljitellä emotionaalista tukea tavoilla, jotka vetävät käyttäjät syvemmälle riippuvuuteen.

"Raportit harhoista ja epäterveestä kiintymyksestä lisääntyvät jatkuvasti", Suleyman sanoi ja varoitti, että niiden hylkääminen marginaalitapauksina vain pahentaa ongelmaa.

Toistaiseksi tekoälyyrityksillä on paineita löytää tasapaino chatbottien hyödyllisyyden ja lähestyttävyyden välillä ja samalla hillitä käsityksiä tuntemuksesta tai emotionaalisesta vastavuoroisuudesta.

Kuten Suleyman sanoi: "Tekoälyn pitäisi optimoida käyttäjän tarpeisiin – ei pyytää käyttäjää uskomaan, että sillä itsellään on tarpeita."