Iluzii și partea întunecată: ce este "psihoza AI" împotriva căreia avertizează Mustafa Suleyman de la Microsoft

Creșterea rapidă a inteligenței artificiale generative alimentează o îngrijorare emergentă de sănătate mintală: "psihoza AI".

Șeful AI al Microsoft, Mustafa Suleyman, a declarat că este din ce în ce mai deranjat de rapoartele despre oameni care dezvoltă iluzii și atașamente nesănătoase la chatbots precum ChatGPT, Claude și Grok.

Într-o serie de postări pe X, Suleyman a avertizat că, chiar dacă sistemele AI nu sunt cu adevărat conștiente, oamenii care le percep ca atare ar putea estompa linia dintre imaginație și realitate.

"Pentru a fi clar, nu există nicio dovadă a conștiinței AI astăzi. Dar dacă oamenii o percep doar ca fiind conștientă, vor crede acea percepție ca realitate. Chiar dacă conștiința în sine nu este reală, impactul social cu siguranță este", a spus el.

Ce este psihoza AI?

Expresia "psihoză AI" nu este un diagnostic clinic, dar câștigă teren ca o prescurtare pentru modelele tulburătoare descrise în forumurile online și rapoartele de știri.

Exemplele includ persoane care pretind că au deblocat funcții secrete ale instrumentelor AI, formând atașamente romantice sau crezând că au dobândit abilități supranaturale.

Potrivit Psychology Today, "chatbot-urile AI pot întări și amplifica din greșeală gândirea delirantă și dezorganizată, o consecință a nealinierii agentice neintenționate care duce la riscuri pentru siguranța utilizatorilor".

O analiză interdisciplinară a mai mult de o duzină de cazuri a descoperit că utilizatorii dezvoltă credințe înrădăcinate – de la iluzii romantice și persecutorii la fantezii grandioase – care au fost adâncite de interacțiunile repetate ale AI, a spus PT.

Academicienii avertizează că, deși niciun studiu revizuit de colegi nu a stabilit cauzalitatea, dovezile anecdotice subliniază riscurile pentru utilizatorii vulnerabili.

În Buletinul de schizofrenie, Søren Dinesen Østergaard a scris în 2023 că stilul realist al interacțiunilor chatbot-ului poate crea disonanță cognitivă:

Sursa: Psihologie astăzi

Potrivit PT, cazurile de "psihoză AI" raportate de mass-media ilustrează un model de indivizi care devin fixați pe sistemele AI, atribuind simțirea, cunoașterea divină, sentimentele romantice sau capacitățile de supraveghere AI.

Cercetătorii evidențiază trei teme emergente ale psihozei AI, care, din nou, nu este un diagnostic clinic:

"Misiuni mesianice": Oamenii cred că au descoperit adevărul despre lume (iluzii grandioase).

"AI asemănătoare lui Dumnezeu": Oamenii cred că chatbot-ul lor AI este o zeitate simțitoare (iluzii religioase sau spirituale ).

"Iluzii romantice" sau "bazate pe atașament": Oamenii cred că capacitatea chabotului de a imita conversația este dragoste autentică (iluzii erotomanice).

Sicofanție și atașamente nesănătoase

O trăsătură legată în mod repetat de aceste cazuri este adulația chatbot-ului – sisteme care sunt de acord, măgulesc sau laudă excesiv utilizatorii.

Helen Toner, director la Centrul pentru Securitate și Tehnologie Emergentă din Georgetown și fost membru al consiliului de administrație OpenAI, a spus că un astfel de comportament apare din sistemele de antrenament care recompensează modelele pentru că sunt plăcute.

"Utilizatorilor le place modelele care le spun că sunt grozave, așa că este destul de ușor să mergi prea departe în această direcție", a spus Toner într-un articol din New York Times.

Toner a fost membru al consiliului OpenAI până când ea și alții au încercat să-l înlăture pe directorul executiv, Sam Altman.

Suleyman a susținut că companiile trebuie să intervină pentru a împiedica oamenii să perceapă AI ca fiind conștientă.

"Companiile nu ar trebui să pretindă sau să promoveze ideea că inteligența artificială este conștientă. Nici AI-urile nu ar trebui să o facă", a scris el.

"Ca industrie, trebuie să împărtășim intervenții, limitări, bariere care împiedică percepția conștiinței sau să anulăm percepția dacă un utilizator o dezvoltă."

Lansarea ChatGPT-5 stârnește dezbateri

Avertismentele vin în timp ce OpenAI a dezvăluit ChatGPT-5, cel mai recent model al său.

Actualizarea include îmbunătățiri în codare, halucinații reduse și un ton conversațional mai reținut.

În special, OpenAI a spus că a redus în mod deliberat tendințele sicofantice ale versiunilor anterioare.

"La începutul acestui an, am lansat o actualizare a GPT-4o care a făcut în mod neintenționat modelul prea sicofantic sau excesiv de măgulitor sau agreabil", a spus OpenAI într-o postare.

Sursa: Contul X al lui Sam Altman

"În general, GPT-5 este mai puțin efusiv agreabil, folosește mai puține emoji-uri inutile și este mai subtil și mai atent în urmăriri în comparație cu GPT-4o", a spus acesta.

CEO-ul OpenAI, Sam Altman, a recunoscut reacțiile mixte.

"Cu siguranță am subestimat cât de mult contează pentru ei unele dintre lucrurile care le plac oamenilor în GPT-4o, chiar dacă GPT-5 funcționează mai bine în majoritatea privințelor", a scris CEO-ul OpenAI, Sam Altman, pe X.

"Unii utilizatori vor cu adevărat logică rece, iar alții vor căldură și un alt tip de inteligență emoțională. Sunt încrezător că putem oferi mult mai multă personalizare decât o facem acum, încurajând în același timp utilizarea sănătoasă."

Ca răspuns la critici, Altman a spus că modelul mai vechi a fost restaurat ca opțiune pentru utilizatorii plătiți.

Factorul singurătății

Experții avertizează că creșterea dependenței de chatbot nu poate fi separată de tendințele sociale mai largi.

Lumea se confruntă cu ceea ce oficialii din domeniul sănătății au numit o "epidemie de singurătate", cu un număr tot mai mare de oameni lipsiți de o conexiune umană semnificativă.

Chatbot-urile, deși nu înlocuiesc compania reală, pot imita sprijinul emoțional în moduri care atrag utilizatorii mai adânc în dependență.

"Rapoartele despre iluzii și atașament nesănătos continuă să crească", a spus Suleyman, avertizând că respingerea lor ca cazuri marginale nu face decât să înrăutățească problema.

Deocamdată, companiile de inteligență artificială sunt presate să găsească un echilibru între a face chatbot-urile utile și abordabile, descurajând în același timp percepțiile de simțire sau reciprocitate emoțională.

După cum a spus Suleyman, "AI ar trebui să optimizeze nevoile utilizatorului – nu să-i ceară utilizatorului să creadă că are nevoi el însuși".