Urojenia i ciemna strona: czym jest "psychoza AI", przed którą ostrzega Mustafa Suleyman z Microsoftu

Szybki rozwój generatywnej sztucznej inteligencji napędza pojawiający się problem zdrowia psychicznego: "psychozę AI".

Szef działu sztucznej inteligencji Microsoftu, Mustafa Suleyman, powiedział, że jest coraz bardziej zaniepokojony doniesieniami o ludziach rozwijających urojenia i niezdrowe przywiązania do chatbotów, takich jak ChatGPT, Claude i Grok.

W serii postów na temat X Suleyman ostrzegł, że nawet jeśli systemy sztucznej inteligencji nie są naprawdę świadome, ludzie postrzegający je jako takie mogą zatrzeć granicę między wyobraźnią a rzeczywistością.

"Żeby było jasne, nie ma obecnie żadnych dowodów na świadomość sztucznej inteligencji. Ale jeśli ludzie po prostu postrzegają to jako świadome, uwierzą w to postrzeganie jako rzeczywistość. Nawet jeśli świadomość sama w sobie nie jest prawdziwa, skutki społeczne z pewnością są" – powiedział.

Co to jest psychoza AI?

Wyrażenie "psychoza AI" nie jest diagnozą kliniczną, ale zyskuje na popularności jako skrót dla niepokojących wzorców opisywanych na forach internetowych i w doniesieniach prasowych.

Przykładem mogą być ludzie, którzy twierdzą, że odblokowali tajne funkcje narzędzi sztucznej inteligencji, tworząc romantyczne przywiązania lub wierząc, że zyskali nadprzyrodzone zdolności.

Według Psychology Today "chatboty AI mogą nieumyślnie wzmacniać i wzmacniać urojeniowe i zdezorganizowane myślenie, co jest konsekwencją niezamierzonej niezgodności agentów prowadzącej do zagrożeń bezpieczeństwa użytkownika".

Interdyscyplinarny przegląd ponad tuzina przypadków wykazał, że użytkownicy rozwijają zakorzenione przekonania – od urojeń romantycznych i prześladowczych po wspaniałe fantazje – które zostały pogłębione przez powtarzające się interakcje ze sztuczną inteligencją.

Naukowcy ostrzegają, że chociaż żadne recenzowane badania nie wykazały związku przyczynowo-skutkowego, niepotwierdzone dowody podkreślają ryzyko dla wrażliwych użytkowników.

W Biuletynie Schizofrenii Søren Dinesen Østergaard napisał w 2023 roku, że realistyczny styl interakcji chatbota może powodować dysonans poznawczy:

Źródło: Psychology Today

Według PT, doniesienia medialne o przypadkach "psychozy AI" ilustrują wzorzec osób, które fiksują się na systemach AI, przypisując SI wrażliwość, boską wiedzę, romantyczne uczucia lub zdolności do inwigilacji.

Naukowcy zwracają uwagę na trzy pojawiające się tematy psychozy AI, która, ponownie, nie jest diagnozą kliniczną:

"Misje mesjanistyczne": Ludzie wierzą, że odkryli prawdę o świecie (wspaniałe złudzenia).

"Boska sztuczna inteligencja": Ludzie wierzą, że ich chatbot AI jest czującym bóstwem (urojenia religijne lub duchowe).

"Romantyczne" lub "urojenia oparte na przywiązaniu": Ludzie wierzą, że zdolność chabota do naśladowania rozmowy to prawdziwa miłość (urojenia erotomańskie).

Pochlebstwa i niezdrowe przywiązania

Jedną z cech wielokrotnie łączonych z tymi przypadkami jest pochlebstwo chatbotów – systemy zgadzające się z użytkownikami, schlebiające lub nadmiernie chwalące.

Helen Toner, dyrektor w Georgetown's Center for Security and Emerging Technology i była członkini zarządu OpenAI, powiedziała, że takie zachowanie wynika z systemów szkoleniowych, które nagradzają modele za to, że są przyjemne.

"Użytkownicy zwykle lubią, gdy modele mówią im, że są świetne, więc dość łatwo jest posunąć się za daleko w tym kierunku" – powiedział Toner w artykule New York Times.

Toner była członkiem zarządu OpenAI, dopóki ona i inni nie próbowali usunąć dyrektora generalnego, Sama Altmana.

Suleyman argumentował, że firmy muszą interweniować, aby zapobiec postrzeganiu sztucznej inteligencji przez ludzi jako świadomej.

"Firmy nie powinny twierdzić ani promować idei, że ich sztuczna inteligencja jest świadoma. Sztuczna inteligencja też nie powinna" – napisał.

"Jako branża musimy dzielić się interwencjami, ograniczeniami, barierami, które uniemożliwiają percepcję świadomości lub cofają percepcję, jeśli użytkownik ją rozwinie".

Wydanie ChatGPT-5 wywołuje debatę

Ostrzeżenia pojawiają się, gdy OpenAI zaprezentowało ChatGPT-5, swój najnowszy model.

Aktualizacja zawiera ulepszenia w kodowaniu, zmniejszone halucynacje i bardziej powściągliwy ton rozmowy.

Warto zauważyć, że OpenAI stwierdziło, że celowo ograniczyło pochlebcze tendencje wcześniejszych wersji.

"Na początku tego roku wydaliśmy aktualizację GPT-4o, która nieumyślnie sprawiła, że model stał się nadmiernie pochlebny, nadmiernie pochlebny lub ugodowy" – powiedział OpenAI w poście.

Źródło: Konto X Sama Altmana

"Ogólnie rzecz biorąc, GPT-5 jest mniej wylewnie ugodowy, używa mniej niepotrzebnych emotikonów i jest bardziej subtelny i przemyślany w kontynuacjach w porównaniu z GPT-4o" – napisano.

Dyrektor generalny OpenAI, Sam Altman, przyznał, że reakcje są mieszane.

"Na pewno nie doceniliśmy, jak bardzo ważne są dla nich niektóre rzeczy, które ludzie lubią w GPT-4o, nawet jeśli GPT-5 działa lepiej pod wieloma względami" – napisał na X, dyrektor generalny OpenAI, Sam Altman.

"Niektórzy użytkownicy naprawdę chcą chłodnej logiki, a inni ciepła i innego rodzaju inteligencji emocjonalnej. Jestem przekonany, że możemy zaoferować znacznie więcej możliwości personalizacji niż obecnie, jednocześnie zachęcając do zdrowego użytkowania".

W odpowiedzi na krytykę Altman powiedział, że starszy model został przywrócony jako opcja dla płatnych użytkowników.

Czynnik samotności

Eksperci ostrzegają, że wzrostu zależności od chatbotów nie można oddzielić od szerszych trendów społecznych.

Świat doświadcza tego, co urzędnicy służby zdrowia nazwali "epidemią samotności", a rosnąca liczba ludzi nie ma znaczących więzi międzyludzkich.

Chatboty, choć nie zastępują prawdziwego towarzystwa, mogą naśladować wsparcie emocjonalne w sposób, który wciąga użytkowników głębiej w uzależnienie.

"Doniesienia o urojeniach i niezdrowym przywiązaniu wciąż rosną" – powiedział Suleyman, ostrzegając, że odrzucanie ich jako marginalnych przypadków tylko pogarsza problem.

Na razie firmy zajmujące się sztuczną inteligencją są pod presją, aby znaleźć równowagę między uczynieniem chatbotów użytecznymi i przystępnymi, a jednocześnie zniechęcającymi do postrzegania wrażliwości lub wzajemności emocjonalnej.

Jak ujął to Suleyman: "Sztuczna inteligencja powinna optymalizować pod kątem potrzeb użytkownika, a nie prosić go, aby uwierzył, że sam ma potrzeby".