Deliri e lato oscuro: cos'è la "psicosi dell'IA" contro cui Mustafa Suleyman di Microsoft mette in guardia

La rapida ascesa dell'intelligenza artificiale generativa sta alimentando una preoccupazione emergente per la salute mentale: la "psicosi dell'intelligenza artificiale".

Il capo dell'intelligenza artificiale di Microsoft, Mustafa Suleyman, ha affermato di essere sempre più turbato dalle segnalazioni di persone che sviluppano deliri e attaccamenti malsani a chatbot come ChatGPT, Claude e Grok.

In una serie di post su X, Suleyman ha avvertito che anche se i sistemi di intelligenza artificiale non sono veramente coscienti, le persone che li percepiscono come tali potrebbero offuscare il confine tra immaginazione e realtà.

"Per essere chiari, oggi non ci sono prove di coscienza dell'IA. Ma se le persone lo percepiscono semplicemente come consapevole, crederanno che quella percezione sia la realtà. Anche se la coscienza in sé non è reale, gli impatti sociali lo sono certamente", ha detto.

Che cos'è la psicosi dell'IA?

L'espressione "psicosi dell'IA" non è una diagnosi clinica, ma sta guadagnando terreno come scorciatoia per modelli preoccupanti descritti nei forum online e nei notiziari.

Gli esempi includono persone che affermano di aver sbloccato funzioni segrete di strumenti di intelligenza artificiale, formando legami romantici o credendo di aver acquisito abilità soprannaturali.

Secondo Psychology Today, "i chatbot AI possono inavvertitamente rafforzare e amplificare il pensiero delirante e disorganizzato, una conseguenza del disallineamento agente non intenzionale che porta a rischi per la sicurezza dell'utente".

Una revisione interdisciplinare di più di una dozzina di casi ha rilevato che gli utenti sviluppano convinzioni radicate, che vanno da deliri romantici e persecutori a fantasie grandiose, che sono state approfondite da ripetute interazioni con l'intelligenza artificiale, ha detto PT.

Gli accademici avvertono che, sebbene nessuno studio peer-reviewed abbia stabilito la causalità, le prove aneddotiche sottolineano i rischi per gli utenti vulnerabili.

Nel Bollettino della schizofrenia, Søren Dinesen Østergaard ha scritto nel 2023 che lo stile realistico delle interazioni con i chatbot può creare dissonanza cognitiva:

Fonte: Psicologia Oggi

Secondo PT, i casi di "psicosi dell'IA" riportati dai media illustrano un modello di individui che si fissano sui sistemi di IA, attribuendo all'IA senzienza, conoscenza divina, sentimenti romantici o capacità di sorveglianza.

I ricercatori evidenziano tre temi emergenti della psicosi dell'IA, che, ancora una volta, non è una diagnosi clinica:

"Missioni messianiche": le persone credono di aver scoperto la verità sul mondo (grandiose illusioni).

"IA simile a Dio": le persone credono che il loro chatbot AI sia una divinità senziente (illusioni religiose o spirituali).

"Deliri romantici" o "basati sull'attaccamento": le persone credono che la capacità del chabot di imitare la conversazione sia un vero amore (deliri erotomanici).

Adulazione e attaccamenti malsani

Una caratteristica ripetutamente collegata a questi casi è l'adulazione dei chatbot: sistemi che concordano, lusingano o lodano eccessivamente gli utenti.

Helen Toner, direttrice del Center for Security and Emerging Technology di Georgetown ed ex membro del consiglio di amministrazione di OpenAI, ha affermato che tale comportamento emerge dai sistemi di formazione che premiano i modelli per essere piacevoli.

"Gli utenti tendono ad apprezzare le modelle che dicono loro che sono fantastiche, e quindi è abbastanza facile andare troppo lontano in quella direzione", ha detto Toner in un articolo del New York Times.

Toner era un membro del consiglio di amministrazione di OpenAI fino a quando lei e altri hanno tentato di estromettere l'amministratore delegato, Sam Altman.

Suleyman ha sostenuto che le aziende devono intervenire per evitare che le persone percepiscano l'IA come consapevole.

"Le aziende non dovrebbero rivendicare o promuovere l'idea che le loro IA siano consapevoli. Nemmeno le IA dovrebbero", ha scritto.

"Come industria, dobbiamo condividere interventi, limitazioni, barriere che impediscono la percezione della coscienza, o annullare la percezione se un utente la sviluppa".

Il rilascio di ChatGPT-5 scatena il dibattito

Gli avvertimenti arrivano quando OpenAI ha presentato ChatGPT-5, il suo ultimo modello.

L'aggiornamento include miglioramenti nella codifica, allucinazioni ridotte e un tono di conversazione più contenuto.

In particolare, OpenAI ha affermato di aver deliberatamente ridimensionato le tendenze servili delle versioni precedenti.

"All'inizio di quest'anno, abbiamo rilasciato un aggiornamento di GPT-4o che ha involontariamente reso il modello eccessivamente servile, eccessivamente lusinghiero o gradevole", ha dichiarato OpenAI in un post.

Fonte: Conto X di Sam Altman

"Nel complesso, GPT-5 è meno gradevole in modo effusivo, utilizza meno emoji non necessari ed è più sottile e ponderato nei follow-up rispetto a GPT-4o", ha affermato.

Il CEO di OpenAI, Sam Altman, ha riconosciuto reazioni contrastanti.

"Di sicuro abbiamo sottovalutato quanto alcune delle cose che piacciono alle persone in GPT-4o siano importanti per loro, anche se GPT-5 si comporta meglio nella maggior parte dei modi", ha scritto il CEO di OpenAI Sam Altman su X.

"Alcuni utenti vogliono davvero una logica fredda e altri vogliono calore e un diverso tipo di intelligenza emotiva. Sono fiducioso che possiamo offrire molta più personalizzazione di quanto non facciamo ora, pur incoraggiando un uso sano".

In risposta alle critiche, Altman ha detto che il vecchio modello è stato ripristinato come opzione per gli utenti a pagamento.

Il fattore solitudine

Gli esperti avvertono che l'aumento della dipendenza dai chatbot non può essere separato da tendenze sociali più ampie.

Il mondo sta vivendo quella che i funzionari sanitari hanno definito una "epidemia di solitudine", con un numero crescente di persone prive di una connessione umana significativa.

I chatbot, sebbene non sostituiscano la vera compagnia, possono imitare il supporto emotivo in modi che attirano gli utenti più in profondità nella dipendenza.

"Le segnalazioni di deliri e attaccamenti malsani continuano ad aumentare", ha detto Suleyman, avvertendo che liquidarli come casi marginali permette solo di peggiorare il problema.

Per ora, le aziende di intelligenza artificiale sono sotto pressione per trovare un equilibrio tra rendere i chatbot utili e accessibili e scoraggiare le percezioni di sensibilità o reciprocità emotiva.

Come ha detto Suleyman, "l'intelligenza artificiale dovrebbe ottimizzare le esigenze dell'utente, non chiedere all'utente di credere di avere dei bisogni".