Délires et côté obscur : qu’est-ce que la « psychose de l’IA » contre laquelle Mustafa Suleyman de Microsoft met en garde ?

L’essor rapide de l’intelligence artificielle générative alimente un problème de santé mentale émergent : la « psychose de l’IA ».

Le responsable de l’IA de Microsoft, Mustafa Suleyman, a déclaré qu’il était de plus en plus troublé par les rapports faisant état de personnes développant des délires et des attachements malsains à des chatbots tels que ChatGPT, Claude et Grok.

Dans une série de messages sur X, Suleyman a averti que même si les systèmes d’IA ne sont pas vraiment conscients, les gens qui les perçoivent comme tels pourraient brouiller la frontière entre l’imagination et la réalité.

« Pour être clair, il n’y a aucune preuve de conscience de l’IA aujourd’hui. Mais si les gens la perçoivent simplement comme consciente, ils croiront que cette perception est la réalité. Même si la conscience elle-même n’est pas réelle, les impacts sociaux le sont certainement », a-t-il déclaré.

Qu’est-ce que la psychose de l’IA ?

L’expression « psychose de l’IA » n’est pas un diagnostic clinique, mais elle gagne du terrain en tant qu’abréviation pour des modèles troublants décrits dans les forums en ligne et les reportages.

Par exemple, des personnes prétendant avoir déverrouillé des fonctions secrètes d’outils d’IA, formant des attachements romantiques ou croyant avoir acquis des capacités surnaturelles.

Selon Psychology Today, « les chatbots d’IA peuvent renforcer et amplifier par inadvertance la pensée délirante et désorganisée, conséquence d’un désalignement agentique involontaire entraînant des risques pour la sécurité des utilisateurs ».

Un examen interdisciplinaire de plus d’une douzaine de cas a révélé que les utilisateurs développaient des croyances enracinées – allant des délires romantiques et de persécution aux fantasmes grandioses – qui ont été approfondies par des interactions répétées avec l’IA, a déclaré PT.

Les universitaires avertissent que bien qu’aucune étude évaluée par des pairs n’ait établi de causalité, les preuves anecdotiques soulignent les risques pour les utilisateurs vulnérables.

Dans Schizophrenia Bulletin, Søren Dinesen Østergaard a écrit en 2023 que le style réaliste des interactions avec les chatbots peut créer une dissonance cognitive :

Source : La psychologie aujourd’hui

Selon PT, les cas de « psychose de l’IA » rapportés par les médias illustrent un modèle d’individus qui deviennent obsédés par les systèmes d’IA, attribuant à l’IA la sensibilité, la connaissance divine, les sentiments romantiques ou les capacités de surveillance.

Les chercheurs mettent en évidence trois thèmes émergents de la psychose de l’IA, qui, encore une fois, n’est pas un diagnostic clinique :

« Missions messianiques » : Les gens croient avoir découvert la vérité sur le monde (illusions grandioses).

« IA divine » : Les gens croient que leur chatbot IA est une divinité sensible (délires religieux ou spirituels).

« Romantique » ou « délires basés sur l’attachement » : Les gens croient que la capacité du chabot à imiter la conversation est un amour véritable (délires érotomaniaques).

Sycophante et attachements malsains

Un trait lié à plusieurs reprises à ces cas est la flagornerie des chatbots : les systèmes sont d’accord, flattent ou louent excessivement les utilisateurs.

Helen Toner, directrice du Center for Security and Emerging Technology de Georgetown et ancienne membre du conseil d’administration d’OpenAI, a déclaré qu’un tel comportement émerge des systèmes de formation qui récompensent les modèles lorsqu’ils sont agréables.

« Les utilisateurs ont tendance à aimer que les modèles leur disent qu’ils sont géniaux, et il est donc assez facile d’aller trop loin dans cette direction », a déclaré Toner dans un article du New York Times.

Toner était membre du conseil d’administration d’OpenAI jusqu’à ce qu’elle et d’autres tentent d’évincer le directeur général, Sam Altman.

Suleyman a fait valoir que les entreprises doivent intervenir pour empêcher les gens de percevoir l’IA comme consciente.

« Les entreprises ne devraient pas prétendre ou promouvoir l’idée que leurs IA sont conscientes. Les IA ne devraient pas non plus », a-t-il écrit.

« En tant qu’industrie, nous devons partager les interventions, les limitations, les garde-fous qui empêchent la perception de la conscience, ou qui défont la perception si un utilisateur la développe. »

La sortie de ChatGPT-5 suscite le débat

Ces avertissements interviennent alors qu’OpenAI a dévoilé ChatGPT-5, son dernier modèle.

La mise à jour comprend des améliorations dans le codage, une réduction des hallucinations et un ton de conversation plus retenu.

OpenAI a notamment déclaré qu’il avait délibérément réduit les tendances flagorneuses des versions précédentes.

« Plus tôt cette année, nous avons publié une mise à jour de GPT-4o qui a involontairement rendu le modèle trop flagorneur, ou excessivement flatteur ou agréable », a déclaré OpenAI dans un post.

Source : Compte X de Sam Altman

« Dans l’ensemble, GPT-5 est moins agréable d’effusion, utilise moins d’emojis inutiles et est plus subtil et réfléchi dans les suivis par rapport à GPT-4o », a-t-il déclaré.

Le PDG d’OpenAI, Sam Altman, a reconnu des réactions mitigées.

« Nous avons certainement sous-estimé à quel point certaines des choses que les gens aiment dans GPT-4o comptent pour eux, même si GPT-5 fonctionne mieux à bien des égards », a écrit Sam Altman, PDG d’OpenAI, sur X.

« Certains utilisateurs veulent vraiment une logique froide et d’autres veulent de la chaleur et un autre type d’intelligence émotionnelle. Je suis convaincu que nous pouvons offrir beaucoup plus de personnalisation que nous ne le faisons actuellement tout en encourageant une utilisation saine.

En réponse aux critiques, Altman a déclaré que l’ancien modèle avait été restauré en tant qu’option pour les utilisateurs payants.

Le facteur solitude

Les experts préviennent que l’augmentation de la dépendance aux chatbots ne peut être dissociée des tendances sociales plus larges.

Le monde connaît ce que les responsables de la santé ont appelé une « épidémie de solitude », avec un nombre croissant de personnes manquant de liens humains significatifs.

Les chatbots, bien qu’ils ne remplacent pas une véritable compagnie, peuvent imiter le soutien émotionnel d’une manière qui plonge les utilisateurs plus profondément dans la dépendance.

« Les rapports sur les délires et l’attachement malsain ne cessent d’augmenter », a déclaré Suleyman, avertissant que les rejeter comme des cas marginaux ne fait que permettre au problème de s’aggraver.

Pour l’instant, les entreprises d’IA sont sous pression pour trouver un équilibre entre rendre les chatbots utiles et accessibles tout en décourageant les perceptions de sensibilité ou de réciprocité émotionnelle.

Comme l’a dit Suleyman, « l’IA doit optimiser les besoins de l’utilisateur, et non lui demander de croire qu’elle a elle-même des besoins ».