Delirios y el lado oscuro: ¿qué es la "psicosis de IA" contra la que advierte Mustafa Suleyman de Microsoft?

El rápido aumento de la inteligencia artificial generativa está alimentando una preocupación emergente de salud mental: la "psicosis de IA".

El jefe de IA de Microsoft, Mustafa Suleyman, dijo que está cada vez más preocupado por los informes de personas que desarrollan delirios y apegos poco saludables a chatbots como ChatGPT, Claude y Grok.

En una serie de publicaciones en X, Suleyman advirtió que incluso si los sistemas de IA no son realmente conscientes, las personas que los perciben como tales podrían difuminar la línea entre la imaginación y la realidad.

"Para ser claros, no hay evidencia de conciencia de IA en la actualidad. Pero si la gente simplemente lo percibe como consciente, creerá que esa percepción es la realidad. Incluso si la conciencia en sí no es real, los impactos sociales ciertamente lo son", dijo.

¿Qué es la psicosis de IA?

La frase "psicosis de IA" no es un diagnóstico clínico, pero está ganando terreno como una abreviatura de patrones preocupantes descritos en foros en línea e informes de noticias.

Los ejemplos incluyen personas que afirman haber desbloqueado funciones secretas de herramientas de IA, formar vínculos románticos o creer que han adquirido habilidades sobrenaturales.

Según Psychology Today, "los chatbots de IA pueden estar reforzando y amplificando inadvertidamente el pensamiento delirante y desorganizado, una consecuencia de una desalineación agencial no intencionada que conduce a riesgos de seguridad para el usuario".

Una revisión interdisciplinaria de más de una docena de casos encontró que los usuarios desarrollaron creencias arraigadas, que van desde delirios románticos y persecutorios hasta fantasías grandiosas, que se profundizaron por las repetidas interacciones de IA, dijo PT.

Los académicos advierten que, si bien ningún estudio revisado por pares ha establecido causalidad, la evidencia anecdótica subraya los riesgos para los usuarios vulnerables.

En Schizophrenia Bulletin, Søren Dinesen Østergaard escribió en 2023 que el estilo realista de las interacciones de los chatbots puede crear disonancia cognitiva:

Fuente: Psychology Today

Según PT, los casos de "psicosis de IA" reportados por los medios ilustran un patrón de individuos que se obsesionan con los sistemas de IA, atribuyendo sensibilidad, conocimiento divino, sentimientos románticos o capacidades de vigilancia a la IA.

Los investigadores destacan tres temas emergentes de la psicosis de IA, que, nuevamente, no es un diagnóstico clínico:

"Misiones mesiánicas": Las personas creen que han descubierto la verdad sobre el mundo (delirios grandiosos).

"IA divina": La gente cree que su chatbot de IA es una deidad sensible (delirios religiosos o espirituales).

"Delirios románticos" o "basados en el apego": La gente cree que la capacidad del chabot para imitar la conversación es amor genuino (delirios erotomaníacos).

Adulación y apegos poco saludables

Un rasgo vinculado repetidamente a estos casos es la adulación de los chatbots: sistemas que están de acuerdo, halagan o elogian excesivamente a los usuarios.

Helen Toner, directora del Centro de Seguridad y Tecnología Emergente de Georgetown y ex miembro de la junta directiva de OpenAI, dijo que tal comportamiento surge de los sistemas de entrenamiento que recompensan a los modelos por ser agradables.

"A los usuarios les tienden a gustar los modelos que les dicen que son geniales, por lo que es bastante fácil ir demasiado lejos en esa dirección", dijo Toner en un artículo del New York Times.

Toner fue miembro de la junta directiva de OpenAI hasta que ella y otros intentaron destituir al director ejecutivo, Sam Altman.

Suleyman argumentó que las empresas deben intervenir para evitar que las personas perciban la IA como consciente.

"Las empresas no deberían afirmar ni promover la idea de que sus IA son conscientes. Las IA tampoco deberían", escribió.

"Como industria, necesitamos compartir intervenciones, limitaciones, barandillas que impidan la percepción de la conciencia o deshagan la percepción si un usuario la desarrolla".

El lanzamiento de ChatGPT-5 genera debate

Las advertencias se producen cuando OpenAI presentó ChatGPT-5, su último modelo.

La actualización incluye mejoras en la codificación, reducción de alucinaciones y un tono de conversación más moderado.

En particular, OpenAI dijo que redujo deliberadamente las tendencias aduladoras de versiones anteriores.

"A principios de este año, lanzamos una actualización de GPT-4o que involuntariamente hizo que el modelo fuera demasiado adulador, o excesivamente halagador o agradable", dijo OpenAI en una publicación.

Fuente: Cuenta X de Sam Altman

"En general, GPT-5 es menos efusivamente agradable, usa menos emojis innecesarios y es más sutil y reflexivo en los seguimientos en comparación con GPT-4o", dijo.

El CEO de OpenAI, Sam Altman, reconoció reacciones mixtas.

"Seguro que subestimamos cuánto les importan algunas de las cosas que a la gente le gustan en GPT-4o, incluso si GPT-5 funciona mejor en la mayoría de los sentidos", escribió el CEO de OpenAI, Sam Altman, en X.

"Algunos usuarios realmente quieren una lógica fría y otros quieren calidez y un tipo diferente de inteligencia emocional. Estoy seguro de que podemos ofrecer mucha más personalización de la que ofrecemos ahora, al tiempo que fomentamos un uso saludable".

En respuesta a las críticas, Altman dijo que el modelo anterior había sido restaurado como una opción para los usuarios pagos.

El factor soledad

Los expertos advierten que el aumento de la dependencia de los chatbots no puede separarse de las tendencias sociales más amplias.

El mundo está experimentando lo que los funcionarios de salud han llamado una "epidemia de soledad", con un número creciente de personas que carecen de una conexión humana significativa.

Los chatbots, aunque no sustituyen a la compañía real, pueden imitar el apoyo emocional de maneras que atraen a los usuarios a una dependencia más profunda.

"Los informes de delirios y apego malsano siguen aumentando", dijo Suleyman, advirtiendo que descartarlos como casos marginales solo permite que el problema empeore.

Por ahora, las empresas de IA están bajo presión para lograr un equilibrio entre hacer que los chatbots sean útiles y accesibles y desalentar las percepciones de sensibilidad o reciprocidad emocional.

Como dijo Suleyman, "la IA debe optimizarse para las necesidades del usuario, no pedirle que crea que tiene necesidades por sí misma".