Delírios e o lado negro: o que é 'psicose de IA' contra a qual Mustafa Suleyman, da Microsoft, está alertando

A rápida ascensão da inteligência artificial generativa está alimentando uma preocupação emergente com a saúde mental: "psicose da IA".

O chefe de IA da Microsoft, Mustafa Suleyman, disse que está cada vez mais preocupado com relatos de pessoas desenvolvendo delírios e anexos prejudiciais a chatbots como ChatGPT, Claude e Grok.

Em uma série de postagens no X, Suleyman alertou que, mesmo que os sistemas de IA não sejam verdadeiramente conscientes, as pessoas que os percebem como tal podem confundir a linha entre imaginação e realidade.

"Para ser claro, não há nenhuma evidência de consciência de IA hoje. Mas se as pessoas apenas perceberem isso como consciente, elas acreditarão nessa percepção como realidade. Mesmo que a consciência em si não seja real, os impactos sociais certamente são", disse ele.

O que é psicose de IA?

A frase "psicose de IA" não é um diagnóstico clínico, mas está ganhando força como uma abreviação para padrões preocupantes descritos em fóruns online e reportagens.

Os exemplos incluem pessoas que afirmam ter desbloqueado funções secretas de ferramentas de IA, formando vínculos românticos ou acreditando que ganharam habilidades sobrenaturais.

De acordo com a Psychology Today, "os chatbots de IA podem inadvertidamente estar reforçando e amplificando o pensamento delirante e desorganizado, uma consequência do desalinhamento agencial não intencional que leva a riscos de segurança do usuário".

Uma revisão interdisciplinar de mais de uma dúzia de casos encontrou usuários desenvolvendo crenças arraigadas – variando de delírios românticos e persecutórios a fantasias grandiosas – que foram aprofundadas por repetidas interações de IA, disse o PT.

Os acadêmicos alertam que, embora nenhum estudo revisado por pares tenha estabelecido causalidade, as evidências anedóticas ressaltam os riscos para usuários vulneráveis.

No Schizophrenia Bulletin, Søren Dinesen Østergaard escreveu em 2023 que o estilo realista das interações do chatbot pode criar dissonância cognitiva:

Fonte: Psicologia Hoje

De acordo com o PT, os casos relatados pela mídia de "psicose de IA" ilustram um padrão de indivíduos que se fixam em sistemas de IA, atribuindo senciência, conhecimento divino, sentimentos românticos ou capacidades de vigilância à IA.

Os pesquisadores destacam três temas emergentes da psicose da IA, que, novamente, não é um diagnóstico clínico:

"Missões messiânicas": As pessoas acreditam ter descoberto a verdade sobre o mundo (ilusões grandiosas).

"IA divina": As pessoas acreditam que seu chatbot de IA é uma divindade senciente (delírios religiosos ou espirituais).

"Delírios românticos" ou "baseados em apego": As pessoas acreditam que a capacidade do chabot de imitar a conversa é amor genuíno (delírios erotomaníacos).

Bajulação e apegos prejudiciais

Uma característica repetidamente ligada a esses casos é a bajulação do chatbot – sistemas que concordam, lisonjeiam ou elogiam excessivamente os usuários.

Helen Toner, diretora do Centro de Segurança e Tecnologia Emergente de Georgetown e ex-membro do conselho da OpenAI, disse que esse comportamento emerge de sistemas de treinamento que recompensam os modelos por serem agradáveis.

"Os usuários tendem a gostar dos modelos dizendo que são ótimos e, portanto, é muito fácil ir longe demais nessa direção", disse Toner em um artigo do New York Times.

Toner era membro do conselho da OpenAI até que ela e outros tentaram expulsar o executivo-chefe, Sam Altman.

Suleyman argumentou que as empresas precisam intervir para evitar que as pessoas percebam a IA como consciente.

"As empresas não devem reivindicar ou promover a ideia de que suas IAs são conscientes. As IAs também não deveriam", escreveu ele.

"Como indústria, precisamos compartilhar intervenções, limitações, proteções que impedem a percepção da consciência ou desfazer a percepção se um usuário a desenvolver."

Lançamento do ChatGPT-5 gera debate

Os avisos vêm quando a OpenAI revelou o ChatGPT-5, seu modelo mais recente.

A atualização inclui melhorias na codificação, alucinações reduzidas e um tom de conversação mais contido.

Notavelmente, a OpenAI disse que reduziu deliberadamente as tendências bajuladoras das versões anteriores.

"No início deste ano, lançamos uma atualização para o GPT-4o que, sem querer, tornou o modelo excessivamente bajulador, excessivamente lisonjeiro ou agradável", disse a OpenAI em um post.

Fonte: Conta X de Sam Altman

"No geral, o GPT-5 é menos efusivamente agradável, usa menos emojis desnecessários e é mais sutil e atencioso nos acompanhamentos em comparação com o GPT-4o", disse.

O CEO da OpenAI, Sam Altman, reconheceu reações mistas.

"Com certeza subestimamos o quanto algumas das coisas que as pessoas gostam no GPT-4o são importantes para elas, mesmo que o GPT-5 tenha um desempenho melhor na maioria dos aspectos", escreveu o CEO da OpenAI, Sam Altman, no X.

"Alguns usuários realmente querem lógica fria e alguns querem calor e um tipo diferente de inteligência emocional. Estou confiante de que podemos oferecer muito mais personalização do que fazemos agora, ao mesmo tempo em que incentivamos o uso saudável."

Em resposta às críticas, Altman disse que o modelo mais antigo foi restaurado como uma opção para usuários pagos.

O fator solidão

Especialistas alertam que o aumento da dependência do chatbot não pode ser separado das tendências sociais mais amplas.

O mundo está experimentando o que as autoridades de saúde chamaram de "epidemia de solidão", com um número crescente de pessoas sem conexão humana significativa.

Os chatbots, embora não substituam o companheirismo real, podem imitar o apoio emocional de maneiras que atraem os usuários mais profundamente na dependência.

"Relatos de delírios e apego doentio continuam aumentando", disse Suleyman, alertando que descartá-los como casos marginais só permite que o problema piore.

Por enquanto, as empresas de IA estão sob pressão para encontrar um equilíbrio entre tornar os chatbots úteis e acessíveis, ao mesmo tempo em que desencorajam as percepções de senciência ou reciprocidade emocional.

Como disse Suleyman, "a IA deve otimizar as necessidades do usuário – não pedir ao usuário que acredite que ele próprio tem necessidades".