Por que modelos de IA excessivamente confiantes estão priorizando a assertividade em vez da precisão

As preocupações estão aumentando sobre a confiabilidade dos modelos de inteligência artificial, já que novas pesquisas revelam que alguns sistemas populares produzem informações incorretas em mais de um terço de suas respostas, apesar da crescente dependência e confiança depositadas na tecnologia de IA, disse o ING Group na quarta-feira.

Modelos modernos de IA, com raciocínio profundo, memória de longo prazo e agentes autônomos, podem realizar tarefas como navegação na web com intervenção humana mínima.

No entanto, a execução dessas tarefas exige dados extensos, levando a uma maior dependência de fontes externas de dados que muitas vezes não são controladas e não verificadas, disse Julian Geib, economista júnior do comércio global, da ING, em um relatório.

Excesso de confiança

Sistemas líderes de IA geram afirmações falsas a uma taxa de até 40%, consequência destacada em um estudo recente da União Europeia de Radiodifusão (EBU).

A frequência aumentada das respostas está alinhada com uma mudança no comportamento dos modelos de IA.

Sistemas de IA anteriores foram programados para se recusar a responder perguntas sobre tópicos fora de seus conjuntos de dados de treinamento.

No entanto, sistemas contemporâneos com conectividade web são projetados para responder com mais frequência, mesmo quando as informações disponíveis são limitadas ou incertas.

O aumento do engajamento dos usuários é um benefício, mas resulta em mais resultados fabricados, que chamamos de "alucinações de IA", disse Geib.

Fluência em vez de precisão

Até modelos de IA mais recentes frequentemente apresentam alucinações por vários motivos.

Principalmente, quando os usuários fazem perguntas vagas ou excessivamente complexas, o modelo tem dificuldades de interpretação.

Isso frequentemente leva o modelo a depender de padrões estatísticos para "preencher as lacunas", gerando uma resposta aparentemente completa, mas potencialmente factualmente imprecisa, disse Geib.

Embora essas respostas pretendam ser úteis, elas podem introduzir informações incorretas.

Ajustar modelos com feedback humano frequentemente favorece respostas confiantes e que soem úteis, levando a um viés para afirmações imprecisas, porém assertivas, em vez de respostas cautelosas ou incertas.

O problema é agravado pela queda despencada da "taxa de não resposta".

Modelos antigos recusaram quase 40% das consultas, mas os mais novos respondem quase tudo.

Em áreas críticas como política e saúde, essa priorização da fluência em detrimento da precisão cria sérios riscos de desinformação.

A IA está se tornando uma ferramenta mais comum para acessar informações sobre eventos atuais, especialmente entre os jovens públicos.

Notavelmente, 15% das pessoas com menos de 25 anos afirmam depender de chatbots de IA como sua principal fonte de notícias.

"Dado o aumento do uso da IA tanto de forma privada quanto em empresas, a precisão deve ser prioridade", disse Geib.

A conscientização é vital

Geib acrescentou:

As limitações atuais na precisão da IA sugerem que a substituição total de áreas profissionais inteiras no futuro imediato é um evento de probabilidade significativamente baixa, segundo Geib.

Isso ocorre principalmente porque profissionais humanos, na maioria dos domínios, atuam com um grau de julgamento nuançado, compreensão contextual e precisão que os sistemas atuais de IA têm dificuldade em replicar consistentemente.

O risco de deslocamento generalizado de empregos, portanto, torna-se crítico apenas em cenários em que os profissionais dentro de uma profissão se tornam totalmente dependentes — e deixam de verificar criticamente — os dados e conclusões potencialmente falhos ou errôneos gerados pela IA.

Essencialmente, a IA atualmente atua como uma ferramenta poderosa, porém imperfeita, e suas imprecisões garantem que a supervisão humana, o pensamento crítico e a validação permaneçam componentes indispensáveis do trabalho profissional.

"Declarações geradas por IA devem ser tratadas com a mesma mentalidade crítica que as afirmações humanas", observou Geib.