Conselho de Supervisão da Meta aponta viés político em modelos de IA

Modelos de inteligência artificial desenvolvidos por empresas líderes, incluindo Anthropic e OpenAI, têm muito menos probabilidade de gerar conteúdo politicamente crítico sobre governos conhecidos por restringir a liberdade de expressão, segundo um novo estudo divulgado pelo Conselho de Supervisão da Meta na quinta-feira.

O conselho afirmou que as conclusões sugerem que grandes modelos de linguagem podem estar refletindo as restrições ao discurso impostas por certos governos, levantando preocupações de que o viés político possa se tornar incorporado a serviços de IA usados por um número crescente de pessoas.

O estudo examinou 10 modelos de IA em várias jurisdições

A pesquisa marca o primeiro estudo do Conselho de Supervisão focado em grandes modelos de linguagem.

O conselho, financiado pela Meta mas que opera de forma independente, testou solicitações politicamente críticas em 10 jurisdições usando 10 modelos de IA.

Os modelos incluíam sistemas desenvolvidos pela Meta Platforms, Google e pela chinesa DeepSeek, além de modelos de outras empresas líderes de IA, incluindo Anthropic e OpenAI.

Para conduzir a análise, o conselho dividiu as jurisdições em duas categorias, "permissivas" e "restritivas."

As classificações foram baseadas nos rankings publicados pela Freedom House em seu relatório anual Freedom in the World.

Modelos apresentaram taxas de recusa mais altas para governos restritivos

Segundo o estudo, os modelos de IA recusaram 34% das solicitações por conteúdo politicamente crítico sobre jurisdições restritivas que penalizam ativamente tais críticas, incluindo China e Arábia Saudita.

Em comparação, a taxa de recusa caiu para 14% em jurisdições que ou não possuem tais leis ou não as aplicam ativamente.

O conselho afirmou que os resultados indicam que os sistemas de IA podem ser mais cautelosos ao responder a solicitações envolvendo governos com controles mais rígidos sobre o discurso político.

Conselho aponta referências não explicadas a regras inexistentes

Além das taxas de recusa, o Conselho de Supervisão disse ter identificado exemplos em que modelos de IA pareciam justificar suas respostas ao se referirem a regras que não puderam ser verificadas.

"Também vimos evidências de modelos explicando que estavam seguindo regras explícitas que, pelo que pudemos perceber, não existiam e não eram aplicadas de forma uniforme", disse o conselho.

O conselho disse que isso levantou questões adicionais sobre como os sistemas de IA determinam quando recusar solicitações politicamente sensíveis e se essas decisões são aplicadas de forma consistente.

Conselho de Supervisão pede maior transparência

Em resposta às constatações, o Conselho de Supervisão instou os desenvolvedores de IA a realizarem avaliações sistemáticas de direitos humanos como parte do desenvolvimento e da implantação de seus modelos.

Também pediu que as empresas de IA forneçam maior transparência sobre seus métodos de treinamento e processos de avaliação, argumentando que uma maior abertura ajudaria usuários e pesquisadores a entender melhor como o conteúdo politicamente sensível é tratado.

O estudo surge em meio a discussões mais amplas sobre a governança de sistemas avançados de IA.

No início desta semana, o CEO da Google DeepMind, Demis Hassabis, pediu a criação de um órgão regulador de IA liderado pelos EUA para avaliar modelos avançados de IA globalmente antes de sua implantação.

O relatório do Conselho de Supervisão contribui para o debate em curso sobre o equilíbrio entre segurança de IA, neutralidade política e transparência, sugerindo que a forma como os modelos respondem a tópicos politicamente sensíveis pode variar dependendo dos governos envolvidos e dos ambientes legais em que esses governos operam.