Por que o Mythos AI da Anthropic deixou reguladores e bancos centrais em alerta

Reguladores financeiros nas principais economias estão intensificando a fiscalização de um poderoso novo modelo de inteligência artificial desenvolvido pela Anthropic, diante de crescentes preocupações de que suas capacidades avançadas possam expor vulnerabilidades em sistemas financeiros e digitais críticos.

Autoridades no Japão, na Europa, na Índia e em outras regiões estão coordenando respostas enquanto o modelo, conhecido como Mythos, suscita novas questões sobre riscos de cibersegurança em um mundo cada vez mais guiado por IA.

Japão convoca principais bancos e reguladores

No Japão, a Financial Services Agency disse na quarta-feira que realizará na sexta-feira uma reunião de alto nível com os maiores conglomerados bancários do país, incluindo Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group e Mizuho Financial Group.

O encontro também contará com a participação do Banco do Japão e da Bolsa de Tóquio, refletindo a amplitude da preocupação em todo o sistema financeiro.

Satsuki Katayama afirmou que o objetivo era reunir as partes interessadas-chave para avaliar a evolução da situação.

"Reuniremos os membros centrais que têm a maior responsabilidade para compartilhar avaliações da situação atual e trocar pontos de vista, incluindo questões que foram sinalizadas em várias partes da comunidade financeira internacional", disse ela.

Bancos centrais globais em alerta

Reguladores em outras regiões estão adotando medidas semelhantes.

O Reserve Bank of Australia disse na quarta-feira que está acompanhando de perto os desenvolvimentos e "mantendo diálogo com reguladores pares, governo e entidades reguladas."

Enquanto isso, o Reserve Bank of New Zealand descreveu na quarta-feira os riscos como “em desenvolvimento” e confirmou que está coordenando com homólogos domésticos e australianos.

A Índia também se juntou ao esforço global.

Segundo reportagem da Reuters, o Reserve Bank of India está em discussões com reguladores internacionais, bancos e autoridades governamentais para avaliar ameaças potenciais.

Avaliações preliminares sugerem que o modelo pode acelerar a descoberta e a exploração de vulnerabilidades de software, elevando preocupações de cibersegurança.

A questão alcançou os mais altos níveis de formulação de políticas globais.

O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o modelo foi discutido em uma recente reunião do Fundo Monetário Internacional em Washington.

"Certamente é sério o bastante para merecer a atenção de todos os ministros das Finanças", disse ele, descrevendo a tecnologia como um "desconhecido desconhecido".

De forma semelhante, o chefe do Bank of England, Andrew Bailey, alertou que as autoridades estão avaliando atentamente as implicações.

"Temos de analisar com muito cuidado agora o que esse mais recente avanço em IA pode significar para o risco de crimes cibernéticos", disse ele à BBC.

Uma espada de dois gumes para a cibersegurança

Embora o Mythos tenha sido projetado para aplicações defensivas de cibersegurança, suas capacidades geraram alarme.

A Anthropic afirmou que testes iniciais revelaram “milhares” de vulnerabilidades significativas em grandes sistemas operacionais e navegadores web.

Na terça-feira, o presidente do Bundesbank, Joachim Nagel, descreveu o modelo como uma “espada de dois gumes.”

"Pode ser usado não apenas para melhorar sistemas de segurança digital, mas também para explorar suas vulnerabilidades para fins maliciosos."

Especialistas afirmam que a preocupação reside na velocidade e na escala com que um sistema de IA desse tipo pode identificar e explorar fraquezas—superando amplamente as respostas tradicionais de segurança.

Por que a Anthropic restringiu o acesso ao modelo?

A Anthropic restringiu o acesso ao modelo por meio de uma iniciativa controlada chamada Project Glasswing.

Organizações selecionadas, incluindo Amazon, Microsoft, Nvidia e Apple, receberam acesso antecipado, junto com dezenas de entidades responsáveis pela manutenção de infraestruturas digitais críticas.

Em um vídeo de lançamento, Dario Amodei disse que a empresa se ofereceu para colaborar com autoridades dos EUA para “ajudar a defender contra o risco desses modelos.”

Testes por pesquisadores independentes, incluindo as chamadas “red teams”, destacaram as capacidades avançadas do modelo.

Segundo a Anthropic, o Mythos pode identificar de forma autônoma bugs críticos em sistemas legados e até sugerir métodos para explorá-los.

"O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo em todos os principais sistemas operacionais e navegadores web", disse a empresa.

"Dado o ritmo de progresso da IA, não demorará até que tais capacidades se proliferem, potencialmente alcançando atores que não estão comprometidos em implantá‑las de forma segura."

Riscos mais altos em sistemas legados

A ameaça potencial é particularmente aguda em setores que dependem de infraestruturas complexas e envelhecidas.

Um relatório da Bain & Company observou que indústrias como energia, manufatura e transporte podem enfrentar riscos ampliados devido a sistemas desatualizados que são difíceis de corrigir.

Bancos também são vulneráveis, dada a sua dependência de sistemas interconectados, alguns dos quais datam de décadas.

No entanto, o relatório ressaltou que os riscos são gerenciáveis com práticas robustas de cibersegurança.

"A ameaça é séria, mas não é insuperável, e bases sólidas de cibersegurança são sua melhor defesa", afirmou, acrescentando que salvaguardas existentes, como segmentação de rede, controles de acesso e detecção de anomalias, podem fornecer proteção significativa.

Foco desloca-se para preparação em vez de pânico

Em vez de apressar o desenvolvimento de defesas específicas para IA totalmente novas, especialistas defendem que as organizações devem priorizar o fortalecimento dos quadros de segurança existentes.

As recomendações incluem a criação de equipes dedicadas de resposta a ameaças de IA, a melhoria das medidas básicas de cibersegurança e o tratamento de vulnerabilidades em ambientes de tecnologia operacional.

À medida que o acesso a sistemas de IA poderosos se expande, reguladores e empresas enfrentam um ato de equilíbrio — aproveitar os benefícios da inovação enquanto se protegem contra consequências não intencionais.

A rápida resposta global ao Mythos sugere que os formuladores de políticas estão plenamente conscientes do que está em jogo.

Se esses esforços iniciais serão suficientes para mitigar os riscos colocados pela IA de próxima geração continua sendo uma questão em aberto.