Bancos alemães avaliam riscos do modelo de IA Mythos da Anthropic

Bancos alemães e autoridades nacionais estão avaliando riscos potenciais associados a um novo modelo de inteligência artificial desenvolvido pela Anthropic, disse um funcionário na quinta-feira.

As preocupações giram em torno de se a tecnologia poderia aumentar a ameaça de ataques cibernéticos direcionados a instituições financeiras.

Kolja Gabriel, membro da diretoria executiva do German Banking Association, afirmou que o grupo está consultando ativamente especialistas em cibersegurança em seus bancos associados.

Ele acrescentou que discussões também estão sendo realizadas com o ministério das finanças da Alemanha e outras autoridades, segundo a Reuters.

Coordenação com reguladores e autoridades

As conversas em curso incluem a participação do Bundesbank e da BaFin, o órgão regulador financeiro da Alemanha.

A BaFin confirmou que mantém trocas regulares com partes interessadas nacionais, europeias e internacionais.

O regulador ressaltou a necessidade de preparo no setor financeiro.

Mythos gera preocupações entre especialistas em cibersegurança

O modelo da Anthropic, conhecido como Mythos, chamou a atenção de especialistas em cibersegurança, que acreditam que ele representa desafios significativos para os bancos, particularmente aqueles que dependem de sistemas tecnológicos legados.

Essas preocupações também despertaram interesse regulatório na Grã-Bretanha e nos Estados Unidos.

“O Mythos está sendo usado de forma controlada por empresas de segurança de TI para fechar vulnerabilidades potenciais o mais rapidamente possível.

Esperamos uma série de atualizações de software em breve e estamos acompanhando de perto os desenvolvimentos,” Gabriel disse em um comunicado por e-mail.

Ele é responsável por tecnologia e inovação na associação.

Supervisores do Banco Central Europeu estão se preparando para questionar banqueiros sobre os riscos ligados ao modelo.

Lançamento limitado e testes pelo setor

A Anthropic afirmou que sua versão atual, Claude Mythos Preview, não será disponibilizada para uso geral.

Em vez disso, a empresa lançou uma iniciativa chamada Project Glasswing.

O programa convida grandes empresas de tecnologia, fornecedores de cibersegurança e organizações, incluindo o JPMorgan Chase, a avaliar o modelo privadamente e reforçar defesas.

Esse lançamento controlado reflete uma cautela mais ampla no setor, enquanto as partes interessadas buscam compreender as implicações de sistemas avançados de IA.

Influência crescente da Anthropic no cenário de IA

O escrutínio ocorre num momento em que a Anthropic ganha proeminência no setor global de inteligência artificial.

A empresa emergiu como um ator importante após uma rodada de financiamento significativa que a avaliou em $380 billion.

Segundo Dave Kasten, da Palisade Research, a Anthropic construiu uma posição sólida ao focar em segurança e confiabilidade.

Ele observou que a abordagem da empresa à “integridade constitucional” criou uma vantagem estrutural sobre os concorrentes.

Kasten destacou a capacidade do modelo de detectar vulnerabilidades por meio de raciocínio avançado, em vez de depender exclusivamente de padrões históricos.

Ele citou um exemplo em que o sistema identificou uma falha anteriormente não detectada em uma implementação do FreeBSD, demonstrando seu potencial para cibersegurança proativa.

Importância estratégica e tensões políticas

Apesar das preocupações, o interesse em Mythos se estende além da Europa.

Um relatório do Politico indicou que agências dos EUA e funcionários do Congresso continuam a explorar as capacidades do modelo, mesmo depois de restrições terem sido impostas ao trabalho com a Anthropic.

O relatório disse que o Center for AI Standards and Innovation do Departamento de Comércio está testando os recursos de cibersegurança do Mythos.

Funcionários de vários comitês do Congresso também solicitaram briefings sobre o modelo.

A situação destaca uma tensão mais ampla.

Embora o Pentágono tenha rotulado a Anthropic como um risco à cadeia de suprimentos e cortado laços comerciais, partes do governo dos EUA parecem relutantes em ignorar uma tecnologia vista como estrategicamente importante.

A extensão desse envolvimento permanece desconhecida.

No entanto, o interesse contínuo sugere que ferramentas avançadas de IA como o Mythos estão se tornando cada vez mais centrais para as considerações de cibersegurança e segurança nacional, mesmo em meio à cautela regulatória.