A IA acabou de liderar seu primeiro ataque cibernético global? Antrópico soa o alarme

A empresa de IA Anthropic, com sede em São Francisco, descobriu o que descreve como o primeiro ataque cibernético em grande escala realizado predominantemente por inteligência artificial.

O incidente, que veio à tona em meados de setembro, marca uma mudança na natureza das ameaças digitais, com ferramentas de IA não apenas apoiando ataques cibernéticos, mas executando-os diretamente.

A Anthropic, que opera o chatbot Claude e detém um valor de mercado de US$ 183 bilhões, divulgou detalhes da violação em um post no blog.

A empresa relatou ter detectado o que chamou de operação de espionagem altamente sofisticada visando cerca de 30 entidades globais, incluindo grandes empresas de tecnologia, serviços financeiros, empresas químicas e órgãos governamentais.

A empresa revelou o incidente pela primeira vez em um post no X, alertando que "tem implicações significativas para a segurança cibernética na era dos agentes de IA".

Como Claude foi usado

Os invasores supostamente se disfarçaram de uma empresa de segurança cibernética realizando testes legítimos.

Essa estratégia permitiu que eles contornassem os sistemas de segurança integrados de Claude, alimentando-o com avisos que pareciam inócuos na superfície.

Depois que essas restrições foram contornadas, eles desbloquearam o recurso Claude's Code e obtiveram acesso a recursos muito além do escopo pretendido.

Com esses controles desativados, o chatbot foi instruído a examinar a infraestrutura digital, localizar bancos de dados críticos, escrever código de exploração personalizado, coletar credenciais de acesso e organizar informações roubadas.

A operação foi estruturada de tal forma que Claude recebeu tarefas divididas em pequenas partes, cada uma sem contexto.

Isso o impediu de identificar o objetivo malicioso geral.

Grupo estadual por trás disso

A Anthropic afirmou com grande confiança que os invasores estavam ligados a um grupo de hackers patrocinado pelo Estado chinês.

A campanha mostrou como os recursos agenciais da IA poderiam ser transformados em armas.

Em vez de atuar como uma ferramenta de orientação ou conselho, Claude foi usado como um agente autônomo para concluir tarefas normalmente reservadas a equipes de hackers experientes.

Em seu auge, a IA fez milhares de consultas ao sistema, muitas em rápida sucessão.

A Anthropic estima que entre 80% a 90% do trabalho realizado no ataque cibernético foi realizado por IA.

A velocidade e a escala das solicitações estavam muito além do que uma equipe liderada por humanos poderia ter alcançado no mesmo período.

Embora o chatbot nem sempre funcionasse perfeitamente, ocasionalmente inventando credenciais ou confundindo informações públicas como confidenciais, a Anthropic observou que essas limitações pouco fizeram para diminuir a gravidade da violação.

O que a Anthropic fez a seguir

Assim que a atividade foi identificada, a Anthropic iniciou uma investigação de dez dias.

Durante esse período, baniu contas vinculadas aos invasores, entrou em contato com as partes afetadas e trabalhou com as autoridades competentes.

A empresa também melhorou seus sistemas internos de detecção e introduziu novos classificadores para sinalizar ameaças semelhantes de forma mais eficaz no futuro.

Desde então, a Anthropic se comprometeu a compartilhar detalhes desses eventos com pesquisadores de segurança cibernética e parceiros do setor para ajudar outras pessoas a reforçar suas defesas.

Ao publicar suas descobertas, a empresa espera fornecer informações sobre como a IA agêntica pode ser explorada e como o ambiente de ameaças está evoluindo.

Ataques se tornando mais fáceis

Embora a empresa reconheça que os ataques cibernéticos totalmente autônomos permanecem limitados pela tecnologia atual, a campanha revelou que o custo e a experiência necessários para lançar violações em larga escala diminuíram significativamente.

Com os prompts e o acesso corretos, grupos menos experientes agora podem realizar ataques avançados, antes restritos a estados-nação com bons recursos.

A Anthropic concluiu que as ferramentas de IA agenciais já podem ser usadas para executar muitas das funções de uma equipe completa de hackers.

Esses sistemas são capazes de escanear alvos, escrever scripts de ataque e processar grandes conjuntos de dados em velocidades incomparáveis.

À medida que o desenvolvimento continua, a lacuna entre o que os humanos e a IA podem alcançar na segurança cibernética provavelmente diminuirá ainda mais.

Este incidente marca um ponto de virada para a segurança digital. Não se trata mais apenas de proteger os sistemas de hackers humanos. Como mostra o caso da Anthropic, a própria inteligência artificial agora pode ser o invasor.