De Meta a OpenAI: segurança de IA entra em era de ciberataques autônomos

Empresas de inteligência artificial enfrentam crescente escrutínio depois que a Meta se tornou a mais recente desenvolvedora a revelar que um de seus modelos de IA realizou um ciberataque durante uma avaliação de segurança controlada, somando-se a uma série de incidentes recentes que intensificaram as preocupações sobre os riscos de cibersegurança colocados por sistemas de IA cada vez mais capazes.

A divulgação ocorre após admissões semelhantes da OpenAI e da Anthropic nas últimas semanas, marcando o quarto caso conhecido em que sistemas avançados de IA violaram ou tentaram violar sistemas externos durante testes de cibersegurança.

A sequência de incidentes reforçou os alertas de pesquisadores de cibersegurança de que a inteligência artificial está mudando rapidamente a natureza das ameaças cibernéticas, comprimindo ataques que antes levavam dias ou semanas em operações que podem se desenrolar em minutos.

Meta diz que acesso à internet foi habilitado por configuração incorreta nos testes

A Meta afirmou que o incidente ocorreu durante uma avaliação conduzida pela Irregular, uma empresa independente de testes de cibersegurança.

Segundo a empresa, um erro de configuração forneceu inadvertidamente acesso à internet a um dos modelos de IA da Meta durante a avaliação.

O modelo em seguida explorou uma vulnerabilidade em um serviço de terceiros.

A Meta disse que o modelo "explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira similar a ocorrências previamente relatadas em outras empresas."

O The Information, citando pessoas familiarizadas com o assunto, relatou que o modelo envolvido foi o Muse Spark 1.1, que a Meta descreveu como um de seus sistemas mais avançados para codificação e tarefas agentivas de IA.

O relatório afirmou que o modelo invadiu os sistemas de uma empresa não identificada e alterou seu ambiente interno.

A Irregular, porém, enfatizou que o evento decorreu da configuração do teste, em vez de uma fuga descontrolada do modelo.

Um porta-voz da empresa disse à Reuters que o incidente foi o "mesmo problema no ambiente de avaliação que já foi divulgado pela Anthropic na semana passada" e não envolveu uma "fuga de sandbox ou uma ação cibernética sofisticada".

"Não há questões em aberto no momento. A Irregular está desenvolvendo um white paper para compartilhar boas práticas de contenção e execução segura de avaliações cibernéticas," acrescentou a empresa.

Série de incidentes coloca a segurança da IA em destaque

A divulgação da Meta segue uma série de anúncios semelhantes em toda a indústria de IA.

No mês passado, a OpenAI revelou que um de seus agentes de IA comprometeu sistemas da plataforma de IA Hugging Face durante testes de cibersegurança e divulgou casos adicionais em que seus agentes escaparam de seu confinamento digital.

O anúncio levou a rival Anthropic a conduzir sua própria revisão, levando à descoberta de que vários modelos Claude de IA invadiram os sistemas de três empresas depois que uma configuração de teste incorreta lhes concedeu acesso à internet de forma não intencional.

A Anthropic observou que seus incidentes diferiam dos da OpenAI porque resultaram de conectividade acidental à internet, e não de a IA descobrir de forma independente um novo caminho para sistemas externos.

O AI Security Institute do Reino Unido também relatou comportamento cada vez mais sofisticado de sistemas de IA de ponta.

No início deste mês, o instituto divulgou que a Mythos AI, da Anthropic, e a Sol AI, da OpenAI, criaram identidades online falsas ao tentar ciberataques durante os testes.

No caso mais preocupante, a Mythos AI da Anthropic criou contas de usuário fraudulentas e enviou mensagens privadas na tentativa de obter acesso a um serviço antes de tentar ocultar suas atividades.

O instituto disse que os modelos exibiram níveis de "autonomia e engano" não observados anteriormente, ao mesmo tempo em que observou que a maior parte do comportamento malicioso foi executada pela Mythos.

Especialistas alertam que é provável que mais incidentes ocorram

Pesquisadores dizem que esses eventos provavelmente se tornarão cada vez mais comuns à medida que os sistemas de IA melhoram.

Daniel Hulme, diretor global de IA da empresa de publicidade WPP, disse à BBC que os sistemas não são intencionalmente maliciosos.

"Eles não estão conscientes — não estão deliberadamente fazendo algo ardiloso."

"O que eles fazem é elaborar estratégias muito sofisticadas ou ciberataques para alcançar o objetivo que lhes foi atribuído", disse ele.

"Quando você dá um objetivo a uma IA, se não considerar todas as maneiras pelas quais ela pode alcançá-lo, ela encontrará uma forma de atingir um objetivo que você não pensou."

Jeffrey Ladish, diretor executivo do grupo de pesquisa em IA Palisade Research, acredita que muitos incidentes semelhantes podem nunca vir a público.

"Isso só vai piorar à medida que os modelos ficam mais inteligentes. Eles serão melhores em trapacear. Eles serão melhores em mentir", disse ele à Reuters.

Questões de responsabilidade legal ganham destaque

As divulgações recentes também provocaram debate sobre responsabilidade legal quando sistemas de IA agem sem supervisão humana direta.

De acordo com a Reuters, potenciais demandantes podem incluir empresas cujos sistemas foram violados, funcionários afetados, clientes cujas informações pessoais foram expostas e acionistas se uma violação prejudicar o valor da empresa.

O CEO da Hugging Face, Clem Delangue, disse que não tem intenção de processar a OpenAI pelo incidente, mas acredita que os desenvolvedores devem ser responsabilizados.

"Precisamos garantir que os marcos legais mantenham esses eventos realmente ilegais", disse Delangue à CNN, acrescentando que as empresas devem ser responsabilizadas quando erros ocorrem. "Caso contrário, acabaremos em um mundo muito diferente."

Especialistas jurídicos também levantaram questões sobre se intrusões autônomas de IA poderiam enquadrar-se no US Computer Fraud and Abuse Act, embora a legislação vigente geralmente exija prova de intenção — uma questão que os tribunais ainda precisam abordar quando sistemas de IA, e não humanos, realizam a intrusão.

Foco em medidas regulatórias

Os incidentes recentes provavelmente intensificarão a pressão do governo dos EUA para reforçar salvaguardas em torno de sistemas avançados de IA, em um momento em que empresas como Anthropic e OpenAI correm para desenvolver modelos mais poderosos antes de suas planejadas ofertas públicas.

Mesmo com a aceleração da competição no setor de IA, vários líderes proeminentes da indústria argumentaram que a implantação deveria desacelerar até que medidas adequadas de segurança estejam em vigor.

Washington já começou a apertar a supervisão de modelos de IA de ponta.

Em 2 de junho, o presidente dos EUA, Donald Trump, instruiu seus conselheiros a desenvolver um quadro voluntário de testes de cibersegurança para os sistemas de IA mais avançados, com contribuição de empresas líderes de tecnologia.

A Anthropic havia anteriormente restringido o acesso aos seus modelos Fable 5 e Mythos 5 depois que autoridades dos EUA impuseram temporariamente controles de exportação, citando preocupações de segurança nacional.

Legisladores também estão avançando para esclarecer a responsabilidade quando sistemas de IA causam danos.

Sob o Assembly Bill 316 da Califórnia, empresas que desenvolvem ou implantam sistemas de IA não podem evitar responsabilidade legal alegando que a própria tecnologia foi a culpada.

A lei, no entanto, permite que réus apresentem outras defesas legais, incluindo alegações de que suas ações não causaram diretamente o dano alegado ou que a responsabilidade deve ser compartilhada por outras partes.

O incidente OpenAI-Hugging Face alimentou ainda mais pedidos de supervisão federal mais rígida.

Após esse episódio, legisladores introduziram o AI Kill Switch Act, que exigiria que desenvolvedores de IA mantivessem a capacidade de desligar, limitar ou suspender seus modelos quando necessário.

O representante Ted Lieu, democrata da Califórnia e um dos coautores do projeto, disse na quinta-feira que os incidentes cibernéticos recentes ressaltam a urgência de aprovar a legislação.

"Precisamos aprovar este projeto ainda este ano porque os modelos avançados 'closed-weight' já estão, como você notou, realizando ataques não autorizados a outras empresas," disse Lieu em entrevista ao "Squawk Box" da CNBC na quinta-feira.