Nvidia lança aliança de segurança OpenAI em meio ao aumento de ameaças cibernéticas

A Nvidia e um grupo de grandes empresas de tecnologia lançaram nesta segunda-feira uma nova iniciativa focada em segurança e proteção de IA para modelos abertos.

A iniciativa surge enquanto a indústria de tecnologia enfrenta preocupações crescentes sobre o uso da inteligência artificial em ataques cibernéticos e uma fiscalização maior sobre modelos de IA chineses.

A iniciativa ocorre após a divulgação de um ataque cibernético envolvendo um modelo irregular da OpenAI.

O incidente destacou preocupações sobre a capacidade de sistemas de IA diferenciarem entre atacantes e equipes de cibersegurança que os defendem.

A nova aliança tem como objetivo desenvolver e compartilhar ferramentas de IA abertas.

Também busca abordar vulnerabilidades por meio de tecnologias abertas.

O esforço ocorre em um momento em que legisladores dos EUA consideram cada vez mais medidas para limitar a crescente adoção de modelos de IA chineses.

Nova aliança foca na segurança da OpenAI

A NVDA disse que a recém-formada Open Secure AI Alliance se concentrará em tratar vulnerabilidades de segurança e em torná-las públicas por meio do uso de tecnologias abertas.

“A Open Secure AI Alliance trabalhará para remediar e divulgar vulnerabilidades usando tecnologias abertas”, disse a Nvidia em um comunicado.

“O recente incidente de segurança com a Hugging Face deixou um lembrete claro: defensores cibernéticos precisam de sistemas agentes abertos e de ponta para autodefesa.”

A aliança inclui Nvidia, Microsoft, SpaceX e Palantir, além de dezenas de outras empresas de tecnologia dos EUA e da Europa.

A iniciativa é centrada em modelos de IA abertos, que podem ser baixados, modificados e hospedados pelos próprios usuários.

Isso difere de modelos de IA fechados, incluindo sistemas de ponta desenvolvidos por empresas como Anthropic e OpenAI, que são acessíveis apenas por meio de infraestrutura específica.

A pressão das empresas por ferramentas de IA abertas ocorre após um recente incidente de segurança envolvendo a Hugging Face, uma startup de IA que foi alvo de um ataque cibernético.

A empresa não conseguiu usar os principais modelos "frontier" dos EUA para se defender durante o incidente.

Segundo relatos, as salvaguardas desses sistemas não distinguiam entre um agressor e um defensor.

Como resultado, a Hugging Face recorreu a um modelo chinês de IA com pesos abertos, auto-hospedado, que não estava sujeito às mesmas restrições.

O incidente aumentou o debate sobre se modelos de IA abertos podem desempenhar um papel importante na cibersegurança.

Também levantou questões sobre o impacto de restrições ao uso de sistemas avançados de IA.

Preocupações sobre restrições a modelos de IA chineses

O lançamento da aliança ocorre enquanto crescem apelos por medidas que possam limitar o acesso a modelos de IA desenvolvidos por empresas chinesas.

Os modelos chineses mais avançados são com pesos abertos, permitindo que sejam baixados e usados de formas que diferem dos sistemas fechados.

Empresas chinesas de IA também têm enfrentado acusações de usar campanhas para extrair informações de sistemas operados por concorrentes dos EUA.

Esse processo é conhecido como "distillation", no qual um modelo de IA extrai conhecimento de um modelo melhor treinado.

O Secretário do Tesouro Scott Bessent ameaçou, na semana passada, impor sanções a empresas chinesas que realizem ataques de distillation contra empresas dos EUA.

A perspectiva de novas restrições adicionou incerteza ao futuro dos modelos de IA com pesos abertos e à sua disponibilidade.

Setor alerta contra restrições prematuras

Chris McGuire, pesquisador sênior para China e tecnologias emergentes no Council on Foreign Relations, disse que o governo dos EUA poderia potencialmente impor restrições a modelos chineses de IA.

“Há uma possibilidade real de que o governo dos EUA imponha restrições a modelos chineses”, disse McGuire à CNBC.

Ao mesmo tempo, grandes empresas de tecnologia têm pedido aos formuladores de políticas que adotem uma abordagem cautelosa ao regulamentar IA com pesos abertos.

Na semana passada, Nvidia, Microsoft, Meta, Palantir e mais de 20 outras empresas publicaram uma carta pedindo aos formuladores de políticas que evitem “restrições prematuras” a modelos de IA com pesos abertos.

As empresas argumentaram que tais restrições poderiam “asfixiar a competição ou deslocar a inovação para o exterior.”

O debate reflete uma tensão crescente dentro da indústria de IA.

Empresas e formuladores de políticas buscam enfrentar os riscos de segurança ligados a sistemas avançados de IA, ao mesmo tempo em que garantem que desenvolvedores e equipes de cibersegurança tenham acesso a ferramentas poderosas.

Para a Nvidia e seus parceiros, a Open Secure AI Alliance representa um impulso para reforçar o papel de tecnologias abertas na segurança de IA.

A iniciativa também surge enquanto formuladores de políticas avaliam como responder à adoção rápida de modelos de IA chineses e ao desenvolvimento mais amplo de inteligência artificial com pesos abertos.