Invezz explica: o que é a destilação de IA e por que os EUA acusam empresas chinesas disso?

Agências de segurança dos EUA acusaram seis empresas chinesas de inteligência artificial de usar sistematicamente modelos de IA americanos para treinar seus próprios sistemas, atraindo nova atenção para um processo técnico conhecido como destilação de modelos.

A National Security Agency, o Federal Bureau of Investigation e a Cybersecurity and Infrastructure Security Agency disseram na terça-feira que DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun e Z.AI se engajaram no que descreveram como “atividades de destilação agressivas, maliciosas e direcionadas em escala industrial que extraem funcionalidades e capacidades proprietárias restritas de modelos de IA de fronteira dos EUA.”

As agências disseram que as empresas vinham usando a destilação desde pelo menos 2024 para obter acesso a informações de modelos de IA dos EUA e usá-las para desenvolver seus próprios sistemas.

O que é destilação de modelos de IA?

A destilação é uma técnica usada para transferir parte das capacidades de um modelo de IA grande e sofisticado para um modelo menor ou mais especializado.

O sistema maior é geralmente conhecido como modelo “professor”, enquanto o sistema menor é chamado de modelo “aluno”.

Em vez de construir o modelo menor totalmente do zero, os desenvolvedores o treinam usando informação gerada pelo professor.

A abordagem foi formalizada por Geoffrey Hinton e seus coautores do Google em 2015 como uma forma de comprimir o comportamento de um grande modelo em um menor, usando as saídas produzidas pelo sistema maior.

Na prática, um desenvolvedor pode pedir a um modelo de IA poderoso que responda a grande número de prompts e então usar essas respostas como material de treinamento para outro modelo.

O modelo aluno aprende padrões nas respostas do professor e pode eventualmente reproduzir parte de suas capacidades sem exigir a mesma escala de recursos de computação.

O resultado pode ser um sistema de IA consideravelmente mais barato e fácil de operar, mantendo grande parte do desempenho do modelo maior.

Isso torna a destilação uma parte importante dos esforços da indústria de IA para tornar modelos cada vez mais capazes mais eficientes.

A destilação tem aplicações legítimas em toda a indústria de IA.

Empresas de ponta em IA podem usar a técnica para criar versões menores de seus próprios modelos que são mais baratas de operar, respondem mais rápido e são mais adequadas para aplicações específicas.

Quando a destilação se torna controversa?

A destilação se torna controversa quando uma empresa tenta reproduzir as capacidades do modelo proprietário de outra empresa sem autorização.

Um concorrente pode potencialmente usar milhares ou milhões de interações com um modelo de fronteira para gerar dados de treinamento para seu próprio sistema.

Em vez de gastar anos e somas enormes desenvolvendo capacidades semelhantes de forma independente, ele pode usar as respostas de um modelo existente como atalho.

As agências de segurança dos EUA disseram que empresas chinesas vinham usando múltiplas vias para obter acesso não autorizado a sistemas americanos de IA.

"Empresas de IA sediadas na China encaminham pedidos de destilação por múltiplas vias para obter acesso não autorizado, consequentemente violando os termos de uso de empresas americanas de IA", disseram elas no aviso.

OpenAI e Anthropic acusaram separadamente empresas chinesas de IA de tentar extrair capacidades de seus modelos.

A Anthropic disse em fevereiro que havia descoberto campanhas envolvendo DeepSeek, Moonshot AI e MiniMax que buscavam extrair capacidades de seu chatbot Claude.

Segundo a Anthropic, as campanhas envolveram aproximadamente 16 milhões de trocas com o Claude e 24.000 contas falsas, com a MiniMax respondendo por mais de 13 milhões de trocas.

A OpenAI fez alegações semelhantes em janeiro.

As acusações tornaram a destilação um ponto central no debate mais amplo sobre propriedade intelectual e competição na indústria de IA.

A questão ganhou particular destaque com o surgimento do DeepSeek, cujo modelo de IA de baixo custo lançado no ano passado demonstrou capacidades que pareciam competitivas com sistemas líderes dos EUA.

O desenvolvimento desafiou suposições de que os EUA detinham vantagem inabalável na IA de fronteira e levantou dúvidas sobre como empresas chinesas estavam alcançando desempenho comparável com estruturas de custo substancialmente diferentes.

Pukar Hamal, fundador da empresa de segurança em IA SecurityPal, comparou anteriormente a prática a um estudante copiando o trabalho de outro.

“É quase como alguém que foi às aulas, leu o livro e fez todo o trabalho duro dos exercícios,” disse Hamal em uma reportagem anterior da CNBC.

“Aí vem outro estudante e diz: ‘Ei, eu não fiz isso. Posso simplesmente copiar seu trabalho?’”

Por que Washington vê um risco à segurança nacional

O mais recente aviso dos EUA vai além de preocupações sobre competição comercial.

As agências disseram que a destilação em escala industrial poderia reduzir os custos de P&D para empresas chinesas de IA enquanto aprimora as “capacidades militares e de ataque cibernético da China que poderiam ser usadas contra os EUA e nossos aliados.”

Uma reportagem da Reuters em 31 de julho disse que pesquisadores militares chineses haviam usado saídas de modelos de IA líderes dos EUA para treinar sistemas domésticos e avançar capacidades de defesa.

A Anthropic também argumentou que a destilação ilícita pode criar um problema de segurança porque proteções de segurança embutidas em modelos americanos de fronteira podem não ser transferidas para os sistemas resultantes.

"Modelos destilados ilicitamente carecem das salvaguardas necessárias, criando riscos significativos à segurança nacional", disse a Anthropic em uma nota de fevereiro.

Empresas americanas de IA constroem salvaguardas destinadas a impedir que seus modelos auxiliem em atividades como desenvolvimento de armas biológicas ou condução de operações cibernéticas maliciosas.

A Anthropic alertou que um modelo criado por meio de destilação não autorizada pode não reter essas proteções.

A dimensão militar da IA aumenta as apostas

A preocupação também está ligada aos esforços mais amplos da China para integrar inteligência artificial em capacidades militares.

Uma análise de fevereiro do Centre for Security and Emerging Technology examinou pedidos de propostas em chinês emitidos pelo Exército Popular de Libertação entre janeiro de 2023 e dezembro de 2024.

A análise concluiu que o PLA perseguia capacidades habilitadas por IA em áreas como sistemas de apoio à decisão, aprimoramento de sensores e fusão de dados.

Os pesquisadores também identificaram interesse significativo em tecnologias projetadas para contrariar vantagens militares percebidas dos EUA, incluindo sistemas capazes de detectar ativos navais americanos acima e abaixo do mar e tecnologias destinadas a contrariar sistemas espaciais americanos.

Se capacidades avançadas de IA puderem ser adquiridas por meio de destilação não autorizada em vez de serem desenvolvidas de forma independente, argumentam oficiais dos EUA, a tecnologia poderia chegar a aplicações militares e de inteligência mais rapidamente.

A China rejeita as acusações

Pequim rejeitou as alegações dos EUA de que empresas chinesas de IA estariam destilando indevidamente modelos americanos de fronteira.

A porta-voz do Ministério das Relações Exteriores da China, Mao Ning, na quarta-feira instou Washington a não fazer o que ela chamou de acusações infundadas contra a China.

"Esperamos que o lado dos EUA implemente de forma diligente o importante consenso alcançado pelos chefes de Estado dos dois países e se abstenha de fazer acusações infundadas e difamar a China", disse Mao em uma coletiva diária de imprensa em Pequim.

"Tanto a China quanto os EUA são países importantes no campo da inteligência artificial e devem fortalecer a cooperação", acrescentou.

Em julho, uma declaração do governo chinês igualmente rejeitou as alegações de que empresas chinesas de IA estavam recorrendo à destilação para reproduzir capacidades de IA dos EUA.

O texto argumentou que modelos chineses haviam atingido capacidades de nível mundial de forma independente e acusou Washington de aplicar um padrão duplo porque empresas americanas também usam destilação em P&D e treinamento.

"Muitas empresas americanas de IA destilaram modelos chineses para seu próprio P&D e treinamento", dizia a declaração, acrescentando que empresas americanas se opuseram a restrições de acesso a modelos chineses de código aberto.

Como os EUA estão respondendo

Washington já começou a considerar medidas para combater aquilo que vê como roubo de modelos de IA em escala industrial.

Em abril, o White House Office of Science and Technology Policy emitiu um memorando, dizendo que a administração Trump compartilharia inteligência com empresas americanas de IA sobre tentativas de atores estrangeiros de conduzir destilação não autorizada em escala industrial.

A administração também disse que ajudaria o setor privado a coordenar respostas, trabalharia com a indústria para desenvolver métodos de identificação e mitigação dessa atividade e exploraria medidas para responsabilizar atores estrangeiros.

Legisladores americanos também estão buscando legislação.

O House Foreign Affairs Committee avançou em abril com o Deterring American AI Model Theft Act, destinado a abordar preocupações sobre cópia não autorizada de modelos de IA dos EUA.

O último aviso de segurança pode dar impulso a esses esforços.

As agências aconselharam desenvolvedores americanos de IA a tomar "ação imediata", incluindo mudar respostas a tentativas suspeitas de destilação maliciosa e compartilhar inteligência sobre tais campanhas com outras empresas de IA.

Por que a distinção importa

O debate sobre destilação reflete, em última instância, uma questão maior sobre como capacidades de IA devem ser desenvolvidas e compartilhadas.

Como tecnologia, a destilação não é nova nem inerentemente ilícita. É um método amplamente usado para tornar sistemas de IA poderosos menores, mais baratos e mais práticos.

A disputa é, em vez disso, sobre acesso, autorização e o que acontece quando um concorrente usa as saídas de um modelo proprietário para reproduzir capacidades que custaram a outra empresa anos e bilhões de dólares para desenvolver.

Essa distinção tende a se tornar cada vez mais importante à medida que modelos de IA se tornam mais capazes e seu valor comercial e militar aumenta.

Para empresas americanas de IA, o desafio não é mais apenas construir modelos melhores. Elas também precisam proteger esses modelos contra o uso como fonte barata de dados de treinamento por concorrentes.

Para formuladores de políticas, a questão é como prevenir a extração não autorizada de capacidades de IA sem restringir pesquisa legítima, desenvolvimento open-source e o uso normal da destilação na indústria.

As recentes acusações dos EUA contra seis empresas chinesas sugerem que a batalha pela liderança em IA está avançando além dos chips e do poder de computação.

Cada vez mais, as saídas geradas por modelos de IA em si estão se tornando um ativo estratégico.