Invezz : qu'est-ce que la distillation d'IA et pourquoi les États‑Unis accusent des entreprises chinoises ?

Les agences de sécurité américaines ont accusé six entreprises chinoises d'intelligence artificielle d'avoir utilisé systématiquement des modèles d'IA américains pour entraîner leurs propres systèmes, attirant à nouveau l'attention sur un processus technique connu sous le nom de distillation de modèle.

La National Security Agency, le Federal Bureau of Investigation et la Cybersecurity and Infrastructure Security Agency ont déclaré mardi que DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun et Z.AI s'étaient livrés à ce qu'elles décrivent comme « des activités de distillation agressives, malveillantes et ciblées à l'échelle industrielle qui extraient des fonctionnalités et des capacités propriétaires restreintes des modèles d'IA de pointe américains. »

Les agences ont indiqué que ces entreprises utilisaient la distillation depuis au moins 2024 pour accéder à des informations issues de modèles d'IA américains et s'en servir afin de développer leurs propres systèmes.

Qu'est‑ce que la distillation de modèles d'IA ?

La distillation est une technique utilisée pour transférer certaines capacités d'un modèle d'IA volumineux et sophistiqué vers un modèle plus petit ou plus spécialisé.

Le système plus grand est généralement appelé « modèle enseignant », tandis que le système plus petit est désigné comme le « modèle étudiant ».

Plutôt que de concevoir le modèle plus petit entièrement à partir de zéro, les développeurs l'entraînent en utilisant des informations générées par l'enseignant.

Cette approche a été formalisée par Geoffrey Hinton et ses coauteurs chez Google en 2015 comme un moyen de compresser le comportement d'un grand modèle dans un modèle plus petit en utilisant les sorties produites par le système plus volumineux.

Concrètement, un développeur peut demander à un modèle d'IA puissant de répondre à un grand nombre d'invites, puis utiliser ces réponses comme matériel d'entraînement pour un autre modèle.

Le modèle étudiant apprend les schémas présents dans les réponses de l'enseignant et peut finalement reproduire certaines de ses capacités sans nécessiter la même échelle de ressources informatiques.

Le résultat peut être un système d'IA nettement moins coûteux et plus simple à exploiter tout en conservant une grande partie des performances du modèle plus volumineux.

C'est pourquoi la distillation est un élément important des efforts de l'industrie de l'IA pour rendre des modèles de plus en plus performants plus efficaces.

La distillation a des applications légitimes dans l'ensemble du secteur de l'IA.

Les sociétés d'IA de pointe peuvent utiliser la technique pour créer des versions plus petites de leurs propres modèles, moins coûteuses à exploiter, plus rapides à répondre et mieux adaptées à des applications particulières.

Quand la distillation devient‑t‑elle controversée ?

La distillation devient problématique lorsqu'une entreprise tente de reproduire les capacités du modèle propriétaire d'une autre entreprise sans autorisation.

Un concurrent peut potentiellement utiliser des milliers voire des millions d'interactions avec un modèle de pointe pour générer des données d'entraînement pour son propre système.

Plutôt que de passer des années et des sommes énormes à développer des capacités similaires de manière indépendante, il peut utiliser les réponses d'un modèle existant comme un raccourci.

Les agences de sécurité américaines ont déclaré que des entreprises chinoises utilisaient plusieurs voies pour obtenir un accès non autorisé aux systèmes d'IA américains.

« Des sociétés d'IA basées en Chine acheminent les requêtes de distillation par de multiples voies pour obtenir un accès non autorisé, violant ainsi les conditions d'utilisation des entreprises américaines d'IA », ont‑elles écrit dans l'avis.

OpenAI et Anthropic ont accusé séparément des entreprises d'IA chinoises de tentatives d'extraction de capacités à partir de leurs modèles.

Anthropic a déclaré en February avoir mis au jour des campagnes impliquant DeepSeek, Moonshot AI et MiniMax qui cherchaient à extraire des capacités de son chatbot Claude.

Selon Anthropic, ces campagnes ont impliqué environ 16 millions d'échanges avec Claude et 24 000 comptes fictifs, MiniMax à lui seul représentant plus de 13 millions d'échanges.

OpenAI a formulé des allégations similaires en January.

Ces accusations ont fait de la distillation un point central du débat plus large sur la propriété intellectuelle et la concurrence dans l'industrie de l'IA.

La question a pris une importance particulière avec l'émergence de DeepSeek, dont le modèle d'IA peu coûteux publié l'année dernière a montré des capacités apparentes en concurrence avec les principaux systèmes américains.

Ce développement a remis en question l'idée que les États‑Unis détenaient une avance insurmontable en IA de pointe et a soulevé des questions sur la manière dont des entreprises chinoises réalisaient des performances comparables avec des structures de coûts sensiblement différentes.

Pukar Hamal, fondateur de la société de sécurité AI SecurityPal, a précédemment comparé la pratique au fait qu'un étudiant copie le travail d'un autre étudiant.

« C'est un peu comme si quelqu'un avait assisté aux cours, lu le manuel et fait tout le travail difficile des devoirs », a déclaré Hamal dans un précédent reportage de CNBC.

« Puis un autre étudiant dit : ‘Hé, je ne l'ai pas fait. Puis‑je simplement copier ton travail ?’ »

Pourquoi Washington y voit un risque pour la sécurité nationale

La dernière alerte américaine dépasse les seules préoccupations de concurrence commerciale.

Les agences ont indiqué que la distillation à l'échelle industrielle pourrait réduire les coûts de R&D pour les entreprises d'IA chinoises tout en renforçant les « capacités militaires et de cyberattaque de la Chine qui pourraient être utilisées contre les États‑Unis et nos alliés ».

Un reportage de Reuters du July 31 a indiqué que des chercheurs militaires chinois avaient utilisé des sorties de modèles d'IA américains de premier plan pour entraîner des systèmes nationaux et faire progresser des capacités de défense.

Anthropic a également soutenu que la distillation illicite peut créer un problème de sécurité parce que les protections de sécurité intégrées aux modèles américains de pointe peuvent ne pas être transférées aux systèmes résultants.

« Les modèles distillés illicitement manquent des garde‑fous nécessaires, créant des risques significatifs pour la sécurité nationale », a écrit Anthropic dans une note de February.

Les entreprises américaines d'IA mettent en place des protections destinées à empêcher que leurs modèles n'aident à des activités telles que le développement d'armes biologiques ou la conduite d'opérations cybernétiques malveillantes.

Anthropic a averti qu'un modèle créé par distillation non autorisée pourrait ne pas conserver ces protections.

La dimension militaire de l'IA élève les enjeux

La préoccupation est aussi liée aux efforts plus larges de la Chine pour intégrer l'intelligence artificielle aux capacités militaires.

Une analyse de February par le Centre for Security and Emerging Technology a examiné des appels d'offres en langue chinoise lancés par l'Armée populaire de libération entre January 2023 et December 2024.

L'analyse a conclu que la PLA poursuivait des capacités assistées par l'IA dans des domaines tels que les systèmes d'aide à la décision, l'amélioration des capteurs et la fusion de données.

Les chercheurs ont également identifié un intérêt marqué pour des technologies conçues pour contrer des avantages militaires perçus des États‑Unis, y compris des systèmes capables de détecter des actifs navals américains au‑dessus et au‑dessous de la mer, ainsi que des technologies visant à contrer des systèmes spatiaux américains.

Si des capacités d'IA avancées peuvent être acquises par distillation non autorisée plutôt que développées indépendamment, soutiennent les responsables américains, la technologie pourrait atteindre des applications militaires et de renseignement plus rapidement.

La Chine rejette les accusations

Pékin a rejeté les allégations américaines selon lesquelles des entreprises chinoises d'IA distilleraient de manière inappropriée des modèles américains de pointe.

La porte‑parole du ministère chinois des Affaires étrangères, Mao Ning, a exhorté mercredi Washington à ne pas formuler ce qu'elle a qualifié d'accusations infondées contre la Chine.

« Nous espérons que la partie américaine mettra consciencieusement en œuvre le consensus important atteint par les chefs d'État des deux pays et s'abstiendra de porter des accusations infondées et de diffamer la Chine », a déclaré Mao lors d'une conférence de presse quotidienne à Pékin.

« La Chine et les États‑Unis sont tous deux des grandes puissances dans le domaine de l'intelligence artificielle et ils devraient renforcer la coopération », a‑t‑elle ajouté.

En July, une déclaration du gouvernement chinois a de même repoussé les affirmations selon lesquelles des entreprises chinoises d'IA se reposeraient sur la distillation pour reproduire les capacités des modèles américains.

Elle a soutenu que les modèles chinois avaient atteint des capacités de niveau mondial de manière indépendante et a accusé Washington d'appliquer un double standard parce que des entreprises américaines utilisent également la distillation en R&D.

« De nombreuses entreprises américaines d'IA ont distillé des modèles chinois pour leur propre R&D et entraînement », indique la déclaration, ajoutant que les entreprises américaines s'étaient opposées aux restrictions d'accès aux modèles open source chinois.

Comment les États‑Unis réagissent

Washington a déjà commencé à examiner des mesures pour contrer ce qu'il considère comme un vol de modèles d'IA à l'échelle industrielle.

En April, le White House Office of Science and Technology Policy a publié un mémo, indiquant que l'administration Trump partagerait des renseignements avec les entreprises américaines d'IA sur des tentatives d'acteurs étrangers visant à effectuer une distillation non autorisée à l'échelle industrielle.

L'administration a également déclaré qu'elle aiderait le secteur privé à coordonner les réponses, travaillerait avec l'industrie pour développer des méthodes d'identification et d'atténuation de telles activités et examinerait des mesures pour tenir les acteurs étrangers responsables.

Des législateurs américains poursuivent aussi des mesures législatives.

Le House Foreign Affairs Committee a fait avancer en April le Deterring American AI Model Theft Act, visant à répondre aux préoccupations liées aux copies non autorisées de modèles d'IA américains.

La récente alerte de sécurité pourrait donner de l'élan à ces efforts.

Les agences ont conseillé aux développeurs d'IA américains de prendre « des mesures immédiates », notamment en modifiant les réponses aux tentatives de distillation malveillantes suspectées et en partageant des renseignements sur de telles campagnes avec d'autres entreprises d'IA.

Pourquoi la distinction importe

Le débat sur la distillation reflète en fin de compte une question plus vaste sur la manière dont les capacités d'IA doivent être développées et partagées.

En tant que technologie, la distillation n'est ni nouvelle ni intrinsèquement illicite. C'est une méthode largement utilisée pour rendre des systèmes d'IA puissants plus petits, moins coûteux et plus pratiques.

Le différend porte plutôt sur l'accès, l'autorisation et sur ce qui se passe lorsqu'un concurrent utilise les sorties d'un modèle propriétaire pour reproduire des capacités qu'une autre entreprise a mises des années et des milliards de dollars à développer.

Cette distinction est susceptible de prendre de l'importance à mesure que les modèles d'IA deviennent plus performants et que leur valeur commerciale et militaire augmente.

Pour les entreprises américaines d'IA, le défi n'est plus simplement de construire de meilleurs modèles. Elles doivent aussi protéger ces modèles pour éviter qu'ils ne servent de source bon marché de données d'entraînement pour des concurrents.

Pour les décideurs, la question est de savoir comment empêcher l'extraction non autorisée de capacités d'IA sans restreindre la recherche légitime, le développement open source et l'usage normal de la distillation dans l'industrie.

Les récentes allégations américaines contre six entreprises chinoises suggèrent que la bataille pour la supériorité en IA dépasse désormais les puces et la puissance de calcul.

De plus en plus, les sorties générées par les modèles d'IA eux‑mêmes deviennent un actif stratégique.