Invezz forklarer: Hvad er AI-destillation, og hvorfor anklager USA kinesiske firmaer?

USA's sikkerhedsmyndigheder har anklaget seks kinesiske virksomheder inden for kunstig intelligens for systematisk at bruge amerikanske AI-modeller til at træne deres egne systemer, hvilket har genoplivet opmærksomheden om en teknisk proces kendt som destillation af modeller.

National Security Agency, Federal Bureau of Investigation og Cybersecurity and Infrastructure Security Agency sagde tirsdag, at DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun og Z.AI havde deltaget i det, de beskrev som “aggressive, malicious, and targeted distillation activities at an industrial scale that extract restricted proprietary functionalities and capabilities of US frontier AI models.”

Myndighederne oplyste, at virksomhederne havde brugt destillation mindst siden 2024 for at få adgang til information fra amerikanske AI-modeller og anvende den til at udvikle deres egne systemer.

Hvad er AI-modeldestillation?

Destillation er en teknik, der bruges til at overføre nogle af kapabiliteterne fra en stor, sofistikeret AI-model til en mindre eller mere specialiseret model.

Det større system kaldes generelt for "lærermodellen", mens det mindre system omtales som "elevmodellen".

I stedet for at bygge den mindre model helt fra bunden træner udviklere den ved hjælp af information genereret af lærermodellen.

Tilgangen blev formaliseret af Geoffrey Hinton og hans medforfattere fra Google i 2015 som en måde at komprimere adfærden fra en stor model ind i en mindre ved at bruge outputtene fra det større system.

I praksis kan en udvikler bede en kraftfuld AI-model om at svare på et stort antal prompts og derefter bruge disse svar som træningsmateriale for en anden model.

Elevmodellen lærer mønstre i lærermodelens svar og kan til sidst reproducere nogle af dens kapabiliteter uden at kræve samme skala af beregningsressourcer.

Resultatet kan være et AI-system, der er betydeligt billigere og nemmere at drive, samtidig med at det bevarer meget af ydelsen fra den større model.

Det gør destillation til en vigtig del af AI-industriens bestræbelser på at gøre stadig mere kapable modeller mere effektive.

Destillation har legitime anvendelser på tværs af AI-industrien.

Frontier-AI-virksomheder kan bruge teknikken til at skabe mindre versioner af deres egne modeller, som er billigere at køre, hurtigere til at svare og bedre egnet til særlige anvendelser.

Hvornår bliver destillation kontroversiel?

Destillation bliver omstridt, når en virksomhed forsøger at reproducere kapabiliteterne fra en anden virksomheds proprietære model uden autorisation.

En konkurrent kan potentielt bruge tusinder eller millioner af interaktioner med en frontier-model til at generere træningsdata til sit eget system.

I stedet for at bruge år og enorme summer på at udvikle lignende kapabiliteter uafhængigt kan man bruge svarene fra en eksisterende model som en genvej.

USA's sikkerhedsmyndigheder sagde, at kinesiske virksomheder havde brugt flere kanaler for at få uautoriseret adgang til amerikanske AI-systemer.

"China-based AI companies route distillation requests through multiple pathways to gain unauthorized access, consequently violating US AI companies' terms of use," skrev de i meddelelsen.

OpenAI og Anthropic har hver for sig anklaget kinesiske AI-virksomheder for at forsøge at udtrække kapabiliteter fra deres modeller.

Anthropic sagde i februar, at det havde afdækket kampagner involverende DeepSeek, Moonshot AI og MiniMax, der forsøgte at udtrække kapabiliteter fra deres chatbot Claude.

Ifølge Anthropic involverede kampagnerne cirka 16 millioner udvekslinger med Claude og 24.000 falske konti, hvor MiniMax alene stod for mere end 13 millioner udvekslinger.

OpenAI fremsatte lignende påstande i januar.

Anklagerne har gjort destillation til et centralt punkt i den bredere debat om intellektuel ejendomsret og konkurrence i AI-industrien.

Sagen fik særlig opmærksomhed efter fremkomsten af DeepSeek, hvis lavpris-AI-model, der blev frigivet sidste år, viste kapabiliteter, som virkede konkurrencedygtige med førende amerikanske systemer.

Udviklingen udfordrede antagelsen om, at USA havde en ubestridt førerposition inden for frontier-AI, og rejste spørgsmål om, hvordan kinesiske virksomheder opnåede sammenlignelig ydeevne med væsentligt forskellige omkostningsstrukturer.

Pukar Hamal, grundlægger af AI-sikkerhedsvirksomheden SecurityPal, sammenlignede tidligere praksissen med en studerende, der kopierer en anden studerendes arbejde.

"Det er næsten som om, nogen har været til forelæsningerne, læst lærebogen og lavet det hårde arbejde med lektierne," sagde Hamal i en tidligere CNBC‑reportage.

"Så kommer en anden studerende og siger: ’Hey, jeg gjorde ikke det. Kan jeg bare kopiere dit arbejde?’"

Hvorfor Washington ser det som en national sikkerhedsrisiko

Den seneste amerikanske vejledning går ud over bekymringer om kommerciel konkurrence.

Myndighederne sagde, at destillation i industriel skala kunne reducere forsknings- og udviklingsomkostningerne for kinesiske AI-virksomheder samtidig med, at det kunne øge Kinas "military and cyberattack capabilities that could be used against the US and our allies."

En Reuters-rapport den 31. juli sagde, at kinesiske militære forskere havde brugt output fra førende amerikanske AI-modeller til at træne hjemlige systemer og fremme forsvarskapabiliteter.

Anthropic har også hævdet, at ulovlig destillation kan skabe et sikkerhedsproblem, fordi sikkerhedsforanstaltninger indbygget i amerikanske frontier-modeller måske ikke overføres til de resulterende systemer.

"Illicitly distilled models lack necessary safeguards, creating significant national security risks," skrev Anthropic i en note i februar.

Amerikanske AI-virksomheder bygger beskyttelsesmekanismer ind for at forhindre, at deres modeller hjælper med aktiviteter som udvikling af biologiske våben eller udførelse af ondsindede cyberoperationer.

Anthropic har advaret om, at en model skabt gennem uautoriseret destillation muligvis ikke bevarer disse beskyttelser.

AI's militære dimension øger indsatsen

Bekymringen hænger også sammen med Kinas bredere bestræbelser på at integrere kunstig intelligens i militære kapabiliteter.

En februar-analyse fra Centre for Security and Emerging Technology undersøgte udbudsanmodninger på kinesisk udstedt af Folkets Befrielseshær mellem januar 2023 og december 2024.

Analysen fandt, at PLA søgte AI-drevne kapabiliteter inden for områder som beslutningsstøttesystemer, sensorforbedring og datafusion.

Forskerne identificerede også betydelig interesse for teknologier designet til at modvirke opfattede amerikanske militære fordele, herunder systemer i stand til at opdage amerikanske flåderessourcer over og under havet samt teknologier rettet mod at neutralisere amerikanske rum-baserede systemer.

Hvis avancerede AI-kapabiliteter kan erhverves gennem uautoriseret destillation i stedet for at blive udviklet uafhængigt, argumenterer amerikanske embedsmænd, at teknologien kan nå militære og efterretningsmæssige anvendelser hurtigere.

Kina afviser anklagerne

Beijing har afvist USA's påstande om, at kinesiske AI-virksomheder uretmæssigt destillerer amerikanske frontier-modeller.

Talskvinde for det kinesiske udenrigsministerium Mao Ning opfordrede onsdag Washington til ikke at fremsætte det, hun kaldte, grundløse anklager mod Kina.

"Vi håber, at den amerikanske side oprigtigt vil implementere den vigtige konsensus, som statslederne for de to lande nåede, og afholde sig fra at fremsætte grundløse anklager og smøre Kina," sagde Mao på en daglig pressekonference i Beijing.

"Både Kina og USA er store lande inden for kunstig intelligens, og de bør styrke samarbejdet," sagde hun.

I juli afviste en kinesisk regeringserklæring tilsvarende påstande om, at kinesiske AI-virksomheder var afhængige af destillation for at reproducere amerikanske AI-kapabiliteter.

Den hævdede, at kinesiske modeller uafhængigt havde opnået verdensførende kapabiliteter og anklagede Washington for at anvende en dobbelt standard, fordi amerikanske virksomheder også bruger destillation i forskning og udvikling.

"Mange amerikanske AI-virksomheder har destilleret fra Kinas modeller til deres egen R&D og træning," lød erklæringen og tilføjede, at amerikanske virksomheder havde modsat sig begrænsninger i adgangen til kinesiske open-source-modeller.

Hvordan USA reagerer

Washington er allerede begyndt at overveje tiltag for at imødegå det, man ser som industriel skala-tyveri af AI-modeller.

I april udsendte Det Hvide Hus' Kontor for Videnskab og Teknologipolitik et memorandum og sagde, at administrationen ville dele efterretninger med amerikanske AI-virksomheder om forsøg fra udenlandske aktører på at gennemføre uautoriseret, industriel-dimension destillation.

Administration sagde også, at den ville hjælpe den private sektor med at koordinere reaktioner, arbejde med industrien for at udvikle metoder til at identificere og afbøde sådan aktivitet og undersøge foranstaltninger til at holde udenlandske aktører ansvarlige.

Lovgivere i USA arbejder også på lovgivning.

House Foreign Affairs Committee fremrykkede i april Deterring American AI Model Theft Act, som har til formål at adressere bekymringer om uautoriseret kopiering af amerikanske AI-modeller.

Den seneste sikkerhedsvejledning kan give yderligere momentum til disse bestræbelser.

Myndighederne rådede amerikanske AI-udviklere til at tage "umiddelbare skridt," herunder at ændre svar på mistænkte ondsindede destillationsforsøg og dele efterretninger om sådanne kampagner med andre AI-virksomheder.

Hvorfor sondringen er vigtig

Debatten om destillation afspejler i sidste ende et større spørgsmål om, hvordan AI-kapabiliteter bør udvikles og deles.

Som teknologi er destillation hverken ny eller iboende ulovlig. Det er en udbredt metode til at gøre kraftfulde AI-systemer mindre, billigere og mere praktiske.

Striden handler i stedet om adgang, autorisation og hvad der sker, når en konkurrent bruger en proprietær models output til at reproducere kapabiliteter, som en anden virksomhed har brugt år og milliarder af dollars på at udvikle.

Den sondring vil sandsynligvis blive stadig vigtigere, efterhånden som AI-modeller bliver mere kapable, og deres kommercielle og militære værdi stiger.

For amerikanske AI-virksomheder er udfordringen ikke længere blot at bygge bedre modeller. De skal også beskytte disse modeller mod at blive brugt som en billig kilde til træningsdata af konkurrenter.

For politiske beslutningstagere er spørgsmålet, hvordan man forhindrer uautoriseret udtræk af AI-kapabiliteter uden at begrænse legitim forskning, open-source-udvikling og normal brug af destillation i branchen.

De seneste amerikanske anklager mod seks kinesiske virksomheder antyder, at kampen om AI-lederskab bevæger sig ud over chips og beregningskraft.

I stigende grad bliver de output, som AI-modeller genererer, selv en strategisk ressource.