Invezz forklarer: Hva er AI-destillasjon — og hvorfor anklager USA kinesiske selskaper?

USAs sikkerhetsbyråer har anklaget seks kinesiske AI-selskaper for systematisk å bruke amerikanske AI-modeller til å trene sine egne systemer, noe som har satt fornyet søkelys på en teknisk prosess kjent som modell-destillasjon.

USAs National Security Agency (NSA), Federal Bureau of Investigation (FBI) og Cybersecurity and Infrastructure Security Agency (CISA) sa tirsdag at DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun og Z.AI hadde drevet det de beskrev som «aggressive, ondsinnede og målrettede destillasjonsaktiviteter i industriell skala som ekstraherer begrensede proprietære funksjoner og kapasiteter fra amerikanske frontier-AI-modeller.»

Byråene opplyste at selskapene hadde brukt destillasjon siden minst 2024 for å få tilgang til informasjon fra amerikanske AI-modeller og bruke den til å utvikle egne systemer.

What is AI model distillation?

Destillasjon er en teknikk som brukes for å overføre noen av kapabilitetene til en stor, sofistikert AI-modell inn i en mindre eller mer spesialisert modell.

Det større systemet kalles vanligvis «teacher»-modellen, mens det mindre systemet omtales som «student»-modellen.

I stedet for å bygge den mindre modellen helt fra bunnen av, trener utviklere den ved hjelp av informasjon generert av teacher-modellen.

Metoden ble formalisert av Geoffrey Hinton og hans kolleger i Google i 2015 som en måte å komprimere oppførselen til en stor modell inn i en mindre ved å bruke outputtene fra det større systemet.

I praksis kan en utvikler be en kraftig AI-modell om å svare på et stort antall prompts og så bruke disse svarene som treningsmateriale for en annen modell.

Student-modellen lærer mønstre i teacher-modellens svar og kan etter hvert reprodusere noen av dens kapabiliteter uten å kreve samme omfang av datakraft.

Resultatet kan være et AI-system som er betydelig billigere og enklere å drive, samtidig som det beholder mye av ytelsen til den større modellen.

Det gjør destillasjon til en viktig del av AI-industriens arbeid med å gjøre stadig mer kapable modeller mer effektive.

Destillasjon har legitime anvendelser over hele AI-bransjen.

Frontier-AI-selskaper kan bruke teknikken til å lage mindre versjoner av egne modeller som er billigere å kjøre, raskere i respons og mer egnet for bestemte bruksområder.

When does distillation become controversial?

Destillasjon blir omstridt når et selskap forsøker å reprodusere kapabilitetene til et annet selskaps proprietære modell uten autorisasjon.

En konkurrent kan potensielt bruke tusenvis eller millioner av interaksjoner med en frontier-modell for å generere treningsdata for sitt eget system.

I stedet for å bruke år og enorme summer på å utvikle lignende kapabiliteter uavhengig, kan man bruke svarene fra en eksisterende modell som en snarvei.

USAs sikkerhetsbyråer sa at kinesiske selskaper hadde brukt flere veier for å få uautorisert tilgang til amerikanske AI-systemer.

«Kina-baserte AI-selskaper ruter destillasjonsforespørsler gjennom flere kanaler for å oppnå uautorisert tilgang, og bryter dermed USAs AI-selskapers bruksvilkår,» het det i meldingen.

OpenAI og Anthropic har hver for seg anklaget kinesiske AI-selskaper for å forsøke å ekstrahere kapabiliteter fra deres modeller.

Anthropic sa i februar at det avdekket kampanjer involvert DeepSeek, Moonshot AI og MiniMax som forsøkte å ekstrahere kapabiliteter fra deres Claude-chatbot.

Ifølge Anthropic involverte kampanjene omtrent 16 millioner utvekslinger med Claude og 24 000 falske kontoer, hvorav MiniMax alene sto for mer enn 13 millioner utvekslinger.

OpenAI fremsatte lignende påstander i januar.

Anklagene har gjort destillasjon til et sentralt tema i den bredere debatten om intellektuell eiendom og konkurranse i AI-industrien.

Spørsmålet fikk særlig oppmerksomhet etter fremveksten av DeepSeek, der deres rimelige AI-modell som ble lansert i fjor viste kapabiliteter som synes å være konkurransedyktige med ledende amerikanske systemer.

Utviklingen utfordret antakelsen om at USA hadde en uovervinnelig ledelse innen frontier-AI, og reiste spørsmål om hvordan kinesiske selskaper oppnådde sammenlignbar ytelse med vesentlig lavere kostnadsstrukturer.

Pukar Hamal, grunnlegger av AI-sikkerhetsselskapet SecurityPal, sammenlignet tidligere praksisen med at en student kopierer en annen students arbeid.

«Det er nesten som om noen gikk på forelesningene, leste læreboka og gjorde alt det harde arbeidet med leksene,» sa Hamal i en tidligere CNBC-rapport.

«Så kommer en annen student og sier: ‘Hei, jeg gjorde ikke det. Kan jeg bare kopiere arbeidet ditt?’»

Why Washington sees a national security risk

Den siste amerikanske veiledningen går utover bekymringer om kommersiell konkurranse.

Byråene sa at destillasjon i industriell skala kunne redusere forsknings- og utviklingskostnader for kinesiske AI-selskaper samtidig som det styrket Kinas «militære og cyberangrepskapasiteter som kan brukes mot USA og våre allierte.»

En Reuters-rapport 31. juli sa at kinesiske militære forskere hadde brukt outputs fra ledende amerikanske AI-modeller til å trene nasjonale systemer og fremme forsvarskapabiliteter.

Anthropic har også hevdet at ulovlig destillasjon kan skape et sikkerhetsproblem fordi sikkerhetsbeskyttelser innebygd i amerikanske frontier-modeller kanskje ikke overføres til de resulterende systemene.

«Ulovlig destillerte modeller mangler nødvendige sikkerhetsmekanismer, noe som skaper betydelige nasjonale sikkerhetsrisikoer,» sa Anthropic i et notat i februar.

Amerikanske AI-selskaper bygger inn sikkerhetsmekanismer som skal forhindre at modellene deres bidrar til aktiviteter som utvikling av biologiske våpen eller utførelse av ondsinnede cyberoperasjoner.

Anthropic har advart om at en modell opprettet gjennom uautorisert destillasjon kanskje ikke vil bevare disse beskyttelsene.

AI's military dimension raises the stakes

Bekymringen henger også sammen med Kinas bredere innsats for å integrere kunstig intelligens i militære kapabiliteter.

En februar-analyse fra Centre for Security and Emerging Technology undersøkte kineskspråklige forespørsler om tilbud utstedt av Folkets frigjøringshær mellom januar 2023 og desember 2024.

Analysen fant at PLA arbeidet med AI-aktiverte kapabiliteter innen områder som beslutningsstøttesystemer, sensorforbedring og datafusjon.

Forskerne identifiserte også betydelig interesse for teknologier ment å motvirke oppfattede amerikanske militære fordeler, inkludert systemer som kan oppdage amerikanske marinefartøy over og under havoverflaten og teknologier rettet mot å motvirke amerikanske rombaserte systemer.

Hvis avanserte AI-kapabiliteter kan anskaffes gjennom uautorisert destillasjon i stedet for å utvikles uavhengig, frykter amerikanske tjenestemenn at teknologien kan nå militære og etterretningsmessige anvendelser raskere.

China rejects the accusations

Beijing har avvist USAs anklager om at kinesiske AI-selskaper ulovlig destillerer amerikanske frontier-modeller.

Kinas utenriksdepartements talskvinne Mao Ning oppfordret onsdag Washington om ikke å komme med det hun kalte grunnløse anklager mot Kina.

«Vi håper den amerikanske siden vil etterleve den viktige konsensusen som ble nådd av de to statssjefer og avstå fra å fremsette grunnløse anklager og å smøre Kina,» sa Mao på en daglig pressekonferanse i Beijing.

«Både Kina og USA er store land innen kunstig intelligens, og de bør styrke samarbeid,» la hun til.

I juli avviste en kinesisk regjeringsuttalelse på lignende vis påstandene om at kinesiske AI-selskaper var avhengige av destillasjon for å reprodusere amerikanske AI-kapabiliteter.

Den hevdet at kinesiske modeller hadde oppnådd verdensledende kapabiliteter uavhengig og anklaget Washington for å bruke dobbel standard fordi amerikanske selskaper også bruker destillasjon i forskning og utvikling.

«Mange amerikanske AI-selskaper har destillert fra Kinas modeller for sin egen FoU og trening,» lød uttalelsen, som også sa at amerikanske selskaper hadde motarbeidet restriksjoner på tilgang til kinesiske open-source-modeller.

How the US is responding

Washington har allerede begynt å vurdere tiltak for å motvirke det de ser på som industriell AI-modell-tyveri.

I april utstedte The White House Office of Science and Technology Policy et memorandum, hvor det ble sagt at Trump-administrasjonen ville dele etterretning med amerikanske AI-selskaper om forsøk fra utenlandske aktører på å gjennomføre uautoriserte, industrielle destillasjonskampanjer.

Administrasjonen sa også at den ville hjelpe privat sektor med å koordinere svar, samarbeide med industrien for å utvikle metoder for å identifisere og begrense slik aktivitet og vurdere tiltak for å holde utenlandske aktører ansvarlige.

Også amerikanske lovgivere jobber med dette.

House Foreign Affairs Committee behandlet i april Deterring American AI Model Theft Act, rettet mot bekymringer rundt uautorisert kopiering av amerikanske AI-modeller.

Den siste sikkerhetsadvarselen kan gi disse tiltakene større fart.

Byråene rådet amerikanske AI-utviklere til å iverksette «øyeblikkelige tiltak», inkludert å endre svar på mistenkte ondsinnede destillasjonsforsøk og å dele etterretning om slike kampanjer med andre AI-selskaper.

Why the distinction matters

Debatten om destillasjon reflekterer i siste instans et større spørsmål om hvordan AI-kapabiliteter bør utvikles og deles.

Som teknologi er destillasjon verken ny eller iboende ulovlig. Det er en mye brukt metode for å gjøre kraftige AI-systemer mindre, billigere og mer praktiske.

Striden handler snarere om tilgang, autorisasjon og hva som skjer når en konkurrent bruker en proprietær modells output for å reprodusere kapabiliteter som et annet selskap brukte år og milliarder av dollar på å utvikle.

Den distinksjonen vil trolig bli stadig viktigere ettersom AI-modeller blir mer kapable og deres kommersielle og militære verdi øker.

For amerikanske AI-selskaper handler utfordringen ikke lenger bare om å bygge bedre modeller. De må også beskytte disse modellene mot å bli brukt som en rimelig kilde til treningsdata av konkurrenter.

For beslutningstakere er spørsmålet hvordan man kan forhindre uautorisert ekstrahering av AI-kapabiliteter uten å innskrenke legitim forskning, open-source-utvikling og normal bruk av destillasjon i bransjen.

De siste amerikanske anklagene mot seks kinesiske selskaper tyder på at kampen om AI-lederskap går utover chips og regnekraft.

I økende grad blir outputene som genereres av AI-modeller selv en strategisk ressurs.