Invezz selittää: mitä on AI-destillointi ja miksi Yhdysvallat syyttää kiinalaisyhtiöitä?

Yhdysvaltojen turvallisuusviranomaiset ovat syyttäneet kuutta kiinalaista tekoälyyritystä siitä, että ne ovat systemaattisesti käyttäneet amerikkalaisia AI-malleja omien järjestelmiensä kouluttamiseen, mikä on tuonut uutta huomiota tekniseen prosessiin, jota kutsutaan mallin destilloinniksi.

National Security Agency, Federal Bureau of Investigation ja Cybersecurity and Infrastructure Security Agency sanoivat tiistaina, että DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun ja Z.AI olivat tehneet sitä, mitä viranomaiset kuvasivat "aggressiivisiksi, haitallisiksi ja kohdennetuiksi destillointitoimiksi teollisessa mittakaavassa, jotka poimivat yhdysvaltalaisten huippu-AI-mallien rajoitettuja, omistusoikeudellisia toimintoja ja kyvykkyyksiä."

Viranomaiset sanoivat, että yhtiöt ovat käyttäneet destillointia ainakin vuodesta 2024 saadakseen pääsyn yhdysvaltalaisten AI-mallien tuottamaan tietoon ja hyödyntääkseen sitä omien järjestelmiensä kehittämisessä.

Mitä AI-mallin destillointi on?

Destillointi on tekniikka, jolla siirretään osia suuren, kehittyneen AI-mallin kyvykkyyksistä pienempään tai erikoistuneempaan malliin.

Suurempaa järjestelmää kutsutaan yleisesti "opettaja"-malliksi, kun taas pienempää kutsutaan "opiskelija"-malliksi.

Sen sijaan, että pienempää mallia rakennettaisiin täysin alusta asti, kehittäjät kouluttavat sitä käyttämällä opettajan tuottamaa tietoa.

Lähestymistapa formalisoitiin Geoffrey Hintonin ja hänen Google-kollegoidensa toimesta vuonna 2015 tapana pakata suuren mallin käyttäytyminen pienempään malliin hyödyntämällä suuremman järjestelmän tuottamia vastauksia.

Käytännössä kehittäjä voi pyytää tehokasta AI-mallia vastaamaan suuriin määriin kehotteita ja käyttää näitä vastauksia toisen mallin koulutusmateriaalina.

Opiskelija-malli oppii opettajan vastausten kaavoja ja voi lopulta toistaa osan sen kyvykkyyksistä ilman samanlaista laskentaskaalan tarvetta.

Tulos voi olla AI-järjestelmä, jonka käyttökustannukset ovat huomattavasti pienemmät ja joka on helpompi operoida säilyttäen kuitenkin suuren mallin suorituskyvystä merkittävän osan.

Siksi destillointi on tärkeä osa AI-teollisuuden pyrkimystä tehdä yhä kyvykkäämmistä malleista tehokkaampia.

Destilloinnilla on laillisia ja perusteltuja sovelluksia koko AI-teollisuudessa.

Kärki-AI‑yritykset voivat käyttää tekniikkaa luodakseen omista malleistaan pienempiä versioita, jotka ovat halvempi ajaa, nopeampia vastata ja paremmin soveltuvia tiettyihin käyttötapauksiin.

Milloin destillointi muuttuu kiistanalaiseksi?

Destillointi herättää kiistaa, kun yritys yrittää toistaa toisen yrityksen omistusoikeudellisten mallien kyvykkyyksiä ilman lupaa.

Kilpailija voi mahdollisesti käyttää tuhansia tai miljoonia vuorovaikutuksia huippumallin kanssa tuottaakseen koulutusdataa omalle järjestelmälleen.

Sen sijaan, että kehittäisi vastaavia kyvykkyyksiä itsenäisesti vuosien ja valtavien kustannusten edestä, se voi käyttää olemassa olevan mallin vastauksia oikopolkuina.

Yhdysvaltojen turvallisuusviranomaiset sanoivat, että kiinalaisyhtiöt ovat käyttäneet useita reittejä saadakseen luvattoman pääsyn amerikkalaisiin AI-järjestelmiin.

"Kiinassa toimivat AI-yritykset reitittävät destillointipyynnöt useiden kanavien kautta saadakseen luvattoman pääsyn, mikä johtaa Yhdysvaltain AI-yritysten käyttöehtojen rikkomiseen," he sanoivat tiedotteessa.

OpenAI ja Anthropic ovat erikseen syyttäneet kiinalaisia AI-yrityksiä pyrkimyksistä poimia kyvykkyyksiä heidän malleistaan.

Anthropic kertoi helmikuussa, että se oli havahtunut kampanjoihin, jotka koskivat DeepSeekiä, Moonshot AI:ta ja MiniMaxia ja jotka pyrkivät poimimaan kyvykkyyksiä sen Claude‑chatbotista.

Anthropicin mukaan kampanjat sisälsivät noin 16 miljoonaa vaihtoa Clauden kanssa ja 24 000 väärennettyä tiliä, joista MiniMax vastasi yksin yli 13 miljoonasta vaihdosta.

OpenAI esitti samantapaisia väitteitä tammikuussa.

Syytökset ovat nostaneet destilloinnin keskeiseksi keskustelunaiheeksi tekijänoikeuksiin ja kilpailuun liittyvässä laajemmassa keskustelussa AI‑alalla.

Asia sai erityistä huomiota DeepSeekin esiinmarssin jälkeen, jonka viime vuonna julkaistu edullinen AI‑malli osoitti kyvykkyyksiä, jotka näyttivät kilpailevan johtavien yhdysvaltalaisten järjestelmien kanssa.

Kehitys kyseenalaisti oletuksia siitä, että Yhdysvalloilla olisi kiistaton johtoasema huippu‑AI:ssa, ja herätti kysymyksiä siitä, miten kiinalaiset yritykset saavuttivat vastaavaa suorituskykyä olennaisesti erilaisilla kustannusrakenteilla.

Pukar Hamal, AI‑turvallisuusyritys SecurityPalin perustaja, on aiemmin verrannut käytäntöä opiskelijan toisen opiskelijan töiden kopioimiseen.

"Se on melkein kuin joku olisi käynyt luennoilla, lukenut oppikirjan ja tehnyt kaiken vaikean työn kotitehtävissä," Hamal sanoi aiemmassa CNBC‑raportissa.

"Sitten joku toinen opiskelija sanoo: 'Hei, en tehnyt sitä. Voinko vain kopioida työsi?'"

Miksi Washington näkee kansallisen turvallisuuden riskin

Viimeisin yhdysvaltalainen ohjeistus menee pidemmälle kuin kaupallisen kilpailun huolet.

Viranomaiset sanoivat, että teollisessa mittakaavassa toteutettu destillointi voisi vähentää kiinalaisten AI‑yritysten tutkimus‑ ja kehityskuluja samalla kun se vahvistaisi Kiinan "sotilaallisia ja kyberhyökkäysten kyvykkyyksiä, joita voitaisiin käyttää Yhdysvaltoja ja liittolaisiamme vastaan."

Reutersin 31. heinäkuuta julkaisema raportti kertoi, että kiinalaiset sotilastutkijat olivat käyttäneet johtavien yhdysvaltalaisten AI‑mallien tuottamia vastauksia kotimaisten järjestelmien kouluttamiseen ja puolustuskyvykkyyksien edistämiseen.

Anthropic on myös vedonnut, että laiton destillointi voi luoda turvallisuusongelman, koska yhdysvaltalaisten huippumallien sisäänrakennetut turvallisuussuojaukset eivät välttämättä siirry näihin syntyneisiin järjestelmiin.

"Luvattomasti destilloiduista malleista puuttuu tarvittavat suojaukset, mikä luo merkittäviä kansallisen turvallisuuden riskejä," Anthropic totesi helmikuun muistiossaan.

Yhdysvaltalaiset AI‑yritykset rakentavat suojausmekanismeja, joiden tarkoituksena on estää mallien avustaminen esimerkiksi biologisten aseiden kehittämisessä tai haitallisten kyberoperaatioiden toteuttamisessa.

Anthropic on varoittanut, että luvattomasti destilloinnilla luotu malli ei välttämättä säilytä näitä suojauksia.

AI:n sotilaallinen ulottuvuus nostaa panoksia

Huoli liittyy myös Kiinan laajempiin pyrkimyksiin integroida tekoäly sotilaallisiin kyvykkyyksiin.

Centre for Security and Emerging Technologyin (CSET) helmikuun analyysi tarkasteli kiinankielisiä tarjouspyyntöjä, jotka Kansan vapautusarmeija julkaisi tammikuun 2023 ja joulukuun 2024 välisenä aikana.

Analyysi totesi, että PLA pyrki AI‑kyvykkyyksiin useilla alueilla, mukaan lukien päätöksenteon tukijärjestelmät, antureiden parantaminen ja datan yhdistäminen.

Tutkijat havaitsivat myös merkittävää kiinnostusta teknologioihin, joiden tarkoituksena on kilpailla havaittujen Yhdysvaltojen sotilaallisten etujen kanssa, mukaan lukien järjestelmät, jotka kykenevät havaitsemaan Yhdysvaltojen merivoimien aluksia vedenpinnan ylä- ja alapuolella sekä teknologiat, joiden on tarkoitus torjua Yhdysvaltojen avaruuspohjaisia järjestelmiä.

Jos edistyneitä AI‑kyvykkyyksiä voidaan hankkia luvattoman destilloinnin kautta sen sijaan, että ne kehitettäisiin itsenäisesti, Yhdysvaltain viranomaisten mukaan teknologia voisi saavuttaa sotilaalliset ja tiedustelukäytöt nopeammin.

Kiina kiistää syytökset

Peking on kiistänyt Yhdysvaltojen väitteet siitä, että kiinalaiset AI‑yritykset destilloisivat luvattomasti amerikkalaisia huippumalleja.

Kiinan ulkoministeriön tiedottaja Mao Ning kehotti keskiviikkona Washingtonia olemaan esittämättä, kuten hän sanoi, perusteettomia syytöksiä Kiinaa vastaan.

"Toivomme, että Yhdysvaltain osapuoli panee täytäntöön kahden valtion johtajien välillä saavutetun tärkeän yhteisymmärryksen ja pidättäytyy esittämästä perusteettomia syytöksiä ja herjaamasta Kiinaa," Mao sanoi päivittäisessä tiedotustilaisuudessa Pekingissä.

"Sekä Kiina että Yhdysvallat ovat tekoälyn alalla merkittäviä maita, ja niiden tulisi vahvistaa yhteistyötä," hän lisäsi.

Heinäkuussa kiinalaisen hallituksen lausunto puolestaan kiisti väitteet siitä, että kiinalaiset AI‑yritykset nojaisivat destillointiin toistaakseen yhdysvaltalaisia AI‑kyvykkyyksiä.

Sen mukaan kiinalaiset mallit olivat saavuttaneet maailmanluokan kyvykkyyksiä itsenäisesti, ja se syytti Washingtonia kaksoisstandardeista, koska myös yhdysvaltalaiset yritykset käyttävät destillointia tutkimus‑ ja kehitystoiminnassaan.

"Monet yhdysvaltalaiset AI‑yritykset ovat destilloineet Kiinan malleista omien T&K‑ ja koulutustarpeidensa vuoksi," lausunto totesi ja lisäsi, että yhdysvaltalaiset yritykset olivat vastustaneet rajoituksia pääsyssä kiinalaisiin avoimen lähdekoodin malleihin.

Miten Yhdysvallat reagoi

Washington on jo alkanut harkita toimenpiteitä vastauksena siihen, mitä se pitää teollisena mittakaavana tapahtuvana AI‑mallien varkautena.

Huhtikuussa White House Office of Science and Technology Policy antoi muistion, jossa todettiin, että hallinto aikoo jakaa tiedustelutietoa yhdysvaltalaisille AI‑yrityksille ulkomailta tulevista yrityksistä suorittaa luvattomia, teollisessa mittakaavassa toteutettuja destillointiyrityksiä.

Hallinto sanoi myös auttavansa yksityistä sektoria koordinoimaan vastatoimia, työskentelevänsä teollisuuden kanssa menetelmien kehittämiseksi tällaisten toimintojen tunnistamiseksi ja lieventämiseksi sekä tutkivansa keinoja pitää ulkomaiset toimijat vastuullisina.

Myös kongressissa edetään lainsäädännöllä.

House Foreign Affairs Committee eteni huhtikuussa Deterring American AI Model Theft Act ‑aloitteen kanssa, jonka tavoitteena on vastata huoliin yhdysvaltalaisten AI‑mallien luvattomasta kopioinnista.

Viimeisin turvallisuusohjeistus voi lisätä vauhtia näille pyrkimyksille.

Viranomaiset neuvoivat yhdysvaltalaisia AI‑kehittäjiä ryhtymään "välittömiin toimiin", mukaan lukien vastausten muuttaminen epäiltyihin haitallisiin destillointiyrityksiin ja tiedustelutiedon jakaminen tällaisista kampanjoista muiden AI‑yritysten kanssa.

Miksi ero on tärkeä

Destillointia koskeva kiista heijastaa lopulta laajempaa kysymystä siitä, miten AI‑kyvykkyydet tulisi kehittää ja jakaa.

Teknologiana destillointi ei ole uusi eikä sinänsä laiton. Se on laajasti käytetty menetelmä tehdä tehokkaista AI‑järjestelmistä pienempiä, halvemmin ylläpidettäviä ja käytännöllisempiä.

Kiista koskee sen sijaan pääsyä, luvanvaraisuutta ja sitä, mitä tapahtuu, kun kilpailija käyttää omistusoikeudellisen mallin tuottamia vastauksia toistaakseen kyvykkyyksiä, joiden kehittäminen toiselta yritykseltä vei vuosia ja miljardeja dollareita.

Ero todennäköisesti korostuu entisestään, kun AI‑mallit kehittyvät ja niiden kaupallinen sekä sotilaallinen arvo kasvaa.

Yhdysvaltalaisille AI‑yrityksille haaste ei enää ole vain rakentaa parempia malleja. Niiden on myös suojattava nämä mallit siten, etteivät kilpailijat käytä niitä edullisena koulutusdatana.

Päätöksentekijöille puolestaan kysymys on, miten estää luvaton AI‑kyvykkyyksien poiminta ilman, että rajoitetaan laillista tutkimusta, avoimen lähdekoodin kehitystä ja destilloinnin normaalia käyttöä teollisuudessa.

Viimeisimmät Yhdysvaltain syytökset kuutta kiinalaisyritystä vastaan viittaavat siihen, että taistelu AI‑johtajuudesta siirtyy siruista ja laskentatehosta myös muille aloille.

Yhä useammin AI‑mallien itse tuottamat vastaukset muuttuvat strategiseksi omaisuudeksi.