Invezz vysvětluje: co je distilace AI a proč USA obviňují čínské firmy?

Agentury pro bezpečnost USA obvinily šest čínských společností zabývajících se umělou inteligencí, že systematicky využívaly americké AI modely k natrénování vlastních systémů, což znovu upozornilo na technický proces známý jako distilace modelu.

Národní bezpečnostní agentura, Federální úřad pro vyšetřování a Agentura pro kybernetickou bezpečnost a infrastrukturu uvedly v úterý, že DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun a Z.AI se dopouštěly toho, co popsaly jako „agresivní, škodlivé a cílené aktivity distilace v průmyslovém měřítku, které extrahují omezené proprietární funkčnosti a schopnosti amerických špičkových AI modelů."

Agentury uvedly, že společnosti distilaci využívaly nejméně od roku 2024, aby získaly přístup k informacím z amerických AI modelů a použily je k vývoji vlastních systémů.

Co je distilace AI modelu?

Distilace je technika používaná k přenesení některých schopností velkého, sofistikovaného AI modelu do menšího nebo specializovaného modelu.

Větší systém je obecně označován jako „učitelský“ model, zatímco menší systém se nazývá „studentský" model.

Místo aby vývojáři menší model stavěli zcela od začátku, trénují ho pomocí informací generovaných učitelským modelem.

Přístup formalizovali Geoffrey Hinton a jeho spoluautoři z Google v roce 2015 jako způsob komprese chování velkého modelu do menšího pomocí výstupů generovaných větším systémem.

V praktickém provozu může vývojář požádat výkonný AI model, aby odpověděl na velké množství dotazů, a poté tyto odpovědi použít jako tréninkový materiál pro jiný model.

Studentský model se učí vzory v odpovědích učitelského modelu a může nakonec reprodukovat některé jeho schopnosti, aniž by vyžadoval stejné výpočetní zdroje.

Výsledkem může být AI systém, který je výrazně levnější a snazší na provoz, přitom si ponechává velkou část výkonu většího modelu.

To činí distilaci důležitou součástí snah AI průmyslu dělat stále schopnější modely efektivnějšími.

Distilace má legitimní aplikace v celém odvětví AI.

Společnosti vyvíjející špičkové AI mohou techniku použít k vytvoření menších verzí vlastních modelů, které jsou levnější na provoz, rychlejší v odezvě a vhodnější pro konkrétní aplikace.

Kdy se distilace stává kontroverzní?

Distilace je předmětem sporu, když se firma pokouší reprodukovat schopnosti proprietárního modelu jiné společnosti bez oprávnění.

Konkurent může potenciálně použít tisíce či miliony interakcí s špičkovým modelem k vytvoření tréninkových dat pro vlastní systém.

Namísto investování let a obrovských částek do nezávislého vývoje podobných schopností může použít odpovědi existujícího modelu jako zkratku.

Agentury USA uvedly, že čínské firmy využívaly více cest k neautorizovanému přístupu k americkým AI systémům.

„Společnosti se sídlem v Číně směrují požadavky na distilaci přes více cest, aby získaly neautorizovaný přístup, čímž porušují podmínky použití amerických AI společností,“ uvedly v oznámení.

OpenAI a Anthropic samostatně obvinily čínské AI firmy z pokusů extrahovat schopnosti z jejich modelů.

Anthropic v únoru uvedl, že odhalil kampaně zahrnující DeepSeek, Moonshot AI a MiniMax, které se snažily extrahovat schopnosti z jeho chatbota Claude.

Podle Anthropic kampaně zahrnovaly přibližně 16 milionů výměn s Claude a 24 000 falešných účtů, přičemž samotný MiniMax představoval více než 13 milionů výměn.

OpenAI v lednu vznesl podobná obvinění.

Tato obvinění učinila z distilace ústřední bod širší debaty o duševním vlastnictví a konkurenci v odvětví AI.

Otázka získala zvláštní pozornost po objevení DeepSeek, jehož loni vydaný levný AI model ukázal schopnosti, které se jevily konkurenceschopné vůči předním americkým systémům.

Vývoj zpochybnil předpoklady, že USA mají neotřesitelnou převahu v špičkovém AI a vznesl otázky, jak čínské firmy dosahují srovnatelného výkonu při výrazně odlišných nákladech.

Pukar Hamal, zakladatel bezpečnostní firmy SecurityPal specializované na AI, dříve přirovnal praxi ke studentovi opisujícímu práci jiného studenta.

„Je to, jako by někdo chodil na přednášky, četl učebnici a udělal veškerou těžkou práci na domácích úkolech,“ řekl Hamal v dřívějším reportu CNBC.

„A pak přijde jiný student a řekne: ‚Hele, já to nedělal. Můžu si to prostě opsat?‘“

Proč Washington vidí národní bezpečnostní riziko

Poslední americké varování přesahuje obavy o komerční konkurenci.

Agentury uvedly, že distilace v průmyslovém měřítku může snížit náklady na výzkum a vývoj čínských AI firem a současně posílit Čínské „vojenské a kybernetické schopnosti, které by mohly být použity proti USA a našim spojencům."

Zpráva Reuters ze 31. července uvedla, že čínští vojenskí výzkumníci použili výstupy z předních amerických AI modelů k tréninku domácích systémů a k posunu obranných schopností.

Anthropic také argumentoval, že nelegální distilace může vytvořit bezpečnostní problém, protože bezpečnostní ochrany zabudované do amerických špičkových modelů se nemusí přenést na výsledné systémy.

„Nelegálně distilované modely postrádají nezbytná opatření, čímž vytvářejí významná rizika pro národní bezpečnost,“ uvedl Anthropic v poznámce z února .

Americké AI firmy budují ochrany, jejichž cílem je zabránit tomu, aby jejich modely pomáhaly s aktivitami, jako je vývoj biologických zbraní nebo provádění škodlivých kybernetických operací.

Anthropic varoval, že model vytvořený neautorizovanou distilací nemusí tyto ochrany zachovat.

Vojenský rozměr AI zvyšuje sázky

Obava je také svázána s širším úsilím Číny integrovat umělou inteligenci do vojenských schopností.

Analýza z února od Centra pro bezpečnost a vznikající technologie zkoumala žádosti o nabídky v čínštině, které Vojenská lidová armáda vydala mezi lednem 2023 a prosincem 2024.

Analýza zjistila, že PLÁ usilovala o AI-podporované schopnosti v oblastech včetně systémů pro podporu rozhodování, zlepšení senzorů a fúze dat.

Výzkumníci také identifikovali významný zájem o technologie navržené k neutralizaci vnímaných vojenských výhod USA, včetně systémů schopných detekovat americká námořní zařízení nad i pod hladinou a technologií zaměřených na protiopatření vůči americkým kosmickým systémům.

Pokud lze pokročilé AI schopnosti získat prostřednictvím neautorizované distilace spíše než samostatným vývojem, argumentují američtí představitelé, technologie by se mohla rychleji dostat do vojenských a zpravodajských aplikací.

Čína obvinění odmítá

Peking odmítl americká obvinění, že čínské AI společnosti neoprávněně distilují americké špičkové modely.

Mluvčí čínského ministerstva zahraničí Mao Ning ve středu vyzvala Washington, aby nepodával to, co nazvala nepodloženými obviněními proti Číně.

„Doufáme, že USA budou skutečně realizovat důležitý konsensus dosažený mezi hlavy států obou zemí a zdržovat se nepodložených obvinění a očerňování Číny,“ řekla Mao na denní tiskové konferenci v Pekingu.

„Čína i USA jsou velké země v oblasti umělé inteligence a měly by posilovat spolupráci,“ dodala.

V červenci čínské vládní prohlášení podobně odmítlo tvrzení, že čínské AI firmy spoléhají na distilaci k reprodukci amerických AI schopností.

Argumentovalo, že čínské modely dosáhly světově vedoucích schopností nezávisle, a obvinilo Washington z dvojakého metru, protože i americké společnosti distilaci používají ve výzkumu a vývoji.

„Mnoho amerických AI společností distilovalo z čínských modelů pro vlastní výzkum a vývoj a trénink,“ stálo v prohlášení s tím, že americké firmy se stavěly proti omezením přístupu k čínským open-source modelům.

Jak USA reagují

Washington už začal zvažovat opatření proti tomu, co považuje za průmyslové krádeže AI modelů.

V dubnu Úřad Bílého domu pro vědu a technologii vydal memorandum, v němž uvedl, že administrativa Trumpa bude sdílet zpravodajské informace s americkými AI společnostmi o pokusech zahraničních aktérů provádět neautorizovanou distilaci v průmyslovém měřítku.

Administrativa také uvedla, že pomůže soukromému sektoru koordinovat reakce, bude spolupracovat s průmyslem na vývoji metod pro identifikaci a zmírnění takové činnosti a prozkoumá opatření k pohnání zahraničních aktérů k odpovědnosti.

Američtí zákonodárci rovněž prosazují legislativu.

Výbor Sněmovny pro zahraniční věci v dubnu postoupil Návrh zákona o odrazení krádeže amerických AI modelů (Deterring American AI Model Theft Act), jehož cílem je řešit obavy z neautorizovaného kopírování amerických AI modelů.

Poslední bezpečnostní doporučení by mohlo těmto snahám dodat impuls.

Agentury doporučily americkým vývojářům AI „okamžitě jednat“, včetně změny odpovědí na podezřelé škodlivé pokusy o distilaci a sdílení zpravodajských informací o takových kampaních s jinými AI společnostmi.

Proč rozlišení záleží

Debata o distilaci nakonec odráží širší otázku, jak by měly být schopnosti AI vyvíjeny a sdíleny.

Jako technologie není distilace ani nová, ani inherentně protiprávní. Je to široce používaná metoda pro zmenšení mocných AI systémů, snížení jejich nákladů a zvýšení praktičnosti.

Spor se tedy týká přístupu, oprávnění a toho, co nastane, když konkurent použije výstupy proprietárního modelu k reprodukci schopností, jejichž vývoj jiné společnosti trval roky a stál miliardy dolarů.

Toto rozlišení pravděpodobně nabude na důležitosti, jakmile se AI modely stanou schopnějšími a jejich obchodní i vojenská hodnota poroste.

Pro americké AI firmy není výzvou jen stavět lepší modely. Musí také chránit tyto modely před tím, aby je konkurenti využívali jako levný zdroj tréninkových dat.

Pro tvůrce politik je mezitím otázkou, jak zabránit neautorizované extrakci schopností AI, aniž by omezili legitimní výzkum, open-source vývoj a běžné používání distilace v odvětví.

Poslední americká obvinění proti šesti čínským společnostem naznačují, že boj o vedení v AI se posouvá za hranice čipů a výpočetního výkonu.

Výstupy generované samotnými AI modely se stále více stávají strategickým aktivem.