Invezz explică: ce este distilarea AI și de ce acuză SUA firmele chineze?

Agențiile de securitate din SUA au acuzat șase companii chineze de inteligență artificială că au folosit sistematic modele AI americane pentru a-și antrena propriile sisteme, readucând în prim-plan un proces tehnic cunoscut sub numele de distilare a modelelor.

The National Security Agency, Federal Bureau of Investigation and Cybersecurity and Infrastructure Security Agency said on Tuesday that DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun and Z.AI had engaged in what they described as “aggressive, malicious, and targeted distillation activities at an industrial scale that extract restricted proprietary functionalities and capabilities of US frontier AI models."

Agențiile au afirmat că companiile au folosit distilarea cel puțin din 2024 pentru a obține acces la informații din modelele AI americane și pentru a le folosi la dezvoltarea propriilor sisteme.

Ce este distilarea modelelor AI?

Distilarea este o tehnică folosită pentru a transfera unele dintre capabilitățile unui model AI mare și sofisticat într-un model mai mic sau mai specializat.

Sistemul mai mare este, în general, cunoscut ca model „teacher”, iar cel mai mic este numit model „student”.

În loc să construiască modelul mai mic complet de la zero, dezvoltatorii îl antrenează folosind informații generate de modelul teacher.

Abordarea a fost formalizată de Geoffrey Hinton și coautorii săi de la Google în 2015 ca o metodă de a comprima comportamentul unui model mare într-unul mai mic, folosind ieșirile produse de sistemul mai mare.

În termeni practici, un dezvoltator poate cere unui model AI puternic să răspundă la un număr mare de solicitări și apoi să folosească acele răspunsuri ca material de antrenament pentru alt model.

Modelul student învață tiparele din răspunsurile modelului teacher și poate, în cele din urmă, reproduce unele dintre capabilitățile acestuia fără a necesita aceeași scară de resurse de calcul.

Rezultatul poate fi un sistem AI considerabil mai ieftin și mai ușor de operat, păstrând totodată mare parte din performanța modelului mai mare.

Acest lucru face din distilare o componentă importantă a eforturilor industriei AI de a face modelele tot mai capabile și mai eficiente.

Distilarea are aplicații legitime în întreaga industrie AI.

Companiile care dezvoltă AI de frontieră pot folosi tehnica pentru a crea versiuni mai mici ale propriilor modele, care sunt mai ieftine de rulat, răspund mai rapid și sunt mai potrivite pentru aplicații specifice.

Când devine distilarea controversată?

Distilarea devine controversată atunci când o companie încearcă să reproducă capabilitățile unui model proprietar al altei companii fără autorizație.

Un competitor poate, potențial, să folosească mii sau milioane de interacțiuni cu un model de frontieră pentru a genera date de antrenament pentru propriul său sistem.

În loc să cheltuiască ani și sume enorme pentru a dezvolta similar capabilități în mod independent, poate folosi răspunsurile unui model existent ca o scurtătură.

Agențiile de securitate americane au afirmat că firmele chineze au folosit mai multe căi pentru a obține acces neautorizat la sistemele AI americane.

„Companii AI cu sediul în China redirecționează cererile de distilare prin mai multe căi pentru a obține acces neautorizat, încălcând astfel termenii de utilizare ai companiilor AI din SUA,” se arată în notificare.

OpenAI și Anthropic au acuzat separat companii chineze de AI că au încercat să extragă capabilități din modelele lor.

Anthropic a declarat în februarie că a descoperit campanii implicând DeepSeek, Moonshot AI și MiniMax care au urmărit să extragă capabilități din chatbotul său Claude.

Potrivit Anthropic, campaniile au implicat aproximativ 16 milioane de schimburi cu Claude și 24.000 de conturi false, MiniMax reprezentând, doar el, peste 13 milioane de schimburi.

OpenAI a făcut acuzații similare în ianuarie.

Acuzațiile au făcut din distilare un punct focal în dezbaterea mai amplă privind proprietatea intelectuală și concurența în industria AI.

Problema a câștigat o importanță deosebită odată cu apariția DeepSeek, al cărui model AI cu costuri reduse lansat anul trecut a demonstrat capabilități ce păreau competitive cu cele ale principalelor sisteme americane.

Dezvoltarea a pus sub semnul întrebării presupunerile că SUA dețineau un avantaj de necontestat în AI de frontieră și a ridicat întrebări despre modul în care companiile chineze obțineau performanțe comparabile cu structuri de costuri substanțial diferite.

Pukar Hamal, fondatorul firmei de securitate AI SecurityPal, a comparat anterior practica cu un student care copiază lucrarea altui student.

„E aproape ca și cum cineva ar fi mers la cursuri, ar fi citit manualul și ar fi făcut toată munca grea a temelor,” a spus Hamal într-un raport anterior CNBC.

„Apoi un alt student ar zice: «Hei, nu am făcut asta. Pot să îți copiez lucrarea?»”

De ce Washingtonul vede un risc pentru securitatea națională

Ultima avertizare a SUA depășește preocupările legate de concurența comercială.

Agențiile au afirmat că distilarea la scară industrială ar putea reduce costurile de cercetare și dezvoltare pentru companiile chineze de AI, în timp ce ar îmbunătăți „capabilitățile militare și de atac cibernetic ale Chinei, care ar putea fi folosite împotriva SUA și aliaților noștri.”

Un raport Reuters din 31 iulie a relatat că cercetători militari chinezi au folosit ieșiri din modelele AI americane de top pentru a antrena sisteme interne și a avansa capabilități de apărare.

Anthropic a susținut, de asemenea, că distilarea ilicită poate crea o problemă de securitate deoarece protecțiile de siguranță încorporate în modelele frontieră americane s-ar putea să nu fie transferate către sistemele rezultate.

"Illicitly distilled models lack necessary safeguards, creating significant national security risks," Anthropic said in a February note.

Companiile americane de AI implementează protecții menite să împiedice modelele lor să asiste în activități precum dezvoltarea armelor biologice sau desfășurarea de operațiuni cibernetice malițioase.

Anthropic a avertizat că un model creat prin distilare neautorizată s-ar putea să nu păstreze acele protecții.

Dimensiunea militară a AI crește miza

Preocuparea este legată și de eforturile mai ample ale Chinei de a integra inteligența artificială în capabilitățile militare.

A February analysis by the Centre for Security and Emerging Technology examined Chinese-language requests for proposals issued by the People's Liberation Army between January 2023 and December 2024.

Analiza a constatat că PLA urmărea capabilități bazate pe AI în domenii precum sistemele de sprijin pentru decizie, îmbunătățirea senzorilor și fuziunea de date.

Cercetătorii au identificat, de asemenea, un interes semnificativ pentru tehnologii concepute să contracareze avantajele militare percepute ale SUA, inclusiv sisteme capabile să detecteze activele navale ale SUA deasupra și sub suprafața mării și tehnologii menite să contracareze sistemele spațiale ale SUA.

Dacă capabilitățile AI avansate pot fi dobândite prin distilare neautorizată în loc să fie dezvoltate independent, susțin oficialii americani, tehnologia ar putea ajunge mai rapid la aplicații militare și de informații.

China respinge acuzațiile

Beijingul a respins acuzațiile SUA că firmele chineze de AI distilează impropriu modelele frontieră americane.

Purtătoarea de cuvânt a Ministerului de Externe chinez, Mao Ning, a îndemnat miercuri Washingtonul să nu formuleze, așa cum le-a numit ea, acuzații nefondate împotriva Chinei.

"We hope the US side will earnestly implement the important consensus reached by the heads of state of the two countries and refrain from making unfounded accusations and smearing China," Mao said at a daily news conference in Beijing.

"Both China and the US are major countries in the field of artificial intelligence and they should strengthen cooperation," she said.

În iulie, o declarație a guvernului chinez a respins în mod similar afirmațiile că firmele chineze de AI se bazau pe distilare pentru a reproduce capabilitățile AI ale SUA.

A susținut că modelele chineze au atins capabilități de nivel mondial în mod independent și a acuzat Washingtonul de aplicare a unui dublu standard, deoarece companiile americane folosesc, de asemenea, distilarea în cercetare și dezvoltare.

"Many US AI companies have distilled from China’s models for their own R&D and training," the statement said, adding that US companies had opposed restrictions on access to Chinese open-source models.

Cum răspund SUA

Washingtonul a început deja să ia în considerare măsuri pentru a contracara ceea ce el consideră a fi furtul de modele AI la scară industrială.

In April, the White House Office of Science and Technology Policy issued a memorandum, saying the Trump administration would share intelligence with US AI companies about attempts by foreign actors to conduct unauthorized, industrial-scale distillation.

Administrația a mai spus că va ajuta sectorul privat să coordoneze răspunsurile, va colabora cu industria pentru a dezvolta metode de identificare și atenuare a unor astfel de activități și va explora măsuri pentru a trage actorii străini la răspundere.

De asemenea, legislatorii americani urmăresc inițiative legislative.

Comisia pentru Afaceri Externe a Camerei Reprezentanților a avansat în aprilie Legea pentru Descurajarea Furtului Modelului AI American (Deterring American AI Model Theft Act), menită să abordeze preocupările privind copierea neautorizată a modelelor AI americane.

Ultima avertizare de securitate ar putea da un impuls acestor eforturi.

Agențiile au sfătuit dezvoltatorii americani de AI să ia „măsuri imediate”, inclusiv să modifice răspunsurile la încercările suspectate de distilare malițioasă și să împărtășească informații despre astfel de campanii cu alte companii de AI.

De ce contează distincția

Dezbaterea privind distilarea reflectă, în ultimă instanță, o întrebare mai amplă despre cum ar trebui dezvoltate și partajate capabilitățile AI.

Ca tehnologie, distilarea nu este nici nouă, nici în mod inerent ilegală. Este o metodă larg utilizată pentru a face sistemele AI puternice mai mici, mai ieftine și mai practice.

Disputa vizează, în schimb, accesul, autorizarea și ce se întâmplă când un competitor folosește ieșirile unui model proprietar pentru a reproduce capabilități care au necesitat altă companie ani și miliarde de dolari pentru a fi dezvoltate.

Acea distincție este probabil să devină tot mai importantă pe măsură ce modelele AI devin mai capabile și valoarea lor comercială și militară crește.

Pentru companiile americane de AI, provocarea nu mai este doar construirea de modele mai bune. Ele trebuie, de asemenea, să-și protejeze modelele pentru a nu fi folosite drept sursă ieftină de date de antrenament de către competitori.

Pentru factorii de decizie, întrebarea este cum să prevină extragerea neautorizată a capabilităților AI fără a restricționa cercetarea legitimă, dezvoltarea open-source și utilizarea normală a distilării în industrie.

Cele mai recente acuzații ale SUA împotriva a șase companii chineze sugerează că lupta pentru leadership în AI se mută dincolo de procesoare și puterea de calcul.

Tot mai mult, ieșirile generate de modelele AI însele devin un activ strategic.