Invezz: distillazione dell'IA, cos'è e perché gli USA accusano aziende cinesi

Le agenzie di sicurezza statunitensi hanno accusato sei società cinesi di intelligenza artificiale di utilizzare sistematicamente modelli AI americani per addestrare i propri sistemi, riportando l'attenzione su un processo tecnico noto come distillazione dei modelli.

La National Security Agency, l'Federal Bureau of Investigation e la Cybersecurity and Infrastructure Security Agency hanno dichiarato martedì che DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun e Z.AI si erano impegnate in quelle che hanno definito “aggressive, malicious, and targeted distillation activities at an industrial scale that extract restricted proprietary functionalities and capabilities of US frontier AI models."

Le agenzie hanno detto che le società avevano utilizzato la distillazione almeno dal 2024 per ottenere accesso a informazioni provenienti da modelli AI statunitensi e impiegarle per sviluppare i propri sistemi.

Cos'è la distillazione di un modello AI?

La distillazione è una tecnica utilizzata per trasferire alcune capacità di un modello AI grande e sofisticato in un modello più piccolo o più specializzato.

Il sistema più grande è generalmente chiamato modello “teacher” (insegnante), mentre quello più piccolo è detto modello “student” (studente).

Invece di costruire il modello più piccolo interamente da zero, gli sviluppatori lo addestrano usando informazioni generate dal teacher.

L'approccio è stato formalizzato da Geoffrey Hinton e dai suoi coautori di Google nel 2015 come metodo per comprimere il comportamento di un modello grande in uno più piccolo utilizzando le uscite prodotte dal sistema maggiore.

In termini pratici, uno sviluppatore può chiedere a un modello AI potente di rispondere a un gran numero di prompt e poi usare quelle risposte come materiale di addestramento per un altro modello.

Il modello student apprende schemi nelle risposte del teacher e può alla fine riprodurre alcune delle sue capacità senza richiedere la stessa scala di risorse di calcolo.

Il risultato può essere un sistema AI notevolmente più economico e più semplice da gestire mantenendo gran parte delle prestazioni del modello più grande.

Questo rende la distillazione una componente importante degli sforzi dell'industria AI per rendere i modelli sempre più capaci più efficienti.

La distillazione ha applicazioni legittime in tutto il settore dell'IA.

Le società che sviluppano modelli di frontiera possono usare la tecnica per creare versioni più piccole dei propri modelli, più economiche da eseguire, più veloci nelle risposte e più adatte ad applicazioni specifiche.

Quando la distillazione diventa controversa?

La distillazione diventa problematica quando un'azienda tenta di riprodurre le capacità del modello proprietario di un'altra azienda senza autorizzazione.

Un concorrente può potenzialmente usare migliaia o milioni di interazioni con un modello di frontiera per generare dati di addestramento per il proprio sistema.

Piuttosto che impiegare anni e somme enormi per sviluppare in modo indipendente capacità simili, può usare le risposte di un modello esistente come scorciatoia.

Le agenzie di sicurezza USA hanno affermato che le società cinesi hanno usato più percorsi per ottenere accesso non autorizzato ai sistemi AI americani.

"Le società AI con base in Cina instradano le richieste di distillazione attraverso più percorsi per ottenere accesso non autorizzato, violando così i termini di utilizzo delle società AI statunitensi," si legge nell'avviso.

OpenAI e Anthropic hanno separatemente accusato società AI cinesi di aver tentato di estrarre capacità dai loro modelli.

Anthropic ha detto a febbraio di aver scoperto campagne coinvolgendo DeepSeek, Moonshot AI e MiniMax che cercavano di estrarre capacità dal suo chatbot Claude.

Secondo Anthropic, le campagne hanno comportato circa 16 milioni di scambi con Claude e 24.000 account falsi, con MiniMax da solo responsabile di oltre 13 milioni di scambi.

OpenAI ha formulato accuse simili a gennaio.

Le accuse hanno posto la distillazione al centro del dibattito più ampio su proprietà intellettuale e concorrenza nell'industria AI.

La questione ha assunto particolare rilevanza dopo l'emergere di DeepSeek, il cui modello AI a basso costo pubblicato lo scorso anno ha dimostrato capacità apparentemente competitive con i principali sistemi statunitensi.

Lo sviluppo ha messo in discussione l'idea di un vantaggio insuperabile degli USA nella AI di frontiera e ha sollevato domande su come le aziende cinesi stessero ottenendo prestazioni comparabili con strutture di costo sostanzialmente diverse.

Pukar Hamal, fondatore della società di sicurezza AI SecurityPal, aveva paragonato la pratica a uno studente che copia il lavoro di un altro.

“È quasi come se qualcuno fosse andato alle lezioni, avesse letto il libro di testo e fatto tutto il lavoro difficile dei compiti,” ha detto Hamal in un precedente servizio della CNBC.

“Poi un altro studente dice: ‘Ehi, non l'ho fatto. Posso semplicemente copiare il tuo lavoro?’”

Perché Washington parla di rischio per la sicurezza nazionale

L'ultimo avviso statunitense va oltre le preoccupazioni sulla concorrenza commerciale.

Le agenzie hanno affermato che la distillazione su scala industriale potrebbe ridurre i costi di ricerca e sviluppo per le società AI cinesi aumentando al contempo le “capacità militari e di attacco cyber della Cina che potrebbero essere usate contro gli USA e i nostri alleati.”

Un rapporto Reuters del 31 luglio ha riportato che ricercatori militari cinesi avrebbero usato output di modelli AI statunitensi leader per addestrare sistemi nazionali e avanzare capacità difensive.

Anthropic ha inoltre sostenuto che la distillazione illecita può creare un problema di sicurezza perché le protezioni di safety integrate nei modelli di frontiera americani potrebbero non essere trasferite ai sistemi risultanti.

"I modelli distillati illecitamente mancano delle necessarie salvaguardie, creando significativi rischi per la sicurezza nazionale," ha scritto Anthropic in una nota di febbraio.

Le società AI statunitensi costruiscono protezioni pensate per impedire che i loro modelli assistano ad attività come lo sviluppo di armi biologiche o operazioni cyber dannose.

Anthropic ha avvertito che un modello creato tramite distillazione non autorizzata potrebbe non conservare tali protezioni.

La dimensione militare dell'IA aumenta la posta in gioco

La preoccupazione è anche legata agli sforzi più ampi della Cina di integrare l'intelligenza artificiale nelle capacità militari.

Un'analisi di febbraio del Centre for Security and Emerging Technology ha esaminato richieste di proposta in lingua cinese emesse dall'Esercito Popolare di Liberazione tra gennaio 2023 e dicembre 2024.

L'analisi ha rilevato che la PLA perseguiva capacità abilitate dall'IA in aree come sistemi di supporto alle decisioni, miglioramento dei sensori e fusione dei dati.

I ricercatori hanno anche individuato un interesse significativo per tecnologie progettate per contrastare i presunti vantaggi militari statunitensi, inclusi sistemi in grado di rilevare asset navali statunitensi sopra e sotto il mare e tecnologie destinate a contrastare sistemi spaziali statunitensi.

Se capacità AI avanzate possono essere acquisite tramite distillazione non autorizzata invece che sviluppate indipendentemente, sostengono i funzionari statunitensi, la tecnologia potrebbe raggiungere applicazioni militari e di intelligence più rapidamente.

La Cina respinge le accuse

Pechino ha respinto le accuse statunitensi secondo cui le società AI cinesi starebbero distillando in modo improprio modelli di frontiera americani.

La portavoce del Ministero degli Esteri cinese Mao Ning mercoledì ha invitato Washington a non avanzare quelle che ha definito accuse infondate contro la Cina.

"Speriamo che la parte statunitense attui seriamente l'importante consenso raggiunto dai capi di Stato dei due Paesi e si astenga dal formulare accuse infondate e diffamare la Cina," ha detto Mao in una conferenza stampa quotidiana a Pechino.

"Sia la Cina che gli USA sono grandi Paesi nel campo dell'intelligenza artificiale e dovrebbero rafforzare la cooperazione," ha aggiunto.

A luglio, una dichiarazione del governo cinese ha similmente respinto le affermazioni secondo cui le società AI cinesi si affiderebbero alla distillazione per riprodurre capacità AI statunitensi.

Ha sostenuto che i modelli cinesi avevano raggiunto capacità di livello mondiale in modo indipendente e ha accusato Washington di applicare un doppio standard perché anche le società statunitensi usano la distillazione nella ricerca e sviluppo.

"Molte società AI statunitensi hanno distillato dai modelli cinesi per il loro R&D e addestramento," recitava la dichiarazione, aggiungendo che le aziende statunitensi si erano opposte a restrizioni sull'accesso ai modelli open source cinesi.

Come rispondono gli USA

Washington ha già iniziato a valutare misure per contrastare quella che considera una sottrazione di modelli AI su scala industriale.

Ad aprile, l'Office of Science and Technology Policy della Casa Bianca ha emesso un memorandum, affermando che l'amministrazione Trump avrebbe condiviso intelligence con le società AI statunitensi su tentativi da parte di attori stranieri di condurre distillazione non autorizzata su scala industriale.

L'amministrazione ha inoltre dichiarato che avrebbe aiutato il settore privato a coordinare le risposte, collaborato con l'industria per sviluppare metodi di identificazione e mitigazione di tali attività ed esplorato misure per ritenere gli attori stranieri responsabili.

Anche i legislatori statunitensi stanno perseguendo misure legislative.

La House Foreign Affairs Committee ha avanzato in aprile il Deterring American AI Model Theft Act, volto ad affrontare le preoccupazioni sulla copia non autorizzata dei modelli AI statunitensi.

L'ultimo avviso di sicurezza potrebbe dare slancio a tali sforzi.

Le agenzie hanno consigliato agli sviluppatori AI statunitensi di intraprendere "azioni immediate", inclusa la modifica delle risposte a tentativi di distillazione sospetti e la condivisione di informazioni di intelligence su tali campagne con altre società AI.

Perché la distinzione conta

Il dibattito sulla distillazione riflette in ultima analisi una questione più ampia su come le capacità AI debbano essere sviluppate e condivise.

In quanto tecnologia, la distillazione non è né nuova né intrinsecamente illecita. È un metodo ampiamente usato per rendere i sistemi AI potenti più piccoli, meno costosi e più pratici.

La disputa riguarda invece l'accesso, l'autorizzazione e ciò che accade quando un concorrente utilizza le uscite di un modello proprietario per riprodurre capacità che a un'altra azienda sono costate anni e miliardi di dollari per essere sviluppate.

Questa distinzione probabilmente diventerà sempre più importante man mano che i modelli AI diventano più capaci e il loro valore commerciale e militare cresce.

Per le società AI statunitensi, la sfida non è più solo costruire modelli migliori. Devono anche proteggere quei modelli dall'essere usati come fonte di dati di addestramento a basso costo da parte dei concorrenti.

Per i responsabili politici, invece, la domanda è come prevenire l'estrazione non autorizzata di capacità AI senza limitare la ricerca legittima, lo sviluppo open source e l'uso normale della distillazione in tutto il settore.

Le ultime accuse statunitensi nei confronti di sei società cinesi suggeriscono che la battaglia per la leadership nell'IA sta andando oltre chip e potenza di calcolo.

Sempre più, le uscite generate dai modelli AI stessi stanno diventando un asset strategico.