Zuckerberg vuole più AI open source: differenze tra modelli chiusi e aperti

Il CEO di Meta, Mark Zuckerberg, ha rilanciato la sua richiesta di ridurre le barriere regolamentari sull'intelligenza artificiale open source, sostenendo che gli Stati Uniti abbiano bisogno di un ecosistema AI più aperto per competere efficacemente con avversari cinesi in rapido movimento.

I commenti sono arrivati quando Meta ha presentato Muse Glimmer, un nuovo modello AI con pesi aperti progettato per funzionare direttamente sui dispositivi dei consumatori anziché su costose infrastrutture cloud.

Zuckerberg ha inoltre indicato che Meta intende rilasciare altri modelli nei prossimi mesi, rafforzando la sua strategia di rendere l'AI più accessibile.

Il lancio arriva in un momento in cui Meta sta cercando di riguadagnare slancio nella corsa all'AI dopo aver messo insieme l'anno scorso un team dedicato alla superintelligenza, mentre le imprese cercano sempre più alternative AI più economiche in un contesto di costi di calcolo in forte aumento.

Allo stesso tempo, la discussione ha messo in luce una distinzione importante spesso fraintesa: la differenza tra modelli AI chiusi, modelli a pesi aperti e sistemi AI completamente open source.

La Silicon Valley è da tempo divisa sul modo in cui l'AI più avanzata debba essere sviluppata.

Alcune aziende sostengono che i modelli AI potenti debbano restare chiusi per ragioni di sicurezza, mentre altre ritengono che l'apertura sia essenziale per l'innovazione e la concorrenza.

Per comprendere questo dibattito è necessario prima esaminare cosa sono i modelli chiusi, poi i modelli a pesi aperti, e infine cosa costituisce una vera AI open source.

Cosa sono i modelli chiusi?

I modelli di intelligenza artificiale apprendono identificando pattern attraverso enormi quantità di informazioni digitali.

Durante l'addestramento su libri, articoli di stampa, siti web e altri documenti online, convertono quei pattern in miliardi di valori numerici noti come "pesi".

Questi pesi determinano in ultima analisi come un modello AI ragiona, risponde ai prompt e genera contenuti.

I sistemi AI con cui la maggior parte dei consumatori interagisce oggi — ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google — sono esempi di modelli chiusi.

Pur essendo accessibili tramite siti web o interfacce di programmazione delle applicazioni (API), le aziende che li sviluppano non rilasciano i pesi sottostanti che alimentano i modelli.

Ciò significa che gli sviluppatori non possono scaricarli, installarli sui propri computer, ispezionarne il funzionamento interno o personalizzarli per applicazioni specifiche.

Anthropic e OpenAI hanno sostenuto che i sistemi AI di frontiera debbano rimanere strettamente controllati perché modelli sempre più capaci presentano rischi significativi per la sicurezza e dovrebbero essere sviluppati in ambienti attentamente gestiti.

Meta, Nvidia, Microsoft e Google hanno generalmente assunto una posizione più aperta, sostenendo che un accesso più ampio incentiva l'innovazione e consente agli sviluppatori di costruire nuove imprese attorno alla tecnologia AI.

Nonostante ciò, i ricercatori avvertono che i modelli chiusi generano rischi propri.

Secondo lo Stanford Institute for Human-Centered AI, i modelli chiusi non sono necessariamente meno sicuri delle alternative aperte, ma concentrano un enorme potere nelle mani di poche aziende.

Con le capacità AI di frontiera erogate tramite API, quelle aziende decidono chi ottiene accesso, quanto costa e quali valori vengono incorporati in tecnologie che modellano sempre più il modo in cui le persone lavorano, comunicano e creano.

Cosa sono i modelli a pesi aperti?

I modelli a pesi aperti occupano la via di mezzo tra sistemi completamente chiusi e AI totalmente open source.

Quando gli sviluppatori descrivono un modello AI come a pesi aperti, intendono che i pesi addestrati del modello sono stati resi pubblici.

Questo permette agli sviluppatori esterni di scaricare il modello, eseguirlo localmente e metterlo a punto per scopi specifici, come sanità, cybersecurity o sviluppo software.

Se i pesi rimangono privati, gli utenti devono interagire con l'AI esattamente come i suoi creatori l'hanno prevista.

Tuttavia, i modelli a pesi aperti non rivelano tutto.

Le aziende di solito rilasciano solo i parametri addestrati trattenendo il codice di addestramento originale, i dataset, i dettagli dell'architettura del modello e gran parte della metodologia utilizzata per costruire il sistema.

Di conseguenza, gli utenti ottengono flessibilità senza completa trasparenza.

I modelli a pesi aperti tendono anche a essere notevolmente più economici dei sistemi AI di frontiera offerti da società come OpenAI e Anthropic, perché spesso possono essere eseguiti localmente senza costose risorse di cloud computing.

Sebbene diverse aziende statunitensi pubblichino modelli a pesi aperti, molti dei sistemi più adottati provengono attualmente dalla Cina, tra cui la famiglia Qwen di Alibaba, i modelli di DeepSeek, la linea Kimi di Moonshot AI e la serie GLM di Zhipu AI.

La loro popolarità è cresciuta rapidamente poiché le aziende cercano costi operativi AI inferiori pur mantenendo un maggiore controllo sul deployment.

Ora, cosa sono i modelli open source?

Le ripetute richieste di Zuckerberg per un'AI open source hanno anche riacceso il dibattito sul fatto che gli attuali cosiddetti modelli "aperti" siano veramente open source.

Esiste una distinzione importante tra il rilascio di un modello AI con pesi aperti e il rilascio come pieno open source.

I pesi aperti implicano la pubblicazione solo dei parametri preaddestrati che determinano il comportamento della rete neurale.

Questo permette agli sviluppatori di eseguire l'inferenza e mettere a punto il modello per applicazioni successive.

Tuttavia, elementi cruciali rimangono non disponibili, inclusi il codice di addestramento, i dataset originali, l'architettura del modello e il processo utilizzato per addestrarlo.

Rilasciare l'AI in questo modo amplia l'accesso ma limita trasparenza, riproducibilità e verifica indipendente.

Gli sviluppatori che utilizzano modelli a pesi aperti devono in definitiva fidarsi dei giudizi e delle rappresentazioni apprese dai creatori originali senza poterli ricreare o controllare completamente.

Un modello AI veramente open source va molto oltre.

Include tutto il necessario per riprodurre il modello da zero — codice sorgente, architettura, metodologia di addestramento, iperparametri, dataset e documentazione di supporto.

Questo livello di apertura permette ai ricercatori non solo di eseguire il modello, ma anche di ispezionarlo, migliorarne le prestazioni e costruire sistemi completamente nuovi sulla stessa base.

"C'è un ampio divario tra l'AI a pesi aperti e l'AI open source," ha detto James Landay, direttore del Denning dello Stanford Institute for Human-Centered AI.

"I pesi aperti rispondono a 'Posso eseguire questo?' L'open source risponde a 'Posso fidarmi di questo, migliorarlo e costruire la prossima cosa sopra?' Ora quasi tutti — laboratori americani e cinesi — rispondono alla prima domanda ma sono lontani dal rispondere alla seconda."

La spinta di Meta per i modelli open source

In concomitanza con il rilascio del modello, Zuckerberg ha pubblicato un saggio di 14 pagine in cui delinea la sua visione per il futuro dell'intelligenza artificiale.

Nel documento, intitolato The Future is for Everyone, ha sostenuto che l'AI dovrebbe essere vista come uno strumento a beneficio ampio della società piuttosto che come una tecnologia da limitare strettamente.

Ha inoltre sottolineato che gli Stati Uniti devono mantenere la loro leadership rispetto alla Cina nella corsa globale all'AI.

Senza citare direttamente concorrenti come Anthropic e OpenAI, Zuckerberg ha criticato gli approcci che propugnano controlli più rigidi sui sistemi AI avanzati.

Ha sostenuto che concentrare la tecnologia nelle mani di poche aziende potrebbe di per sé creare rischi.

“Piuttosto che centralizzare la superintelligenza, dovremmo distribuirla,” ha scritto Zuckerberg, 42 anni, nel saggio. “Questo ha il potenziale per inaugurare una nuova era di empowerment personale.”

L'azienda è stata tra i primi grandi sviluppatori di AI a rilasciare pubblicamente un grande modello linguistico, LLaMA, nel febbraio 2023. Meta ha pubblicato sia il codice di inferenza necessario per eseguire il modello sia i pesi appresi durante l'addestramento.

Tuttavia, organizzazioni come l'Open Source Initiative hanno sostenuto che le restrizioni di licenza di LLaMA — in particolare quelle relative al riutilizzo commerciale — ne impediscono la qualificazione secondo la definizione accettata di software open source genuino.

Per questo motivo, molti esperti lo classificano come un modello a pesi aperti.

Molti sviluppatori ritengono comunque che una vera AI open source debba includere non solo codice e pesi ma anche i dataset utilizzati durante l'addestramento, permettendo una completa trasparenza su come questi sistemi sempre più influenti sono costruiti.