Il board di Meta avverte rischio di bias politico nei modelli IA principali

I modelli di intelligenza artificiale sviluppati da società leader, tra cui Anthropic e OpenAI, sono molto meno propensi a generare contenuti politicamente critici nei confronti di governi noti per limitare la libertà di espressione, secondo un nuovo studio pubblicato giovedì dall'Oversight Board di Meta.

Il Board ha affermato che i risultati suggeriscono che i grandi modelli linguistici potrebbero riflettere le restrizioni sulla libertà di espressione imposte da alcuni governi, sollevando preoccupazioni sul rischio che un bias politico possa radicarsi nei servizi di IA utilizzati da un numero crescente di persone.

Lo studio ha analizzato 10 modelli di IA in più giurisdizioni

La ricerca rappresenta il primo studio dell'Oversight Board focalizzato sui grandi modelli linguistici.

Il Board, finanziato da Meta ma operativo in modo indipendente, ha testato prompt politicamente critici in 10 giurisdizioni utilizzando 10 modelli di IA.

I modelli includevano sistemi sviluppati da Meta Platforms, Google e la cinese DeepSeek, insieme a modelli di altre società leader nel settore dell'IA, tra cui Anthropic e OpenAI.

Per condurre l'analisi, il Board ha suddiviso le giurisdizioni in due categorie, "permissive" e "restrictive".

Le classificazioni si basavano sulle graduatorie pubblicate da Freedom House nel suo rapporto annuale Freedom in the World.

I modelli hanno mostrato tassi di rifiuto più elevati per le giurisdizioni restrittive

Secondo lo studio, i modelli di IA hanno rifiutato il 34% delle richieste che cercavano contenuti politicamente critici riguardo a giurisdizioni restrittive che penalizzano attivamente tali critiche, tra cui Cina e Arabia Saudita.

In confronto, il tasso di rifiuto è sceso al 14% per le giurisdizioni che o non hanno tali leggi o non le applicano attivamente.

Il Board ha affermato che i risultati indicano che i sistemi di IA possono essere più cauti nel rispondere a prompt riguardanti governi con controlli più stringenti sul discorso politico.

Il Board segnala riferimenti inspiegabili a regole inesistenti

Oltre ai tassi di rifiuto, l'Oversight Board ha detto di aver identificato esempi in cui i modelli di IA sembravano giustificare le proprie risposte facendo riferimento a regole che non è stato possibile verificare.

"Abbiamo inoltre riscontrato che i modelli spiegavano di seguire regole esplicite che, per quanto siamo riusciti a verificare, non esistevano e non venivano applicate in modo uniforme", ha detto il Board.

Il Board ha aggiunto che ciò solleva ulteriori interrogativi su come i sistemi di IA determinino quando rifiutare richieste politicamente sensibili e se tali decisioni vengano applicate in modo coerente.

L'Oversight Board chiede maggiore trasparenza

In risposta ai risultati, l'Oversight Board ha esortato gli sviluppatori di IA a condurre valutazioni d'impatto sistematiche sui diritti umani come parte dello sviluppo e del dispiegamento dei loro modelli.

Ha inoltre invitato le società di IA a garantire maggiore trasparenza sui metodi di addestramento e sui processi di valutazione, sostenendo che una maggiore apertura aiuterebbe utenti e ricercatori a comprendere meglio come viene gestito il contenuto politicamente sensibile.

Lo studio arriva in un contesto di dibattito più ampio sulla governance dei sistemi avanzati di IA.

All'inizio della settimana, il CEO di Google DeepMind, Demis Hassabis, ha chiesto la creazione di un organismo di controllo dell'IA guidato dagli Stati Uniti per vagliare i modelli di IA avanzati a livello globale prima del loro dispiegamento.

Il rapporto dell'Oversight Board si aggiunge al dibattito in corso sull'equilibrio tra sicurezza dell'IA, neutralità politica e trasparenza, suggerendo che il modo in cui i modelli rispondono a tematiche politicamente sensibili può variare a seconda dei governi coinvolti e dei contesti giuridici in cui operano.