OpenAI identifica gli utenti cinesi che sfruttano ChatGPT per il monitoraggio e gli strumenti di profilazione

OpenAI ha affermato che sospetti utenti legati al governo cinese hanno tentato di utilizzare ChatGPT per progettare proposte e materiali di marketing per strumenti di sorveglianza di massa, inclusi sistemi per monitorare gli uiguri e scansionare i social media alla ricerca di discorsi politici o religiosi.

In un rapporto di intelligence sulle minacce appena pubblicato intitolato "Interruzione degli usi dannosi dei nostri modelli", OpenAI ha delineato diversi casi in cui gli account legati ad attori affiliati allo stato hanno utilizzato i suoi strumenti di intelligenza artificiale per scopi potenzialmente repressivi.

La società ha affermato che gli utenti hanno utilizzato ChatGPT per redigere documenti di progetto, eseguire il debug del codice e analizzare i dati relativi al monitoraggio dei movimenti delle persone, ai registri della polizia e all'attività online.

Utenti collegati a entità cinesi

Uno degli esempi più eclatanti ha coinvolto un utente di ChatGPT "probabilmente collegato a un [Chinese] ente governativo" che ha chiesto al modello di redigere una proposta per quello che è stato descritto come un "modello di avviso di afflusso correlato agli uiguri ad alto rischio".

La proposta prevede in dettaglio un sistema che analizzi le prenotazioni dei trasporti e le confronti con le banche dati della polizia per emettere avvisi sui movimenti di persone classificate come "legate agli uiguri e ad alto rischio".

Un altro utente, scrivendo in cinese, ha chiesto assistenza per la progettazione di materiale promozionale per uno strumento di "sonda per i social media" presumibilmente costruito per un cliente governativo.

Secondo il rapporto di OpenAI, lo strumento è stato descritto come in grado di scansionare piattaforme come X (ex Twitter), Facebook, Instagram, Reddit, TikTok e YouTube per identificare "discorsi estremisti" o contenuti politici, etnici e religiosi.

OpenAI ha affermato che entrambi gli account sono stati bannati una volta che la società ha rilevato l'attività.

Ha sottolineato che non c'erano prove che gli utenti abbiano utilizzato ChatGPT per effettuare una sorveglianza effettiva o che gli strumenti siano stati infine implementati.

Uno sguardo all'uso dell'IA da parte di attori autoritari

Il rapporto ha inquadrato i risultati come una "rara istantanea" di come attori autoritari e malintenzionati stiano iniziando a incorporare l'intelligenza artificiale generativa nelle loro operazioni, non necessariamente per creare nuove forme di guerra informatica, ma per perfezionare le capacità esistenti nell'analisi dei dati, nella propaganda e nel monitoraggio sociale.

"Come abbiamo scritto a giugno, la RPC sta facendo progressi reali nel far progredire la sua versione autocratica dell'IA", ha dichiarato la società nel rapporto.

"La nostra interruzione degli account ChatGPT utilizzati da individui apparentemente collegati a entità governative cinesi fa luce sullo stato attuale dell'utilizzo dell'intelligenza artificiale in questo contesto autoritario".

OpenAI ha sottolineato che l'attività identificata sembra essere svolta da singoli utenti, non da operazioni istituzionali su larga scala.

Tuttavia, la società ha affermato che gli incidenti evidenziano la necessità di una vigilanza continua su "potenziali abusi autoritari" dell'IA generativa.

L'avvertimento più ampio di OpenAI

OpenAI ha dichiarato di aver divulgato pubblicamente i risultati per allertare i responsabili politici, i ricercatori e l'industria tecnologica su come l'IA può essere riutilizzata per la sorveglianza e la repressione.

L'azienda ha chiesto un monitoraggio proattivo e garanzie più rigorose per prevenire simili abusi.

"L'attività è stata coerente con l'utilizzo di ChatGPT da parte dei singoli utenti, piuttosto che con l'adozione istituzionale su larga scala dei nostri modelli", si legge nel rapporto.

"In quanto tale, si tratta di un'istantanea limitata dell'utilizzo di diversi modelli di intelligenza artificiale in questo contesto".