L'ente regolatore britannico indaga X sulle immagini dannose di Grok AI secondo la legge sulla sicurezza online

L'ente regolatore britannico delle comunicazioni, Ofcom, ha avviato un'indagine formale su X, intensificando il controllo normativo sugli strumenti di intelligenza artificiale incorporati nelle principali piattaforme di social media.

L'indagine si concentra sul fatto che X abbia rispettato i suoi obblighi legali previsti dall'Online Safety Act, a seguito delle diffuse preoccupazioni su come il suo chatbot AI, Grok, sia stato utilizzato per generare contenuti illeciti e dannosi.

Questa mossa colloca il Regno Unito tra una lista crescente di governi che si interrogano se le attuali salvaguardie dell'IA siano sufficienti quando gli strumenti di generazione di immagini e testi sono resi ampiamente accessibili online.

Ofcom avvia un'indagine formale

Ofcom ha dichiarato lunedì di aver aperto un'indagine su X, una controllata di xAI, per valutare eventuali mancati rispetto all'Online Safety Act.

La legislazione richiede alle piattaforme di adottare misure per proteggere gli utenti dai contenuti illegali e ridurre i rischi associati alle tecnologie emergenti.

Ofcom ha l'autorità di infliggere multe o bloccare i servizi se vengono confermate violazioni.

Il regolatore ora analizzerà le prove fornite dalla società prima di prendere una decisione provvisoria.

Se Ofcom determina che la legge è stata violata, potrebbe infliggere a X una sanzione fino al 10% del suo fatturato globale o £18 milioni, a seconda della cifra più alta.

Grok sotto i riflettori regolatori

L'indagine si concentra su Grok, uno strumento di IA con meno salvaguardie rispetto a molti chatbot mainstream.

Gli utenti possono interagire direttamente con Grok su X taggando il chatbot nei post, invitandolo a generare testi e immagini che appaiono pubblicamente sulla piattaforma.

Regolatori e legislatori hanno sollevato preoccupazioni dopo che gli utenti hanno creato grandi volumi di immagini non consensuali e illegali, inclusi materiali che coinvolgono bambini e donne.

La legge britannica vieta il possesso o la condivisione di immagini sessuali di minori e la distribuzione di immagini intime senza consenso, inclusi i contenuti generati tramite strumenti di IA.

Questi standard legali si applicano indipendentemente dal fatto che le immagini siano sintetiche o modificate digitalmente.

Risposta e restrizioni della piattaforma

Dopo che gli utenti hanno ripetutamente abusato delle capacità di generazione immagini di Grok, xAI ha limitato la funzione agli utenti a pagamento su X.

La stessa funzionalità, tuttavia, è rimasta gratuita sull'app standalone Grok.

Elon Musk ha avvertito questo mese che chiunque utilizzi Grok per creare contenuti illegali subirebbe le stesse conseguenze di caricare materiale illecito.

xAI ha dichiarato di rimuovere post che violano la legge, inclusi contenuti di abusi sessuali su minori, e di sospendere gli account trovati in violazione.

Il governo britannico ha indicato che questi passi potrebbero non essere sufficienti. Il Segretario agli Affari Peter Kyle ha detto che i ministri prenderebbero in considerazione il divieto di X se necessario, sottolineando però che il processo regolatorio deve svolgere il suo corso.

Crescente pressione internazionale

Le preoccupazioni su Grok si sono estese oltre il Regno Unito.

Indonesia e Malesia hanno temporaneamente bloccato lo strumento durante il fine settimana, citando rischi legati a contenuti illeciti.

La Internet Watch Foundation, designata dal governo britannico per aiutare a identificare materiale di abuso sessuale su minori, ha dichiarato di aver trovato immagini criminali di bambini sul dark web che sarebbero state generate da Grok.

A livello europeo, la Commissione Europea ha ordinato a X di conservare i documenti interni relativi a Grok fino alla fine dell'anno.

Le autorità francesi hanno accusato lo strumento di generare contenuti chiaramente illegali senza consenso, segnalando potenziali violazioni della Legge sui Servizi Digitali dell'UE.

Il regolamento richiede alle grandi piattaforme online di mitigare i rischi associati alla diffusione di materiale illegale, inclusi contenuti prodotti tramite IA.

Mentre i regolatori di più giurisdizioni intensificano la loro attenzione sui servizi basati su AI, si prevede che l'indagine britannica su X testerà come le leggi esistenti sulla sicurezza online si applichino alle tecnologie generative in rapida evoluzione.