Malesia e Indonesia bloccano l'IA Grok di Musk su immagini deepfake esplicite

Malesia e Indonesia hanno bloccato l'accesso al chatbot di intelligenza artificiale Grok di Elon Musk, citando preoccupazioni che lo strumento venga usato per generare contenuti non consensuali, sessualmente espliciti e osceni, inclusi contenuti che coinvolgono donne e bambini.

L'azione coordinata del fine settimana segna i primi divieti noti dello strumento di IA a livello globale e aumenta la crescente pressione normativa su xAI e sulla sua piattaforma madre, X.

I regolatori citano fallimenti nelle tutele

La Commissione per le Comunicazioni e il Multimedia della Malesia ha ordinato restrizioni temporanee su Grok domenica, indicando quelli che ha descritto come "ripetuti fallimenti da parte di X Corp" nell'affrontare i rischi di contenuto associati al chatbot.

L'ente regolatore ha affermato che le risposte di X erano "insufficienti" e si basavano troppo sui meccanismi di segnalazione degli utenti piuttosto che affrontare i rischi strutturali nella progettazione dello strumento di IA.

"Di conseguenza, la restrizione è imposta come misura preventiva e proporzionata mentre i processi legali e regolatori sono in corso", ha affermato la commissione.

"L'accesso a Grok rimarrà limitato fino a quando non saranno implementate garanzie efficaci, in particolare per prevenire contenuti che coinvolgono donne e bambini."

L'Indonesia aveva imposto un blocco temporaneo simile il giorno prima.

Il Ministero delle Comunicazioni e degli Affari Digitali ha dichiarato di aver chiesto ai funzionari X di chiarire la questione, sottolineando che l'uso improprio dell'IA per generare pornografia falsa costituisce "violenza digitale."

Il ministro Meutya Hafid ha dichiarato: "Il governo considera i deepfake sessuali non consensuali come una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale."

Entrambi i paesi applicano leggi anti-pornografia severe, che vietano la distribuzione online di materiale osceno o sessuale.

Accuse di abuso e controllo globale

I ban seguono rapporti secondo cui Grok ha permesso agli utenti di generare e condividere immagini esplicite non consensuali, incluso materiale di abuso sessuale su minori.

La Internet Watch Foundation ha detto a NBC News di aver visto utenti del dark web condividere "immagini criminali" che hanno detto create tramite Grok, raffigurando ragazze minorenni praticamente nude.

Wired ha anche riferito che lo strumento era stato usato per spogliare digitalmente le donne in foto con abiti modesti o religiosi come hijab, saris e abitudini da suore.

La portata di Grok si è ampliata recentemente dopo che xAI ha aggiornato le sue funzionalità "Grok Imagine", rendendo più facile la generazione di immagini tramite prompt testuali e integrando lo strumento più profondamente con X.

Le autorità di altre regioni, tra cui Unione Europea, Regno Unito, Brasile e India, hanno inoltre avviato indagini sul ruolo di Grok nel facilitare deepfake osceni e non consensuali.

Negli Stati Uniti, alcuni legislatori democratici hanno sollecitato gli app store a sospendere lo strumento di IA fino a quando non saranno in atto misure di sicurezza più forti.

Risposta xAI e implicazioni di mercato

In mezzo alla reazione negativa, xAI ha dichiarato che limiterà le funzionalità di generazione e modifica delle immagini agli abbonati paganti, nel tentativo di colmare le lacune nelle tutele.

Musk ha dichiarato su X che gli utenti che creano contenuti illegali tramite Grok affronterebbero conseguenze equivalenti a caricare tali materiali direttamente sulla piattaforma social.

Tuttavia, i regolatori hanno affermato che tali misure non sono state sufficienti.

CNBC ha riportato che i tentativi di contattare xAI per un commento hanno restituito una risposta automatica con la dicitura: "False Legacy Media."