X è sotto scrutinio globale mentre il chatbot di Grok genera immagini sfruttatrici

La piattaforma social di Elon Musk, X (precedentemente nota come Twitter), sta affrontando un crescente controllo normativo in diverse giurisdizioni dopo che il chatbot Grok è stato utilizzato per creare e condividere immagini sessualizzate generate dall'IA di bambini e donne.

Le autorità in Europa, India e Malesia hanno avviato indagini, mentre anche funzionari in Brasile e Regno Unito hanno sollevato preoccupazioni, segnando una delle sfide regolatorie globali più serie finora per le ambizioni di Musk nell'IA.

La controversia ruota attorno a Grok Imagine, una funzione recentemente aggiornata che permette agli utenti di generare immagini da prompt testuali direttamente su X.

Nelle ultime settimane, lo strumento sarebbe stato usato per produrre e diffondere immagini intime non consensuali (NCII), inclusi contenuti che ritravolgono minori.

Molte di queste immagini si sono diffuse ampiamente sulla piattaforma, spingendo l'intervento di regolatori e sostenitori della sicurezza.

I regolatori si spostano in Europa, Asia e America Latina

In Europa, la questione ha suscitato dure critiche da parte dei funzionari.

Durante una conferenza stampa lunedì, il portavoce della Commissione Europea Thomas Regnier ha dichiarato che l'autorità sta "esaminando molto seriamente la questione", aggiungendo che X e Grok stanno offrendo una "modalità piccante" che produce contenuti sessuali espliciti, incluse immagini infantili.

"Questo non è 'piccante'," disse Regnier. "Questo è illegale. È sconvolgente. È disgustoso."

L'ente di controllo dei media britannico Ofcom ha confermato di aver richiesto informazioni a X riguardo alle questioni di Grok.

In India, il Ministero dell'Elettronica e delle Tecnologie dell'Informazione ha ordinato a X alla fine della scorsa settimana di condurre una "revisione tecnica, procedurale e di governance completa" di Grok, fissando una scadenza per la conformità al 5 gennaio.

La Commissione per le Comunicazioni e il Multimedia della Malesia ha dichiarato di essere in esame sulla piattaforma e di convocare rappresentanti aziendali, sollecitando garanzie più forti e in linea con le leggi locali.

In Brasile, un membro del parlamento ha dichiarato di aver chiesto al pubblico ministero federale e all'autorità nazionale per la protezione dei dati di sospendere l'uso di Grok fino al completamento di un'indagine.

Musk, xAI e il dibattito sulla sicurezza

Mentre esperti di sicurezza e critici tecnologici condannavano la proliferazione di immagini sfruttatrici, Musk sembrava prendere in giro la controversia condividendo immagini generate da Grok su X, inclusa una che lo ritraeva in bikini.

X ha successivamente rilasciato la sua prima risposta pubblica tramite il suo account ufficiale Safety, affermando di agire contro contenuti illegali, inclusi materiali di abuso sessuale su minori (CSAM), tramite rimozioni, sospensioni degli account e collaborazione con le forze dell'ordine.

Musk ha avvertito separatamente che chiunque spinga Grok a creare contenuti illegali subirebbe le stesse conseguenze di caricare tali materiali.

Un dipendente di xAI ha detto che Grok Imagine è stato aggiornato, ma non ha specificato se le modifiche riguardassero la generazione di immagini esplicite dannose.

Negli Stati Uniti, il National Center on Sexual Exploitation ha chiesto al Dipartimento di Giustizia e alla Federal Trade Commission di indagare.

Sebbene le agenzie federali abbiano rifiutato di commentare, NCOSE ha affermato che le leggi esistenti che vietano la creazione e la distribuzione di CSAM potrebbero applicarsi anche a contenuti virtualmente creati in determinate circostanze.

Il traffico aumenta nonostante la controversia

Nonostante la reazione negativa, l'engagement degli utenti di X non ne ha risentito.

I dati di Apptopia mostrano che i download giornalieri di Grok sono aumentati del 54% dal 2 gennaio, mentre i download giornalieri di X sono aumentati del 25% negli ultimi tre giorni.

I critici sostengono che l'episodio metta in evidenza le debolezze nell'infrastruttura di fiducia e sicurezza di X, in particolare riguardo ai contenuti generati dall'IA.