X utsätts för global granskning när Grok-chatboten genererade exploaterande bilder

Elon Musks sociala medieplattform X (tidigare känd som Twitter) utsätts för ökande regulatorisk granskning i flera jurisdiktioner efter att dess Grok-chattbott användes för att skapa och dela AI-genererade sexualiserade bilder av barn och kvinnor.

Myndigheter i Europa, Indien och Malaysia har inlett utredningar, medan tjänstemän i Brasilien och Storbritannien också har uttryckt oro, vilket utgör en av de allvarligaste globala regulatoriska utmaningarna hittills för Musks AI-ambitioner.

Kontroversen kretsar kring Grok Imagine, en nyligen uppdaterad funktion som låter användare generera bilder från textbaserade prompts direkt på X.

Under de senaste veckorna har verktyget enligt uppgift använts för att producera och sprida icke-samtyckta, intima bilder (NCII), inklusive innehåll som avbildar minderåriga.

Många av dessa bilder har spridits brett på plattformen, vilket har lett till ingripande från tillsynsmyndigheter och säkerhetsförespråkare.

Tillsynsmyndigheter rör sig över Europa, Asien och Latinamerika

I Europa har frågan fått skarp kritik från tjänstemän.

Vid en presskonferens på måndagen sade Europeiska kommissionens talesperson Thomas Regnier att myndigheten "mycket allvarligt undersöker denna fråga" och tillade att X och Grok erbjöd ett "kryddigt läge" som producerade explicit sexuellt innehåll, inklusive barnsliga bilder.

"Det här är inte 'starkt'," sa Regnier. "Det här är olagligt. Det här är upprörande. Det här är äckligt."

Storbritanniens mediemyndighet Ofcom bekräftade att de har begärt information från X angående Grok-frågorna.

I Indien beordrade Ministeriet för elektronik och informationsteknologi X i slutet av förra veckan att genomföra en "omfattande teknisk, procedurmässig och styrningsnivågranskning" av Grok, med en deadline den 5 januari för efterlevnad.

Malaysias kommunikations- och multimediakommission sade att de utreder plattformen och kommer att kalla in företagsrepresentanter, med krav på starkare skydd i enlighet med lokala lagar.

I Brasilien sade en parlamentsledamot att hon hade bett den federala åklagaren och landets dataskyddsmyndighet att stoppa användningen av Rok tills en utredning är klar.

Musk, xAI och säkerhetsdebatten

Medan säkerhetsexperter och teknikkritiker fördömde spridningen av exploaterande bilder, verkade Musk håna kontroversen genom att dela Grok-genererade bilder på X, inklusive en som visade honom själv i bikini.

X gav senare sitt första offentliga svar via sitt officiella säkerhetskonto, där de uppgav åtgärder mot olagligt innehåll, inklusive material om sexuella övergrepp mot barn (CSAM), genom borttagningar, kontoavstängningar och samarbete med rättsväsendet.

Musk varnade separat för att den som uppmanar Grok att skapa olagligt innehåll skulle drabbas av samma konsekvenser som att ladda upp sådant material.

En xAI-anställd sade att Grok Imagine hade uppdaterats, men specificerade inte om ändringarna åtgärdade genereringen av skadliga explicita bilder.

I USA uppmanade National Center on Sexual Exploitation justitiedepartementet och Federal Trade Commission att utreda.

Även om federala myndigheter avböjde att kommentera, sade NCOSE att befintliga lagar som förbjuder skapande och distribution av CSAM kan gälla även för virtuellt skapat innehåll under vissa omständigheter.

Trafiken ökar trots kontroversen

Trots motreaktionen har X:s användarengagemang inte försämrats.

Data från Apptopia visar att dagliga nedladdningar av Grok har ökat med 54 % sedan den 2 januari, medan dagliga nedladdningar av X har ökat med 25 % under de senaste tre dagarna.

Kritiker menar att avsnittet belyser svagheter i X:s förtroende- och säkerhetsinfrastruktur, särskilt kring AI-genererat innehåll.