X møter global gransking ettersom Grok-chatboten genererte utnyttende bilder

Elon Musks sosiale medieplattform X (tidligere kjent som Twitter) møter økende regulatorisk granskning i flere jurisdiksjoner etter at Grok-chatboten ble brukt til å lage og dele AI-genererte seksualiserte bilder av barn og kvinner.

Myndighetene i Europa, India og Malaysia har igangsatt etterforskninger, mens tjenestemenn i Brasil og Storbritannia også har uttrykt bekymring, noe som markerer en av de mest alvorlige globale regulatoriske utfordringene hittil for Musks AI-ambisjoner.

Kontroversen dreier seg om Grok Imagine, en nylig oppdatert funksjon som lar brukere generere bilder fra tekstbaserte prompts direkte på X.

De siste ukene har verktøyet angivelig blitt brukt til å produsere og sirkulere ikke-samtykkende, intime bilder (NCII), inkludert innhold som viser mindreårige.

Mange av disse bildene har spredt seg bredt på plattformen, noe som har ført til inngripen fra regulatorer og sikkerhetsforkjempere.

Regulatorer beveger seg over Europa, Asia og Latin-Amerika

I Europa har saken fått skarp kritikk fra tjenestemenn.

På en pressekonferanse mandag sa Europakommisjonens talsperson Thomas Regnier at myndigheten «undersøker saken svært seriøst», og la til at X og Grok tilbød en «krydret modus» som produserte eksplisitt seksuelt innhold, inkludert barnlige bilder.

"Dette er ikke 'sterkt'," sa Regnier. "Dette er ulovlig. Dette er forferdelig. Dette er ekkelt."

Storbritannias medievakthund Ofcom bekreftet at de har bedt X om informasjon angående Grok-sakene.

I India beordret Elektronikk- og informasjonsteknologidepartementet X sent forrige uke til å gjennomføre en «omfattende teknisk, prosedyremessig og styringsmessig gjennomgang» av Grok, med en frist for overholdelse 5. januar.

Malaysias kommunikasjons- og multimediekommisjon sa at de undersøker plattformen og vil tilkalle selskapsrepresentanter, og oppfordre til sterkere sikkerhetstiltak i tråd med lokale lover.

I Brasil sa et parlamentsmedlem at hun hadde bedt den føderale påtalemyndigheten og landets databeskyttelsesmyndighet om å suspendere bruken av Rok inntil en etterforskning er fullført.

Musk, xAI og sikkerhetsdebatten

Mens sikkerhetseksperter og teknologikritikere fordømte spredningen av utnyttende bilder, virket det som om Musk gjorde narr av kontroversen ved å dele Grok-genererte bilder på X, inkludert ett som viste ham selv i bikini.

X kom senere med sitt første offentlige svar via sin offisielle sikkerhetskonto, hvor de opplyste at de tar grep mot ulovlig innhold, inkludert materiale om seksuelle overgrep mot barn (CSAM), gjennom fjerninger, kontosuspensjoner og samarbeid med politiet.

Musk advarte separat om at alle som oppfordret Grok til å lage ulovlig innhold, ville møte de samme konsekvensene som ved opplasting av slikt materiale.

En xAI-ansatt sa at Grok Imagine var oppdatert, men spesifiserte ikke om endringene tok for seg genereringen av skadelige eksplisitte bilder.

I USA oppfordret National Center on Sexual Exploitation Justisdepartementet og Federal Trade Commission til å etterforske.

Selv om føderale etater avslo å kommentere, sa NCOSE at eksisterende lover som forbyr opprettelse og distribusjon av CSAM kan gjelde selv for virtuelt produsert innhold under visse omstendigheter.

Trafikken øker til tross for kontroversen

Til tross for motreaksjonen har Xs brukerengasjement ikke lidd.

Data fra Apptopia viser at daglige nedlastinger av Grok har økt med 54 % siden 2. januar, mens daglige nedlastinger av X har økt med 25 % de siste tre dagene.

Kritikere hevder at episoden fremhever svakheter i Xs tillits- og sikkerhetsinfrastruktur, spesielt rundt AI-generert innhold.