X udsættes for global granskning, da Grok-chatbotten genererede udnyttende billeder

Elon Musks sociale medieplatform X (tidligere kendt som Twitter) står over for stigende regulatorisk granskning i flere jurisdiktioner, efter at dens Grok-chatbot blev brugt til at skabe og dele AI-genererede seksualiserede billeder af børn og kvinder.

Myndigheder i Europa, Indien og Malaysia har indledt undersøgelser, mens embedsmænd i Brasilien og Storbritannien også har udtrykt bekymring, hvilket markerer en af de mest alvorlige globale regulatoriske udfordringer hidtil for Musks AI-ambitioner.

Kontroversen drejer sig om Grok Imagine, en nyligt opdateret funktion, der gør det muligt for brugere at generere billeder fra tekstbaserede prompts direkte på X.

I løbet af de seneste uger er værktøjet angiveligt blevet brugt til at producere og cirkulere ikke-samtykkende, intime billeder (NCII), herunder indhold, der viser mindreårige.

Mange af disse billeder har spredt sig bredt på platformen, hvilket har ført til indgriben fra tilsynsmyndigheder og sikkerhedsfortalere.

Regulatorer bevæger sig over Europa, Asien og Latinamerika

I Europa har spørgsmålet fået skarp kritik fra embedsmænd.

På en pressekonference mandag sagde Europa-Kommissionens talsmand Thomas Regnier, at myndigheden "meget seriøst undersøger sagen," og tilføjede, at X og Grok tilbød en "krydret stil", der producerede eksplicit seksuelt indhold, herunder barnlige billeder.

"Det her er ikke 'stærkt'," sagde Regnier. "Det her er ulovligt. Det er forfærdeligt. Det her er ulækkert."

Storbritanniens medietilsynsmyndighed Ofcom bekræftede, at de har anmodet X om oplysninger vedrørende Grok-sagerne.

I Indien beordrede Ministeriet for Elektronik og Informationsteknologi X i slutningen af sidste uge til at gennemføre en "omfattende teknisk, proceduremæssig og governance-niveau gennemgang" af Rok og satte en deadline den 5. januar for overholdelse.

Malaysias Kommunikations- og Multimediekommission oplyste, at de undersøger platformen og vil indkalde virksomhedsrepræsentanter og opfordrer til stærkere sikkerhedsforanstaltninger i overensstemmelse med lokale love.

I Brasilien sagde et parlamentsmedlem, at hun havde bedt den føderale anklager og landets databeskyttelsesmyndighed om at suspendere brugen af Grok, indtil en undersøgelse er afsluttet.

Musk, xAI og sikkerhedsdebatten

Mens sikkerhedseksperter og teknologikritikere fordømte udbredelsen af udnyttende billeder, syntes Musk at gøre grin med kontroversen ved at dele Grok-genererede billeder på X, herunder et, der viste ham selv i bikini.

X udsendte senere sit første offentlige svar via sin officielle Safety-konto, hvor de oplyste, at de tager handling mod ulovligt indhold, herunder materiale om seksuelt misbrug af børn (CSAM), gennem fjernelser, kontosuspensioner og samarbejde med politiet.

Musk advarede separat om, at enhver, der opfordrede Grok til at skabe ulovligt indhold, ville møde de samme konsekvenser som ved upload af sådant materiale.

En xAI-medarbejder sagde, at Grok Imagine var blevet opdateret, men specificerede ikke, om ændringerne adresserede genereringen af skadelige eksplicitte billeder.

I USA opfordrede National Center on Sexual Exploitation Justitsministeriet og Federal Trade Commission til at undersøge sagen.

Selvom føderale myndigheder afviste at kommentere, sagde NCOSE, at eksisterende love, der forbyder oprettelse og distribution af CSAM, kunne gælde selv for virtuelt skabt indhold under visse omstændigheder.

Trafikken stiger trods kontroversen

På trods af modreaktionen har X's brugerengagement ikke lidt.

Data fra Apptopia viser, at daglige downloads af Grok er steget med 54 % siden 2. januar, mens daglige downloads af X er steget med 25 % over de seneste tre dage.

Kritikere hævder, at episoden fremhæver svagheder i X's tillids- og sikkerhedsinfrastruktur, især omkring AI-genereret indhold.