EU indleder undersøgelse af Musks X vedrørende Grok AI og potentielle overtrædelser af børnesikkerheden

Den Europæiske Union har indledt en formel undersøgelse af Elon Musks sociale medieplatform X på grund af bekymringer om, at dens Grok-chatbot med kunstig intelligens kan have genereret deepfake-billeder, der "kan udgøre materiale til seksuelt misbrug af børn."

Europa-Kommissionen oplyste, at undersøgelsen vil vurdere, om X overholdt sine forpligtelser under blokkens Digital Services Act (DSA) til korrekt at identificere, vurdere og mindske risici forbundet med at implementere Grok i EU's 27 medlemslande.

Undersøgelsen øger den stigende granskning af X's indholdsmoderationspraksis og kan yderligere opildne spændingerne mellem Bruxelles og Washington.

Fokus på risikovurdering og afbødning

Ifølge Kommissionen vil undersøgelsen undersøge, om X tilstrækkeligt håndterede systemiske risici forbundet med Groks udrulning, især risikoen for at generere ikke-samtykkende seksuelle deepfakes med kvinder og børn.

Sagen falder ind under DSA, EU's omfattende regelbog for online indhold, der stiller strenge krav til store platforme for at forhindre spredning af ulovligt og skadeligt materiale.

"Ikke-samtykkende seksuelle deepfakes af kvinder og børn er en voldelig, uacceptabel form for nedværdigelse," sagde EU-teknologikommissær Henna Virkkunen.

Kommissionen sagde, at undersøgelsen på nuværende tidspunkt ikke vil omfatte midlertidige foranstaltninger.

Under Digital Services Act, som trådte i kraft i 2023, har EU beføjelse til at pålægge bøder på op til 6 % af en virksomheds globale årlige omsætning for manglende håndtering af ulovligt indhold, mindskning af systemiske risici eller overholdelse af gennemsigtighedskrav.

Voksende international modstand mod Grok

EU-undersøgelsen følger efter en eskalerende global fordømmelse af Grok i de seneste uger.

Brugere i flere lande har rapporteret, at AI-chatbotten genererede seksualiserede billeder og postede dem på X, hvilket udløste modreaktion fra myndigheder og børnesikkerhedsforkæmpere.

I Storbritannien undersøger kommunikationsregulatoren Ofcom allerede formelt, om X har overtrådt landets Online Safety Act i forbindelse med Groks output.

Myndighederne i Frankrig og Indien har også rejst bekymring og beskyldt chatbotten for ulovligt at skabe seksualiserede billeder af personer uden deres samtykke.

X, som er et datterselskab af Musks AI-firma xAI, har tidligere udtalt, at de fjerner ulovligt indhold, herunder materiale om seksuelt misbrug af børn, suspenderer krænkende konti og samarbejder med politiet, når det er nødvendigt.

Spændinger med Washington hænger over

Grok-undersøgelsen kommer kort efter, at EU pålagde X en separat bøde på 120 millioner euro (142 millioner dollars) under DSA.

I den tidligere sag konkluderede EU-regulatorerne, at X's betalte blå fluebensystem vildledte brugerne, at platformen ikke gav tilstrækkelig dataadgang til forskere, og at den ikke korrekt etablerede et arkiv for reklamegennemsigtighed.

Den bøde udløste skarp kritik fra Trump-administrationen, som har fremstillet EU's digitale regulering som et angreb på ytringsfriheden og amerikanske teknologivirksomheder.

Forud for sanktionen i december skrev USA's vicepræsident JD Vance på X, at "EU bør støtte ytringsfrihed, ikke angribe amerikanske virksomheder over skrald."

Europæiske embedsmænd har dog konsekvent afvist disse påstande og argumenterer for, at DSA er designet til at beskytte brugernes rettigheder og sikkerhed frem for at begrænse lovlig ytring.