EU åpner etterforskning av Musks X om Grok AI og potensielle brudd på barnesikkerheten

EU har åpnet en formell etterforskning av Elon Musks sosiale medieplattform X på grunn av bekymringer om at deres Grok kunstige intelligens-chatbot kan ha generert deepfake-bilder som «kan utgjøre materiale om seksuelle overgrep mot barn.»

Europakommisjonen sa at etterforskningen vil vurdere om X har oppfylt sine forpliktelser under blokkens Digital Services Act (DSA) om å identifisere, vurdere og redusere risikoer knyttet til utrulling av Grok i EUs 27 medlemsland.

Etterforskningen fører til økende granskning av Xs innholdsmodereringspraksis og kan ytterligere øke spenningene mellom Brussel og Washington.

Fokus på risikovurdering og avbøtende tiltak

Ifølge kommisjonen vil etterforskningen undersøke om X tilstrekkelig håndterte systemiske risikoer knyttet til Groks utrulling, spesielt risikoen for å generere ikke-samtykkende seksuelle deepfakes som involverer kvinner og barn.

Saken faller inn under DSA, EUs omfattende regelbok for nettinnhold som pålegger store plattformer strenge krav for å forhindre spredning av ulovlig og skadelig materiale.

«Ikke-samtykkende seksuelle deepfakes av kvinner og barn er en voldelig, uakseptabel form for nedverdigelse,» sa EUs teknologikommissær Henna Virkkunen.

Kommisjonen sa at etterforskningen ikke vil innebære midlertidige tiltak på dette stadiet.

I henhold til Digital Services Act, som trådte i kraft i 2023, har EU myndighet til å ilegge bøter på opptil 6 % av et selskaps globale årlige omsetning for manglende håndtering av ulovlig innhold, reduksjon av systemiske risikoer eller overholdelse av åpenhetskrav.

Økende internasjonal motstand mot Grok

EUs etterforskning følger etter en økende global fordømmelse av Grok de siste ukene.

Brukere i flere land har rapportert at AI-chatboten genererte seksualiserte bilder og la dem ut på X, noe som utløste motreaksjoner fra regulatorer og barnevernsforkjempere.

I Storbritannia undersøker kommunikasjonsregulatoren Ofcom allerede formelt om X brøt landets Online Safety Act i forbindelse med Groks utgivelser.

Myndighetene i Frankrike og India har også uttrykt bekymring, og anklager chatboten for ulovlig å ha laget seksualiserte bilder av personer uten deres samtykke.

X, som er et datterselskap av Musks AI-selskap xAI, har tidligere sagt at de fjerner ulovlig innhold, inkludert materiale om seksuelle overgrep mot barn, suspenderer støtende kontoer og samarbeider med politiet når det er nødvendig.

Spenningsnivået med Washington truer

Grok-etterforskningen kommer kort tid etter at EU påla X en separat bot på 120 millioner euro (142 millioner dollar) under DSA.

I den tidligere saken konkluderte EU-regulatorene med at Xs betalte blå avkrysningssystem villedet brukerne, at plattformen ikke ga tilstrekkelig tilgang til data til forskere, og at den ikke hadde etablert et riktig arkiv for annonsetransparens.

Den boten fikk skarp kritikk fra Trump-administrasjonen, som har fremstilt EUs digitale regulering som et angrep på ytringsfriheten og amerikanske teknologiselskaper.

I forkant av desemberstraffen skrev USAs visepresident JD Vance på X at «EU bør støtte ytringsfrihet, ikke angripe amerikanske selskaper over søppel.»

Europeiske tjenestemenn har imidlertid konsekvent avvist disse påstandene, og hevdet at DSA er utformet for å beskytte brukernes rettigheter og sikkerhet snarere enn å begrense lovlig ytring.