EU inleder utredning av Musks X om Grok AI och potentiella brott mot barns säkerhet

Europeiska unionen har inlett en formell utredning av Elon Musks sociala medieplattform X på grund av oro för att dess Grok-chattbot, artificiell intelligens, kan ha genererat deepfake-bilder som "kan utgöra material om sexuella övergrepp mot barn."

Europeiska kommissionen sade att utredningen kommer att bedöma om X uppfyllde sina skyldigheter enligt blockets Digital Services Act (DSA) att korrekt identifiera, bedöma och mildra risker kopplade till att använda Grok i EU:s 27 medlemsstater.

Utredningen ökar granskningen av X:s innehållsmodereringspraxis och kan ytterligare förvärra spänningarna mellan Bryssel och Washington.

Fokus på riskbedömning och riskminskning

Enligt kommissionen kommer utredningen att undersöka om X tillräckligt hanterade systemrisker kopplade till Groks lansering, särskilt risken för att skapa icke-samtyckta sexuella deepfakes som involverar kvinnor och barn.

Fallet faller under DSA, EU:s omfattande regelbok för onlineinnehåll som ställer strikta krav på stora plattformar för att förhindra spridning av olagligt och skadligt material.

"Icke-samtyckta sexuella deepfakes av kvinnor och barn är en våldsam, oacceptabel form av förnedring," sade EU:s teknikkommissionär Henna Virkkunen.

Kommissionen sade att utredningen inte kommer att innebära tillfälliga åtgärder i detta skede.

Enligt Digital Services Act, som trädde i kraft 2023, har EU befogenhet att utdöma böter på upp till 6 % av ett företags globala årliga omsättning för att inte hantera olagligt innehåll, minska systemrisker eller uppfylla transparenskrav.

Växande internationell motreaktion mot Grok

EU:s utredning följer på den ökande globala fördömelsen av Grok de senaste veckorna.

Användare i flera länder har rapporterat att AI-chatboten genererade sexualiserade bilder och publicerade dem på X, vilket utlöste motreaktioner från tillsynsmyndigheter och barnsäkerhetsförespråkare.

I Storbritannien utreder kommunikationsregulatorn Ofcom redan formellt om X bröt mot landets Online Safety Act i relation till Groks utdelning.

Myndigheter i Frankrike och Indien har också uttryckt oro och anklagat chattboten för att olagligt skapa sexualiserade bilder av individer utan deras samtycke.

X, som är ett dotterbolag till Musks AI-företag xAI, har tidigare sagt att de tar bort olagligt innehåll, inklusive material om sexuella övergrepp mot barn, stänger av brottsliga konton och samarbetar med polisen när det behövs.

Spänningar med Washington hänger över

Grok-utredningen kommer kort efter att EU införde en separat böter på 120 miljoner euro (142 miljoner dollar) mot X enligt DSA.

I det tidigare fallet drog EU-tillsynsmyndigheter slutsatsen att X:s betalda blå bocksystem vilseledde användarna, att plattformen inte gav tillräcklig dataåtkomst till forskare och att den inte hade etablerat ett korrekt arkiv för annonstransparens.

Den böterna mötte skarp kritik från Trump-administrationen, som har framställt EU:s digitala reglering som en attack mot yttrandefriheten och amerikanska teknikföretag.

Inför sanktionen i december skrev USA:s vicepresident JD Vance på X att "EU borde stödja yttrandefrihet, inte attackera amerikanska företag för skräp."

Europeiska tjänstemän har dock konsekvent avvisat dessa påståenden och hävdat att DSA är utformat för att skydda användarnas rättigheter och säkerhet snarare än att begränsa laglig yttrandefrihet.