EU opent onderzoek naar Musk's X over Grok AI en mogelijke schendingen van kinderveiligheid

De Europese Unie is een formeel onderzoek gestart naar Elon Musks sociale mediaplatform X vanwege zorgen dat de Grok-chatbot met kunstmatige intelligentie deepfake-beelden heeft gegenereerd die "mogelijk neerkomen op materiaal van seksueel misbruik van kinderen."

De Europese Commissie zei dat het onderzoek zal beoordelen of X voldeed aan zijn verplichtingen onder de Digital Services Act (DSA) van het blok om de risico's van Grok in de 27 lidstaten van de EU correct te identificeren, beoordelen en beperken.

Het onderzoek draagt bij aan de toenemende controle over de inhoudsmoderatiepraktijken van X en kan de spanningen tussen Brussel en Washington verder aanwakkeren.

Focus op risicobeoordeling en mitigatie

Volgens de Commissie zal het onderzoek onderzoeken of X de systemische risico's die verband houden met de uitrol van Grok adequaat heeft aangepakt, met name het risico op het genereren van niet-consensuele seksuele deepfakes met vrouwen en kinderen.

De zaak valt onder de DSA, het omvangrijke online content-regelboek van de EU dat strenge eisen oplegt aan grote platforms om de verspreiding van illegaal en schadelijk materiaal te voorkomen.

"Niet-consensuele seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van degradatie," zei EU-techcommissaris Henna Virkkunen.

De Commissie zei dat het onderzoek in dit stadium geen tussentijdse maatregelen zal omvatten.

Onder de Digital Services Act, die in 2023 van kracht werd, heeft de EU de bevoegdheid om boetes op te leggen tot 6% van de wereldwijde jaarlijkse omzet van een bedrijf bij het niet aanpakken van illegale inhoud, het beperken van systemische risico's of het voldoen aan transparantie-eisen.

Groeiende internationale tegenreactie op Grok

Het EU-onderzoek volgt op de toenemende wereldwijde veroordeling van Grok in de afgelopen weken.

Gebruikers in meerdere landen hebben gemeld dat de AI-chatbot geseksualiseerde beelden genereerde en deze op X plaatste, wat leidde tot tegenreactie van toezichthouders en kinderveiligheidsvoorvechters.

In het Verenigd Koninkrijk onderzoekt communicatietoezichthouder Ofcom al formeel of X de Online Safety Act van het land heeft geschonden met betrekking tot de output van Grok.

Autoriteiten in Frankrijk en India hebben ook zorgen geuit en beschuldigen de chatbot ervan illegaal geseksualiseerde afbeeldingen van individuen te hebben gemaakt zonder hun toestemming.

X, een dochteronderneming van Musks AI-bedrijf xAI, heeft eerder gezegd dat het illegale inhoud verwijdert, waaronder materiaal over seksueel misbruik van kinderen, schort aanklachtende accounts en indien nodig samenwerkt met de politie.

Spanningen met Washington hangen boven

Het Grok-onderzoek volgt kort nadat de EU X een aparte boete van €120 miljoen ($142 miljoen) oplegde aan X onder de DSA.

In die eerdere zaak concludeerden EU-regelgevers dat het betaalde blauwe vinkjessysteem van X gebruikers misleidde, dat het platform onderzoekers niet voldoende toegang tot gegevens bood, en dat het geen juiste opslagplaats voor advertentietransparantie had opgezet.

Die boete kreeg scherpe kritiek van de regering-Trump, die EU-regelgeving voor digitale regelgeving heeft gepresenteerd als een aanval op de vrijheid van meningsuiting en Amerikaanse technologiebedrijven.

Voorafgaand aan de straf in december schreef de Amerikaanse vicepresident JD Vance op X dat "de EU de vrijheid van meningsuiting zou moeten steunen, niet Amerikaanse bedrijven zou moeten aanvallen vanwege afval."

Europese functionarissen hebben deze claims echter consequent verworpen en stellen dat de DSA bedoeld is om de rechten en veiligheid van gebruikers te beschermen in plaats van de wettige uiting te beperken.