X staat wereldwijd onder de loep omdat de Grok-chatbot uitbuitende beelden genereerde

Elon Musks sociale mediaplatform X (voorheen bekend als Twitter) wordt steeds meer gecontroleerd in meerdere rechtsgebieden nadat de Grok-chatbot werd gebruikt om AI-gegenereerde, geseksualiseerde beelden van kinderen en vrouwen te creëren en te delen.

Autoriteiten in Europa, India en Maleisië zijn onderzoeken gestart, terwijl functionarissen in Brazilië en het VK ook hun zorgen hebben geuit, wat een van de ernstigste wereldwijde regelgevingsuitdagingen tot nu toe vormt voor Musks AI-ambities.

De controverse draait om Grok Imagine, een recent bijgewerkte functie waarmee gebruikers afbeeldingen direct op X kunnen genereren van tekstgebaseerde prompts.

In de afgelopen weken is het hulpmiddel naar verluidt gebruikt om niet-consensuele, intieme beelden (NCII) te produceren en te verspreiden, inclusief inhoud met minderjarigen.

Veel van deze beelden zijn wijdverspreid op het platform, wat heeft geleid tot tussenkomst van toezichthouders en veiligheidsvoorvechters.

Toezichthouders bewegen zich door Europa, Azië en Latijns-Amerika

In Europa heeft de kwestie scherpe kritiek gekregen van functionarissen.

Tijdens een persconferentie op maandag zei woordvoerder van de Europese Commissie, Thomas Regnier, dat de autoriteit "zeer serieus naar deze kwestie kijkt," en voegde eraan toe dat X en Grok een "spicy mode" aanboden die expliciete seksuele inhoud produceerde, waaronder kinderlijke beelden.

"Dit is niet 'pittig'," zei Regnier. "Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk."

De Britse mediawaakhond Ofcom bevestigde dat het informatie heeft opgevraagd bij X over de Grok-kwesties.

In India gaf het Ministerie van Elektronica en Informatietechnologie eind vorige week opdracht tot een "uitgebreide technische, procedurele en governance-niveau beoordeling" van Grok, met een deadline van 5 januari voor naleving.

De Maleisische Commissie voor Communicatie en Multimedia zei dat zij het platform onderzoekt en bedrijfsvertegenwoordigers zal oproepen, met het oproepen van sterkere waarborgen die in overeenstemming zijn met lokale wetgeving.

In Brazilië zei een parlementslid dat zij de federale openbare aanklager en de gegevensbeschermingsautoriteit van het land had gevraagd het gebruik van Rok op te schorten totdat een onderzoek is afgerond.

Musk, xAI en het veiligheidsdebat

Terwijl veiligheidsexperts en technologiecritici de verspreiding van uitbuitende beelden veroordeelden, leek Musk de controverse te bespotten door door Grok gegenereerde beelden op X te delen, waaronder een waarop hij in bikini stond.

X gaf later zijn eerste publieke reactie via het officiële Safety-account, waarin werd aangegeven dat het actie onderneemt tegen illegale inhoud, waaronder materiaal over seksueel misbruik van kinderen (CSAM), via verwijderingen, schorsingen van accounts en samenwerking met de politie.

Musk waarschuwde afzonderlijk dat iedereen die Grok aanzet tot het maken van illegale inhoud, dezelfde gevolgen ondervindt als het uploaden van dergelijk materiaal.

Een xAI-medewerker zei dat Grok Imagine was bijgewerkt, maar specificeerde niet of de wijzigingen betrekking hadden op het genereren van schadelijke expliciete afbeeldingen.

In de VS riep het National Center on Sexual Exploitation het Department of Justice en de Federal Trade Commission op om onderzoek te doen.

Hoewel federale instanties weigerden commentaar te geven, zei NCOSE dat bestaande wetten die het creëren en verspreiden van CSAM verbieden, zelfs in bepaalde omstandigheden kunnen gelden voor virtueel gemaakte content.

Het verkeer stijgt ondanks de controverse

Ondanks de tegenreactie heeft de gebruikersbetrokkenheid van X niet gedaald.

Gegevens van Apptopia tonen aan dat het aantal dagelijkse downloads van Grok sinds 2 januari met 54% is gestegen, terwijl het aantal dagelijkse downloads van X de afgelopen drie dagen met 25% is gestegen.

Critici stellen dat de aflevering zwaktes benadrukt in de vertrouwens- en veiligheidsinfrastructuur van X, met name rond AI-gegenereerde content.