Britse toezichthouder onderzoekt X vanwege de schadelijke beelden van Grok AI onder de online veiligheidswet

De Britse communicatietoezichthouder Ofcom is een formeel onderzoek naar X gestart, waarmee de regelgevende controle op kunstmatige intelligentie-tools die in grote sociale mediaplatforms zijn ingebed, wordt opgevoerd.

Het onderzoek richt zich op de vraag of X aan zijn wettelijke verplichtingen onder de Online Safety Act heeft voldaan, na wijdverspreide bezorgdheid over hoe zijn AI-chatbot Rok is gebruikt om onwettige en schadelijke inhoud te genereren.

Deze stap plaatst het VK onder een groeiende lijst van overheden die zich afvragen of de huidige AI-waarborgen voldoende zijn wanneer beeld- en tekstgeneratietools breed online toegankelijk zijn.

Ofcom start een formeel onderzoek

Ofcom meldde maandag dat het een onderzoek was gestart naar X, een dochteronderneming van xAI, om mogelijke nakomingen van de Online Safety Act te beoordelen.

De wetgeving verplicht platforms om stappen te ondernemen om gebruikers te beschermen tegen illegale inhoud en om de risico's die samenhangen met opkomende technologieën te verminderen.

Ofcom heeft de bevoegdheid om boetes op te leggen of diensten te blokkeren als overtredingen worden bevestigd.

De toezichthouder zal nu het bewijs dat door het bedrijf is geleverd analyseren voordat een voorlopige beslissing wordt genomen.

Als Ofcom vaststelt dat de wet is overtreden, kan het een boete opleggen aan X van maximaal 10% van de wereldwijde omzet of £18 miljoen, afhankelijk van het hoogste bedrag.

Grok onder de aandacht van regelgeving

Het onderzoek richt zich op Grok, een AI-tool met minder waarborgen dan veel reguliere chatbots.

Gebruikers kunnen direct met Grok communiceren op X door de chatbot in berichten te taggen, waardoor deze tekst en afbeeldingen genereert die openbaar op het platform verschijnen.

Toezichthouders en wetgevers hebben hun zorgen geuit nadat gebruikers grote hoeveelheden niet-consensuele en onwettige beelden hebben gemaakt, waaronder materiaal met kinderen en vrouwen.

De Britse wet verbiedt het bezit of delen van seksuele afbeeldingen van kinderen en het verspreiden van intieme beelden zonder toestemming, inclusief inhoud die met AI-tools is gegenereerd.

Deze wettelijke normen zijn van toepassing, ongeacht of de beelden synthetisch of digitaal zijn bewerkt.

Platformreactie en beperkingen

Nadat gebruikers herhaaldelijk misbruik hadden gemaakt van Grok's beeldgeneratiemogelijkheden, beperkte xAI de functie tot betaalde gebruikers op X.

Dezelfde functionaliteit bleef echter gratis beschikbaar in de zelfstandige Grok-app.

Elon Musk waarschuwde deze maand dat iedereen die Grok gebruikt om illegale inhoud te maken, dezelfde gevolgen ondervindt als het uploaden van onwettig materiaal.

xAI heeft gezegd dat het berichten verwijdert die de wet overtreden, waaronder materiaal over seksueel misbruik van kinderen, en accounts die als overtreden worden bevonden, opschorst.

De Britse regering heeft aangegeven dat deze stappen mogelijk onvoldoende zijn. Minister van Economische Zaken Peter Kyle zei dat ministers indien nodig zouden overwegen X te verbieden, terwijl hij benadrukte dat het regelgevende proces zijn gang moet lopen.

Groeiende internationale druk

De zorgen over Grok reiken verder dan het Verenigd Koninkrijk.

Indonesië en Maleisië blokkeerden het hulpmiddel tijdelijk in het weekend, onder verwijzing naar risico's die verband houden met onwettige inhoud.

De Internet Watch Foundation, die door de Britse overheid is aangewezen om te helpen bij het identificeren van seksueel misbruikmateriaal van kinderen, zei dat zij criminele afbeeldingen van kinderen op het dark web had gevonden die naar verluidt door Rok waren gegenereerd.

Op Europees niveau beval de Europese Commissie X om interne documenten met betrekking tot Grok tot het einde van het jaar te bewaren.

De Franse autoriteiten hebben het instrument beschuldigd van het genereren van duidelijk illegale inhoud zonder toestemming, waarmee ze mogelijke schendingen van de Digital Services Act van de EU aanwijzen.

De regelgeving vereist dat grote online platforms de risico's die gepaard gaan met de verspreiding van illegaal materiaal, inclusief inhoud geproduceerd met AI, beperken.

Nu toezichthouders in meerdere rechtsgebieden hun focus op AI-gestuurde diensten verscherpen, wordt verwacht dat het Britse onderzoek naar X zal testen hoe bestaande online veiligheidswetten van toepassing zijn op snel evoluerende generatieve technologieën.