X krijgt opnieuw Japanse aandacht nu zorgen over Grok deepfake wereldwijd verspreiden

Japan heeft zich aangesloten bij een groeiende lijst van landen die X onder de loep houden vanwege Elon Musks kunstmatige intelligentiedienst Grok en zorgen dat de chatbot gebruikt kan worden om seksualiseerde beelden van mensen te creëren en te verspreiden zonder hun toestemming.

Deze ontwikkeling legt nieuwe druk op het sociale mediaplatform nu toezichthouders wereldwijd de controle op AI-tools die mogelijk privacy- en beeldrechten schenden, intensiveren.

De stap van Japan volgt nadat Grok deze maand kritiek veroorzaakte vanwege hoe gemakkelijk het gebruikt kon worden om foto's te manipuleren om individuen te seksualiseren of te kleineren. Hoewel er beperkingen zijn ingevoerd, zeggen functionarissen dat het risico niet volledig is ingeperkt.

Volgens Bloomberg heeft het Cabinet Office X gevraagd de waarborgen te verbeteren en de productie van seksueel bewerkte beelden die via Rok worden gemaakt te beperken, zei minister van Economische Veiligheid Kimi Onoda.

Functionarissen dienden ook schriftelijke vragen in over welke maatregelen X heeft genomen om deepfakes en andere afbeeldingen te voorkomen die de privacy, intellectuele eigendom en het recht op controle over het gebruik van hun gelijkenis schenden, voegde ze eraan toe.

Cabinet Office dringt erop aan dat X de Grok-waarborgen versterkt

Onoda zei dat de overheid duidelijkere antwoorden zoekt over hoe X van plan is de creatie van schadelijke gemanipuleerde beelden te stoppen, waaronder niet-consensuele geseksualiseerde deepfakes.

Het Japanse Cabinet Office onderzoekt ook of de huidige maatregelen van het platform effectief genoeg zijn om misbruik te voorkomen, vooral nu de tools toegankelijker en moeilijker te detecteren zijn.

Grok kreeg deze maand zware kritiek van gebruikers en overheden, van Maleisië tot Italië, vanwege de eenvoud waarmee het gebruikt kon worden om beelden te manipuleren.

Sindsdien heeft Grok enkele beperkingen opgelegd aan zijn beeldgeneratiemogelijkheden en deze achter een betaalmuur geplaatst.

Japan waarschuwt dat juridische stappen mogelijk blijven

De interventie van Japan is gepaard gegaan met een waarschuwing dat sterkere maatregelen mogelijk zijn als het probleem aanhoudt. Tijdens een persconferentie op vrijdag zei Onoda dat alle opties beschikbaar blijven als X de waarborgen niet verbetert.

Ze zei dat de regering bereid is juridische stappen te overwegen als er geen verbetering is.

Onoda gaf ook aan dat Japan soortgelijke maatregelen kan nemen tegen andere platforms als hetzelfde soort probleem elders opduikt, wat aangeeft dat toezichthouders de bredere AI-markt in de gaten houden, niet alleen Grok.

Eerder deze week zei xAI, het bedrijf achter Grok, dat het de mogelijkheid voor gebruikers om seksualiseerde afbeeldingen van echte mensen te genereren met de chatbot uitschakelt.

Toch zei Onoda dat de voortdurende mogelijkheid om dergelijke inhoud te creëren een zorg blijft en mogelijk verdere maatregelen vereist.

Wereldwijde onderzoeken worden breder naarmate landen de toegang verscherpen

De stap van Japan komt terwijl onderzoeken zich uitbreiden over meerdere rechtsgebieden.

Canada, Californië, de Europese Unie en individuele EU-lidstaten zoals Frankrijk onderzoeken of de door Rok gemaakte beelden de rechten van mensen schenden.

In delen van Zuidoost-Azië hebben de autoriteiten een directere route gekozen door de toegang te beperken.

Maleisië, Indonesië en de Filipijnen hebben de binnenlandse toegang tot Rok beperkt, wat de groeiende bezorgdheid weerspiegelt over hoe snel AI-gegenereerde content zich kan verspreiden en hoe moeilijk het kan zijn om het te beheersen zodra het is aangemaakt.

Het probleem heeft X en xAI opnieuw onder de aandacht gebracht, op een moment dat overheden zich steeds meer richten op het reguleren van AI-tools die de grens tussen echte en synthetische media kunnen vervagen.

De AI-wetgeving van Japan beperkt de handhavingsmacht

Japan probeert strengere controles te balanceren met zijn ambitie om de VS en China in AI in te halen, een gebied dat het als belangrijk ziet voor de nationale strategie.

Het huidige kader kan echter beperken hoe agressief het kan reageren.

De AI-wet van Japan, die in september volledig van kracht werd, kent geen straffen.

Dit beperkt overheidsinmenging grotendeels tot onderzoeken en het uitgeven van formele richtlijnen bij overtredingen, in plaats van directe sancties op te leggen.

Discussies onder Japanse beleidsmakers hebben zich gericht op maatregelen zoals het informeren van gebruikers en het verplichten van AI-diensten om te laten zien wanneer beelden zijn gemanipuleerd.

Volgens Bloomberg probeert het Cabinet Office ook mogelijke stappen te coördineren met het Ministerie van Justitie, de National Police Agency en het Ministerie van Communicatie.