X møder ny japansk granskning, da bekymringer om Grok deepfake spreder sig verden over

Japan er nu kommet med på en voksende liste af lande, der gransker X på grund af Elon Musks kunstige intelligens-tjeneste Grok og bekymringer om, at chatbotten kan bruges til at skabe og sprede seksualiserede billeder af mennesker uden deres samtykke.

Udviklingen lægger nyt pres på sociale medieplatforme, efterhånden som tilsynsmyndigheder verden over intensiverer kontrollen med AI-værktøjer, der kan krænke privatlivets fred og billedrettigheder.

Japans tiltag kommer efter, at Grok udløste modreaktion denne måned for, hvor let det kunne bruges til at manipulere billeder for at seksualisere eller nedgøre enkeltpersoner. Selvom restriktioner er blevet indført, siger myndighederne, at risikoen ikke er blevet fuldt ud inddæmmet.

Ifølge Bloomberg har Cabinet Office bedt X om at forbedre sikkerhedsforanstaltningerne og begrænse produktionen af seksuelt manipulerede billeder skabt gennem Grok, sagde minister for økonomisk sikkerhed Kimi Onoda.

Embedsmænd indsendte også skriftlige spørgsmål om, hvilke tiltag X har indført for at forhindre deepfakes og andre billeder, der krænker folks privatliv, intellektuelle ejendom og retten til at kontrollere brugen af deres billede, tilføjede hun.

Kabinetskontoret presser X til at styrke Grok-sikkerhedsforanstaltningerne

Onoda sagde, at regeringen søger klarere svar på, hvordan X planlægger at stoppe produktionen af skadelige manipulerede billeder, herunder ikke-samtykkende seksualiserede deepfakes.

Japans Kabinetskontor undersøger også, om platformens nuværende tiltag er effektive nok til at forhindre misbrug, især efterhånden som værktøjerne bliver mere tilgængelige og sværere at opdage.

Grok modtog kraftig kritik denne måned fra brugere og regeringer, fra Malaysia til Italien, for hvor let det kunne bruges til at manipulere billeder.

Siden da har Grok indført nogle begrænsninger på sine billedgenereringsmuligheder og sat dem bag en betalingsmur.

Japan advarer om, at juridiske skridt fortsat er mulige

Japans indgriben er blevet ledsaget af en advarsel om, at stærkere handling er mulig, hvis problemet fortsætter. På en pressekonference fredag sagde Onoda, at alle muligheder stadig er tilgængelige, hvis X ikke forbedrer sikkerhedsforanstaltningerne.

Hun sagde, at regeringen er parat til at overveje juridiske skridt, hvis der ikke sker forbedring.

Onoda signalerede også, at Japan kan tage lignende skridt mod andre platforme, hvis samme type problem opstår andre steder, hvilket indikerer, at regulatorerne holder kolleksjon på det bredere AI-marked, ikke kun Grok.

Tidligere på ugen sagde xAI, virksomheden bag Grok, at de deaktiverer brugernes mulighed for at generere seksualiserede billeder af rigtige mennesker ved hjælp af chatbotten.

Alligevel sagde Onoda, at den fortsatte evne til at skabe sådant indhold fortsat er en bekymring og kan kræve yderligere tiltag.

Globale undersøgelser udvides, efterhånden som landene strammer adgangen

Japans tiltag kommer, mens undersøgelserne udvides på tværs af flere jurisdiktioner.

Canada, Californien, Den Europæiske Union og enkelte EU-medlemslande som Frankrig undersøger, om Groks genererede billeder krænker folks rettigheder.

I dele af Sydøstasien har myndighederne valgt en mere direkte tilgang ved at begrænse adgangen.

Malaysia, Indonesien og Filippinerne har begrænset den indenlandske adgang til Grok, hvilket afspejler voksende bekymring over, hvor hurtigt AI-genereret indhold kan sprede sig, og hvor svært det kan være at kontrollere, når det først er skabt.

Problemet har sat X og xAI i fornyet opmærksomhed på et tidspunkt, hvor regeringer i stigende grad fokuserer på at regulere AI-værktøjer, der kan udviske grænsen mellem ægte og syntetiske medier.

Japans AI-lovgivning begrænser håndhævelsesbeføjelsen

Japan forsøger at balancere strammere kontrol med sin ambition om at indhente USA og Kina inden for AI, et område de anser for vigtigt for national strategi.

Dog kan dens nuværende ramme begrænse, hvor aggressivt den kan reagere.

Japans AI-lov, som trådte fuldt i kraft i september, medfører ingen sanktioner.

Dette begrænser regeringens indblanding hovedsageligt til undersøgelser og udstedelse af formelle vejledninger, når overtrædelser finder sted, i stedet for at indføre direkte sanktioner.

Diskussioner blandt japanske beslutningstagere har fokuseret på tiltag som at uddanne brugere og kræve, at AI-tjenester viser, hvornår billeder er blevet manipuleret.

Ifølge Bloomberg søger Cabinet Office også at koordinere mulige skridt med Justitsministeriet, National Police Agency og Kommunikationsministeriet.