X møter ny japansk gransking ettersom bekymringer om Grok deepfake sprer seg over hele verden

Japan har sluttet seg til en økende liste av land som gransker X på grunn av Elon Musks kunstig intelligens-tjeneste Grok og bekymringer om at chatboten kan brukes til å lage og spre seksualiserte bilder av mennesker uten deres samtykke.

Utviklingen legger nytt press på sosiale medieplattformer ettersom tilsynsmyndigheter verden over intensiverer kontrollen med AI-verktøy som kan krenke personvern og bilderettigheter.

Japans tiltak kommer etter at Grok utløste motreaksjoner denne måneden for hvor lett det kunne brukes til å manipulere bilder for å seksualisere eller nedverdige enkeltpersoner. Selv om restriksjoner er innført, sier myndighetene at risikoen ikke er fullstendig begrenset.

Ifølge Bloomberg har Cabinet Office bedt X om å forbedre sikkerhetstiltakene og begrense produksjonen av seksuelt endrede bilder laget gjennom Grok, sa økonomisk sikkerhetsminister Kimi Onoda.

Tjenestemenn sendte også skriftlige spørsmål om hvilke tiltak X har for å forhindre deepfakes og andre bilder som bryter folks personvern, immaterielle rettigheter og retten til å kontrollere bruken av deres likhet, la hun til.

Kabinettkontoret presser X for å styrke Groks sikkerhetstiltak

Onoda sa at regjeringen søker klarere svar på hvordan X planlegger å stoppe produksjonen av skadelige manipulerte bilder, inkludert ikke-samtykkende seksualiserte deepfakes.

Japans regjeringskontor vurderer også om plattformens nåværende tiltak er effektive nok til å forhindre misbruk, spesielt ettersom verktøyene blir mer tilgjengelige og vanskeligere å oppdage.

Grok fikk kraftig kritikk denne måneden fra brukere og myndigheter, fra Malaysia til Italia, for hvor enkelt det kunne brukes til å manipulere bilder.

Siden den gang har Grok innført noen begrensninger på sine bildegenereringsmuligheter og plassert dem bak en betalingsmur.

Japan advarer om at juridiske tiltak fortsatt er mulige

Japans intervensjon har blitt ledsaget av en advarsel om at sterkere tiltak er mulig dersom problemet fortsetter. På en pressekonferanse fredag sa Onoda at alle alternativer fortsatt er tilgjengelige dersom X ikke forbedrer sikkerhetstiltakene.

Hun sa at regjeringen er forberedt på å vurdere juridiske skritt dersom det ikke skjer noen forbedring.

Onoda signaliserte også at Japan kan iverksette lignende tiltak mot andre plattformer dersom samme type problem oppstår andre steder, noe som indikerer at regulatorene følger med på det bredere AI-markedet, ikke bare Grok.

Tidligere denne uken sa xAI, selskapet bak Grok, at de deaktiverer muligheten for brukere til å generere seksualiserte bilder av ekte mennesker ved hjelp av chatboten.

Likevel sa Onoda at den pågående muligheten til å lage slikt innhold fortsatt er en bekymring og kan kreve ytterligere tiltak.

Globale undersøkelser utvides ettersom land strammer inn tilgangen

Japans tiltak kommer samtidig som etterforskningene utvides på tvers av flere jurisdiksjoner.

Canada, California, EU og enkelte EU-medlemsland som Frankrike undersøker om Groks genererte bilder bryter med folks rettigheter.

I deler av Sørøst-Asia har myndighetene valgt en mer direkte vei ved å begrense tilgangen.

Malaysia, Indonesia og Filippinene har begrenset innenlandsk tilgang til Grok, noe som gjenspeiler økende bekymring for hvor raskt AI-generert innhold kan spre seg og hvor vanskelig det kan være å kontrollere når det først er opprettet.

Problemet har satt X og xAI under fornyet oppmerksomhet i en tid hvor myndighetene i økende grad fokuserer på å regulere AI-verktøy som kan viske ut grensen mellom ekte og syntetisk media.

Japans AI-lov begrenser håndhevelsesmakten

Japan prøver å balansere strammere kontroll med sin ambisjon om å ta igjen USA og Kina innen kunstig intelligens, et område de anser som viktig for nasjonal strategi.

Likevel kan dagens rammeverk begrense hvor aggressivt det kan svare.

Japans AI-lov, som trådte i full kraft i september, har ingen straffer.

Dette begrenser myndighetenes innblanding i stor grad til etterforskninger og utstedelse av formelle retningslinjer når brudd skjer, i stedet for å ilegge direkte sanksjoner.

Diskusjoner blant japanske beslutningstakere har dreid seg om tiltak som å utdanne brukere og kreve at KI-tjenester viser når bilder er manipulert.

Ifølge Bloomberg søker Cabinet Office også å koordinere mulige tiltak med Justisdepartementet, Nasjonalpolitiet og Kommunikasjonsdepartementet.