X kohtaa uutta tarkastelua Japanissa, kun Grokin deepfake-huoli leviää maailmanlaajuisesti

Japani on liittynyt kasvavaan listaan maita, jotka tarkastelevat X :ää Elon Muskin tekoälypalvelu Grokin vuoksi ja ovat huolissaan siitä, että chatbotia voidaan käyttää ihmisten seksuaalisten kuvien luomiseen ja levittämiseen ilman heidän suostumustaan.

Tämä kehitys lisää uutta painetta sosiaalisen median alustalle, kun sääntelijät ympäri maailmaa tehostavat tekoälytyökalujen valvontaa, jotka saattavat loukata yksityisyyttä ja kuvaoikeuksia.

Japanin päätös tuli sen jälkeen, kun Grok herätti tässä kuussa kritiikkiä siitä, kuinka helposti sitä voitiin käyttää valokuvien manipulointiin seksuaalisten tai alentavien henkilöiden halventamiseen. Vaikka rajoituksia on otettu käyttöön, viranomaiset sanovat, ettei riskiä ole täysin hallinnassa.

Bloombergin mukaan kabinetin toimisto on pyytänyt X:ää parantamaan turvatoimia ja rajoittamaan Grokin kautta luotujen seksuaalisesti muunneltujen kuvien tuotantoa, sanoi talousturvallisuusministeri Kimi Onoda.

Viranomaiset jättivät myös kirjallisia kysymyksiä siitä, mitä toimenpiteitä X on ottanut käyttöön estääkseen deepfakeja ja muita kuvia, jotka loukkaavat ihmisten yksityisyyttä, immateriaalioikeuksia ja oikeutta hallita heidän kuvansa käyttöä, hän lisäsi.

Kabinetin toimisto painostaa X:ää vahvistamaan Grokin turvatoimia

Onoda sanoi, että hallitus hakee selkeämpiä vastauksia siihen, miten X aikoo estää haitallisten muokattujen kuvien, mukaan lukien ei-suostumukselliset seksuaalisoidut deepfake-kuvien luomisen.

Japanin kabinetin toimisto tarkastelee myös, ovatko alustan nykyiset toimet riittävän tehokkaita estämään väärinkäytön, erityisesti kun työkalut ovat helpommin saatavilla ja vaikeammin havaittavissa.

Grok sai tässä kuussa kovaa kritiikkiä käyttäjiltä ja hallituksilta, Malesiasta Italiaan, siitä, kuinka helposti sitä voitiin käyttää kuvien muokkaamiseen.

Sen jälkeen Grok on asettanut joitakin rajoituksia kuvanluontiominaisuuksiinsa ja asettanut ne maksumuurin taakse.

Japani varoittaa, että oikeudelliset toimet ovat edelleen mahdollisia

Japanin väliintuloa on seurannut varoitus, että tiukemmat toimet ovat mahdollisia, jos ongelma jatkuu. Perjantaina pidetyssä lehdistötilaisuudessa Onoda sanoi, että kaikki vaihtoehdot ovat edelleen käytettävissä, jos X ei paranna turvatoimia.

Hän sanoi, että hallitus on valmis harkitsemaan oikeudellisia toimenpiteitä, jos parannusta ei tapahdu.

Onoda myös vihjasi, että Japani saattaa ryhtyä vastaaviin toimiin muita alustoja vastaan, jos samanlainen ongelma ilmenee muualla, mikä viittaa siihen, että viranomaiset tarkkailevat laajempaa tekoälymarkkinaa, eivät vain Grokia.

Aiemmin tällä viikolla xAI, Grokin takana oleva yritys, kertoi estävänsä käyttäjiltä kyvyn luoda seksuaalisia kuvia oikeista ihmisistä chatbotin avulla.

Silti Onoda sanoi, että tällaisen sisällön luomisen jatkuva kyky on edelleen huolenaihe ja saattaa vaatia lisätoimenpiteitä.

Maailmanlaajuiset tutkimukset laajenevat, kun maat tiukentavat pääsyä

Japanin toimenpide tapahtuu samaan aikaan, kun tutkimukset laajenevat useille lainkäyttöalueille.

Kanada, Kalifornia, Euroopan unioni ja yksittäiset EU:n jäsenvaltiot, kuten Ranska, tutkivat, loukkaavatko Grokin tuottamat kuvat ihmisten oikeuksia.

Kaakkois-Aasian osissa viranomaiset ovat valinneet suorempaa reittiä rajoittamalla pääsyä.

Malesia, Indonesia ja Filippiinit ovat rajoittaneet kotimaista pääsyä Grokiin, mikä heijastaa kasvavaa huolta siitä, kuinka nopeasti tekoälyn tuottama sisältö voi levitä ja kuinka vaikeaa sen hallinta voi olla luomisen jälkeen.

Asia on tuonut X:n ja xAI:n uudelleen huomion kohteeksi aikana, jolloin hallitukset keskittyvät yhä enemmän tekoälytyökalujen sääntelyyn, jotka voivat hämärtää rajaa todellisen ja synteettisen median välillä.

Japanin tekoälylaki rajoittaa valvontavaltaa

Japani yrittää tasapainottaa tiukempia kontrolleja ja pyrkimystensä kuroa Yhdysvallat ja Kiina umpeen tekoälyssä, alueen, jonka se pitää tärkeänä kansallisessa strategiassa.

Sen nykyinen kehys saattaa kuitenkin rajoittaa, kuinka aggressiivisesti se voi reagoida.

Japanin tekoälylaki, joka astui täysimääräisesti voimaan syyskuussa, ei sisällä rangaistuksia.

Tämä rajoittaa hallituksen puuttumisen pääasiassa tutkintoihin ja virallisten ohjeiden antamiseen rikkomusten sattuessa sen sijaan, että määrättäisiin suoria seuraamuksia.

Japanilaisten päättäjien keskustelut ovat keskittyneet toimenpiteisiin, kuten käyttäjien kouluttamiseen ja tekoälypalveluiden vaatimukseen näyttää, milloin kuvia on muokattu.

Bloombergin mukaan kabinetin toimisto pyrkii myös koordinoimaan mahdollisia toimenpiteitä oikeusministeriön, kansallisen poliisiviraston ja viestintäministeriön kanssa.