X se confruntă cu o nouă analiză a Japoniei, pe măsură ce îngrijorările legate de deepfake Grok se răspândesc la nivel mondial

Japonia s-a alăturat unei liste tot mai mari de țări care analizează X în legătură cu serviciul de inteligență artificială Grok al lui Elon Musk și îngrijorările că chatbotul poate fi folosit pentru a crea și răspândi imagini sexualizate ale persoanelor fără consimțământul acestora.

Această evoluție adaugă o presiune nouă asupra platformei de social media, pe măsură ce autoritățile de reglementare din întreaga lume intensifică controalele asupra instrumentelor AI care ar putea încălca drepturile la confidențialitate și imagine.

Mișcarea Japoniei vine după ce Grok a declanșat reacții negative luna aceasta pentru cât de ușor ar putea fi folosită pentru a manipula fotografii pentru a sexualiza sau umili indivizii. Deși au fost introduse restricții, oficialii spun că riscul nu a fost pe deplin controlat.

Potrivit Bloomberg, Cabinet Office i-a cerut lui X să îmbunătățească măsurile de protecție și să limiteze producția de imagini cu modificări sexuale create prin Grok, a declarat ministrul Securității Economice, Kimi Onoda.

Oficialii au trimis, de asemenea, întrebări scrise despre măsurile pe care X le are pentru a preveni deepfake-urile și alte imagini care încalcă intimitatea, proprietatea intelectuală și dreptul de a controla utilizarea imaginii acestora, a adăugat ea.

Cabinet Office presează X să întărească garanțiile Grok

Onoda a spus că guvernul caută răspunsuri mai clare despre cum plănuiește X să oprească crearea de imagini falsificate dăunătoare, inclusiv deepfake-uri sexualizate neconsensuale.

Cabinetul Japoniei analizează, de asemenea, dacă măsurile actuale ale platformei sunt suficient de eficiente pentru a preveni utilizarea abuzivă, mai ales pe măsură ce instrumentele devin tot mai accesibile și mai greu de detectat.

Grok a fost criticat dur luna aceasta din partea utilizatorilor și guvernelor, de la Malaezia la Italia, din cauza ușurinței cu care putea fi folosit pentru manipularea imaginilor.

De atunci, Grok a aplicat unele restricții asupra capacităților sale de generare de imagini și le-a plasat în spatele unui paywall.

Japonia avertizează că măsurile legale rămân posibile

Intervenția Japoniei a fost însoțită de un avertisment că acțiunile mai ferme sunt posibile dacă problema continuă. Vorbind la o conferință de presă vineri, Onoda a spus că toate opțiunile rămân disponibile dacă X nu îmbunătățește măsurile de siguranță.

Ea a spus că guvernul este pregătit să ia măsuri legale dacă nu există nicio îmbunătățire.

Onoda a semnalat, de asemenea, că Japonia ar putea lua măsuri similare împotriva altor platforme dacă o problemă similară va apărea și în alte părți, indicând că autoritățile de reglementare urmăresc piața largă a AI, nu doar Grok.

La începutul acestei săptămâni, xAI, compania din spatele Grok, a anunțat că dezactivează posibilitatea utilizatorilor de a genera imagini sexualizate cu persoane reale folosind chatbotul.

Totuși, Onoda a spus că capacitatea continuă de a crea astfel de conținut rămâne o preocupare și ar putea necesita măsuri suplimentare.

Sondajele globale se extind pe măsură ce țările își restrâng accesul

Mișcarea Japoniei vine pe măsură ce investigațiile se extind în mai multe jurisdicții.

Canada, California, Uniunea Europeană și state membre individuale ale UE, precum Franța, investighează dacă imaginile generate de Grok încalcă drepturile oamenilor.

În unele părți din Asia de Sud-Est, autoritățile au ales o cale mai directă, restricționând accesul.

Malaezia, Indonezia și Filipine au restricționat accesul intern la Grok, reflectând îngrijorarea tot mai mare cu privire la cât de repede se poate răspândi conținutul generat de IA și cât de dificil poate fi de conținut odată creat.

Problema a adus X și xAI în atenție reînnoită într-un moment în care guvernele sunt tot mai concentrate pe reglementarea instrumentelor AI care pot estompa granița dintre media reală și cea sintetică.

Legea IA din Japonia limitează puterea de aplicare a legii

Japonia încearcă să echilibreze controale mai stricte cu ambiția sa de a ajunge din urmă SUA și China în domeniul IA, un domeniu pe care îl consideră important pentru strategia națională.

Totuși, cadrul său actual poate limita cât de agresiv poate răspunde.

Legea IA din Japonia, care a intrat în vigoare deplină în septembrie, nu prevede penalizări.

Aceasta restricționează interferența guvernamentală în mare parte la investigații și la emiterea de ghiduri formale atunci când apar încălcări, în loc să impună sancțiuni directe.

Discuțiile dintre factorii de decizie japonezi s-au concentrat pe măsuri precum educarea utilizatorilor și cererea serviciilor AI de a arăta când imaginile au fost modificate.

Conform Bloomberg, Cabinet Office încearcă, de asemenea, să coordoneze posibile măsuri cu Ministerul Justiției, Agenția Națională de Poliție și Ministerul Comunicațiilor.