X ponownie stoi pod lupą Japonii, gdy obawy dotyczące deepfake'ów Grok rozprzestrzeniają się na cały świat

Japonia dołączyła do rosnącej listy krajów analizujących X w kontekście usługi sztucznej inteligencji Elona Muska Grok i obaw, że chatbot może być używany do tworzenia i rozpowszechniania seksualizowanych obrazów ludzi bez ich zgody.

Rozwój wydarzeń wywiera nową presję na platformę mediów społecznościowych, ponieważ regulatorzy na całym świecie zaostrzają kontrole nad narzędziami AI, które mogą naruszać prawa do prywatności i obrazu.

Ruch Japonii nastąpił po tym, jak Grok wywołał w tym miesiącu krytykę za to, jak łatwo można go wykorzystać do manipulacji zdjęciami w celu seksualizacji lub poniżania osób. Chociaż wprowadzono ograniczenia, urzędnicy twierdzą, że ryzyko nie zostało w pełni opanowane.

Według Bloomberga, Biuro Gabinetu zwróciło się do X o poprawę zabezpieczeń i ograniczenie emisji obrazów zmienionych seksualnie tworzonych przez Grok, powiedział minister bezpieczeństwa gospodarczego Kimi Onoda.

Urzędnicy złożyli również pisemne pytania dotyczące środków X wdrożonych, aby zapobiec deepfake'om i innym obrazom naruszającym prywatność, własność intelektualną oraz prawo do kontroli nad użyciem ich wizerunku, dodała.

Biuro Gabernetu naciska na X, by wzmocnić zabezpieczenia Grok

Onoda powiedział, że rząd dąży do jaśniejszych odpowiedzi na temat tego, jak X planuje powstrzymać tworzenie szkodliwych, zmanipulowanych obrazów, w tym niekonsensualnych, seksualizowanych deepfake'ów.

Biuro Rządu Japonii również analizuje, czy obecne środki platformy są wystarczająco skuteczne, by zapobiec nadużyciom, zwłaszcza gdy narzędzia stają się bardziej dostępne i trudniejsze do wykrycia.

Grok spotkał się w tym miesiącu z ostrą krytyką ze strony użytkowników i rządów, od Malezji po Włochy, za łatwość wykorzystania go do manipulacji obrazami.

Od tego czasu Grok wprowadził pewne ograniczenia dotyczące swoich możliwości generowania obrazów i umieścił je za paywallem.

Japonia ostrzega, że kroki prawne pozostają możliwe

Interwencji Japonii towarzyszyło ostrzeżenie, że jeśli problem się utrzyma, możliwe są silniejsze działania. Podczas konferencji prasowej w piątek Onoda powiedział, że wszystkie opcje pozostają dostępne, jeśli X nie poprawi zabezpieczeń.

Powiedziała, że rząd jest gotów rozważyć kroki prawne, jeśli nie nastąpi poprawa.

Onoda zasugerował również, że Japonia może podjąć podobne działania wobec innych platform, jeśli podobny problem pojawi się gdzie indziej, wskazując, że regulatorzy obserwują szerszy rynek AI, a nie tylko Grok.

Na początku tego tygodnia firma xAI, stojąca za Grok, poinformowała, że uniemożliwia użytkownikom generowanie seksualizowanych zdjęć prawdziwych osób korzystających z chatbota.

Mimo to Onoda powiedział, że ciągła możliwość tworzenia takich treści pozostaje niepokojem i może wymagać dalszych działań.

Globalne badania się rozszerzają, gdy kraje zaostrzają dostęp do nich

Ruch Japonii następuje w momencie, gdy śledztwa rozszerzają się na wiele jurysdykcji.

Kanada, Kalifornia, Unia Europejska oraz poszczególne państwa członkowskie UE, takie jak Francja, badają, czy zdjęcia generowane przez Groka naruszają prawa ludzi.

W niektórych częściach Azji Południowo-Wschodniej władze obrały bardziej bezpośrednią drogę, ograniczając dostęp.

Malezja, Indonezja i Filipiny ograniczyły krajowy dostęp do Grok, co odzwierciedla rosnące obawy dotyczące tego, jak szybko mogą się rozprzestrzeniać treści generowane przez AI i jak trudno jest je powstrzymać po ich powstaniu.

Problem ten ponownie zwrócił uwagę na X i xAI w czasie, gdy rządy coraz bardziej koncentrują się na regulacji narzędzi AI, które mogą zacierać granicę między mediami rzeczywistymi a syntetycznymi.

Japońskie prawo dotyczące AI ogranicza uprawnienia egzekwowania prawa

Japonia stara się zrównoważyć zaostrzenie kontroli z ambicją doganiania USA i Chin w dziedzinie AI, obszaru, który uważa za ważny dla strategii narodowej.

Jednak obecne ramy mogą ograniczać to, jak agresywnie może reagować.

Japońskie prawo dotyczące AI, które weszło w pełni we wrześniu, nie przewiduje żadnych sankcji.

Ogranicza to ingerencję rządu głównie do śledztw i wydawania formalnych wytycznych w przypadku naruszeń, zamiast nakładania bezpośrednich sankcji.

Dyskusje wśród japońskich decydentów koncentrowały się na takich działaniach jak edukacja użytkowników oraz wymóg, aby usługi AI pokazywały, kiedy obrazy zostały przerobione.

Według Bloomberga, Biuro Gabinetu dąży również do koordynacji możliwych kroków z Ministerstwem Sprawiedliwości, Narodową Agencją Policji oraz Ministerstwem Komunikacji.