X steht unter neuer japanischer Beobachtung, da sich Grok-Deepfake-Bedenken weltweit verbreiten

Japan hat sich einer wachsenden Liste von Ländern angeschlossen, die X wegen Elon Musks künstlicher Intelligenz-Dienst Grok und der Befürchtung beobachten, dass der Chatbot dazu verwendet werden kann, sexualisierte Bilder von Menschen ohne deren Zustimmung zu erstellen und zu verbreiten.

Diese Entwicklung erhöht den Druck auf die Social-Media-Plattform, da Regulierungsbehörden weltweit die Kontrollen von KI-Tools verschärfen, die Privatsphäre und Bildrechte verletzen könnten.

Japans Schritt folgt, nachdem Grok diesen Monat Gegenwind ausgelöst hat, weil es so leicht genutzt werden könnte, Fotos zu manipulieren, um Einzelpersonen zu sexualisieren oder zu erniedrigen. Obwohl Beschränkungen eingeführt wurden, sagen die Behörden, dass das Risiko nicht vollständig eingedämmt wurde.

Laut Bloomberg hat das Kabinettsbüro X gebeten, die Schutzmaßnahmen zu verbessern und die Produktion sexuell veränderter Bilder, die durch Girok erstellt werden, einzudämmen, sagte Wirtschaftssicherheitsminister Kimi Onoda.

Beamte stellten außerdem schriftliche Fragen dazu, welche Maßnahmen X ergriffen hat, um Deepfakes und andere Bilder zu verhindern, die die Privatsphäre, das geistige Eigentum und das Recht auf Kontrolle über die Nutzung ihres Abbildes verletzen, fügte sie hinzu.

Das Kabinettsbüro drängt X zur Stärkung der Grok-Schutzmaßnahmen

Onoda sagte, die Regierung suche klarere Antworten darauf, wie X plant, die Erstellung schädlicher manipulierter Bilder, einschließlich nicht einvernehmlicher sexualisierter Deepfakes, zu stoppen.

Das japanische Kabinettsbüro prüft außerdem, ob die aktuellen Maßnahmen der Plattform wirksam genug sind, um Missbrauch zu verhindern, insbesondere da die Werkzeuge zugänglicher und schwerer zu erkennen sind.

Grok erhielt diesen Monat heftige Kritik von Nutzern und Regierungen, von Malaysia bis Italien, wegen der Leichtigkeit, mit der es zur Bildmanipulation genutzt werden konnte.

Seitdem hat Grok einige Einschränkungen für seine Bildgenerierungsmöglichkeiten eingeführt und sie hinter eine Bezahlschranke gestellt.

Japan warnt, dass rechtliche Schritte weiterhin möglich bleiben

Japans Intervention wurde von einer Warnung begleitet, dass stärkere Maßnahmen möglich sind, falls das Problem anhält. Auf einer Pressekonferenz am Freitag sagte Onoda, alle Optionen bleiben verfügbar, falls X die Schutzmaßnahmen nicht verbessert.

Sie sagte, die Regierung sei bereit, rechtliche Schritte in Betracht zu ziehen, falls es keine Verbesserung gibt.

Onoda signalisierte außerdem, dass Japan ähnliche Maßnahmen gegen andere Plattformen ergreifen könnte, falls ein ähnliches Problem anderswo auftaucht, was darauf hindeutet, dass die Regulierungsbehörden den breiteren KI-Markt beobachten und nicht nur Grok.

Anfang dieser Woche erklärte xAI, das Unternehmen hinter Grok, dass es die Möglichkeit für Nutzer deaktiviert, sexualisierte Bilder realer Menschen mithilfe des Chatbots zu generieren.

Dennoch sagte Onoda, dass die fortlaufende Fähigkeit, solche Inhalte zu erstellen, weiterhin ein Problem sei und weitere Maßnahmen erfordern könnte.

Globale Ermittlungen weiten sich aus, während die Länder den Zugang verschärfen

Japans Schritt erfolgt, während die Ermittlungen sich auf mehrere Jurisdiktionen ausweiten.

Kanada, Kalifornien, die Europäische Union und einzelne EU-Mitgliedstaaten wie Frankreich untersuchen, ob Groks erstellte Bilder die Rechte der Menschen verletzen.

In Teilen Südostasiens haben die Behörden einen direkteren Weg gewählt und den Zugang eingeschränkt.

Malaysia, Indonesien und die Philippinen haben den inländischen Zugang zu Rok eingeschränkt, was die wachsende Besorgnis darüber widerspiegelt, wie schnell KI-generierte Inhalte sich verbreiten können und wie schwer sie nach der Erstellung zu kontrollieren sein können.

Das Problem hat X und xAI in eine Zeit neuer Aufmerksamkeit gerückt, in einer Zeit, in der Regierungen zunehmend darauf fokussiert sind, KI-Tools zu regulieren, die die Grenze zwischen realen und synthetischen Medien verwischen können.

Japans KI-Gesetzgebung schränkt die Durchsetzungsmacht ein

Japan versucht, strengere Kontrollen mit seinem Ehrgeiz in Einklang zu bringen, mit den USA und China im Bereich KI aufzuholen – ein Bereich, den es für die nationale Strategie wichtig hält.

Allerdings könnte sein derzeitiger Rahmen einschränken, wie aggressiv es reagieren kann.

Das japanische KI-Gesetz, das im September voll in Kraft trat, sieht keine Strafen vor.

Dies beschränkt staatliche Eingriffe weitgehend auf Untersuchungen und das Herausgeben formeller Leitlinien bei Verstößen, anstatt direkte Sanktionen zu verhängen.

Die Diskussionen unter den japanischen Entscheidungsträgern drehten sich um Maßnahmen wie die Aufklärung der Nutzer und die Aufforderung, dass KI-Dienste anzeigen, wann Bilder manipuliert wurden.

Laut Bloomberg versucht das Kabinettsbüro außerdem, mögliche Schritte mit dem Justizministerium, der Nationalen Polizeibehörde und dem Kommunikationsministerium abzustimmen.