X steht unter weltweiter Beobachtung, da der Grok-Chatbot ausbeuterische Bilder erzeugt

Elon Musks Social-Media-Plattform X (früher bekannt als Twitter) sieht sich zunehmender regulatorischer Kontrolle in mehreren Rechtsgebieten ausgesetzt, nachdem ihr Grok-Chatbot verwendet wurde, um KI-generierte sexualisierte Bilder von Kindern und Frauen zu erstellen und zu teilen.

Behörden in Europa, Indien und Malaysia haben Untersuchungen eingeleitet, während auch Beamte in Brasilien und Großbritannien Bedenken geäußert haben, was eine der bisher schwerwiegendsten globalen regulatorischen Herausforderungen für Musks KI-Ambitionen darstellt.

Die Kontroverse dreht sich um Grok Imagine, eine kürzlich aktualisierte Funktion, die es Nutzern ermöglicht, Bilder direkt auf X aus textbasierten Prompts zu generieren.

In den letzten Wochen wurde das Tool Berichten zufolge verwendet, um nicht einvernehmliche, intime Bilder (NCII) zu produzieren und zu verbreiten, einschließlich Inhalten, die Minderjährige zeigen.

Viele dieser Bilder haben sich auf der Plattform weit verbreitet, was Regulierungsbehörden und Sicherheitsbefürworter zum Eingreifen veranlasst hat.

Regulierungsbehörden bewegen sich in Europa, Asien und Lateinamerika

In Europa hat das Thema scharfe Kritik von den Behörden hervorgerufen.

Auf einer Pressekonferenz am Montag sagte der Sprecher der Europäischen Kommission, Thomas Regnier, die Behörde prüfe diese Angelegenheit "sehr ernsthaft" und fügte hinzu, dass X und Grok einen "scharfen Modus" anboten, der explizite sexuelle Inhalte liefere, darunter kindliche Bilder.

"Das ist nicht 'scharf'", sagte Regnier. "Das ist illegal. Das ist entsetzlich. Das ist widerlich."

Die britische Medienaufsicht Ofcom bestätigte, dass sie Informationen von X bezüglich der Grok-Angelegenheiten angefordert hat.

In Indien ordnete das Ministerium für Elektronik und Informationstechnologie Ende letzter Woche X an, eine "umfassende technische, prozedurale und governance-ebene Überprüfung" von Rok durchzuführen und setzte eine Frist für die Einhaltung am 5. Januar.

Die malaysische Kommission für Kommunikation und Multimedia erklärte, sie untersuche die Plattform und werde Unternehmensvertreter einladen, um stärkere Schutzmaßnahmen im Einklang mit den lokalen Gesetzen zu fordern.

In Brasilien sagte ein Parlamentsmitglied, sie habe die Bundesstaatsanwaltschaft und die Datenschutzbehörde des Landes gebeten, die Nutzung von Girok auszusetzen, bis eine Untersuchung abgeschlossen ist.

Musk, xAI und die Sicherheitsdebatte

Während Sicherheitsexperten und Technologiekritiker die Verbreitung ausbeuterischer Bilder verurteilten, schien Musk die Kontroverse zu verspotten, indem er von Grok generierte Bilder auf X teilte, darunter eines, das ihn selbst im Bikini zeigt.

X veröffentlichte später seine erste öffentliche Antwort über seinen offiziellen Safety-Account und erklärte, dass es gegen illegale Inhalte, einschließlich sexuellem Kindesmissbrauch (CSAM), durch Entfernungen, Kontensperrungen und Zusammenarbeit mit den Strafverfolgungsbehörden vorgeht.

Musk warnte separat davor, dass jeder, der Grok zur Erstellung illegaler Inhalte veranlasst, dieselben Konsequenzen wie das Hochladen solcher Inhalte tragen müsse.

Ein xAI-Mitarbeiter sagte, Grok Imagine sei aktualisiert worden, spezifizierte jedoch nicht an, ob die Änderungen die Erzeugung schädlicher expliziter Bilder bewirkten.

In den USA forderte das National Center on Sexual Exploitation das Justizministerium und die Federal Trade Commission zur Untersuchung auf.

Während Bundesbehörden keine Kommentare ablehnten, erklärte NCOSE, dass bestehende Gesetze, die die Erstellung und Verbreitung von CSAM verbieten, unter bestimmten Umständen auch für virtuell erstellte Inhalte gelten könnten.

Der Verkehr steigt trotz der Kontroverse

Trotz der Gegenreaktion hat das Nutzerengagement von X nicht gelitten.

Daten von Apptopia zeigen, dass die täglichen Downloads von Grok seit dem 2. Januar um 54 % gestiegen sind, während die täglichen Downloads von X in den letzten drei Tagen um 25 % gestiegen sind.

Kritiker argumentieren, dass die Episode Schwächen in Xs Vertrauens- und Sicherheitsinfrastruktur hervorhebt, insbesondere im Hinblick auf KI-generierte Inhalte.