Ein britischer Regulator untersucht X wegen der schädlichen Bilder von Grok AI im Rahmen des Online-Sicherheitsgesetzes

Die britische Kommunikationsaufsichtsbehörde Ofcom hat eine formelle Untersuchung zu X eingeleitet und damit die regulatorische Kontrolle über künstliche Intelligenz-Tools in großen sozialen Medienplattformen verschärft.

Die Untersuchung konzentriert sich darauf, ob X seinen gesetzlichen Verpflichtungen nach dem Online Safety Act nachgekommen ist, nachdem weit verbreitete Bedenken darüber bestehen, wie sein KI-Chatbot Rok zur Erzeugung rechtswidriger und schädlicher Inhalte eingesetzt wurde.

Dieser Schritt stellt das Vereinigte Königreich unter eine wachsende Liste von Regierungen, die hinterfragen, ob die aktuellen KI-Schutzmaßnahmen ausreichen, wenn Bild- und Textgenerierungstools online breit zugänglich gemacht werden.

Ofcom leitet eine formelle Untersuchung ein

Ofcom teilte am Montag mit, dass es eine Untersuchung gegen X, eine Tochtergesellschaft von xAI, eingeleitet habe, um mögliche Versäumnisse bei der Einhaltung des Online Safety Act zu prüfen.

Die Gesetzgebung verlangt von Plattformen, Maßnahmen zu ergreifen, um Nutzer vor illegalen Inhalten zu schützen und Risiken im Zusammenhang mit neuen Technologien zu verringern.

Ofcom hat die Befugnis, Geldstrafen zu verhängen oder Dienste zu blockieren, wenn Sicherheitsverletzungen bestätigt werden.

Der Regulator wird nun die vom Unternehmen vorgelegten Beweise prüfen, bevor er eine vorläufige Entscheidung trifft.

Wenn Ofcom feststellt, dass das Gesetz verletzt wurde, könnte es eine Strafe von bis zu 10 % seines globalen Umsatzes oder 18 Millionen Pfund auf X verhängen, je nachdem, welcher Betrag höher ist.

Grok unter regulatorischer Aufmerksamkeit

Die Sonde konzentriert sich auf Grok, ein KI-Tool mit weniger Schutzmaßnahmen als viele gängige Chatbots.

Nutzer können direkt auf X mit Grok interagieren, indem sie den Chatbot in Beiträgen taggen und ihn dazu bringen, Text und Bilder zu generieren, die öffentlich auf der Plattform erscheinen.

Regulierungsbehörden und Gesetzgeber haben Bedenken geäußert, nachdem Nutzer große Mengen an nicht einvernehmlichen und rechtswidrigen Bildern erstellt haben, darunter Material mit Kindern und Frauen.

Das britische Recht verbietet den Besitz oder das Teilen sexueller Bilder von Kindern sowie die Verbreitung intimer Bilder ohne Einwilligung, einschließlich Inhalte, die mit KI-Tools generiert wurden.

Diese rechtlichen Standards gelten unabhängig davon, ob die Bilder synthetisch oder digital verändert sind.

Plattform-Reaktion und Einschränkungen

Nachdem Nutzer wiederholt die Bildgenerierungsfunktionen von Rok missbraucht hatten, beschränkte xAI die Funktion auf zahlende Nutzer auf X.

Die gleiche Funktionalität blieb jedoch in der eigenständigen Grok-App kostenlos.

Elon Musk warnte diesen Monat, dass jeder, der Grok nutzt, um illegale Inhalte zu erstellen, dieselben Konsequenzen wie das Hochladen illegaler Inhalte tragen wird.

xAI hat erklärt, dass es Beiträge entfernt, die gegen das Gesetz verstoßen, einschließlich sexueller Kindesmissbrauchsmaterial, und Accounts sperrt, die gegen das Gesetz verstoßen.

Die britische Regierung hat angedeutet, dass diese Maßnahmen möglicherweise unzureichend sind. Wirtschaftsminister Peter Kyle sagte, Minister würden ein Verbot von X in Erwägung ziehen, falls nötig, und betonte, dass der Regulierungsprozess seinen Lauf nehmen müsse.

Wachsender internationaler Druck

Die Bedenken bezüglich Grok reichen über das Vereinigte Königreich hinaus.

Indonesien und Malaysia blockierten das Tool am Wochenende vorübergehend und verwiesen auf Risiken im Zusammenhang mit illegalen Inhalten.

Die Internet Watch Foundation, die von der britischen Regierung beauftragt ist, bei der Identifizierung von sexuellem Kindesmissbrauch zu helfen, teilte mit, sie habe kriminelle Bilder von Kindern im Dark Web gefunden, die angeblich von Girok erstellt wurden.

Auf europäischer Ebene ordnete die Europäische Kommission an, dass X interne Dokumente zu Grok bis Ende des Jahres aufbewahren solle.

Die französischen Behörden haben dem Tool vorgeworfen, eindeutig illegale Inhalte ohne Zustimmung zu erzeugen, und weisen auf mögliche Verstöße gegen das Digital Services Act der EU hin.

Die Regelung verlangt von großen Online-Plattformen, Risiken im Zusammenhang mit der Verbreitung illegalen Materials, einschließlich Inhalte, die mit KI produziert werden, zu mindern.

Da Regulierungsbehörden in mehreren Jurisdiktionen ihren Fokus auf KI-gestützte Dienste verstärken, wird erwartet, dass die britische Untersuchung von X prüft, wie bestehende Online-Sicherheitsgesetze auf sich schnell entwickelnde generative Technologien angewendet werden.