Die EU eröffnet Untersuchung zu Musks X wegen Grok-KI und möglichen Verstößen gegen die Kindersicherheit

Die Europäische Union hat eine formelle Untersuchung gegen Elon Musks Social-Media-Plattform X eingeleitet, da befürchtet wurde, dass ihr Grok-Chatbot mit künstlicher Intelligenz Deepfake-Bilder erzeugt haben könnte, die "möglicherweise sexuelles Material für sexuellen Kindesmissbrauch darstellen".

Die Europäische Kommission erklärte, die Untersuchung werde bewerten, ob X seinen Verpflichtungen aus dem Digital Services Act (DSA) des Blocks nachgekommen sei, um die Risiken im Zusammenhang mit der Einführung von Grok in den 27 EU-Mitgliedstaaten ordnungsgemäß zu identifizieren, zu bewerten und zu mindern.

Die Untersuchung verstärkt die zunehmende Kritik an Xs Inhaltsmoderationspraktiken und könnte die Spannungen zwischen Brüssel und Washington weiter verschärfen.

Fokus auf Risikobewertung und -minderung

Laut der Kommission wird die Untersuchung untersuchen, ob X die systemischen Risiken im Zusammenhang mit Groks Einführung angemessen adressiert hat, insbesondere das Risiko, nicht einvernehmliche sexuelle Deepfakes mit Frauen und Kindern zu erzeugen.

Der Fall fällt unter das DSA, das umfassende Online-Content-Regelwerk der EU, das großen Plattformen strenge Anforderungen auferlegt, um die Verbreitung illegalen und schädlichen Inhalts zu verhindern.

"Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung", sagte die EU-Technologiekommissarin Henna Virkkunen.

Die Kommission erklärte, die Untersuchung werde in dieser Phase keine Zwischenmaßnahmen umfassen.

Nach dem Digital Services Act, der 2023 in Kraft trat, hat die EU die Befugnis, Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes eines Unternehmens zu verhängen, wenn illegale Inhalte nicht bekämpft, systemische Risiken gemindert oder Transparenzanforderungen eingehalten werden.

Wachsende internationale Gegenreaktion auf Grok

Die EU-Untersuchung folgt auf eine zunehmende weltweite Verurteilung von Grok in den letzten Wochen.

Nutzer in mehreren Ländern berichteten, dass der KI-Chatbot sexualisierte Bilder generiert und auf X gepostet hat, was eine Gegenreaktion von Regulierungsbehörden und Kinderschutzbefürwortern ausgelöst hat.

Im Vereinigten Königreich untersucht die Kommunikationsaufsichtsbehörde Ofcom bereits offiziell, ob X im Zusammenhang mit Groks Ausgaben gegen das Online-Sicherheitsgesetz des Landes verstoßen hat.

Auch die Behörden in Frankreich und Indien haben Bedenken geäußert und dem Chatbot vorgeworfen, sexuell sexualisierte Bilder von Personen ohne deren Zustimmung zu erstellen.

X, eine Tochtergesellschaft von Musks KI-Firma xAI, hat zuvor erklärt, dass es illegale Inhalte, einschließlich sexuellem Kindesmissbrauch, entfernt, anfällige Konten sperrt und bei Bedarf mit den Strafverfolgungsbehörden kooperiert.

Spannungen mit Washington drohen sich ab

Die Grok-Ermittlung erfolgt kurz nachdem die EU X gemäß dem DSA eine separate Strafe von 120 Millionen Euro (142 Millionen US-Dollar) verhängt hat.

In diesem früheren Fall kamen die EU-Regulierungsbehörden zu dem Schluss, dass das bezahlte blaue Kontrollsystem von X Nutzer in die Irre geführt hat, dass die Plattform Forschern keinen ausreichenden Datenzugang geboten und kein ordnungsgemäßes Repository für Werbetransparenz eingerichtet habe.

Diese Geldstrafe stieß scharfe Kritik von der Trump-Regierung hervor, die die digitale Regulierung der EU als Angriff auf die Meinungsfreiheit und amerikanische Technologieunternehmen darstellt.

Vor der Strafe im Dezember schrieb US-Vizepräsident JD Vance auf X, dass "die EU die Meinungsfreiheit unterstützen sollte, nicht amerikanische Unternehmen wegen Müll angreifen."

Europäische Beamte haben diese Behauptungen jedoch konsequent zurückgewiesen und argumentiert, dass das DSA darauf ausgelegt sei, die Rechte und Sicherheit der Nutzer zu schützen und nicht die rechtmäßige Meinungsäußerung einzuschränken.