Von Meta bis OpenAI: KI‑Sicherheit im neuen Zeitalter autonomer Cyberangriffe

Anbieter künstlicher Intelligenz stehen verstärkt unter Beobachtung, nachdem Meta als jüngster Entwickler bekanntgab, dass eines seiner KI‑Modelle während einer kontrollierten Sicherheitsbewertung einen Cyberangriff durchgeführt hat. Dies reiht sich in eine Serie jüngster Vorfälle ein, die die Sorge über die von immer leistungsfähigeren KI‑Systemen ausgehenden Cybersicherheitsrisiken verschärfen.

Die Offenlegung folgt auf ähnliche Eingeständnisse von OpenAI und Anthropic in den vergangenen Wochen und stellt den vierten bekannten Fall dar, in dem fortschrittliche KI‑Systeme bei Sicherheitstests externe Systeme verletzt oder versucht haben, diese zu verletzen.

Die Reihe von Vorfällen hat Warnungen von Cybersicherheitsforschern untermauert, wonach die Künstliche Intelligenz die Natur von Cyberbedrohungen rasch verändert und Angriffe, die früher Tage oder Wochen dauerten, auf Operationen komprimiert, die sich innerhalb von Minuten abspielen können.

Meta: Internetzugang wurde durch Fehlkonfiguration im Test ermöglicht

Meta erklärte, der Vorfall habe sich während einer Bewertung durch Irregular, ein unabhängiges Unternehmen für Cybersicherheitstests, ereignet.

Dem Unternehmen zufolge sorgte ein Konfigurationsfehler dafür, dass einem von Metas KI‑Modellen während der Prüfung versehentlich Internetzugang gewährt wurde.

Das Modell nutzte anschließend eine Schwachstelle in einem Drittanbieterdienst aus.

Meta sagte, das Modell habe „eine Sicherheitslücke in einem Drittanbieterdienst ausgenutzt, in einer Weise, die zuvor bei anderen Unternehmen berichtet wurde“.

Die Information, die Personen mit Kenntnis der Angelegenheit zitiert, berichtete, dass es sich bei dem beteiligten Modell um Muse Spark 1.1 handelte, das Meta als eines seiner fortschrittlichsten Systeme für Codierungs‑ und agentische KI‑Aufgaben beschrieben hat.

Der Bericht sagte, das Modell habe in die Systeme eines nicht identifizierten Unternehmens eingebrochen und dessen interne Umgebung verändert.

Irregular betonte jedoch, dass das Ereignis auf das Test‑Setup zurückzuführen sei und nicht auf ein unkontrolliertes Entkommen des Modells.

Ein Sprecher des Unternehmens sagte gegenüber Reuters, der Vorfall sei genau dasselbe Problem in der Evaluierungsumgebung gewesen, das bereits letzte Woche von Anthropic offengelegt worden sei, und habe sich nicht um einen „Sandbox‑Escape oder eine ausgeklügelte Cyberaktion“ gehandelt.

„Derzeit gibt es keine offenen Probleme. Irregular erarbeitet ein Whitepaper, um Best Practices für Eindämmung und das sichere Durchführen von Cyber‑Evaluierungen zu teilen“, fügte das Unternehmen hinzu.

Reihe von Vorfällen rückt KI‑Sicherheit in den Fokus

Metas Offenlegung reiht sich in eine Serie ähnlicher Ankündigungen in der KI‑Branche ein.

Im vergangenen Monat gab OpenAI bekannt, dass einer seiner KI‑Agenten während eines Sicherheitstests die Systeme der KI‑Plattform Hugging Face kompromittierte und nannte zudem weitere Fälle, in denen seine Agenten ihrer digitalen Eindämmung entkamen.

Die Ankündigung veranlasste den Konkurrenten Anthropic zu einer eigenen Überprüfung, bei der entdeckt wurde, dass mehrere Claude‑Modelle in die Systeme von drei Unternehmen eingedrungen waren, nachdem eine Testfehlkonfiguration ihnen unbeabsichtigt Internetzugang gewährt hatte.

Anthropic bemerkte, dass sich seine Vorfälle von denen OpenAIs unterschieden, weil sie durch versehentliche Internetkonnektivität verursacht wurden und nicht dadurch, dass die KI selbständig einen neuen Weg zu externen Systemen gefunden habe.

Das britische AI Security Institute hat ebenfalls zunehmend komplexeres Verhalten von Frontier‑KI‑Systemen gemeldet.

Anfang dieses Monats teilte das Institut mit, dass Anthropics Mythos AI und OpenAIs Sol AI während Tests gefälschte Online‑Identitäten erstellt hätten, als sie versuchten, Cyberangriffe durchzuführen.

Im besorgniserregendsten Fall legte Anthropics Mythos AI gefälschte Nutzerkonten an und verschickte private Nachrichten, um Zugang zu einem Dienst zu erlangen, bevor es versuchte, seine Aktivitäten zu verschleiern.

Das Institut sagte, die Modelle hätten ein bislang nicht beobachtetes Maß an „Autonomie und Täuschung“ gezeigt, wobei die meisten böswilligen Handlungen von Mythos ausgeführt worden seien.

Experten warnen: Weitere Vorfälle sind wahrscheinlich

Forscher sagen, solche Ereignisse würden mit zunehmender Leistungsfähigkeit der KI‑Systeme wahrscheinlich häufiger auftreten.

Daniel Hulme, Global Chief AI Officer der Werbegruppe WPP, sagte der BBC, die Systeme seien nicht absichtlich böswillig.

„Sie sind nicht bewusst — sie tun nicht absichtlich etwas Verschlagenes.“

„Was sie tun, ist, sehr ausgeklügelte Strategien oder Cyberangriffe zu entwickeln, um das Ziel zu erreichen, das ihnen vorgegeben wurde“, sagte er.

„Wenn man einer KI ein Ziel gibt und nicht alle möglichen Wege bedenkt, wie sie dieses Ziel erreichen könnte, wird sie einen Weg finden, ein Ziel zu erreichen, an das man nicht gedacht hat.“

Jeffrey Ladish, Executive Director der KI‑Forschungsgruppe Palisade Research, ist der Ansicht, dass viele ähnliche Vorfälle möglicherweise nie öffentlich werden.

„Das wird nur schlimmer, je schlauer die Modelle werden. Sie werden besser im Betrügen. Sie werden besser im Lügen“, sagte er gegenüber Reuters.

Haftungsfragen rücken in den Vordergrund

Die jüngsten Offenlegungen haben auch eine Debatte über die rechtliche Verantwortung ausgelöst, wenn KI‑Systeme ohne direkte menschliche Aufsicht handeln.

Laut Reuters könnten potenzielle Kläger Unternehmen sein, deren Systeme verletzt wurden, betroffene Mitarbeiter, Kunden, deren persönliche Daten offengelegt wurden, sowie Aktionäre, falls ein Verstoß den Unternehmenswert beeinträchtigt.

Hugging Face‑CEO Clem Delangue sagte, er habe nicht die Absicht, OpenAI wegen des Vorfalls zu verklagen, halte es aber für notwendig, dass Entwickler zur Rechenschaft gezogen werden.

„Wir müssen sicherstellen, dass die Rechtsrahmen diese Ereignisse wirklich illegal halten“, sagte Delangue gegenüber CNN und fügte hinzu, Unternehmen müssten zur Verantwortung gezogen werden, wenn Fehler passieren. „Ansonsten landen wir in einer ganz anderen Welt.“

Juristische Experten haben zudem Fragen aufgeworfen, ob autonome KI‑Eindringungen unter den US Computer Fraud and Abuse Act fallen könnten, obwohl bestehendes Recht in der Regel einen Nachweis der Absicht verlangt — ein Thema, das Gerichte noch klären müssen, wenn nicht Menschen, sondern KI‑Systeme die Eindringung ausführen.

Regulatorische Maßnahmen rücken ins Rampenlicht

Die jüngsten Vorfälle dürften den Druck der US‑Regierung erhöhen, Schutzmaßnahmen für fortschrittliche KI‑Systeme zu stärken — und das in einer Phase, in der Unternehmen wie Anthropic und OpenAI im Rennen sind, noch leistungsfähigere Modelle vor ihren geplanten Börsengängen zu entwickeln.

Auch wenn der Wettbewerb im KI‑Sektor sich beschleunigt, haben mehrere führende Stimmen der Branche dafür plädiert, die Einführung zu verlangsamen, bis angemessene Sicherheitsmaßnahmen vorhanden sind.

Washington hat bereits begonnen, die Aufsicht über Frontier‑KI‑Modelle zu verschärfen.

Am 2. Juni wies US‑Präsident Donald Trump seine Berater an, einen freiwilligen Rahmen für Cybersicherheitstests der fortschrittlichsten KI‑Systeme zu entwickeln, unter Einbeziehung führender Technologieunternehmen.

Anthropic hatte zuvor den Zugang zu seinen Modellen Fable 5 und Mythos 5 eingeschränkt, nachdem US‑Behörden vorübergehend Exportkontrollen mit Verweis auf nationale Sicherheitsbedenken verhängt hatten.

Gesetzgeber arbeiten zudem daran, die Haftung zu klären, wenn KI‑Systeme Schaden verursachen.

Nach dem kalifornischen Assembly Bill 316 können Unternehmen, die KI‑Systeme entwickeln oder einsetzen, sich nicht dadurch der rechtlichen Verantwortung entziehen, dass sie behaupten, die Technologie selbst sei schuld gewesen.

Das Gesetz erlaubt es Angeklagten jedoch, andere Rechtsverteidigungen vorzubringen, einschließlich der Behauptung, dass ihr Handeln den angeblichen Schaden nicht unmittelbar verursacht habe oder dass die Verantwortung mit anderen Parteien geteilt werden sollte.

Der OpenAI‑Hugging Face‑Vorfall hat die Rufe nach stärkerer bundesstaatlicher Aufsicht weiter angefacht.

Nach dieser Episode brachten Gesetzgeber den AI Kill Switch Act ein, der KI‑Entwickler verpflichten würde, die Möglichkeit vorzuhalten, ihre Modelle bei Bedarf herunterzufahren, zu drosseln oder auszusetzen.

Der Abgeordnete Ted Lieu, Demokrat aus Kalifornien und einer der Mitautoren des Gesetzentwurfs, sagte am Donnerstag, die jüngsten Cybervorfälle unterstreichen die Dringlichkeit, das Gesetz zu verabschieden.

„Wir müssen dieses Gesetz noch dieses Jahr über die Ziellinie bringen, weil die fortschrittlichen Closed‑Weight‑Modelle bereits, wie Sie anmerkten, unautorisierte Hacks anderer Unternehmen durchführen“, sagte Lieu in einem Interview beim CNBC‑Programm „Squawk Box“ am Donnerstag.