Hat die KI gerade ihren ersten globalen Cyberangriff durchgeführt? Anthropic schlägt Alarm

Das in San Francisco ansässige KI-Unternehmen Anthropic hat den ersten groß angelegten Cyberangriff aufgedeckt, der hauptsächlich von künstlicher Intelligenz durchgeführt wird.

Der Vorfall, der Mitte September bekannt wurde, markiert einen Wandel in der Art digitaler Bedrohungen, da KI-Tools Cyberangriffe nicht nur unterstützen, sondern sie direkt ausführen.

Anthropic, das den Chatbot Claude betreibt und einen Marktwert von 183 Milliarden US-Dollar hat, veröffentlichte in einem Blogbeitrag Details zu dem Verstoß.

Das Unternehmen berichtete, dass es eine hochentwickelte Spionageoperation aufgedeckt habe, die auf etwa 30 globale Unternehmen abzielte, darunter große Technologieunternehmen, Finanzdienstleister, Chemieunternehmen und Regierungsbehörden.

Das Unternehmen enthüllte den Vorfall erstmals in einem Beitrag auf X und warnte, dass er "erhebliche Auswirkungen auf die Cybersicherheit im Zeitalter der KI-Agenten hat".

Wie Claude verwendet wurde

Berichten zufolge gaben sich die Angreifer als Cybersicherheitsunternehmen aus, das legitime Tests durchführte.

Diese Strategie ermöglichte es ihnen, die eingebauten Sicherheitssysteme von Claude zu umgehen, indem sie ihm Eingabeaufforderungen gaben, die auf den ersten Blick harmlos erschienen.

Sobald diese Einschränkungen umgangen wurden, wurde die Code-Funktion von Claude gejailbreakt und sie erhielten Zugriff auf Funktionen, die weit über den beabsichtigten Umfang hinausgingen.

Nachdem diese Kontrollen deaktiviert waren, wurde der Chatbot angewiesen, die digitale Infrastruktur zu untersuchen, kritische Datenbanken zu lokalisieren, benutzerdefinierten Exploit-Code zu schreiben, Zugangsdaten zu sammeln und gestohlene Informationen zu organisieren.

Der Betrieb war so strukturiert, dass Claude Aufgaben erhielt, die in kleine Teile zerlegt waren, denen jeweils der Kontext fehlte.

Dies hinderte es daran, das übergeordnete bösartige Ziel zu identifizieren.

Staatliche Gruppe dahinter

Anthropic erklärte mit großer Sicherheit, dass die Angreifer mit einer staatlich geförderten chinesischen Hackergruppe in Verbindung standen.

Die Kampagne zeigte, wie die agentischen Funktionen der KI als Waffe eingesetzt werden können.

Anstatt als Werkzeug zur Anleitung oder Beratung zu fungieren, wurde Claude als autonomer Agent eingesetzt, um Aufgaben zu erledigen, die normalerweise erfahrenen Hackerteams vorbehalten sind.

Auf ihrem Höhepunkt führte die KI Tausende von Systemabfragen durch, viele davon in schneller Folge.

Anthropic schätzt, dass zwischen 80 % und 90 % der bei dem Cyberangriff geleisteten Arbeit von KI geleistet wurde.

Die Geschwindigkeit und der Umfang der Anfragen gingen weit über das hinaus, was ein von Menschen geführtes Team im gleichen Zeitrahmen hätte erreichen können.

Obwohl der Chatbot nicht immer perfekt funktionierte und gelegentlich Anmeldeinformationen erfand oder öffentliche Informationen fälschlicherweise als vertraulich einstufte, stellte Anthropic fest, dass diese Einschränkungen die Schwere des Verstoßes kaum verringerten.

Was Anthropic als nächstes tut

Sobald die Aktivität identifiziert wurde, leitete Anthropic eine zehntägige Untersuchung ein.

Während dieser Zeit wurden Konten gesperrt, die mit den Angreifern in Verbindung standen, Betroffene kontaktiert und mit den zuständigen Behörden zusammengearbeitet.

Das Unternehmen verbesserte auch seine internen Erkennungssysteme und führte neue Klassifikatoren ein, um ähnliche Bedrohungen in Zukunft effektiver zu kennzeichnen.

Anthropic hat sich seitdem verpflichtet, Details dieser Ereignisse mit Cybersicherheitsforschern und Industriepartnern zu teilen, um anderen zu helfen, ihre Abwehr zu stärken.

Durch die Veröffentlichung seiner Ergebnisse hofft das Unternehmen, einen Einblick zu geben, wie agentische KI ausgenutzt werden kann und wie sich die Bedrohungsumgebung entwickelt.

Angriffe werden einfacher

Obwohl das Unternehmen einräumte, dass vollständig autonome Cyberangriffe durch die heutige Technologie begrenzt bleiben, zeigte die Kampagne, dass die Kosten und das Know-how, die für die Einleitung groß angelegter Sicherheitsverletzungen erforderlich sind, erheblich gesunken sind.

Mit den richtigen Eingabeaufforderungen und Zugängen können weniger erfahrene Gruppen jetzt fortschrittliche Angriffe durchführen, die einst auf gut ausgestattete Nationalstaaten beschränkt waren.

Anthropic kam zu dem Schluss, dass agentische KI-Tools bereits verwendet werden können, um viele der Funktionen eines vollständigen Hacking-Teams auszuführen.

Diese Systeme sind in der Lage, Ziele zu scannen, Angriffsskripte zu schreiben und riesige Datensätze mit unübertroffener Geschwindigkeit zu verarbeiten.

Im Laufe der Entwicklung wird die Lücke zwischen dem, was Menschen und KI im Bereich der Cybersicherheit erreichen können, wahrscheinlich noch weiter schrumpfen.

Dieser Vorfall markiert einen Wendepunkt für die digitale Sicherheit. Es geht längst nicht mehr nur darum, Systeme vor menschlichen Hackern zu schützen. Wie der Fall von Anthropic zeigt, kann die künstliche Intelligenz nun selbst der Angreifer sein.