Jemen-Raketen bis Taiwan-Angriffspläne: Anthropic warnt vor Claudes Missbrauchsfällen

Anthropic sagt, es habe Versuche vereitelt, Claude für Waffenentwicklung, Massenüberwachung und potenziell gefährliche biologische Forschung zu missbrauchen.

Die Fälle sind relevant, weil KI technische Arbeiten komprimieren kann, die früher Teams und längere Zeiträume erforderten.

Die Fälle erscheinen im Threat-Intelligence-Bericht von Anthropic vom 10. September, der Aktivitäten abdeckt, die zwischen Dezember 2025 und August 2026 festgestellt wurden.

Das Unternehmen sagte, es habe Konten gekündigt, Schutzmaßnahmen verstärkt und Informationen mit Behörden geteilt.

Der Bericht erschien wenige Tage nachdem der Anthropic-Forscher Jacob Coxon zurückgetreten war und warnte, dass Frontier-Labore auf eine sich selbst verbessernde Superintelligenz zusteuern, ohne zu wissen, wie sie das Entwickelte sicher kontrollieren können.

Anthropic legt Claudes alarmierendste Missbrauchsfälle offen

1. Jemen-Zelle nutzte Claude als Raketen-Software-Engineering-Team

Der erste Fall betraf eine Zelle im Norden des Jemen, die drei gelenkte Waffensysteme verfolgte.

Anthropic sagte, die Gruppe arbeite an einer gelenkten Rakete mit einem flugrechner im Telefonformat, an einer mehrstufigen ballistischen Rakete mit einer angegebenen Reichweite von über 2.000 Kilometern sowie an einer R2000-Raketenfamilie, die eine Hyperschall-Gleitvariante einschloss.

Die Gruppe nutzte Claude Code „anstelle menschlicher Softwareingenieure“ und setzte Modellinstanzen für Codierung, Recherche und Code-Reviews ein.

Die Akteure führten einen Testschuss einer gelenkten Rakete durch. Anthropic sagte, der Test sei offenbar fehlgeschlagen, worauf die Gruppe innerhalb weniger Stunden wieder Claude nutzte, um zu untersuchen, was schiefgelaufen war.

Das Unternehmen fand keine Hinweise darauf, dass die Zelle eine einsatzfähige Waffe in Dienst gestellt hat.

2. Russland-basierte Entwickler arbeiteten an autonomen Kamikaze-Drohnen

Ein zweiter Fall betraf ein kleines, in Russland ansässiges Freelancer-Team, das laut Anthropic an einem Full-Stack-autonomen FPV-Kamikaze-Drohnen-Schwarm arbeitete.

Claude wurde eingesetzt, um Schwarmkoordination, Endphasenlenkung und zugehörige Software zu entwickeln.

Anthropic sagte, das geplante System könnte einem an Bord befindlichen Modell erlauben, Ziele auszuwählen, einschließlich einer Zielklasse „Person“, und Zündbefehle ohne menschliches Eingreifen auszugeben.

Die Entwickler trainierten Computer-Vision-Software mit ukrainischem Kampfmaterial und verwendeten Orte in der Oblast Donezk bei Demonstrationen.

3. China-basierter Forscher modellierte militärische Ziele in Taiwan

Anthropic sagte, ein in China ansässiger Verteidigungs- und Rüstungsforscher habe Claude genutzt, um eine Suite für elektronische Kriegsführung und Unterdrückung der Luftverteidigung zu erstellen.

Die Software analysierte Radarabdeckung, Boden‑Luft-Raketensysteme, die Wirksamkeit von Störmaßnahmen und die Reihenfolge, in der Ziele unterdrückt werden sollten.

Mitte des Projekts beobachtete Anthropic, dass der Akteur das Standard-Szenario der Simulation auf 12 Ziele in Taiwan änderte, darunter einen Kommandobunker, Frühwarnradare, Patriot- und Tien-Kung-Batterien, größere Luftwaffenbasen und das Hauptquartier eines regionalen Einsatzkommandos.

Anthropic bewertete den Nutzer als mit chinesischen Forschungseinrichtungen verbunden, einschließlich der PLA Academy of Military Sciences.

Diese Feststellung sollte nicht als Beweis für einen tatsächlichen chinesischen Invasionsplan dargestellt werden; es handelte sich um eine militärische Zielsimulationsstudie, die von einem Forscher erstellt wurde.

4. Ein Abonnent half beim Aufbau einer Überwachung von 25 Millionen SIM-Karten

Anthropic sagte, ein einzelner Abonnent, eingeschätzt als wahrscheinlich in Bamako ansässiger Berater, habe Claude als „primäre Ingenieursarbeitskraft“ für Lakana 360 verwendet, eine Überwachungsplattform, die für den staatlichen Nachrichtendienst Malis gebaut wurde.

Das System war darauf ausgelegt, rund 25 Millionen SIM-Karten bei allen drei nationalen Mobilfunkanbietern zu überwachen.

Es konnte Verbindungsdaten, SMS und Sprachtraffic sammeln, Nachrichtendossiers zu einzelnen Telefonnummern anlegen, Stimmen über SIM-Karten hinweg abgleichen, VPN‑ oder Verschlüsselungsnutzer kennzeichnen und Zielpersonen mit nationalen biometrischen Datensätzen verknüpfen.

Anthropic sagte, eine Durchsuchungsanordnungsanforderung wurde für eine dossiererzeugende Komponente auf Wunsch des Betreibers aufgehoben.

Das Unternehmen sperrte das Claude-Konto, doch die finale Plattform lief lokal mit einem On‑Premises‑Modell.

Anthropics Maßnahmen stoppten somit weitere Claude‑unterstützte Entwicklungen, deaktivierten das eingesetzte Überwachungssystem jedoch nicht.

5. Wissenschaftler nutzten Claude für potenziell gefährliche biologische Forschung

Anthropic beschrieb fünf Fälle von biologischem Missbrauch, sagte aber, es könne nicht immer feststellen, ob die beteiligten Wissenschaftler Schaden beabsichtigten.

Das Unternehmen betonte den Dual‑Use‑Charakter solcher Arbeiten, bei denen Forschung, die Impfstoffe oder Therapeutika unterstützen könnte, auch Krankheitserreger gefährlicher machen kann.

In einem Fall beinhaltete ein staatlich geförderter Antrag Gain‑of‑Function‑Forschung an Chikungunya mit dem Ziel, Übertragbarkeit und Immunflucht zu untersuchen; die Arbeit sollte für ein militärisches Forschungsinstitut durchgeführt werden.

Anthropic sagte, der Vorschlag verfolge das Ziel, Mutationen zu identifizieren, diese in infektiöse Klone einzubauen und eine höhere Virulenz in Tieren zu selektionieren.

Andere Fälle betrafen auf Säugetiere angepasste Vogelgrippe, Orthopoxvirus‑Immunevasion und toxinebezogene Forschung.

Anthropic stellte die Sorge als Forschung dar, die die Entwicklung biologischer Waffen unterstützen könnte, und behauptete nicht, Claude sei direkt zum Bau einer Biowaffe verwendet worden.

Die Veränderung, vor der Anthropic warnt, ist Hebelwirkung. KI kann kleineren Gruppen erlauben, Ingenieur‑, Analyse‑ und Softwareaufgaben anzugehen, die zuvor größere Teams, tiefere Expertise und mehr Zeit erforderten.

Anthropic sagt, seine Schutzmechanismen hätten diese Operationen erkannt oder gestört.

Der Bericht zeigt jedoch, warum diese Schutzmaßnahmen sich weiterentwickeln müssen, wenn Modelle leistungsfähiger werden und Nutzer neue Wege finden, generalistische KI in praktische Einsatzwerkzeuge zu verwandeln.