Anthropic-Pentagon-Konflikt wirft zentrale Frage auf: Wer haftet, wenn KI tötet?

Was, wenn KI einen Zivilisten tötet?

Das ist nicht länger eine hypothetische Schlagzeile – es ist eine Frage, die das Pentagon in seiner neuen Doktrin stillschweigend übergeht.

Die KI-Strategie des US-Verteidigungsministeriums vom 9. Januar 2026 enthält eine einzige Zeile, die das Memo selbst überdauern könnte:

„Wir müssen akzeptieren, dass die Risiken, nicht schnell genug zu handeln, die Risiken unvollkommener Ausrichtung überwiegen.“

Das ist eine der deutlichsten offiziellen Anerkennungen bisher, dass sich innerhalb des US-Militärapparats die Priorität verschoben hat.

Das Ziel ist nicht länger, KI zu verlangsamen, bis Haftungsfragen geklärt sind, sondern schneller zu werden – und die Folgen später zu regeln.

Diese Logik sprang innerhalb weniger Wochen aus dem Dokument in die Realität, als Anthropic mit dem Pentagon über Beschränkungen für militärische Nutzung aneinandergeriet.

Das Unternehmen wurde kurz darauf auf die schwarze Liste gesetzt, nachdem es sich geweigert hatte, weiterreichendere „jede rechtmäßige Nutzung“-Bedingungen zu übernehmen.

Das Memo, das die Debatte auslöste, ist mehr als bürokratischer Jargon.

Es befiehlt dem Ministerium, eine „KI-first“-Kampftruppe zu werden, Grenzmodelle innerhalb von 30 Tagen nach öffentlicher Veröffentlichung in militärische Systeme einzubringen und KI „von der Kampagnenplanung bis zur Ausführung der Kill Chain“ zu verankern.

Das Dokument weist Behörden sogar an, Modelle „ohne Nutzungsrichtlinien-Restriktionen“ zu verwenden und die Formulierung „jede rechtmäßige Nutzung" in allen KI-Dienstleistungsverträgen innerhalb von sechs Monaten festzuschreiben.

Das ist keine entfernte Debatte über künftige Ethik. Es ist ein Beschaffungsbefehl, ein Politikwandel und ein laufendes Wettrennen um die Umsetzung.

Und es lässt eine beklemmende Frage im Raum stehen:

Wenn ein KI-gestütztes System einen rechtswidrigen Schlag ausführt – wer ist verantwortlich?

Das Recht geht weiterhin von menschlicher Absicht, Befehlsgewalt und Urteilsvermögen aus. Moderne militärische KI ist jedoch darauf ausgelegt, Zeitachsen zu verkürzen, Entscheidungsketten zu verwischen und Akteure zu vervielfältigen, bis niemand eindeutig das Ergebnis besitzt.

Hier beginnt das Verantwortlichkeitsproblem nicht nur – es beschleunigt sich.

Die Regeln sind klar, die Verantwortlichkeit nicht

Der erste Fehler in dieser Debatte ist anzunehmen, autonome Waffen stünden außerhalb des Rechts.

Tun sie nicht.

Das humanitäre Völkerrecht gilt weiterhin. Staaten können für völkerrechtswidrige Handlungen verantwortlich gemacht werden. Einzelne können grundsätzlich noch wegen Kriegsverbrechen strafrechtlich zur Rechenschaft gezogen werden.

Daran besteht nicht viel Streit.

Wie Dr. Vincent Boulanin, Direktor des Governance of AI Programme beim Stockholm International Peace Research Institute (SIPRI), im Gespräch mit Invezz. knapp formuliert:

„Staaten haben im Rahmen ihrer diplomatischen Gespräche bei den Vereinten Nationen vereinbart … dass Menschen die Verantwortung für die Entwicklung und Nutzung autonomer Waffensysteme behalten müssen, weil Maschinen nicht für Verstöße gegen das humanitäre Völkerrecht verantwortlich gemacht werden können.“

Das ist die formale Position. Die Schwierigkeit beginnt, wenn Theorie auf Operationen trifft.

Boulanins Formulierung ist nützlich, weil sie präziser ist als der populäre Ausdruck „accountability gap“.

Er behauptet nicht, das Recht verschwinde, wenn KI in die Kette eintritt. Er sagt, die Mechanismen zum Zurückverfolgen, Prüfen und Zuschreiben von Verstößen werden in der Praxis deutlich schwerer anwendbar.

Sein Punkt ist nicht, dass völkerstaatliche Verantwortung und individuelle strafrechtliche Verantwortung irrelevant werden.

Es ist, dass beides schwer operationalisierbar wird, wenn das relevante Verhalten über Programmierer, Kommandeure, Beschaffungsbeamte, Betreiber, Geheimdienstanalysten und kommerzielle Anbieter verteilt ist.

Deshalb ist das Problem größer als „Killerroboter.“

In der Praxis ist der Druckpunkt nicht nur vollständig autonome Waffen, sondern KI-gestützte Entscheidungsunterstützungssysteme, die Zielauswahl beeinflussen, Angriffsobjekte empfehlen, Bedrohungen priorisieren, Geheimdienstprüfungen komprimieren und Schlussfolgerungen Menschen unter erheblichem Zeitdruck präsentieren.

Sobald die Maschine das Feld eingeengt hat und der Mensch auf einen schnellen Bestätigungsschritt reduziert ist, bedeutet die formale Anwesenheit einer Person in der Schleife nicht notwendigerweise, dass noch echte menschliche Kontrolle besteht.

Michael N. Schmitt, einer der bekanntesten Gelehrten im Recht bewaffneter Konflikte, bringt diese Unterscheidung treffend auf den Punkt.

Das Problem, wie er argumentiert, ist nicht, dass das Gesetz der bewaffneten Konflikte auf autonome Systeme nicht mehr anwendbar wäre.

Es wird in der Praxis viel schwieriger zu bestimmen, wer welche Entscheidungen auf welcher Grundlage und mit welchem Vorsatz getroffen hat.

Das ist der Unterschied zwischen Papierrecht und Verantwortlichkeit in der realen Welt.

Das Pentagon-Memo sagt „Geschwindigkeit gewinnt.“ Es befiehlt dem Ministerium, die „Lern-Geschwindigkeit zu weaponisieren“, Zykluszeit als entscheidende Variable zu messen und die Risiken von Verzögerung als größer als die Risiken unvollkommener Ausrichtung zu bewerten.

Das sind keine neutralen Managemententscheidungen.

Sie verändern, wie viel Zeit Menschen haben, maschinengenerierte Ergebnisse zu verstehen, zu hinterfragen und zu überschreiben.​

Wenn ein Mensch anwesend ist, aber nicht mehr entscheidet

Die überzeugendste Art, das Verantwortlichkeitsproblem zu verstehen, führt über die Praxis auf dem Schlachtfeld statt über juristische Abstraktion.

Der klarste öffentliche Fall bleibt der Einsatz des Lavender-Systems durch Israel in Gaza, das mehreren Berichten zufolge zur Identifizierung großer Zahlen potenzieller Ziele genutzt wurde.

Berichte von The Guardian, die sich auf israelische Geheimdienstquellen stützen, berichteten, Lavender habe zeitweise bis zu 37.000 palästinensische Männer identifiziert, die mutmaßlich mit der Hamas oder dem Palästinensischen Islamischen Dschihad in Verbindung stehen.

Die gleichen Berichte sagten, das Militär habe für einige Kategorien von Schlägen vorab genehmigte Schwellenwerte für zivile Opfer verwendet.

Dieser Fall ist nicht nur wegen des Umfangs bedeutsam, sondern weil er zeigt, was passiert, wenn KI-unterstützte Zielerfassung routinemäßig wird.

Die Maschine muss die Waffe nicht selbst abfeuern, um Verantwortlichkeit neu zu gestalten. Es genügt, wenn sie die Entscheidung strukturiert.

Sobald ein Offizier maschinell erzeugte Ergebnisse in einem beschleunigten Workflow überprüft, beginnt das juristische Bild eines Kommandeurs, der ruhig Verhältnismäßigkeit und Unterscheidung abwägt, weniger der Realität zu entsprechen und mehr einer prozeduralen Fiktion.

Richard Moyes, geschäftsführender Partner bei Article 36, trifft den Kern dieses Problems besser als viele Politiker.

„Wenn wir nicht wissen, wie eine autonome Entscheidung getroffen wurde, oder woher die Computer den Kommandeuren präsentierten Informationen stammen, oder wie aktuell sie sind, dann hört menschliche Entscheidungsfindung auf, bedeutsam zu sein“, sagte er Invezz.

„Das internationale Recht im Konflikt baut auf menschlichen Entscheidungen, menschlichem moralischem Engagement und Verantwortlichkeit für diese Entscheidungen auf.“

Diese Aussage ist wichtig, weil sie die Debatte von Slogans wegbewegt. Das eigentliche Problem ist nicht, ob ein Mensch den Prozess technisch irgendwo berührt hat.

Vielmehr geht es darum, ob der Mensch noch so urteilt, dass das Recht es anerkennen kann.

Wenn die Herkunft der Daten unklar ist, die Systemlogik undurchsichtig, die Zeitachse komprimiert und die institutionelle Erwartung auf Geschwindigkeit ausgerichtet ist, dann handelt die Person am Ende der Kette möglicherweise weniger wie ein Entscheidungsträger und mehr wie ein juristischer Stoßdämpfer.

Das Pentagon-Memo weist direkt in diese Richtung.

Sein „Agent Network“-Projekt fordert „KI-gestützte Gefechtsführung und Entscheidungsunterstützung, von der Kampagnenplanung bis zur Ausführung der Kill Chain.“

Eine weitere Initiative, „Open Arsenal“, zielt darauf ab, die „TechINT-to-capability development pipeline“ zu beschleunigen und explizit „Geheimdienstinformationen in Waffen in Stunden, nicht Jahren zu verwandeln.“

Diese Formulierungen sind ungewöhnlich offen. Sie zeigen, dass das Ministerium nicht am Rande experimentiert. Es versucht, den gesamten Weg von Information zu Aktion zu komprimieren.​

Das Black-Box-Problem ist nicht nur technischer Natur

Boulanin identifiziert vier Gründe, warum Verantwortlichkeit im Kontext autonomer Waffensysteme (AWS) besonders schwer wird.

Erstens bleibt das Recht selbst in Frage, wie einige Regeln des Internationalen humanitären Rechts (IHL) interpretiert und auf autonome Systeme angewandt werden sollten.

Zweitens verschärft die Unvorhersehbarkeit von KI bestehende Streitfragen über staatliche und individuelle Verantwortung.

Drittens sind an der Entwicklung und Nutzung dieser Systeme viele Akteure beteiligt, was die Verteilung oder Zuschreibung von Verantwortung erschwert.

Viertens erschwert die „Black-Box“-Natur der KI die Ermittlungen zu konkreten Vorfällen und die Rückverfolgung von Handlungen zu bestimmten Akteuren.

Dieser letzte Punkt wird oft missverstanden. Das Black-Box-Problem betrifft nicht nur Ingenieure, die Modelloutputs nicht erklären können. Es ist auch institutional.

Selbst wenn technische Protokolle vorhanden sind, benötigen Ermittler Zugriff, Integrität der Beweiskette und einen Rechtsrahmen, der Protokolle in Verantwortlichkeit übersetzen kann.

Boulanin weist darauf hin, dass digitale Logs und Audit-Mechanismen theoretisch helfen könnten, Verhalten auf einen oder mehrere Akteure zurückzuführen.

Er warnt jedoch auch, dass die praktischen Implikationen nicht gut verstanden sind.

Dieser Vorbehalt ist entscheidend. Die Existenz von Daten ist nicht gleichzusetzen mit Verantwortlichkeit.

Eine digitale Spur ist nur dann relevant, wenn Gerichte, Ermittler und militärische Institutionen bereit und in der Lage sind, sie zu nutzen. Bislang gibt es wenige Hinweise darauf, dass dies der Fall ist.

Kein bedeutendes Rechtssystem hat bisher einen gefestigten, weithin beachteten Präzedenzfall geliefert, der zeigt, wie KI-unterstützte Entscheidungen auf dem Schlachtfeld gerichtlich über die gesamte Kette von Design, Beschaffung, Einsatz und Nutzung rekonstruiert würden.

Die Diplomatie stockt, während die Einsätze beschleunigen

Das Verantwortlichkeitsproblem wäre weiterhin ernst, wenn Staaten parallel daran arbeiteten, ein stärkeres internationales Regime dafür aufzubauen. Sie tun es nicht.

Reuters berichtete in diesem Monat, dass 128 Staaten diskutieren, ob sie vor Ablauf des derzeitigen Mandats im September einen Konsens über einen nicht bindenden Text zu tödlichen autonomen Waffensystemen erreichen können.

Der Vorsitzende der Genfer Gespräche sagte, bei Regeln sei „dringend Fortschritt nötig“, eine Formulierung, die widerspiegelt, wie spät dieser Prozess bereits ist.​

Dieser Zeitrahmen ist relevant, weil sich militärische und diplomatische Wege in entgegengesetzte Richtungen bewegen. In Genf debattieren Staaten noch über Mindestregeln.

In Washington beschleunigt das Pentagon bereits die Einführung von Kampf-KI, die Bereitstellung von Modellen und die Neugestaltung von Verträgen.

Das US-Memo unternimmt keinen sinnvollen Versuch, für einen klareren globalen Rahmen zu pausieren. Stattdessen behandelt es Tempo selbst als strategischen Vorteil.​

Moyes sagt unverblümt, woran die politische Blockade liegt.

„Das internationale Recht muss aktualisiert werden, um eine Grundlage menschlichen Urteilsvermögens, Kontrolle und Verantwortlichkeit bei der Nutzung autonomer Waffen und KI-gestützter Zielsysteme sicherzustellen“, sagte er Invezz.

„Einige der gleichen Staaten, die diese Systeme nutzen, blockieren die Einführung neuer Rechtsregeln – und es sind Zivilbevölkerungen, die den Preis zahlen werden.“

Diese Beobachtung verdient mehr Aufmerksamkeit, als sie erhält.

Die Staaten mit der größten Fähigkeit und den stärksten operativen Anreizen, Flexibilität zu erhalten, sind auch diejenigen, die am besten positioniert sind, neue Regeln zu verlangsamen oder zu verwässern.

Konsensorientierte diplomatische Formate erleichtern das.

Die Lücke besteht also nicht, weil niemand sie sieht. Sie besteht, weil die Akteure, die sie schließen könnten, oft davon profitieren, sie offen zu lassen.

Das Pentagon-Memo institutionalisierte die Leerstelle

Es ist wichtig, nicht zu übertreiben, was das Memo vom 9. Januar bewirkt. Es hebt das Gesetz des bewaffneten Konflikts nicht auf.

Es hebt die menschliche Verantwortung nicht formell auf. Es autorisiert nicht von sich aus rechtswidrige Schläge.

Aber es bewirkt etwas, das womöglich folgenreicher ist.

Es institutionalisiert eine Doktrin, unter der Geschwindigkeit, Umfang, Aktualität von Modellen und die Aufhebung von nutzerseitigen Beschränkungen durch Anbieter zu offiziellen Beschaffungsprioritäten werden.​

Die Sprache des Memos ist durchgehend aufschlussreich. Es fordert Experimente mit Amerikas führenden KI-Modellen „auf allen Klassifikationsstufen“.

Es sagt, Ablehnungen von CDAO-Datenanfragen müssten innerhalb von sieben Tagen begründet und an die Führungsebene eskaliert werden können.

Es schafft ein „Barrier Removal Board“ mit Befugnis, nicht-statutäre Anforderungen aufzuheben. Es fordert, das Ministerium solle „Risikoabwägungen ... so angehen, als stünden wir im Krieg.“

Das beweist zwar nicht die Rechtswidrigkeit. Aber es zeigt eine Institution, die versucht, Reibung aus dem System zu entfernen.​

Und Reibung ist in diesem Kontext oft der Ort, an dem Verantwortlichkeit lebt.

Langsame Prüfung ist Reibung. Dokumentation ist Reibung. Juristische Zurückhaltung ist Reibung. Modellrestriktionen sind Reibung. Menschlicher Zweifel ist Reibung.

Sobald die institutionelle Mission darin besteht, Blockaden zu entfernen, erscheinen diese Schutzmechanismen von innen betrachtet eher als Ineffizienzen denn als Schutz.

Es gibt ein weiteres aufschlussreiches Detail im Memo.

Es heißt, dass „besondere Initiativen, die in geheimen Anhängen dargelegt sind“ und in „dem separat übergebenen geheimen Anhang“ ebenfalls beschleunigt werden.

Selbst die öffentliche Version der Strategie deutet also auf eine größere klassifizierte Architektur hin, die außerhalb der öffentlichen Kontrolle bleibt.

Das bedeutet nicht zwangsläufig, dass das verborgene Material rechtswidrig ist.

Es heißt aber, die Öffentlichkeit werde gebeten, einem System zu vertrauen, dessen Verantwortlichkeitsmechanismen bereits belastet sind, während einige seiner folgenreichsten Details geheim bleiben.​

Die eigentliche Frage ist kleiner, aber schwerwiegender

Die überzeugendste Version dieser Erzählung ist nicht, dass autonome Waffen ein vollständiges juristisches Vakuum geschaffen hätten. Das haben sie nicht.

Vielmehr tragen sie dazu bei, eine Welt zu erzeugen, in der rechtliche Verantwortung theoretisch verfügbar, faktisch jedoch schwerer erreichbar ist.

Denn wenn Boulanin recht hat, sind die rechtlichen Wege vorhanden, aber schwer zu nutzen.

Wenn Moyes recht hat, hört menschliches Urteilsvermögen auf, bedeutsam zu sein, wenn die Begründung der Maschine und die Datenbasis undurchsichtig sind.

Und wenn Schmitt recht hat, liegt die zentrale Schwierigkeit in der praktischen Durchsetzbarkeit: herauszufinden, wer was entschieden hat, auf welcher Grundlage und mit welchem Vorsatz.

Setzt man diese drei Argumente zusammen, beginnt das Pentagon-Memo weniger wie eine Technologie-Strategie zu lesen und mehr wie ein Governance-Dokument für den Abbau von Verantwortlichkeit.

Es kündigt diesen Abbau nicht offen an. Es normalisiert die Zielkonflikte, die den Abbau wahrscheinlich machen.

Jemand wird die Kosten dafür tragen, dass man schnell handelt, bevor Verantwortlichkeit geklärt ist. Das Memo macht deutlich, dass das Ministerium bereit ist, dieses Risiko zu akzeptieren.