Spor mezi Anthropic a Pentagonem klade zásadní otázku: kdo nese vinu, pokud AI zabije?

Co když AI zabije civilistu?

To už není hypotetický titulek — je to otázka, kterou Pentagon nenápadně obešel ve své nové doktríně.

Strategie Ministerstva obrany USA z 9. ledna 2026 týkající se AI obsahuje jedinou větu, která může přetrvat samotnou směrnici:

„Musíme akceptovat, že rizika plynoucí z příliš pomalého postupu převyšují rizika ne zcela dokonalého sladění.“

Je to jedno z nejjasnějších oficiálních přiznání dosud, že v rámci americké obranné establishmentu se priority posunuly.

Cílem už není zpomalit AI, dokud nedorazí odpovědnost, ale jednat rychleji — a důsledky řešit později.

Ta logika se z papíru přenesla do reality během několika týdnů, kdy Anthropic narazil na Pentagon ohledně omezení vojenského použití.

Firma byla brzy zařazena na černou listinu poté, co odmítla přijmout širší podmínky „jakéhokoli zákonného použití“.

Směrnice, která debatě dala vzniknout, není pouhým byrokratickým žargonem.

Ukládá ministerstvu stát se „AI-first“ bojovou silou, nasazovat nejmodernější modely do vojenských systémů do 30 dnů od veřejného uvolnění a včleňovat AI „od plánování kampaně až po provádění kill chainu.“

Dokument dokonce instruuje agentury, aby používaly modely „bez omezení v uživatelské politice“ a aby během šesti měsíců pevně zakotvily formulaci „jakéhokoli zákonného použití“ do všech smluv o AI službách.

Nejde o vzdálenou debatu o budoucí etice. Je to nákupní příkaz, zásadní politická změna a běh na nasazení, který právě probíhá.

A zanechává v tichu jednu znepokojující otázku:

Když systém s podporou AI provede nezákonný úder — kdo je odpovědný?

Právo stále vychází z předpokladu lidského úmyslu, autority velení a úsudku. Moderní vojenská AI je však navržena tak, aby zkracovala časové lhůty, rozostřovala řetězce rozhodování a násobila aktéry do té míry, že nikdo jasně nevlastní výsledek.

Právě tam problém odpovědnosti nekončí — on nabírá na rychlosti.

Pravidla jsou jasná, odpovědnost není

První chybou v této debatě je předpokládat, že autonomní zbraně stojí mimo právo.

Nestojí.

Mezinárodní humanitární právo stále platí. Státy mohou být nadále pohnány k odpovědnosti za mezinárodně protiprávní činy. Jednotlivci mohou v zásadě čelit stíhání za válečné zločiny.

To není zvlášť kontroverzní.

Jak to stručně shrnuje Dr. Vincent Boulanin, ředitel programu Governance of AI ve Stockholmském mezinárodním institutu pro výzkum míru (SIPRI), v rozhovoru pro Invezz.

„Státy se v rámci svých diplomatických rozhovorů v OSN dohodly ... že lidé musí zachovat odpovědnost za vývoj a použití autonomních zbraňových systémů, protože stroje nemohou být odpovědné za porušování mezinárodního humanitárního práva.“

To je formální stanovisko. Potíže začínají, když se teorie setká s provozem.

Boulaninova formulace je užitečná, protože je přesnější než populární výraz „mezera v odpovědnosti“.

Netvrdí, že právo zaniká vstupem AI do řetězce. Tvrdí, že mechanismy pro sledování, prověřování a přisuzování porušení se v praxi stávají mnohem obtížněji použitelné.

Nejde o to, že odpovědnost státu a individuální trestní odpovědnost by byly irelevantní.

Jde o to, že obojí se stává obtížně operacionalizovatelným, když je příslušné chování rozloženo mezi programátory, velitele, úředníky pro akvizice, operátory, analytiky zpravodajství a komerční dodavatele.

Právě proto je problém větší než „vražední roboti.“

V praxi není tlak zaměřen jen na plně autonomní zbraně, ale na systémy rozhodovací podpory založené na AI, které formují cílení, doporučují útoky, řadí hrozby, zkracují přezkum zpravodajských dat a prezentují závěry lidem pod silným časovým tlakem.

Jakmile stroj zúží výběr a člověk se redukuje na rychlé potvrzovací gesto, formální přítomnost osoby v procesu automaticky neznamená, že nadále existuje smysluplná lidská kontrola.

Michael N. Schmitt, jeden z nejznámějších odborníků na právo ozbrojených konfliktů, toto rozlišení dobře vystihuje.

Jak argumentuje, problém není v tom, že by právo ozbrojených konfliktů přestalo na autonomní systémy platit.

V praxi je mnohem těžší určit, kdo jaká rozhodnutí učinil, na jakých informacích a s jakou mírou úmyslu.

To je rozdíl mezi právem na papíře a odpovědností v reálném světě.

Vojenská směrnice říká „rychlost vítězí.“ Ukládá ministerstvu „ozbrojit rychlost učení,“ měřit dobu cyklu jako rozhodující proměnnou a považovat rizika z prodlevy za větší než rizika neúplného sladění.

Nejde o neutrální manažerská rozhodnutí.

Mění to, kolik času mají lidé na to, aby porozuměli, zpochybnili a přehlasovali výstupy generované strojem.

Když je člověk přítomen, ale už nerozhoduje

Nejsilněji se problém odpovědnosti pochopí skrze praxi na bojišti spíše než právní abstrakce.

Nejjasnějším veřejným případem zůstává použití systému Lavender izraelskou stranou v Gaze, o kterém několik zpráv uvádělo, že byl použit k identifikaci velkého počtu potenciálních cílů.

Zpravodajství The Guardian, citující izraelské zpravodajské zdroje, uvedlo, že Lavender v jednom okamžiku identifikoval až 37 000 palestinských mužů údajně spojených s Hamasem nebo Palestinským islámistickým džihádem.

Stejné zpravodajství uvedlo, že armáda pro některé kategorie úderů používala předem schválené prahy civilních obětí.

Tento případ je důležitý nejen kvůli rozsahu, ale protože ukazuje, co se stane, když se cílení s podporou AI stane rutinou.

Stroj nemusí sám odpálit zbraň, aby přetvořil odpovědnost. Stačí, že strukturuje rozhodnutí.

Jakmile důstojník přezkoumává výstupy vytvořené strojem v zrychleném pracovním toku, právní obraz velitele klidně vážícího proporcionalitu a rozlišení začíná vypadat méně jako realita a více jako procedurální fikce.

Richard Moyes, managing partner v Article 36, to vystihuje lépe než většina tvůrců politik.

„Pokud nevíme, jak bylo autonomní rozhodnutí učiněno, nebo odkud pocházejí informace, které počítače předkládají velitelům, nebo jak aktuální jsou, pak lidské rozhodování přestává být smysluplné,“ řekl Invezz.

„Mezinárodní právo v konfliktu je založeno na lidských rozhodnutích, lidském morálním zapojení a odpovědnosti za ta rozhodnutí.“

Tato věta má význam, protože debatu odklání od sloganů. Skutečný problém není, zda technicky někdo proces někdy dotkl.

Problém je, zda člověk stále uplatnil úsudek způsobem, který může právo rozpoznat.

Pokud je původ dat nejasný, logika systému neprůhledná, časová osa zkrácená a institucionální očekávání nakloněné rychlosti, pak osoba na konci řetězce může fungovat méně jako rozhodovatel a více jako právní tlumič nárazů.

Pentagonova směrnice přímo směřuje k takovému světu.

Projekt „Agent Network“ vyžaduje „bojové řízení a podporu rozhodování umožněné AI, od plánování kampaně až po provádění kill chainu.“

Jiná iniciativa, „Open Arsenal,“ si klade za cíl urychlit „pipeline vývoje od TechINT k schopnostem,“ explicitně „přeměňovat zpravodajské údaje ve zbraně během hodin, ne let.“

Tyto formulace jsou neobvykle upřímné. Ukazují, že ministerstvo neexperimentuje na okraji. Snaží se zkomprimovat celou cestu od informace k akci.

Problém černé skříňky není jen technický

Boulanin identifikuje čtyři důvody, proč se v kontextu autonomních zbraňových systémů (AWS) stává odpovědnost obzvlášť obtížnou.

Zaprvé: samotné právo není ustálené, pokud jde o to, jak by se některá pravidla mezinárodního humanitárního práva měla interpretovat a aplikovat na autonomní systémy.

Zadruhé: nepředvídatelnost AI zesiluje existující spory o odpovědnosti států a jednotlivců.

Zatřetí: vývoj a použití těchto systémů zahrnuje velký počet aktérů, což ztěžuje rozdělení nebo přisouzení odpovědnosti.

Zadruhé: povaha AI jako „černé skříňky“ zkomplikovává snahy vyšetřovat konkrétní incidenty a vystopovat jednání zpět k určitým subjektům.

Tento poslední bod je často nepochopen. Problém černé skříňky není jen o tom, že inženýři nedokážou vysvětlit výstupy modelu. Je také institucionální.

I kdyby technické logování existovalo, vyšetřovatelé stále potřebují přístup, integritu řetězce uchování důkazů a právní rámec schopný překládat záznamy na odpovědnost.

Boulanin uvádí, že digitální záznamy a audity by teoreticky mohly pomoci vystopovat jednání zpět k jednomu nebo více aktérům.

Ale varuje také, že praktické dopady nejsou dobře pochopené.

Tato výhrada je klíčová. Existence dat není totéž co odpovědnost.

Digitální stopa má význam jen tehdy, pokud jsou soudy, vyšetřovatelé a vojenské instituce ochotné a schopné ji použít. Zatím je málo důkazů, že tomu tak je.

Žádný významný právní systém dosud nevytvořil ustálený, vysoce profilovaný precedent, který by ukázal, jak by se rozhodnutí na bojišti podpořená AI rekonstruovala před soudem napříč celým řetězcem návrhu, akvizice, nasazení a použití.

Diplomacie stagnuje, zatímco nasazování zrychluje

Problém odpovědnosti by byl stále vážný i v případě, že by státy soupeřily o vybudování silnějšího mezinárodního režimu. To se ale neděje.

Reuters tento měsíc informoval, že 128 států diskutuje, zda před ukončením současného mandátu v září dosáhnou konsensu o nezávazném textu o systémech smrtících autonomních zbraní.

Předseda ženevských jednání řekl, že pokrok v pravidlech je „naléhavě potřebný,“ což odráží, jak opožděný tento proces již je.

Časová osa je důležitá, protože vojenské a diplomatické trajektorie se pohybují opačnými směry. V Ženevě státy stále jednají o základních pravidlech.

Ve Washingtonu Pentagon již zrychluje adopci AI na bojišti, nasazování modelů a přepracování smluv.

Americká směrnice se nijak smysluplně nesnaží přerušit postup kvůli jasnějšímu globálnímu rámci. Místo toho považuje samotnou rychlost za strategickou výhodu.

Moyes je k politické blokaci upřímný.

„Mezinárodní právo je třeba aktualizovat tak, aby zajistilo základní úroveň lidského úsudku, kontroly a odpovědnosti při použití autonomních zbraní a systémů cílení založených na AI,“ řekl Invezz.

„Některé ze stejných států, které tyto systémy používají, brání přijetí nových právních pravidel — a platit za to budou civilní populace.“

Toto pozorování si zaslouží více pozornosti, než se mu dostává.

Státy s největšími kapacitami a nejsilnějšími provozními pobídkami zachovat si flexibilitu jsou zároveň státy, které jsou nejlépe postavené zpomalit nebo zředit nová pravidla.

Formáty diplomatických jednání závislé na konsenzu to usnadňují.

Takže mezera nepřetrvává proto, že ji nikdo nevidí. Přetrvává proto, že aktéři, kteří ji nejlépe mohou uzavřít, často profitují z toho, že zůstane otevřená.

Pentagonova směrnice institucionalizovala prázdno

Není důležité přeceňovat, co směrnice z 9. ledna dělá. Nezrušuje právo ozbrojeného konfliktu.

Neruší formálně lidskou odpovědnost. Sama o sobě neschvaluje nezákonné údery.

Ale dělá něco možná důležitějšího.

Institucionalizuje doktrínu, podle které se rychlost, rozsah, aktuálnost modelů a odstranění omezení ze strany dodavatelů stávají oficiálními prioritami při nákupu.

Jazyk směrnice je provokativní až do konce. Vyžaduje experimentování s předními americkými modely „na všech úrovních klasifikace.“

Uvádí, že odmitnutí požadavků na data CDAO musí být odůvodněno do sedmi dnů a může být eskalováno k vrchnímu vedení.

Vytváří „Barrier Removal Board“ s pravomocí odpustit nestatutární požadavky. Říká, že ministerstvo musí „přistupovat k rizikovým kompromisům ... jako kdybychom byli ve válce.“

To nic z toho nedokazuje nezákonnost. Ale ukazuje to instituci snažící se odstranit tření ze systému.

A tření je v tomto kontextu často místem, kde žije odpovědnost.

Pomalé přezkoumání je tření. Dokumentace je tření. Právní váhání je tření. Omezení modelů jsou tření. Lidské pochybnosti jsou tření.

Jakmile se institucionální mise stane odstraňováním překážek, tyto záruky začnou zevnitř systému vypadat spíše jako neefektivita než jako ochrana.

V směrnici je další vypovídající detail.

Uvádí, že „speciální iniciativy uvedené v utajovaných dodatcích“ a v „utajovaném dodatku poskytnutém odděleně“ budou rovněž urychleny.

Tedy i veřejná verze strategie směřuje k větší utajované architektuře, která zůstává mimo veřejnou kontrolu.

To neznamená, že skrytý materiál je nutně protiprávní.

Znamená to však, že veřejnost je vyzvána důvěřovat systému, jehož mechanismy odpovědnosti jsou už nyní napjaté, zatímco některé z jeho nejzásadnějších detailů zůstávají utajené.

Skutečná otázka je menší, ale závažnější

Nejpřesvědčivější verze tohoto vyprávění není ta, že autonomní zbraně vytvořily úplné právní vakuum. Nestalo se to.

Jde o to, že přispívají k vytvoření světa, v němž je právní odpovědnost v teorii dostupná, ale v praxi hůře dosažitelná.

Protože pokud má Boulanin pravdu, právní cesty existují, ale jsou obtížné k použití.

Pokud má Moyes pravdu, lidský úsudek přestává být smysluplný, když je strojní odůvodnění neprůhledné a datový základ nejasný.

A pokud má Schmitt pravdu, střední obtížností je praktická vymahatelnost: identifikovat, kdo rozhodl co, na jakém základě a s jakým úmyslem.

Spojte tyto tři argumenty a Pentagonova směrnice přestává vypadat jako technologická strategie a více jako dokument o řízení eroze odpovědnosti.

Nevyhlašuje tuto erozí otevřeně. Normalizuje kompromisy, které eroze činí pravděpodobnou.

Někdo ponese cenu za to, že se bude jednat rychle dřív, než bude vyřešena odpovědnost. Směrnice jasně ukazuje, že ministerstvo je připraveno toto riziko akceptovat.