Konflikt Anthropic–Pentagon: kto ponosi winę, jeśli AI zabije?

A co jeśli SI zabije cywila?

To już nie spekulacyjny nagłówek — to pytanie, które Pentagon cicho pominął w nowej doktrynie.

Strategia SI Departamentu Obrony USA z 9 stycznia 2026 r. zawiera jedno zdanie, które może przetrwać sam memos:

„Musimy zaakceptować, że ryzyko spowodowane brakiem wystarczająco szybkiego działania przewyższa ryzyko związane z niedoskonałym dopasowaniem.”

To jedno z najjaśniejszych oficjalnych przyznań, że w amerykańskim aparacie obronnym priorytet się przesunął.

Celem nie jest już spowalnianie rozwoju SI do czasu uregulowania odpowiedzialności, lecz działanie szybciej — i radzenie sobie z konsekwencjami później.

Ta logika wyskoczyła z dokumentu i stała się rzeczywistością w ciągu kilku tygodni, gdy Anthropic skonfliktował się z Pentagonem w sprawie ograniczeń dotyczących użycia wojskowego.

Firma wkrótce trafiła na czarną listę po odmowie przyjęcia szerszych warunków „dowolnego zgodnego z prawem użycia”.

Memos, które wywołało debatę, to więcej niż biurokratyczny żargon.

Nakazuje Departamentowi stać się siłami zorientowanymi na SI, wdrażać najnowocześniejsze modele w systemach wojskowych w ciągu 30 dni od publicznego udostępnienia oraz wplatać SI „od planowania kampanii po wykonanie łańcucha uderzenia”.

Dokument nawet instruuje agencje, by korzystały z modeli „wolnych od ograniczeń polityki użytkowania” oraz by w ciągu sześciu miesięcy wprowadzić klauzulę „dowolnego zgodnego z prawem użycia” we wszystkich kontraktach na usługi SI.

To nie odległa debata o przyszłej etyce. To polecenie zakupowe, zmiana polityki i wyścig wdrożeń, który trwa.

I zostawia jedno niepokojące pytanie zawieszone w ciszy:

Kiedy system zasilany SI doprowadzi do niezgodnego z prawem uderzenia — kto ponosi odpowiedzialność?

Prawo nadal zakłada intencję człowieka, autorytet dowodzenia i ocenę. Tymczasem nowoczesne wojskowe systemy SI buduje się tak, by skracały terminy, zacierały łańcuchy decyzyjne i mnożyły podmioty, aż nikt wyraźnie nie będzie właścicielem rezultatu.

To punkt, w którym problem odpowiedzialności nie tylko się zaczyna — on przyspiesza.

Zasady są jasne, odpowiedzialność — nie

Pierwszym błędem w tej debacie jest założenie, że autonomiczne bronie leżą poza prawem.

Nie leżą.

Mają zastosowanie przepisy międzynarodowego prawa humanitarnego. Państwa nadal mogą być pociągane do odpowiedzialności za międzynarodowo bezprawne czyny. Osoby nadal, w zasadzie, mogą odpowiadać przed sądem za zbrodnie wojenne.

To nie jest szczególnie kontrowersyjne.

Jak prostym językiem wyjaśnia dr Vincent Boulanin, dyrektor Programu Zarządzania SI w Stockholm International Peace Research Institute (SIPRI), w rozmowie z Invezz.

„Państwa uzgodniły w ramach rozmów dyplomatycznych przy ONZ ... że to ludzie muszą zachować odpowiedzialność za rozwój i użycie autonomicznych systemów broni, ponieważ maszyny nie mogą być pociągane do odpowiedzialności za naruszenia międzynarodowego prawa humanitarnego.”

To stanowisko formalne. Trudność pojawia się, gdy teoria spotyka operacje.

Formulacja Boulanina jest użyteczna, bo jest bardziej precyzyjna niż popularne określenie „luka odpowiedzialności”.

Nie twierdzi on, że prawo znika, gdy SI wchodzi do łańcucha. Twierdzi, że mechanizmy śledzenia, kontrolowania i przypisywania naruszeń stają się w praktyce dużo trudniejsze w użyciu.

Jego argument nie mówi, że odpowiedzialność państwowa i indywidualna przestają istnieć.

Chodzi o to, że obie stają się trudne do uruchomienia, gdy odpowiednie zachowanie jest rozproszone pomiędzy programistami, dowódcami, urzędnikami ds. zamówień, operatorami, analitykami wywiadu i dostawcami komercyjnymi.

Dlatego problem jest większy niż „zabójcze roboty”.

W praktyce newralgicznym punktem nie są tylko w pełni autonomiczne systemy broni, lecz systemy wsparcia decyzyjnego oparte na SI, które formułują cele, rekomendują obiekty ataku, klasyfikują zagrożenia, skracają przegląd wywiadu i przedstawiają wnioski ludziom pod silną presją czasu.

Gdy maszyna zawęża pole wyboru, a człowiek zostaje sprowadzony do szybkiego potwierdzenia, formalna obecność osoby w pętli nie musi oznaczać, że istnieje znacząca kontrola człowieka.

Michael N. Schmitt, jeden z najważniejszych uczonych w prawie konfliktów zbrojnych, dobrze rozróżnia te kwestie.

Problem, jak argumentował, nie polega na tym, że prawo konfliktów zbrojnych przestaje mieć zastosowanie do systemów autonomicznych.

W praktyce staje się znacznie trudniej ustalić, kto podjął które decyzje, na jakiej podstawie i z jakim stopniem intencji.

To różnica między prawem na papierze a odpowiedzialnością w realnym świecie.

Pentagon w memos mówi „szybkość wygrywa”. Nakazuje Departamentowi „uzbroić szybkość uczenia się”, traktować czas cyklu jako czynnik decydujący i postrzegać ryzyko opóźnienia jako większe niż ryzyko niedoskonałego dopasowania.

To nie są neutralne decyzje zarządcze.

Zmieniają one ilość czasu, jaką mają ludzie, by rozumieć, kwestionować i unieważniać wyniki generowane przez maszynę.

Gdy człowiek jest obecny, ale już nie decyduje

Najsilniej problem odpowiedzialności widać w praktyce polowej, a nie w abstrakcji prawnej.

Najbardziej klarownym publicznym przypadkiem pozostaje użycie systemu Lavender przez Izrael w Gazie, który – jak podawały liczne raporty – był wykorzystywany do identyfikacji dużej liczby potencjalnych celów.

Relacje The Guardian, powołujące się na izraelskie źródła wywiadowcze, mówiły, że Lavender na pewnym etapie zidentyfikował do 37 000 palestyńskich mężczyzn rzekomo powiązanych z Hamasem lub Palestyńskim Dżihadem Islamskim.

Te same relacje wskazywały, że wojsko korzystało z wcześniej zatwierdzonych progów strat cywilnych dla niektórych kategorii uderzeń.

Ten przypadek ma znaczenie nie tylko ze względu na skalę, ale dlatego, że pokazuje, co się dzieje, gdy celowanie wspomagane SI staje się rutyną.

Maszyna nie musi sama wystrzeliwać broni, by przekształcić odpowiedzialność. Wystarczy, że ustrukturyzuje decyzję.

Gdy oficer przegląda wyniki wygenerowane przez maszynę w przyspieszonym przepływie pracy, prawny obraz dowódcy spokojnie ważącego proporcjonalność i rozróżnienie zaczyna wyglądać mniej jak rzeczywistość, a bardziej jak fikcja proceduralna.

Richard Moyes, partner zarządzający w Article 36, trafia w sedno lepiej niż większość decydentów politycznych.

„Jeśli nie wiemy, jak podjęto autonomiczną decyzję, skąd pochodzi informacja, którą komputery przedstawiają dowódcom, ani jak świeża ona jest, to ludzka decyzja przestaje być znacząca” — powiedział Invezz.

„Międzynarodowe prawo konfliktów opiera się na ludzkich decyzjach, ludzkim zaangażowaniu moralnym i odpowiedzialności za te wybory.”

To stwierdzenie ma znaczenie, ponieważ przesuwa debatę poza slogany. Prawdziwe pytanie nie brzmi, czy człowiek technicznie gdzieś dotknął procesu.

Pytanie brzmi, czy człowiek wciąż wykonywał ocenę w sposób rozpoznawalny przez prawo.

Jeśli pochodzenie danych jest niejasne, logika systemu nieprzejrzysta, terminy skompresowane, a oczekiwania instytucjonalne przesunięte w stronę szybkości, to osoba na końcu łańcucha może działać mniej jak decydent, a bardziej jak prawny amortyzator.

Memos Pentagonu wyraźnie prowadzi w tym kierunku.

Projekt „Agent Network” wzywa do „zarządzania walką i wsparcia decyzji z wykorzystaniem SI, od planowania kampanii po wykonanie łańcucha uderzenia”.

Inna inicjatywa, „Open Arsenal”, ma przyspieszyć „rurę rozwoju od TechINT do zdolności bojowej”, wyraźnie „zamieniając wywiad w broń w godziny, nie lata”.

Te sformułowania są wyjątkowo szczere. Pokazują, że Departament nie eksperymentuje na marginesie. Próbuje skompresować pełną drogę od informacji do działania.

Problem czarnej skrzynki to nie tylko kwestia techniczna

Boulanin wyróżnia cztery powody, dla których odpowiedzialność staje się szczególnie trudna w kontekście autonomicznych systemów broni (AWS).

Po pierwsze, samo prawo pozostaje nieustalone co do interpretacji i stosowania niektórych przepisów międzynarodowego prawa humanitarnego wobec systemów autonomicznych.

Po drugie, nieprzewidywalność SI potęguje istniejące spory o odpowiedzialność państwową i indywidualną.

Po trzecie, rozwój i użycie tych systemów angażuje dużą liczbę podmiotów, co utrudnia rozdzielenie lub przypisanie odpowiedzialności.

Po czwarte, natura „czarnej skrzynki” SI komplikuje wysiłki w celu zbadania konkretnych incydentów i odtworzenia zachowania do poszczególnych aktorów.

Ten ostatni punkt jest często źle rozumiany. Problem czarnej skrzynki to nie tylko kwestia inżynierów, którzy nie potrafią wyjaśnić wyników modelu. To także problem instytucjonalny.

Nawet jeśli istnieje pewne techniczne logowanie, śledczy nadal potrzebują dostępu, integralności łańcucha dowodowego i ram prawnych zdolnych przetłumaczyć logi na odpowiedzialność.

Boulanin zauważa, że cyfrowe ślady i mechanizmy audytu mogłyby, teoretycznie, pomóc odtworzyć zachowanie do jednego lub kilku aktorów.

Ale ostrzega też, że praktyczne implikacje nie są dobrze rozumiane.

To zastrzeżenie ma kluczowe znaczenie. Istnienie danych nie jest równoznaczne z odpowiedzialnością.

Cyfrowy ślad ma znaczenie tylko wtedy, gdy sądy, śledczy i instytucje wojskowe są skłonne i zdolne go użyć. Jak dotąd jest niewiele dowodów, że tak jest.

Żaden główny system prawny nie wydał jeszcze ugruntowanego, głośnego precedensu pokazującego, jak decyzje podejmowane na polu bitwy z udziałem SI zostałyby odtworzone w sądzie w całym łańcuchu projektowania, zamówień, wdrożenia i użycia.

Dyplomacja stoi w miejscu, a wdrożenia przyspieszają

Problem odpowiedzialności byłby nadal poważny, nawet gdyby państwa ścigały się, by zbudować silniejszy międzynarodowy reżim regulujący tę kwestię. Nie robią tego.

Reuters podał w tym miesiącu, że 128 państw dyskutuje, czy uda się osiągnąć konsensus w sprawie tekstu niewiążącego dotyczącego systemów zabójczych autonomicznych przed wygaśnięciem obecnego mandatu we wrześniu.

Przewodniczący rozmów genewskich stwierdził, że postęp w kwestii przepisów jest „pilnie potrzebny” — fraza ta odzwierciedla, jak opóźniony jest już ten proces.

Harmonogram ma znaczenie, ponieważ tory wojskowy i dyplomatyczny idą w przeciwnych kierunkach. W Genewie państwa wciąż debatują o zasadach minimalnych.

W Waszyngtonie Pentagon już przyspiesza adopcję SI na polu bitwy, wdrażanie modeli i przeprojektowywanie kontraktów.

Amerykańskie memos nie podejmuje znaczącej próby wstrzymania się do czasu powstania wyraźniejszych ram globalnych. Zamiast tego traktuje szybkość jako strategiczną przewagę.

Moyes mówi wprost o politycznym zablokowaniu.

„Międzynarodowe prawo musi zostać zaktualizowane, aby zapewnić podstawę ludzkiego osądu, kontroli i odpowiedzialności w użyciu autonomicznych systemów broni i systemów celowania opartych na SI” — powiedział Invezz.

„Niektóre z tych samych państw, które używają tych systemów, blokują przyjęcie nowych zasad prawnych — a cenę zapłacą populacje cywilne.”

To spostrzeżenie zasługuje na więcej uwagi, niż otrzymuje.

Państwa o największych możliwościach i najsilniejszych operacyjnych motywacjach do zachowania elastyczności są też tymi, które najlepiej mogą spowolnić lub rozmyć nowe reguły.

Formaty dyplomatyczne wymagające konsensusu to ułatwiają.

Różnica nie polega na tym, że nikt nie widzi luki. Polega na tym, że aktorzy najbardziej zdolni do jej zamknięcia często odnoszą korzyść z jej pozostawienia otwartej.

Memos Pentagonu zalegalizował pustkę instytucjonalną

Ważne jest, by nie przeceniać tego, co robi memos z 9 stycznia. Nie uchyla prawa konfliktów zbrojnych.

Nie znosi formalnie odpowiedzialności ludzkiej. Samo z siebie nie upoważnia do niezgodnych z prawem uderzeń.

Ale robi coś być może bardziej doniosłego.

Instytucjonalizuje doktrynę, w której szybkość, skala, świeżość modeli i usunięcie ograniczeń narzucanych przez dostawców stają się oficjalnymi priorytetami zakupowymi.

Język memos jest znamienny od początku do końca. Wzywa do eksperymentowania z wiodącymi amerykańskimi modelami SI „na wszystkich poziomach klauzul”.

Mówi, że odmowy żądań danych CDAO muszą być uzasadnione w ciągu siedmiu dni i mogą być eskalowane do najwyższego kierownictwa.

Tworzy „Barrier Removal Board” z uprawnieniem do uchylania wymogów niestanowiących prawa. Mówi, że Departament musi „podchodzić do kompromisów ryzyka ... jakbyśmy byli w stanie wojny”.

Żadne z tego nie dowodzi bezprawności. Ale pokazuje instytucję próbującą usunąć tarcie z systemu.

A tarcie, w tym kontekście, często jest miejscem, gdzie mieszka odpowiedzialność.

Powolna weryfikacja to tarcie. Dokumentacja to tarcie. Prawne wahanie to tarcie. Ograniczenia modeli to tarcie. Ludzki wątpienie to tarcie.

Gdy misją instytucji staje się usuwanie blokad, środki ochronne zaczynają wyglądać, od wewnątrz systemu, jak nieefektywności, a nie zabezpieczenia.

W memos jest jeszcze jedna znamienna informacja.

Mówi, że „szczególne inicjatywy opisane w aneksach zastrzeżonych” oraz w „Aneksie Zastrzeżonym dostarczonym oddzielnie” również zostaną przyspieszone.

Tak więc nawet publiczna wersja strategii wskazuje na większą, zastrzeżoną architekturę, która pozostaje poza kontrolą społeczną.

To nie oznacza, że ukryte materiały są koniecznie bezprawne.

Oznacza natomiast, że opinii publicznej każe się zaufać systemowi, którego mechanizmy odpowiedzialności są już napięte, podczas gdy niektóre z jego najbardziej doniosłych szczegółów pozostają tajne.

Prawdziwe pytanie jest mniejsze, ale bardziej obciążające

Najbardziej przekonująca wersja tej narracji nie mówi, że autonomiczne systemy stworzyły kompletną prawna próżnię. Nie stworzyły jej.

Mówi raczej, że pomagają one wytworzyć świat, w którym odpowiedzialność prawna pozostaje dostępna w teorii, ale trudniej osiągalna w praktyce.

Bo jeśli Boulanin ma rację, drogi prawne istnieją, ale trudno z nich skorzystać.

Jeśli Moyes ma rację, ludzki osąd przestaje być znaczący, gdy rozumowanie maszyny jest nieprzejrzyste, a podstawa danych niepewna.

A jeśli Schmitt ma rację, centralną trudnością jest praktyczna wykonalność egzekwowania: zidentyfikowanie, kto zdecydował co, na jakiej podstawie i z jaką intencją.

Połączenie tych trzech argumentów sprawia, że memos Pentagonu zaczyna czytać się mniej jak strategia technologiczna, a bardziej jak dokument zarządzania erozją odpowiedzialności.

Nie ogłasza tej erozji otwarcie. Normalizuje kompromisy, które tę erozję czynią prawdopodobną.

Ktoś poniesie koszty działania szybko, zanim rozwiązana zostanie kwestia odpowiedzialności. Memos jasno pokazuje, że Departament jest gotów zaakceptować to ryzyko.