Scontro Anthropic–Pentagono: chi è responsabile se l'IA uccide?

E se l'IA uccidesse un civile?

Non è più un titolo speculativo — è una domanda che il Pentagono ha sommessamente oltrepassato nella sua nuova dottrina.

La strategia sull'IA del Dipartimento della Difesa degli Stati Uniti del January 9, 2026, contiene una singola riga che potrebbe durare più del promemoria stesso:

“We must accept that the risks of not moving fast enough outweigh the risks of imperfect alignment.”

È uno dei riconoscimenti ufficiali più chiari finora che, all'interno dell'apparato difensivo statunitense, la priorità è cambiata.

L'obiettivo non è più rallentare l'IA finché la responsabilità non si allinei, ma muoversi più in fretta — e affrontare le conseguenze in seguito.

Questa logica è passata rapidamente dalla pagina alla realtà nel giro di poche settimane, quando Anthropic si è scontrata con il Pentagono sui limiti d'uso militare.

L'azienda è stata presto messa nella lista nera dopo essersi rifiutata di adottare termini più ampi come “any lawful use”.

Il memo che ha scatenato il dibattito non è semplice gergo burocratico.

Ordina al Dipartimento di diventare una forza da combattimento "AI-first", di distribuire modelli di frontiera nei sistemi militari entro 30 giorni dalla pubblicazione pubblica e di intrecciare l'IA "from campaign planning to kill chain execution."

Il documento indica persino alle agenzie di usare modelli “free from usage policy constraints” e di inserire obbligatoriamente il linguaggio "any lawful use" in tutti i contratti di servizi di IA entro sei mesi.

Non si tratta di un dibattito lontano sull'etica futura. È un ordine di approvvigionamento, un cambio di politica e una corsa alla distribuzione in atto.

E lascia sospesa una domanda inquietante nel silenzio:

Quando un sistema abilitato dall'IA produce un attacco illecito — chi è responsabile?

La legge assume ancora l'intenzionalità umana, l'autorità di comando e il giudizio. Eppure l'IA militare moderna è progettata per ridurre i tempi, offuscare le catene decisionali e moltiplicare gli attori fino a quando nessuno possiede chiaramente l'esito.

È qui che il problema della responsabilità non solo inizia — ma accelera.

Le regole sono chiare, la responsabilità no

Il primo errore in questo dibattito è presumere che le armi autonome stiano fuori dalla legge.

Non è così.

Il diritto internazionale umanitario continua ad applicarsi. Gli Stati possono ancora essere ritenuti responsabili per atti internazionalmente illeciti. Gli individui possono ancora, in linea di principio, essere perseguiti per crimini di guerra.

Questo non è particolarmente controverso.

Come mette semplicemente in chiaro il dott. Vincent Boulanin, direttore del Governance of AI Programme presso lo Stockholm International Peace Research Institute (SIPRI), parlando con Invezz.

"Gli Stati hanno convenuto nel contesto dei loro colloqui diplomatici all'ONU ... che gli esseri umani devono mantenere la responsabilità per lo sviluppo e l'uso dei sistemi d'arma autonomi perché le macchine non possono essere ritenute responsabili per le violazioni del diritto internazionale umanitario."

Questa è la posizione formale. La difficoltà inizia quando la teoria incontra le operazioni.

La formulazione di Boulanin è utile perché è più precisa della frase popolare "accountability gap."

Non sostiene che la legge scompaia quando l'IA entra nella catena. Sostiene che i meccanismi per rintracciare, scrutinare e attribuire le violazioni diventano molto più difficili da usare nella pratica.

Il suo punto non è che la responsabilità dello Stato e la responsabilità penale individuale siano irrilevanti.

È che entrambe diventano difficili da operazionalizzare quando la condotta rilevante è distribuita tra programmatori, comandanti, funzionari degli acquisti, operatori, analisti dell'intelligence e fornitori commerciali.

È anche per questo che la questione è più ampia dei "robot assassini."

In pratica, il punto critico non sono solo le armi pienamente autonome, ma i sistemi di supporto decisionale basati su IA che modulano il targeting, raccomandano obiettivi d'attacco, classificano le minacce, comprimono la revisione dell'intelligence e presentano conclusioni agli umani sotto forte pressione temporale.

Una volta che la macchina restringe il campo e l'umano è ridotto a un rapido passaggio di conferma, la presenza formale di una persona nel ciclo non significa necessariamente che esista ancora un controllo umano significativo.

Michael N. Schmitt, uno degli studiosi più noti nel diritto dei conflitti armati, cattura bene questa distinzione.

Il problema, come ha sostenuto, non è che il diritto dei conflitti armati smetta di applicarsi ai sistemi autonomi.

Diventa molto più difficile nella pratica determinare chi ha preso quali decisioni, su quale base informativa e con quale livello di intenzione.

Questa è la differenza tra la legge sulla carta e la responsabilità nel mondo reale.

Il memo del Pentagono dice "speed wins." Ordina al Dipartimento di "weaponise learning speed," di misurare il tempo di ciclo come variabile decisiva e di trattare i rischi del ritardo come maggiori dei rischi di un allineamento imperfetto.

Queste non sono scelte gestionali neutrali.

Cambiano quanto tempo hanno gli esseri umani per comprendere, mettere in discussione e sovrascrivere i risultati generati dalle macchine.​

Quando un umano è presente, ma non decide più

Il modo più efficace per comprendere il problema della responsabilità è attraverso la pratica sul campo piuttosto che l'astrazione giuridica.

Il caso pubblico più chiaro rimane l'uso da parte di Israele del sistema Lavender a Gaza, che secondo più reportage è stato usato per identificare un gran numero di potenziali obiettivi.

Il reportage di The Guardian, citando fonti dell'intelligence israeliana, riferiva che Lavender in una fase aveva identificato fino a 37.000 uomini palestinesi presumibilmente collegati ad Hamas o alla Palestinian Islamic Jihad.

Lo stesso reportage indicava che l'esercito aveva usato soglie pre-approvate di vittime civili per alcune categorie di attacchi.

Quel caso è importante non solo per la scala, ma perché mostra cosa succede quando il targeting assistito dall'IA diventa routinario.

La macchina non deve sparare l'arma da sola per rimodellare la responsabilità. Le basta strutturare la decisione.

Una volta che un ufficiale rivede output prodotti dalla macchina all'interno di un flusso di lavoro accelerato, l'immagine legale di un comandante che valuta tranquillamente proporzionalità e distinzione comincia a somigliare meno alla realtà e più a una finzione procedurale.

Richard Moyes, managing partner di Article 36, arriva al cuore della questione meglio della maggior parte dei decisori politici.

"Se non sappiamo come è stata presa una decisione autonoma, o da dove provengano le informazioni che i computer presentano ai comandanti, o quanto siano recenti, allora il processo decisionale umano smette di essere significativo," ha detto a Invezz.

"Il diritto internazionale in conflitto si basa su decisioni umane, impegno morale umano e responsabilità per quelle scelte."

Questa affermazione è importante perché sposta il dibattito dagli slogan. La vera questione non è se un essere umano abbia toccato tecnicamente il processo da qualche parte.

La questione è se l'umano abbia ancora esercitato giudizio in modo che la legge possa riconoscerlo.

Se la provenienza dei dati è poco chiara, la logica del sistema opaca, la tempistica compressa e l'aspettativa istituzionale orientata alla velocità, allora la persona alla fine della catena può agire meno come decisore e più come un ammortizzatore legale.

Il memo del Pentagono indica direttamente verso quel mondo.

Il suo progetto "Agent Network" chiede "AI-enabled battle management and decision support, from campaign planning to kill chain execution."

Un'altra iniziativa, "Open Arsenal," mira ad accelerare la "TechINT-to-capability development pipeline," esplicitamente "turning intel into weapons in hours, not years."

Quelle espressioni sono straordinariamente franche. Mostrano che il Dipartimento non sta sperimentando ai margini. Sta cercando di comprimere l'intero percorso dall'informazione all'azione.​

Il problema della scatola nera non è solo tecnico

Boulanin individua quattro ragioni per cui la responsabilità diventa particolarmente difficile nel contesto dei sistemi d'arma autonomi (AWS).

Primo, la legge stessa rimane incerta su come alcune norme del diritto internazionale umanitario (IHL) debbano essere interpretate e applicate ai sistemi autonomi.

Secondo, l'imprevedibilità dell'IA aggrava le dispute esistenti sulla responsabilità statale e individuale.

Terzo, lo sviluppo e l'uso di questi sistemi coinvolge un gran numero di attori, rendendo difficile distribuire o attribuire la responsabilità.

Quarto, la natura della "black box" dell'IA complica gli sforzi per indagare incidenti specifici e ricondurre la condotta a particolari agenti.

Quest'ultimo punto è spesso frainteso. Il problema della scatola nera non riguarda solo gli ingegneri che non riescono a spiegare gli output del modello. È anche istituzionale.

Anche se esistono alcuni log tecnici, gli investigatori hanno comunque bisogno di accesso, integrità della catena di custodia e di un quadro giuridico capace di tradurre i log in responsabilità.

Boulanin osserva che tracce digitali e meccanismi di audit potrebbero, in teoria, aiutare a rintracciare la condotta fino a uno o più attori.

Ma avverte anche che le implicazioni pratiche non sono ben comprese.

Questa riserva è cruciale. L'esistenza dei dati non è la stessa cosa della responsabilità.

Una traccia digitale conta solo se corti, investigatori e istituzioni militari sono disposti e in grado di usarla. Finora, ci sono poche prove che lo siano.

Nessun grande sistema giuridico ha ancora prodotto un precedente stabile e di alto profilo che mostri come decisioni sul campo assistite dall'IA verrebbero ricostruite in tribunale lungo l'intera catena di progettazione, approvvigionamento, schieramento e uso.

La diplomazia rallenta mentre la distribuzione accelera

Il problema della responsabilità rimarrebbe comunque serio se gli Stati corressero per costruire un regime internazionale più solido. Non è così.

Reuters ha riportato questo mese che 128 Stati stanno discutendo se possano raggiungere un consenso su un testo non vincolante sulle armi autonome letali prima che il mandato attuale scada a settembre.

Il presidente dei colloqui di Ginevra ha detto che è "urgently needed" il progresso sulle regole, una frase che riflette quanto questo processo sia già in ritardo.​

Quella tempistica è importante perché le vie militari e diplomatiche si stanno muovendo in direzioni opposte. A Ginevra gli Stati stanno ancora dibattendo regole di base.

A Washington il Pentagono sta già accelerando l'adozione dell'IA sul campo, il dispiegamento dei modelli e la riprogettazione dei contratti.

Il memo statunitense non tenta in modo significativo di fare una pausa in attesa di un quadro globale più chiaro. Al contrario, tratta la velocità stessa come un vantaggio strategico.​

Moyes è franco sulla paralisi politica.

"Il diritto internazionale deve essere aggiornato per garantire una soglia minima di giudizio umano, controllo e responsabilità nell'uso di armi autonome e sistemi di targeting basati su IA," ha detto a Invezz.

"Alcuni degli stessi Stati che utilizzano questi sistemi stanno bloccando l'adozione di nuove regole legali - e saranno le popolazioni civili a pagare il prezzo."

Questa osservazione merita più attenzione di quanta ne ottenga.

Gli Stati con la maggiore capacità e i più forti incentivi operativi per preservare la flessibilità sono anche quelli meglio posizionati per rallentare o diluire nuove regole.

I formati diplomatici basati sul consenso rendono ciò più facile.

Quindi il divario non persiste perché nessuno lo veda. Persiste perché gli attori più in grado di colmarlo spesso traggono vantaggio dal lasciarlo aperto.

Il memo del Pentagono ha istituzionalizzato il vuoto

È importante non esagerare su ciò che fa il memo del 9 gennaio. Non abroga il diritto dei conflitti armati.

Non abolisce formalmente la responsabilità umana. Non autorizza, di per sé, attacchi illeciti.

Ma fa qualcosa forse più consequenziale.

Istituzionalizza una dottrina secondo cui velocità, scala, freschezza dei modelli e rimozione delle restrizioni imposte dai fornitori d'uso diventano priorità ufficiali di approvvigionamento.​

Il linguaggio del memo è rivelatore fino in fondo. Chiede sperimentazione con i principali modelli IA americani "at all classification levels."

Dice che i rifiuti alle richieste di dati del CDAO devono essere giustificati entro sette giorni e possono essere portati ai vertici.

Creare una "Barrier Removal Board" con autorità di deroga ai requisiti non statutari. Dice che il Dipartimento deve "approach risk tradeoffs ... as if we were at war."

Niente di tutto ciò dimostra illegalità. Ma mostra un'istituzione che cerca di eliminare gli attriti dal sistema.​

E l'attrito, in questo contesto, è spesso il luogo in cui vive la responsabilità.

La revisione lenta è attrito. La documentazione è attrito. L'esitazione legale è attrito. Le restrizioni sui modelli sono attrito. Il dubbio umano è attrito.

Una volta che la missione istituzionale diventa rimuovere gli ostacoli, quelle salvaguardie iniziano a sembrare, dall'interno del sistema, inefficienze piuttosto che protezioni.

C'è un altro dettaglio rivelatore nel memo.

Dice che "special initiatives outlined in classified annexes" e nell'"the Classified Annex provided by separate cover" saranno anch'esse accelerate.

Quindi anche la versione pubblica della strategia indica verso un'architettura classificata più ampia che resta fuori dal controllo pubblico.

Questo non significa che il materiale nascosto sia necessariamente illecito.

Significa però che al pubblico viene chiesto di fidarsi di un sistema i cui meccanismi di responsabilità sono già sottoposti a sforzo, mentre alcuni dei suoi dettagli più rilevanti restano segreti.​

La vera domanda è più piccola, ma più deprimente

La versione più persuasiva di questa narrazione non è che le armi autonome abbiano creato un completo vuoto legislativo. Non è così.

È che stanno contribuendo a produrre un mondo in cui la responsabilità legale resta disponibile in teoria ma meno raggiungibile nei fatti.

Perché se Boulanin ha ragione, le vie legali ci sono, ma sono difficili da usare.

Se Moyes ha ragione, il giudizio umano cessa di essere significativo quando il ragionamento della macchina è opaco e le fondamenta dei dati sono incerte.

E se Schmitt ha ragione, la difficoltà centrale è l'effettiva applicabilità pratica: identificare chi ha deciso cosa, su quale base e con quale intento.

Mettendo insieme questi tre argomenti, il memo del Pentagono inizia a leggere meno come una strategia tecnologica e più come un documento di governance per l'erosione della responsabilità.

Non annuncia quell'erosione apertamente. Normalizza i compromessi che rendono l'erosione probabile.

Qualcuno pagherà il prezzo di muoversi in fretta prima che la responsabilità sia risolta. Il memo chiarisce che il Dipartimento è pronto ad accettare quel rischio.