Affrontement Anthropic–Pentagone : qui blâmer si l'IA tue ?

Que se passe-t-il si une IA tue un civil ?

Ce n’est plus un titre hypothétique — c’est une question que le Pentagone a discrètement éludée dans sa nouvelle doctrine.

La stratégie IA du département de la Défense des États-Unis du 9 janvier 2026 contient une seule ligne qui pourrait survivre au mémo lui‑même :

« Nous devons accepter que les risques de ne pas aller assez vite l’emportent sur les risques d’un alignement imparfait. »

C’est l’une des reconnaissances officielles les plus nettes à ce jour que, au sein de l’appareil de défense américain, la priorité a changé.

L’objectif n’est plus de ralentir l’IA jusqu’à ce que la responsabilité rattrape le retard, mais d’aller plus vite — et de gérer les conséquences ensuite.

Cette logique a sauté du document à la réalité en quelques semaines, lorsque Anthropic s’est heurté au Pentagone sur les restrictions d’usage militaire.

La société a été rapidement mise sur liste noire après avoir refusé d’adopter des clauses plus larges de « toute utilisation licite ».

Le mémo qui a déclenché le débat n’est pas du jargon bureaucratique.

Il ordonne au Département de devenir une force de combat axée sur l’IA, de déployer des modèles de pointe dans les systèmes militaires dans les 30 jours suivant leur publication publique, et d’imbriquer l’IA « de la planification de campagne à l’exécution de la kill chain ».

Le document demande même aux agences d’utiliser des modèles « exempts de contraintes de politique d’utilisation » et d’intégrer la formulation « any lawful use » dans tous les contrats de services d’IA sous six mois.

Ce n’est pas un débat lointain sur l’éthique future. C’est un ordre d’achat, un changement de politique et une course au déploiement déjà lancée.

Et cela laisse en suspens une question obsédante :

Lorsqu’un système doté d’IA produit une frappe illégale — qui est responsable ?

Le droit part toujours du principe d’intention humaine, d’autorité de commandement et de jugement. Pourtant, l’IA militaire moderne est conçue pour réduire les délais, brouiller les chaînes de décision et multiplier les acteurs jusqu’à ce que personne ne soit clairement responsable du résultat.

C’est là que le problème de la responsabilité ne fait pas que commencer — il s’accélère.

Les règles sont claires, la responsabilité ne l’est pas

La première erreur dans ce débat est de supposer que les armes autonomes échappent au droit.

Ce n’est pas le cas.

Le droit international humanitaire s’applique toujours. Les États peuvent être tenus responsables d’actes internationalement illicites. Les individus peuvent en principe encore faire l’objet de poursuites pour crimes de guerre.

Cela n’est pas particulièrement controversé.

Comme l’explique simplement le Dr Vincent Boulanin, directeur du programme Gouvernance de l’IA au Stockholm International Peace Research Institute (SIPRI), en s’entretenant avec Invezz.

« Les États ont convenu dans le cadre de leurs discussions diplomatiques à l’ONU… que les humains doivent conserver la responsabilité du développement et de l’utilisation des systèmes d’armes autonomes parce que les machines ne peuvent pas être tenues pour responsables des violations du droit international humanitaire. »

Voilà la position formelle. La difficulté commence lorsque la théorie rencontre les opérations.

La formulation de Boulanin est utile parce qu’elle est plus précise que l’expression populaire « déficit de responsabilité ».

Il ne soutient pas que le droit disparaît quand l’IA entre en jeu. Il soutient que les mécanismes de traçage, d’examen et d’attribution des violations deviennent beaucoup plus difficiles à appliquer en pratique.

Son propos n’est pas que la responsabilité étatique et la responsabilité pénale individuelle deviennent sans objet.

C’est que les deux deviennent difficiles à mettre en œuvre quand la conduite pertinente est répartie entre programmeurs, commandants, responsables des acquisitions, opérateurs, analystes du renseignement et fournisseurs commerciaux.

C’est aussi pourquoi le sujet dépasse la question des « robots tueurs ».

En pratique, le point de pression n’est pas seulement les armes entièrement autonomes, mais les systèmes d’aide à la décision par IA qui orientent le ciblage, recommandent des objets d’attaque, classent les menaces, compressent la revue du renseignement et présentent des conclusions à des humains sous forte contrainte temporelle.

Une fois que la machine restreint le champ et que l’humain est réduit à une rapide étape de confirmation, la présence formelle d’une personne dans la boucle ne signifie pas nécessairement qu’un contrôle humain effectif subsiste.

Michael N. Schmitt, l’un des universitaires les plus reconnus en droit des conflits armés, cerne bien cette distinction.

Le problème, comme il l’a soutenu, n’est pas que le droit des conflits armés cesse de s’appliquer aux systèmes autonomes.

Il devient bien plus difficile en pratique de déterminer qui a pris quelles décisions, sur quelle information et avec quel niveau d’intention.

Voilà la différence entre le droit sur le papier et la responsabilité dans le monde réel.

Le mémo du Pentagone affirme que « la vitesse l’emporte ». Il ordonne au Département de « militariser la vitesse d’apprentissage », de mesurer le temps de cycle comme variable décisive et de considérer les risques liés au retard comme supérieurs aux risques d’un alignement imparfait.

Ce ne sont pas des choix de gestion neutres.

Ils modifient le temps dont disposent les humains pour comprendre, interroger et annuler les sorties générées par la machine.​

Quand un humain est présent, mais ne décide plus

La meilleure façon de comprendre le problème de la responsabilité est de passer par la pratique sur le champ de bataille plutôt que par l’abstraction juridique.

Le cas public le plus clair reste l’utilisation par Israël du système Lavender à Gaza, que plusieurs rapports disent avoir servi à identifier un grand nombre de cibles potentielles.

Le reportage de The Guardian, citant des sources du renseignement israélien, indiquait qu’à un moment donné Lavender avait identifié jusqu’à 37 000 hommes palestiniens prétendument liés au Hamas ou au Jihad islamique palestinien.

Le même reportage indiquait que l’armée avait utilisé des seuils préapprouvés de pertes civiles pour certaines catégories de frappes.

Ce cas importe non seulement à cause de l’échelle, mais parce qu’il montre ce qui se passe quand le ciblage assisté par l’IA devient routinier.

La machine n’a pas besoin de tirer l’arme elle‑même pour redessiner la responsabilité. Il suffit qu’elle structure la décision.

Une fois qu’un officier examine des sorties produites par une machine dans un flux de travail accéléré, l’image juridique d’un commandant pesant calmement proportionnalité et distinction ressemble moins à la réalité et plus à une fiction procédurale.

Richard Moyes, associé directeur d’Article 36, va au cœur du problème mieux que la plupart des décideurs.

« Si nous ne savons pas comment une décision autonome a été prise, ni d’où proviennent les informations que les ordinateurs présentent aux commandants, ni leur actualité, alors la décision humaine cesse d’être significative », a‑t‑il déclaré à Invezz.

« Le droit international en situation de conflit repose sur des décisions humaines, un engagement moral humain et la responsabilité de ces choix. »

Cette remarque est importante parce qu’elle déplace le débat hors des slogans. La vraie question n’est pas de savoir si un être humain a techniquement touché au processus quelque part.

La question est de savoir si l’humain a encore exercé un jugement d’une manière que le droit peut reconnaître.

Si la provenance des données est incertaine, la logique du système opaque, le calendrier comprimé et l’attente institutionnelle orientée vers la vitesse, alors la personne en bout de chaîne peut agir moins comme un décideur et plus comme un amortisseur juridique.

Le mémo du Pentagone pointe directement vers ce monde.

Son projet « Agent Network » appelle à une « gestion du combat et un soutien à la décision habilités par l’IA, de la planification de campagne à l’exécution de la kill chain. »

Une autre initiative, « Open Arsenal », vise à accélérer le « pipeline TechINT‑vers‑développement de capacité », transformant explicitement « le renseignement en armes en heures, pas en années. »

Ces formulations sont inhabituellement franches. Elles montrent que le Département n’expérimente pas en marge. Il cherche à comprimer tout le chemin de l’information à l’action.​

Le problème de la boîte noire n’est pas que technique

Boulanin identifie quatre raisons pour lesquelles la responsabilité devient particulièrement difficile dans le contexte des systèmes d’armes autonomes (SAA).

Premièrement, le droit lui‑même reste incertain quant à la manière dont certaines règles du droit international humanitaire (DIH) doivent être interprétées et appliquées aux systèmes autonomes.

Deuxièmement, l’imprévisibilité de l’IA aggrave les différends existants sur la responsabilité des États et des individus.

Troisièmement, le développement et l’utilisation de ces systèmes impliquent un grand nombre d’acteurs, rendant la répartition ou l’attribution de la responsabilité difficile.

Quatrièmement, la nature de « boîte noire » de l’IA complique les enquêtes sur des incidents spécifiques et la rétro‑traçabilité des conduites jusqu’à des agents particuliers.

Ce dernier point est souvent mal compris. Le problème de la boîte noire ne concerne pas seulement les ingénieurs incapables d’expliquer les sorties d’un modèle. Il est aussi institutionnel.

Même si certains journaux techniques existent, les enquêteurs ont besoin d’accès, d’intégrité de la chaîne de conservation et d’un cadre juridique capable de traduire ces journaux en responsabilité.

Boulanin note que des traces numériques et des mécanismes d’audit pourraient, en théorie, aider à retracer une conduite jusqu’à un ou plusieurs acteurs.

Mais il avertit aussi que les implications pratiques ne sont pas bien comprises.

Cette mise en garde est cruciale. L’existence de données n’est pas la même chose que la responsabilité.

Une piste numérique n’a d’importance que si les tribunaux, les enquêteurs et les institutions militaires sont prêts et capables de l’utiliser. Jusqu’à présent, il y a peu de preuves qu’ils le soient.

Aucun grand système juridique n’a encore produit un précédent établi et médiatisé montrant comment des décisions de champ de bataille assistées par l’IA seraient reconstituées devant un tribunal à travers l’ensemble de la chaîne de conception, d’acquisition, de déploiement et d’utilisation.

La diplomatie stagne alors que le déploiement s’accélère

Le problème de responsabilité serait toujours grave si les États s’efforçaient en parallèle de bâtir un régime international plus solide. Ils ne le font pas.

Reuters rapportait ce mois‑ci que 128 États discutent pour savoir s’ils peuvent trouver un consensus sur un texte non contraignant sur les systèmes d’armes autonomes létaux avant la fin du mandat actuel en septembre.

Le président des pourparlers de Genève a déclaré que des progrès sur les règles étaient « d’urgence nécessaires », formule qui rend compte du retard déjà pris dans ce processus.​

Cette échéance importe parce que les pistes militaire et diplomatique vont dans des directions opposées. À Genève, les États débattent encore de règles de base.

À Washington, le Pentagone accélère déjà l’adoption de l’IA sur le champ de bataille, le déploiement de modèles et la refonte des contrats.

Le mémo américain ne fait aucune tentative significative de marquer une pause en attendant un cadre mondial plus clair. Il traite au contraire la vitesse elle‑même comme un avantage stratégique.​

Moyes est franc sur le blocage politique.

« Le droit international doit être mis à jour pour garantir un socle de jugement, de contrôle humain et de responsabilité dans l’utilisation des armes autonomes et des systèmes de ciblage par IA », a‑t‑il déclaré à Invezz.

« Certains des mêmes États qui utilisent ces systèmes bloquent l’adoption de nouvelles règles juridiques — et ce sont les populations civiles qui en paieront le prix. »

Cette observation mérite plus d’attention qu’elle n’en reçoit.

Les États disposant des plus grandes capacités et des plus forts incitatifs opérationnels à préserver la flexibilité sont aussi ceux le mieux placés pour ralentir ou diluer de nouvelles règles.

Les formats diplomatiques nécessitant un large consensus facilitent cela.

Ainsi, l’écart ne persiste pas parce que personne ne le voit. Il persiste parce que les acteurs les plus capables de le combler tirent souvent avantage de le laisser ouvert.

Le mémo du Pentagone a institutionnalisé le vide

Il est important de ne pas exagérer ce que fait le mémo du 9 janvier. Il n’abroge pas le droit des conflits armés.

Il n’abolit pas formellement la responsabilité humaine. Il n’autorise pas, à lui seul, des frappes illégales.

Mais il fait quelque chose d’avantage potentiellement conséquent.

Il institutionnalise une doctrine selon laquelle la vitesse, l’échelle, la fraîcheur des modèles et la suppression des contraintes d’utilisation imposées par les fournisseurs deviennent des priorités officielles d’approvisionnement.​

Le langage du mémo est révélateur jusqu’au bout. Il appelle à expérimenter les principaux modèles d’IA américains « à tous les niveaux de classification ».

Il indique que les refus aux demandes de données du CDAO doivent être motivés sous sept jours et peuvent être portés à la haute direction.

Il crée un « Barrier Removal Board » ayant le pouvoir de lever des exigences non statutaires. Il dit que le Département doit « aborder les arbitrages de risque ... comme si nous étions en état de guerre. »

Rien de tout cela ne prouve l’illégalité. Mais cela montre une institution qui tente d’éliminer les frictions du système.​

Et la friction, dans ce contexte, est souvent là où réside la responsabilité.

Un examen lent est une friction. La documentation est une friction. L’hésitation juridique est une friction. Les restrictions de modèle sont une friction. Le doute humain est une friction.

Une fois que la mission institutionnelle devient la suppression des obstacles, ces garde‑fous commencent à apparaître, de l’intérieur du système, comme des inefficacités plutôt que comme des protections.

Il y a un autre détail révélateur dans le mémo.

Il précise que « des initiatives spéciales décrites dans des annexes classifiées » et dans « l’annexe classifiée fournie sous pli séparé » seront également accélérées.

Ainsi, même la version publique de la stratégie pointe vers une architecture classifiée plus large qui reste hors du contrôle public.

Cela ne signifie pas que le matériel caché est nécessairement illégal.

Cela signifie en revanche que le public est prié de faire confiance à un système dont les mécanismes de responsabilité sont déjà mis à rude épreuve, tandis que certains des éléments les plus déterminants restent secrets.​

La véritable question est plus petite, mais plus accablante

La version la plus convaincante de ce récit n’est pas que les armes autonomes ont créé un vide juridique complet. Elles ne l’ont pas.

C’est qu’elles contribuent à produire un monde dans lequel la responsabilité juridique reste disponible en théorie mais moins accessible en pratique.

Parce que si Boulanin a raison, les voies juridiques existent, mais sont difficiles à emprunter.

Si Moyes a raison, le jugement humain cesse d’être significatif lorsque le raisonnement de la machine est opaque et que la base de données est incertaine.

Et si Schmitt a raison, la difficulté centrale est l’applicabilité pratique : identifier qui a décidé quoi, sur quelle base et avec quelle intention.

Assemblez ces trois arguments, et le mémo du Pentagone commence à se lire moins comme une stratégie technologique et plus comme un document de gouvernance pour l’érosion de la responsabilité.

Il n’annonce pas cette érosion ouvertement. Il normalise les arbitrages qui rendent l’érosion probable.

Quelqu’un assumera le coût d’aller vite avant que la responsabilité ne soit résolue. Le mémo indique clairement que le Département est prêt à accepter ce risque.