Choque Anthropic–Pentágono plantea pregunta clave: ¿quién tiene la culpa si la IA mata?

¿Y si la IA mata a un civil?

Eso ya no es un titular especulativo: es una cuestión que el Pentágono pasó por alto discretamente en su nueva doctrina.

La estrategia de IA del Departamento de Defensa de EE. UU. del 9 de enero de 2026 contiene una única línea que podría sobrevivir al memorando mismo:

“Debemos aceptar que los riesgos de no avanzar lo bastante rápido superan los riesgos de una alineación imperfecta.”

Es uno de los reconocimientos oficiales más claros hasta la fecha de que, dentro del aparato de defensa estadounidense, la prioridad ha cambiado.

El objetivo ya no es frenar la IA hasta que la rendición de cuentas alcance al desarrollo, sino moverse más deprisa —y lidiar con las consecuencias después.

Esa lógica saltó de la página a la realidad en cuestión de semanas, cuando Anthropic se enfrentó al Pentágono por las restricciones de uso militar.

La compañía pronto fue blacklisteada tras negarse a adoptar términos más amplios de “cualquier uso lícito”.

El memorando que desencadenó el debate es algo más que jerga burocrática.

Ordena al Departamento convertirse en una fuerza de combate “AI-first”, desplegar modelos de vanguardia en sistemas militares dentro de los 30 días siguientes a su publicación pública y entrelazar la IA “desde la planificación de la campaña hasta la ejecución de la kill chain.”

El documento incluso instruye a las agencias a usar modelos “libres de restricciones de políticas de uso” y a incorporar de forma obligatoria el lenguaje de “cualquier uso lícito” en todos los contratos de servicios de IA en un plazo de seis meses.

Esto no es un debate distante sobre ética futura. Es una orden de adquisiciones, un cambio de política y una carrera de despliegue en marcha.

Y deja una pregunta inquietante en el silencio:

Cuando un sistema potenciado por IA produce un ataque ilegal, ¿quién es responsable?

El derecho todavía presupone intención humana, autoridad de mando y juicio. Sin embargo, la IA militar moderna está diseñada para acortar los plazos, difuminar las cadenas de decisión y multiplicar los actores hasta que nadie tenga claramente la propiedad del resultado.

Ahí es donde el problema de la rendición de cuentas no solo empieza —se acelera.

Las reglas son claras; la rendición de cuentas no

El primer error en este debate es asumir que las armas autónomas quedan fuera de la ley.

No es así.

El derecho internacional humanitario sigue aplicándose. Los Estados pueden seguir siendo responsabilizados por actos internacionalmente ilícitos. Las personas, en principio, pueden seguir enfrentando procesos por crímenes de guerra.

Eso no es especialmente controvertido.

Como lo sintetiza el Dr. Vincent Boulanin, director del Programa de Gobernanza de la IA en el Stockholm International Peace Research Institute (SIPRI), al hablar con Invezz.

“Los Estados han acordado en el marco de sus conversaciones diplomáticas en la ONU... que los humanos deben conservar la responsabilidad sobre el desarrollo y el uso de los sistemas de armas autónomas porque las máquinas no pueden ser sujetas a responsabilidad por violaciones del derecho internacional humanitario.”

Esa es la posición formal. La dificultad comienza cuando la teoría se encuentra con las operaciones.

La formulación de Boulanin es útil porque es más precisa que la expresión popular “brecha de rendición de cuentas”.

No sostiene que la ley desaparezca cuando la IA entra en la cadena. Sostiene que los mecanismos para rastrear, examinar y atribuir violaciones se vuelven mucho más difíciles de utilizar en la práctica.

No afirma que la responsabilidad estatal y la responsabilidad penal individual sean irrelevantes.

Lo que dice es que ambas se vuelven difíciles de operacionalizar cuando la conducta relevante está distribuida entre programadores, mandos, responsables de adquisiciones, operadores, analistas de inteligencia y proveedores comerciales.

Por eso el asunto es más amplio que los “robots asesinos”.

En la práctica, el punto de presión no son solo las armas totalmente autónomas, sino los sistemas de apoyo a la decisión basados en IA que configuran la selección de objetivos, recomiendan objetos de ataque, jerarquizan amenazas, comprimen la revisión de inteligencia y presentan conclusiones a humanos bajo una presión temporal severa.

Una vez que la máquina reduce el campo y el humano queda reducido a un paso de confirmación rápido, la mera presencia formal de una persona en el circuito no implica necesariamente que exista aún un control humano significativo.

Michael N. Schmitt, uno de los académicos más conocidos en el derecho de los conflictos armados, capta bien esa distinción.

El problema, como él ha argumentado, no es que el derecho de los conflictos armados deje de aplicarse a los sistemas autónomos.

En la práctica resulta mucho más difícil determinar quién tomó qué decisiones, con qué información y con qué grado de intención.

Ésa es la diferencia entre la ley en el papel y la rendición de cuentas en el mundo real.

El memorando del Pentágono dice “la velocidad gana”. Ordena al Departamento “armar la velocidad de aprendizaje”, medir el tiempo de ciclo como una variable decisiva y tratar los riesgos de la demora como mayores que los riesgos de una alineación imperfecta.

Esas no son decisiones de gestión neutrales.

Modifican cuánto tiempo tienen los humanos para comprender, cuestionar y anular las salidas generadas por máquinas.

Cuando hay un humano presente, pero ya no decide

La forma más sólida de entender el problema de la rendición de cuentas es a través de la práctica en el campo de batalla, no de la abstracción legal.

El caso público más claro sigue siendo el uso por parte de Israel del sistema Lavender en Gaza, que varios informes dijeron que se empleó para identificar un gran número de potenciales objetivos.

Reportes de The Guardian, citando fuentes de inteligencia israelíes, afirmaron que Lavender en una fase identificó hasta 37.000 hombres palestinos presuntamente vinculados a Hamás o a la Yihad Islámica Palestina.

Los mismos reportes indicaron que el ejército empleó umbrales preaprobados de bajas civiles para algunas categorías de ataques.

Ese caso importa no solo por la escala, sino porque muestra lo que ocurre cuando la selección de objetivos asistida por IA se rutiniza.

La máquina no necesita disparar el arma para remodelar la responsabilidad. Solo necesita estructurar la decisión.

Una vez que un oficial revisa salidas producidas por máquinas dentro de un flujo de trabajo acelerado, la imagen legal de un comandante ponderando con calma proporcionalidad y distinción empieza a parecer menos real y más una ficción procesal.

Richard Moyes, socio director en Article 36, apunta al corazón del asunto mejor que la mayoría de los responsables políticos.

“Si no sabemos cómo se tomó una decisión autónoma, o de dónde procede la información que las computadoras presentan a los mandos, o cuán reciente es, entonces la toma de decisiones humana deja de ser significativa”, dijo a Invezz.

“El derecho internacional en conflicto se basa en decisiones humanas, en el compromiso moral humano y en la rendición de cuentas por esas elecciones.”

Eso importa porque desplaza el debate de los lemas. La cuestión real no es si técnicamente una persona tocó el proceso en algún punto.

La cuestión es si el humano todavía ejerció juicio de una forma que la ley pueda reconocer.

Si la procedencia de los datos no está clara, la lógica del sistema es opaca, el plazo está comprimido y la expectativa institucional tiende hacia la velocidad, entonces la persona al final de la cadena puede estar actuando menos como quien decide y más como un amortiguador legal.

El memorando del Pentágono apunta directamente a ese mundo.

Su proyecto “Agent Network” pide “gestión de batalla y apoyo a la decisión habilitados por IA, desde la planificación de la campaña hasta la ejecución de la kill chain.”

Otra iniciativa, “Open Arsenal”, pretende acelerar la “pipeline de TechINT a desarrollo de capacidad”, explícitamente “convirtiendo inteligencia en armas en horas, no en años.”

Esas expresiones son inusualmente francas. Muestran que el Departamento no está experimentando en los márgenes. Trata de comprimir todo el camino desde la información hasta la acción.

El problema de la caja negra no es solo técnico

Boulanin identifica cuatro razones por las que la rendición de cuentas se vuelve especialmente difícil en el contexto de los sistemas de armas autónomas (AWS).

Primero, la propia ley sigue sin resolverse sobre cómo deben interpretarse y aplicarse algunas normas del derecho internacional humanitario (IHL) a los sistemas autónomos.

Segundo, la imprevisibilidad de la IA agrava las disputas existentes sobre la responsabilidad estatal e individual.

Tercero, el desarrollo y uso de estos sistemas involucra a un gran número de actores, lo que dificulta distribuir o atribuir la responsabilidad.

Cuarto, la naturaleza de “caja negra” de la IA complica los esfuerzos por investigar incidentes específicos y rastrear la conducta hasta agentes concretos.

Ese último punto suele entenderse mal. El problema de la caja negra no es solo que los ingenieros no puedan explicar las salidas del modelo. También es institucional.

Incluso si existe algún registro técnico, los investigadores siguen necesitando acceso, integridad de la cadena de custodia y un marco jurídico capaz de traducir los registros en responsabilidad.

Boulanin señala que los registros digitales y los mecanismos de auditoría podrían, en teoría, ayudar a rastrear la conducta hasta uno o varios actores.

Pero también advierte que las implicaciones prácticas no están bien comprendidas.

Esa salvedad es crucial. La existencia de datos no equivale a rendición de cuentas.

Un rastro digital solo importa si los tribunales, los investigadores y las instituciones militares están dispuestos y son capaces de usarlo. Hasta ahora, hay poca evidencia de que lo estén.

Ningún sistema jurídico importante ha producido aún un precedente consolidado y de alto perfil que muestre cómo se reconstruirían en un tribunal las decisiones de campo asistidas por IA a lo largo de toda la cadena de diseño, adquisición, despliegue y uso.

La diplomacia se estanca mientras el despliegue se acelera

El problema de la rendición de cuentas seguiría siendo grave incluso si los Estados compitieran por construir un régimen internacional más sólido al respecto. No es así.

Reuters informó este mes que 128 Estados están debatiendo si pueden alcanzar un consenso sobre un texto no vinculante sobre los sistemas de armas letales autónomas antes de que el mandato actual termine en septiembre.

El presidente de las conversaciones de Ginebra dijo que hace falta “urgente progreso” en las normas, una frase que refleja lo atrasado que ya está este proceso.

Ese calendario importa porque las vías militar y diplomática se mueven en direcciones opuestas. En Ginebra, los Estados aún debaten normas básicas.

En Washington, el Pentágono ya está acelerando la adopción de IA en el campo, el despliegue de modelos y el rediseño de contratos.

El memo estadounidense no intenta detenerse para esperar un marco global más claro. En cambio, trata la velocidad en sí misma como una ventaja estratégica.

Moyes es directo sobre el bloqueo político.

“El derecho internacional necesita actualizarse para asegurar una línea base de juicio humano, control y rendición de cuentas en el uso de armas autónomas y sistemas de guiado por IA,” dijo a Invezz.

“Algunos de los mismos Estados que usan estos sistemas están bloqueando la adopción de nuevas reglas legales —y serán las poblaciones civiles las que paguen el precio.”

Esa observación merece más atención de la que recibe.

Los Estados con mayor capacidad y los incentivos operativos más fuertes para preservar la flexibilidad son también los mejor situados para ralentizar o diluir nuevas normas.

Los formatos diplomáticos basados en el consenso facilitan eso.

Así que la brecha no persiste porque nadie la vea. Persiste porque los actores más capaces de cerrarla a menudo se benefician de mantenerla abierta.

El memo del Pentágono institucionalizó el vacío

Es importante no exagerar lo que hace el memo del 9 de enero. No deroga la ley de los conflictos armados.

No abolió formalmente la responsabilidad humana. No autoriza, por sí solo, ataques ilegales.

Pero hace algo posiblemente más trascendente.

Institucionaliza una doctrina bajo la cual la velocidad, la escala, la frescura del modelo y la eliminación de las restricciones de uso impuestas por los proveedores se convierten en prioridades oficiales de adquisición.

El lenguaje del memorando es revelador de cabo a rabo. Pide experimentar con los modelos líderes de Estados Unidos “en todos los niveles de clasificación”.

Dice que las denegaciones a solicitudes de datos del CDAO deben justificarse en siete días y pueden escalarse a la alta dirección.

Crea una “Junta de Eliminación de Barreras” con autoridad para renunciar a requisitos no estatutarios. Dice que el Departamento debe “abordar los trade-offs de riesgo... como si estuviéramos en guerra.”

Nada de eso demuestra ilegalidad. Pero sí muestra una institución tratando de eliminar la fricción del sistema.

Y la fricción, en este contexto, es a menudo donde habita la rendición de cuentas.

La revisión lenta es fricción. La documentación es fricción. La vacilación legal es fricción. Las restricciones de modelo son fricción. La duda humana es fricción.

Una vez que la misión institucional se convierte en eliminar bloqueadores, esas salvaguardas comienzan a verse, desde dentro del sistema, como ineficiencias y no como protecciones.

Hay otro detalle revelador en el memorando.

Dice que “iniciativas especiales descritas en anexos clasificados” y en “el Anexo Clasificado provisto por separado” también se acelerarán.

Así que incluso la versión pública de la estrategia apunta a una arquitectura clasificada mayor que permanece fuera del escrutinio público.

Eso no significa que el material oculto sea necesariamente ilegal.

Sí significa que al público se le pide confiar en un sistema cuyos mecanismos de rendición de cuentas ya están tensos, mientras algunos de sus detalles más trascendentes permanecen secretos.

La pregunta real es más pequeña, pero más condenatoria

La versión más persuasiva de esta narrativa no es que las armas autónomas hayan creado un vacío jurídico completo. No lo han hecho.

Lo que están haciendo es contribuir a un mundo en el que la responsabilidad legal sigue estando disponible en teoría, pero menos accesible en la práctica.

Porque si Boulanin tiene razón, las vías legales existen, pero son difíciles de utilizar.

Si Moyes tiene razón, el juicio humano deja de ser significativo cuando el razonamiento de la máquina es opaco y la base de datos incierta.

Y si Schmitt tiene razón, la dificultad central es la aplicabilidad práctica: identificar quién decidió qué, sobre qué base y con qué intención.

Junte esos tres argumentos y el memorando del Pentágono empieza a leerse menos como una estrategia tecnológica y más como un documento de gobernanza para la erosión de la rendición de cuentas.

No anuncia esa erosión abiertamente. Normaliza los trade-offs que hacen que la erosión sea probable.

Alguien asumirá el costo de moverse rápido antes de que la rendición de cuentas esté resuelta. El memorando deja claro que el Departamento está preparado para aceptar ese riesgo.