Anthropic reanuda conversaciones con el Pentágono en último intento por acuerdo

El CEO de Anthropic, Dario Amodei, ha vuelto a las negociaciones con el Departamento de Defensa de EE. UU. después de que las conversaciones se vinieran abajo la semana pasada por el uso que las fuerzas armadas pueden hacer de la tecnología de inteligencia artificial de la compañía, según un informe del Financial Times.

Las discusiones tienen como objetivo resolver una disputa sobre el acceso del Pentágono a la IA Claude de Anthropic modelos, que ya han sido desplegados en redes gubernamentales clasificadas en el marco de un importante contrato de defensa.

Las conversaciones se reanudan tras la ruptura

Amodei está ahora en conversaciones con Emil Michael, subsecretario de Defensa del Pentágono para investigación e ingeniería, en lo que personas familiarizadas con el asunto describieron como un intento final para alcanzar un acuerdo que regule cómo las fuerzas armadas pueden desplegar las herramientas de Anthropic, informó FT.

Las negociaciones se rompieron el viernes después de que ambas partes no lograran salvar las diferencias sobre el alcance del uso de la tecnología.

Tras ello, el presidente Donald Trump ordenó a las agencias federales que suspendieran el uso del software de Anthropic, mientras que el secretario de Defensa Pete Hegseth dijo que la compañía podría ser designada como un riesgo para la cadena de suministro de la seguridad nacional de EE. UU.

La disputa también se volvió personal.

Michael criticó públicamente a Amodei en una publicación en la plataforma social X, calificándolo de “mentiroso” con un “complejo de Dios”.

Desacuerdo sobre el uso militar de la IA

El núcleo del conflicto es hasta qué punto puede llegar el Pentágono al aplicar modelos de IA como Claude en operaciones militares.

A Anthropic se le adjudicó un contrato de $200 million que convirtió a Claude en el primer modelo de IA importante desplegado en redes gubernamentales clasificadas.

Sin embargo, la compañía posteriormente solicitó garantías de que su tecnología no sería utilizada para la vigilancia doméstica ni para alimentar sistemas de armas autónomas.

El Pentágono, en cambio, ha presionado para tener la capacidad de desplegar la tecnología para cualquier propósito militar lícito.

Según un memorando que Amodei envió a los empleados y que vio FT, el Departamento de Defensa se ofreció a aceptar los términos de Anthropic hacia el final de las negociaciones si se eliminaba una frase específica que se refería al “análisis de datos adquiridos de forma masiva”.

Amodei escribió que la redacción reflejaba exactamente el tipo de caso de uso que preocupaba a la compañía.

Mientras por un lado Anthropic enfrentaba la ira del DoD, por otro, su modelo de IA, Claude, habría sido utilizado por las fuerzas armadas de EE. UU. en la ráfaga de ataques contra Irán, ya que la tecnología “acorta la cadena de ataque” —es decir, el proceso desde la identificación del objetivo hasta la aprobación legal y el lanzamiento del ataque—.

Se intensifica la rivalidad con OpenAI

La controversia también se ha extendido a la industria de la IA en general, poniendo de manifiesto la creciente competencia entre Anthropic y su rival OpenAI.

Pocas horas después de que se ordenara a las agencias federales dejar de usar las herramientas de Anthropic, OpenAI firmó un acuerdo con el Pentágono y dijo que el departamento había aceptado las restricciones de la compañía.

Amodei, en el memorando enviado al personal el viernes, también afirmó que las declaraciones del Pentágono y de OpenAI —que cerró su propio acuerdo con el Departamento de Defensa el viernes— eran “simplemente mentiras sobre estos temas o intentos de confundirlos”.

En una nota interna separada, más temprano el miércoles, Amodei también criticó al director de OpenAI, Sam Altman, calificándolo de “mentiroso” y acusándolo de ofrecer lo que él describió como “alabanzas al estilo dictatorial” hacia Trump, según The Information.

Amodei añadió que Anthropic había mantenido sus “líneas rojas con integridad”, en lugar de colaborar con los funcionarios para crear lo que él describió como “teatro de seguridad” destinado a tranquilizar a los empleados.

Escribió que muchos en Washington, incluidos funcionarios del Pentágono y de Palantir, así como consultores políticos, habían asumido que ese era el problema que la compañía intentaba abordar.

El momento del acuerdo de OpenAI ha provocado reacciones adversas en línea, con Claude de Anthropic supuestamente registrando un aumento de descargas mientras aumentaban las desinstalaciones de ChatGPT de OpenAI.

Altman también reconoció más tarde que su compañía “no debería haber apresurado” su acuerdo con el Pentágono y dijo que había instado a los funcionarios a no designar a Anthropic como un riesgo para la cadena de suministro.

Preocupación del sector por la presión gubernamental

El enfrentamiento ha alarmado a sectores de la industria tecnológica, que temen que etiquetar a un desarrollador de IA nacional como un riesgo para la seguridad nacional pueda tener consecuencias más amplias para el sector.

Un grupo empresarial del sector tecnológico cuyos miembros incluyen a Nvidia, Google y Anthropic envió una carta al secretario de Defensa Hegseth esta semana expresando su preocupación por la posibilidad de tal designación.

Anthropic, fundada en 2021 por antiguos investigadores de OpenAI que se marcharon tras desacuerdos sobre la dirección de la compañía, se ha posicionado como una alternativa centrada en la seguridad en el mercado de IA en rápida expansión.

El desenlace de las negociaciones podría sentar un precedente importante sobre cómo las empresas privadas de IA cooperan con los gobiernos a medida que los sistemas avanzados de aprendizaje automático se integran cada vez más en las operaciones de seguridad nacional.