Empleados de OpenAI y Google respaldan a Anthropic frente al Pentágono

El choque de alto riesgo entre el Pentágono y Anthropic se ha convertido en una batalla definitoria sobre quién fija los límites de la tecnología de vanguardia: el gobierno de EE. UU. o las empresas privadas que la desarrollan, trasladándose a la industria de la IA en general y provocando fuertes críticas de los legisladores.

El asunto ha recibido un inusual apoyo público de empleados de empresas rivales de IA y ha expuesto profundas divisiones en torno a la vigilancia, las armas autónomas y la seguridad nacional.

Mientras tanto, los expertos han intentado destacar los inconvenientes del uso irrestricto de la tecnología en entornos militares reales en todo el mundo, a menudo con regulaciones limitadas, aun cuando surgen dudas sobre la confianza tanto en los gobiernos como en los proveedores de servicios de IA.

Empleados de OpenAI y Google respaldan a Anthropic en carta abierta

Trabajadores de OpenAI y Google estuvieron entre los firmantes de una carta abierta en apoyo a Anthropic, una muestra inusual de solidaridad en una industria marcada por la feroz competencia.

La carta, titulada «We Will Not Be Divided», acusa al Departamento de Defensa de EE. UU. de intentar coaccionar a Anthropic para que levante las restricciones sobre cómo pueden usarse sus modelos de IA.

En la carta abierta, los empleados afirmaron que el Departamento de Defensa amenazaba con invocar la Defense Production Act, forzar a Anthropic a adaptar su modelo a necesidades militares y calificar a la compañía como un “riesgo en la cadena de suministro” si se negaba a cumplir.

“Todo en represalia por Anthropic por mantener sus líneas rojas”, decía la carta, en referencia a la oposición de la empresa a la vigilancia masiva y a las muertes autónomas.

Los firmantes sostuvieron que el Pentágono intentaba aislar a las empresas creando el temor de que sus competidores cedieran primero.

“Están tratando de dividir a cada empresa con el miedo de que la otra ceda”, decía la carta.

“Esa estrategia solo funciona si ninguno de nosotros sabe en qué posición están los demás.”

La carta instó a los líderes de la IA a dejar de lado las rivalidades corporativas y a continuar rechazando lo que describieron como las actuales demandas gubernamentales de permiso para usar modelos de IA de maneras que los empleados consideran inseguras.

Altman busca calmar las tensiones

Aunque los consejeros delegados de OpenAI y Google no firmaron la carta, el director ejecutivo de OpenAI, Sam Altman, dijo al personal que la compañía estaba trabajando para ayudar a resolver la disputa.

Según un informe de The Wall Street Journal, Altman escribió en una nota a los empleados: “Nos gustaría intentar ayudar a desescalar la situación”.

Anthropic y el Pentágono han estado en desacuerdo sobre cómo puede desplegarse Claude en operaciones sensibles de defensa e inteligencia.

Anthropic ha dicho que está dispuesta a trabajar con el gobierno, pero solo con salvaguardias establecidas.

El Pentágono reitera “no tener intención de vigilar” mientras se acerca el plazo para Anthropic

Las autoridades del Pentágono sostienen que las decisiones sobre el uso militar y de inteligencia legal corresponden al gobierno, no a los proveedores privados.

El Departamento de Defensa ha entregado un ultimátum a Anthropic, exigiendo la aceptación de sus términos para la tarde del viernes o advirtiendo de consecuencias de gran alcance.

A principios de esta semana, el principal portavoz del Pentágono, Sean Parnell, dijo que el departamento no tiene intención de vigilar a los estadounidenses ni de desarrollar armas totalmente autónomas.

Pero subrayó que el ejército no permitirá que las empresas dictaminen decisiones operativas.

“Esta es una solicitud sencilla y de sentido común que evitará que Anthropic ponga en peligro operaciones militares críticas y, potencialmente, arriesgue a nuestros combatientes”, escribió Parnell en una publicación en X.

“Tienen hasta las 5:01 PM ET del viernes para decidir.”

Anthropic se ha negado a “acceder a su petición”

Anthropic ha respondido reafirmando su postura.

En un comunicado el jueves, la empresa dijo: “Estas amenazas no cambian nuestra posición: no podemos, de buena fe, acceder a su petición”.

La firma detalló sus preocupaciones sobre la vigilancia, señalando que, según la legislación vigente, el gobierno de EE. UU. puede adquirir datos detallados sobre los movimientos, la navegación web y las asociaciones de los estadounidenses sin una orden judicial.

Si bien esos datos pueden ser individualmente inocuos, Anthropic advirtió que la IA posibilita ensamblarlos en un retrato exhaustivo de la vida de una persona a escala masiva, lo que plantea serias preocupaciones de privacidad reconocidas por la comunidad de inteligencia y legisladores de ambos partidos.

Sobre las armas, Anthropic reconoció que los sistemas parcialmente autónomos ya juegan un papel en la guerra moderna y que incluso las armas totalmente autónomas podrían algún día ser críticas para la defensa nacional.

Pero afirmó que los actuales sistemas de IA de vanguardia no son lo suficientemente fiables para tomar decisiones letales sin intervención humana.

“No vamos a proporcionar conscientemente un producto que ponga en riesgo a los combatientes y civiles estadounidenses”, dijo la empresa, argumentando que aún no existen las salvaguardias adecuadas.

“Es prerrogativa del Departamento seleccionar contratistas más alineados con su visión. Pero dado el valor sustancial que la tecnología de Anthropic aporta a nuestras fuerzas armadas, esperamos que reconsideren”, decía el comunicado.

Ataques personales y respaldo político

La disputa se ha ido intensificando.

Dario Amodei, director ejecutivo de Anthropic, ha recibido duras críticas por parte de altos funcionarios del Pentágono.

Emil Michael, subsecretario de defensa, acusó a Amodei de tener un “complejo de dios”.

“Es una vergüenza que @DarioAmodei sea un mentiroso y tenga un complejo de dios”, escribió Michael en X.

“No quiere otra cosa que intentar controlar personalmente al Ejército de EE. UU.”

Funcionarios del Departamento de Estado también acudieron a las redes sociales para reforzar la posición del Pentágono, mientras que varios legisladores demócratas apoyaron públicamente a Anthropic.

Mark Warner, el principal demócrata en el Comité de Inteligencia del Senado, dijo que a veces las empresas deben hacer concesiones al gobierno, pero sostuvo que las preocupaciones de Anthropic eran pertinentes.

Dijo que la empresa estaba siendo amenazada por el secretario de Defensa, Pete Hegseth, por priorizar la seguridad.

“Los está amenazando, literalmente para mañana”, dijo Warner en un video publicado en línea.

Un cambio más amplio de poder

Los analistas dicen que el enfrentamiento refleja un cambio más profundo en cómo se desarrolla y controla la tecnología militar avanzada.

“No hay ganadores en esto”, dijo Lauren Kahn, analista senior de investigación en el Center for Security and Emerging Technology de Georgetown, en una entrevista con CNBC.

“Deja un sabor amargo en la boca de todos.”

El contralmirante Lorin Selby, exjefe de investigación naval y ahora socio en Mare Liberum, dijo en el informe de CNBC que durante gran parte de la era posbélica, el gobierno de EE. UU. definió la vanguardia de la tecnología avanzada.

“Desde la propulsión nuclear hasta el sigilo y el GPS, el Estado fue el motor principal del descubrimiento, y la industria fue el integrador y fabricante”, dijo.

La IA ha invertido ese modelo.

“Hoy el sector comercial es el impulsor principal de la capacidad de vanguardia”, afirmó.

“El capital privado, la competencia global y la escala de datos comerciales están acelerando la IA a un ritmo que las estructuras tradicionales de I+D gubernamentales no pueden reproducir fácilmente. El Department of War ya no está definiendo el límite de lo técnicamente posible en inteligencia artificial: se está adaptando a ello.”

Expertos alertan sobre políticas “improvisadas”

Según el Council on Foreign Relations, la IA ya se está desplegando en entornos militares reales en todo el mundo, a menudo con una regulación limitada.

Países como Israel, Rusia y Ucrania han utilizado, según informes, la IA para ayudar a identificar objetivos en el campo de batalla.

El secretario general de la ONU ha pedido un diálogo internacional sobre salvaguardas para la IA, pero EE. UU. ha rechazado marcos de gobernanza global, aun cuando su propio Plan de Acción sobre IA aboga por una adopción militar agresiva.

“La creciente brecha entre el diálogo internacional sobre la IA militar, que tiende a enfatizar los riesgos y las posibles restricciones a su uso, y los esfuerzos acelerados de los militares de todo el mundo por integrar la IA debería preocupar a todas las naciones… los estados están desplegando estas tecnologías con un mosaico de políticas improvisadas—si es que las hay—y sin oportunidad de obtener valiosas lecciones sobre buenas prácticas de otros”, dijo Michael C. Horowitz, investigador sénior del CFR.

¿Qué sigue?

No está claro qué ocurrirá después del plazo del viernes.

Cualquier movimiento del Pentágono para calificar a Anthropic como un riesgo en la cadena de suministro o forzar el cumplimiento bajo la Defense Production Act probablemente desencadenaría acciones legales por parte de la compañía.

Un movimiento así también podría perturbar las operaciones gubernamentales.

El modelo Claude de Anthropic se usa ampliamente en sistemas clasificados para análisis de inteligencia, incluida la National Security Agency y la CIA.

Su retirada obligaría a las agencias a pasar a alternativas como Grok, desarrollado por xAI, que funcionarios actuales y anteriores consideran inferiores y difíciles de desplegar con rapidez.

“Incluso si el altercado Anthropic/Pentagon se disipa, siguen latentes dilemas básicos respecto a la división del poder, el trabajo y la responsabilidad en materia de seguridad de la IA”, escribió Michael Froman, presidente del CFR.

“¿El papel de las empresas privadas en garantizar el uso responsable de la IA se limitará estrechamente a producir las herramientas de IA más fiables y precisas que el gobierno pueda desplegar a su conveniencia, o estas empresas ejercerán un papel más fundamental en determinar los casos de uso aceptables para sus productos? ¿En quién confiamos más y en quién menos—en el gobierno o en una empresa privada—para tomar estas decisiones?”

Una rara muestra de solidaridad en Silicon Valley pone a prueba hasta qué punto el gobierno de EE. UU. puede presionar a las empresas de IA en cuestiones de uso militar, vigilancia y armas autónomas.