Anthropic återupptar samtal med Pentagon i sista försöket att nå avtal: rapport

Anthropic-vd Dario Amodei har återupptagit förhandlingar med USA:s försvarsdepartement efter att samtalen kollapsade förra veckan om hur militären kan använda företagets AI-teknik, enligt en rapport i Financial Times.

Diskussionerna syftar till att lösa en tvist om Pentagons åtkomst till Anthropic:s Claude-AI-modeller, som redan har distribuerats i hemliga myndighetsnätverk under ett större försvarskontrakt.

Samtal återupptas efter sammanbrott

Amodei förhandlar nu med Emil Michael, Pentagons biträdande försvarssekreterare för forskning och teknik, i vad personer med insyn beskrivit som ett sista försök att nå en överenskommelse om hur militären kan distribuera Anthropic:s verktyg, rapporterar FT.

Förhandlingarna bröt samman på fredagen efter att parterna misslyckats med att överbrygga meningsskiljaktigheter om teknikens användningsomfång.

I kölvattnet beordrade president Donald Trump federala myndigheter att upphöra med användningen av Anthropic:s programvara, medan försvarssekreterare Pete Hegseth uppgav att företaget kan betecknas som en leverantörskedjerisk för USA:s nationella säkerhet.

Tvisten blev också personlig.

Michael kritiserade Amodei offentligt i ett inlägg på sociala medieplattformen X och kallade honom en "lögnare" med ett "gudakomplex."

Meningsskiljaktigheter om militär användning av AI

Kärnan i konflikten är hur långt Pentagon kan gå i att tillämpa AI-modeller som Claude i militära operationer.

Anthropic tilldelades ett kontrakt på $200 million som gjorde Claude till den första större AI-modellen som distribuerats inom hemligstämplade myndighetsnätverk.

Företaget sökte dock senare garantier för att dess teknik inte skulle användas för inhemsk övervakning eller för att driva autonoma vapensystem.

Pentagon har däremot drivit på för möjligheten att få använda tekniken för varje lagligt militärt ändamål.

Enligt ett internt meddelande Amodei skickade till anställda och som FT tagit del av, erbjöd försvarsdepartementet att acceptera Anthropic:s villkor mot slutet av förhandlingarna om en specifik fras som hänvisade till "analysis of bulk acquired data" togs bort.

Amodei skrev att formuleringen exakt speglade den typ av användningsfall företaget var oroligt för.

Medan Anthropic å ena sidan stod inför DoD:s vrede, användes å andra sidan dess AI-modell Claude enligt uppgift av USA:s militär i den våg av attacker mot Iran, eftersom tekniken "shortens the kill chain" – det vill säga processen från målföridentifiering till juridiskt godkännande och genomförande av angrepp.

Konkurrensen med OpenAI tilltar

Kontroversen har också spillt in i den bredare AI-branschen och belyst den växande konkurrensen mellan Anthropic och konkurrenten OpenAI.

Bara timmar efter att federala myndigheter beordrats att sluta använda Anthropic:s verktyg skrev OpenAI ett avtal med Pentagon och uppgav att departementet hade gått med på företagets begränsningar.

I det meddelande Amodei skickade till personalen på fredagen hävdade han också att uttalanden från Pentagon och OpenAI — som ingick sitt eget avtal med försvarsdepartementet på fredagen — var "rentav lögner om dessa frågor eller försök att förvilla dem."

I en separat intern notis tidigare på onsdagen kritiserade Amodei även OpenAI-chefen Sam Altman, kallade honom "lögnaktig" och anklagade honom för att ge vad han beskrev som "diktatorlika lovord" åt Trump, enligt The Information.

Amodei tillade att Anthropic hade hållit sina "röda linjer med integritet", istället för att samarbeta med tjänstemän för att skapa det han beskrev som "safety theater" avsett att lugna anställda.

Han skrev att många i Washington, inklusive tjänstemän vid Pentagon och Palantir samt politiska konsulter, antagit att det var den fråga företaget försökte hantera.

Tidpunkten för OpenAIs avtal har utlöst kritik online, och Anthropic:s Claude sägs ha sett en ökning i nedladdningar samtidigt som avinstallationer av OpenAI:s ChatGPT ökade.

Altman erkände senare också att hans företag "inte borde ha skyndat sig" med sitt avtal med Pentagon och sade att han hade uppmanat tjänstemän att inte beteckna Anthropic som en leverantörskedjerisk.

Branschens oro över statligt tryck

Konfrontationen har oroat delar av tekniksektorn, som fruktar att en beteckning av en inhemsk AI-utvecklare som en nationell säkerhetsrisk kan få vidare konsekvenser för branschen.

En branschförening med medlemmar som Nvidia, Google och Anthropic skickade den här veckan ett brev till försvarssekreterare Hegseth där de uttryckte oro över möjligheten av en sådan beteckning.

Anthropic, grundat 2021 av före detta OpenAI-forskare som lämnade efter oenigheter om företagets inriktning, har positionerat sig som ett säkerhetsfokuserat alternativ på den snabbt växande AI-marknaden.

Utgången av förhandlingarna kan sätta ett viktigt prejudikat för hur privata AI-företag samarbetar med regeringar i takt med att avancerade maskininlärningssystem blir allt mer integrerade i nationella säkerhetsoperationer.