Anthropic obnovuje rozhovory s Pentagonem v poslední snaze o dohodu – zpráva

Výkonný ředitel Anthropic Dario Amodei se podle zprávy Financial Times vrátil k jednáním s Ministerstvem obrany USA poté, co se minulý týden rozhovory zhroutily kvůli tomu, jak může armáda používat umělou inteligenci společnosti.

Cílem jednání je vyřešit spor o přístup Pentagonu k AI modelům Claude od Anthropic, které byly již nasazeny v utajovaných vládních sítích v rámci významné obranné smlouvy.

Rozhovory obnoveny po zhroucení

Amodei nyní jedná s Emilem Michaelem, náměstkem ministra obrany pro výzkum a inženýrství, v tom, co osoby obeznámené se záležitostí popsaly jako poslední snahu dosáhnout dohody upravující, jak může armáda nasazovat nástroje Anthropic, uvádí FT.

Jednání v pátek zkrachovala poté, co se obě strany nedokázaly dohodnout na rozsahu využití technologie.

V následcích prezident Donald Trump nařídil federálním agenturám zastavit používání softwaru Anthropic, zatímco ministr obrany Pete Hegseth uvedl, že společnost by mohla být označena jako riziko dodavatelského řetězce pro národní bezpečnost USA.

Spor nabral osobní rozměr.

Michael veřejně kritizoval Amodeiho v příspěvku na sociální síti X, označil ho za „lháře“ s „božským komplexem“.

Neshoda ohledně vojenského použití AI

Jádrem sporu je, jak daleko může Pentagon zajít při nasazování AI modelů, jako je Claude, v vojenských operacích.

Anthropic získal kontrakt v hodnotě 200 milionů dolarů, díky němuž se Claude stal prvním významným AI modelem nasazeným v utajovaných vládních sítích.

Společnost však následně požadovala záruky, že její technologie nebude využívána pro domácí dohled ani k pohánění autonomních zbraňových systémů.

Pentagon naopak prosazoval možnost nasazovat technologii pro jakýkoli zákonný vojenský účel.

Podle interního memoranda, které Amodei zaměstnancům zaslal a které viděl FT, Ministerstvo obrany nabídlo na konci jednání akceptovat podmínky Anthropic, pokud bude odstraněna konkrétní fráze odkazující na „analýzu hromadně získaných dat“.

Amodei napsal, že toto znění přesně odráželo typ použití, kterého se společnost obávala.

Zatímco na jedné straně čelilo Anthropic hněvu Ministerstva obrany, na druhé straně byl jeho AI model Claude podle zpráv využit americkou armádou při sérii úderů proti Íránu, protože technologie „zkracuje kill chain“ – což znamená proces od identifikace cíle přes právní schválení až po zahájení útoku.

Rivalita s OpenAI se vyostřuje

Kontroverze se rozšířila i do širšího odvětví AI a zdůraznila rostoucí konkurenci mezi Anthropic a jeho rivalem OpenAI.

Jen o několik hodin poté, co federální agentury byly instruovány, aby přestaly používat nástroje Anthropic, OpenAI podepsala dohodu s Pentagonem a uvedla, že ministerstvo souhlasilo s omezeními společnosti.

Amodei v memorandu zaměstnancům v pátek také tvrdil, že prohlášení Pentagonu a OpenAI — která ve stejný den uzavřela vlastní dohodu s Ministerstvem obrany — jsou „prostě lži o těchto záležitostech nebo se je snaží zmást.“

Ve zvláštní interní poznámce ze středy Amodei také kritizoval šéfa OpenAI Sama Altmana, označil ho za „lživého“ a obvinil ho, že vyjadřuje to, co popsal jako „pochvaly v diktátorském stylu“ pro Trumpa, podle The Information.

Amodei dodal, že Anthropic si zachoval své „červené linie s integritou“, místo aby spolupracoval s úředníky na vytvoření toho, co označil jako „bezpečnostní divadlo“, které má uklidnit zaměstnance.

Napsal, že mnozí ve Washingtonu, včetně úředníků v Pentagonu a Palantiru i politických poradců, předpokládali, že to je ten problém, který se společnost snaží řešit.

Načasování dohody OpenAI vyvolalo na internetu odpor, přičemž Claude od Anthropic údajně zaznamenal nárůst stažení, zatímco odinstalace ChatGPT od OpenAI vzrostly.

Altman později také přiznal, že jeho společnost „neměla spěchat“ s dohodou s Pentagonem, a uvedl, že vyzýval úředníky, aby Anthropic neoznačili za riziko dodavatelského řetězce.

Obavy odvětví z vládního tlaku

Tato patová situace znepokojila části technologického sektoru, které se obávají, že označení domácího vývojáře AI za riziko národní bezpečnosti by mohlo mít širší důsledky pro odvětví.

Obchodní sdružení technologických společností, jehož členy jsou mimo jiné Nvidia, Google a Anthropic, tento týden poslalo ministrovi obrany Hegsethovi dopis, v němž vyjádřilo obavy ohledně možnosti takového označení.

Anthropic, založený v roce 2021 bývalými výzkumníky OpenAI, kteří odešli po neshodách ohledně směřování společnosti, se profiluje jako na bezpečnost zaměřená alternativa na rychle se rozvíjejícím trhu AI.

Výsledek jednání by mohl vytvořit důležitý precedens v tom, jak soukromé společnosti vyvíjející AI spolupracují s vládami, protože pokročilé systémy strojového učení jsou stále více integrovány do operací národní bezpečnosti.