Vysvětlení: Co stojí za střetem Pentagonu s Anthropic?

Vysocí představitelé americké armády, včetně ministra obrany Petea Hegsetha, se v úterý setkali s vedením firmy Anthropic zabývající se umělou inteligencí, když se vře spor o vojenské využití AI a vstoupil do kritické fáze.

Jde o to, jak daleko by měla mít americká vláda oprávnění při nasazování výkonného velkého jazykového modelu Clauda od Anthropic v citlivých obranných operacích.

Pentagon doručil společnosti Anthropic ultimátum, požadující, aby firma přijala jeho podmínky do pátku odpoledne, jinak čelí rozsáhlým důsledkům.

Jaké ultimátum Pentagon dal společnosti Anthropic?

Podle vysokého úředníka Pentagonu citovaného New York Times varovala administrativa Trumpa Anthropic, že by mohla uplatnit Defense Production Act, pokud společnost do pátku do 17:01 nesplní požadavky.

Tento krok by firmu donutil poskytnout svou AI technologii k vojenskému použití.

Současně úředníci pohrozili označením Anthropic za riziko dodavatelského řetězce — označení, které je obvykle vyhrazeno společnostem spojeným se zahraničními protivníky.

Takový krok by v praxi mohl americké vládě zcela zakázat používat produkty Anthropic.

Obě opatření jsou v zásadním rozporu.

Jedno by donutilo armádu používat model Anthropic, zatímco druhé by jeho používání zakázalo.

Rozporuplné hrozby však odrážejí jak hloubku frustrace z odporu Anthropic, tak strategickou hodnotu její technologie.

Mluvčí Anthropic řekl, že úterní jednání „pokračovalo v jednání v dobré víře o naší politice používání, aby bylo zajištěno, že Anthropic může nadále podporovat národní bezpečnostní misi vlády v souladu s tím, co naše modely mohou spolehlivě a odpovědně dělat,“ uvedla agentura Reuters.

Proč je Anthropic důležitý pro armádu

Anthropic zaujímá v ekosystému americké obrany jedinečnou pozici.

V současnosti je to jediná AI společnost, jejíž model funguje v utajovaných vojenských systémech.

Ministerstvo obrany loni v červenci podepsalo smlouvy s několika předními AI firmami — včetně Google a OpenAI — s nabídkami kontraktů až do výše 200 milionů dolarů.

Do tohoto týdne byl nicméně dosud do používání v utajovaných prostředích schválen pouze model Claude od Anthropic.

Jádro sporu o bezpečnostní záruky u AI

Anthropic se prezentuje jako nejvíce orientovaný na bezpečnost mezi hlavními vývojáři AI, a právě tento postoj jej čím dál častěji staví do sporu s představiteli obrany.

Vojenské vedení USA tlačilo na širší a méně omezený přístup ke schopnostem Clauda.

Anthropic podle osob obeznámených s jednáními odmítalo povolit používání svých modelů pro masový dohled nebo pro autonomní zbraňové systémy, které by mohly činit smrtící rozhodnutí bez přímého lidského zásahu.

Spor eskaloval začátkem tohoto měsíce poté, co úředníci Pentagonu začali mít obavy, že Anthropic kladlo otázky ohledně toho, jak byly jeho AI nástroje použity během vojenské operace ve Venezuele, která vedla k zajetí prezidenta Nicolase Madura.

Ministerstvo obrany integrovalo Clauda do částí svého pracovního postupu, ale pohrozilo přerušení spolupráce kvůli tomu, co považuje za umělá omezení uvalená soukromým dodavatelem.

Úředníci Pentagonu tvrdí, že zákonné použití softwaru a zbraní je odpovědností vlády, nikoli něco, co by měli určovat prodejci, uvedl New York Times.

Zastánci Anthropic mezitím tvrdí, že firma je nyní trestána za to, že byla první, kdo vstoupil do této oblasti, a za vývoj na míru šitého modelu zaměřeného na vládu, známého jako Claude Gov, který se liší od jejích veřejných produktů.

Co bude dál: právní a obchodní důsledky

Podle agentury Reuters osoba obeznámená se záležitostí uvedla, že Anthropic nemá v úmyslu zmírnit svá omezení používání pro vojenské účely, ani když jednání s Pentagonem pokračují.

Reuters také uvedl, že generální ředitel Anthropic Dario Amodei během úterního setkání řekl Hegsethovi, že společnost Pentagonu ani obrannému dodavateli Palantir nenahlásila žádné obavy ohledně razie.

Amodei také řekl, že bezpečnostní opatření, která jsou v současnosti zavedená, by nezasahovala do stávajících operací ministerstva obrany.

Pokud by Pentagon pokračoval s označením jako riziko dodavatelského řetězce, důsledky pro Anthropic by mohly zasáhnout mnohem dál než jen obranné zakázky.

Takové označení by mohlo narušit vztahy společnosti s jinými firmami, které obchodují s americkou vládou.

„Tato konkrétní situace je bezprecedentní,“ řekl Franklin Turner, právník pro vládní smlouvy ve firmě McCarter & English, v komentářích citovaných Reuters.

Varoval, že jakákoli nepříznivá akce by mohla vyvolat rozsáhlé soudní spory vzhledem k neobvyklé povaze hrozeb Pentagonu.

Prozatím Anthropic říká, že jednání pokračují v dobré víře.

To, zda společnost dokáže udržet svůj postoj upřednostňující bezpečnost a zároveň zůstat klíčovým dodavatelem pro americkou armádu, může rozhodnout nejen o její budoucnosti, ale i o tom, jak bude AI řízena v podmínkách národní bezpečnosti.