Zaměstnanci OpenAI a Google stojí po boku Anthropic proti Pentagonu

Vysokostavová konfrontace mezi Pentagonem a Anthropic se proměnila v klíčový souboj o to, kdo určí hranice špičkové technologie — americká vláda, nebo soukromé firmy, které ji vyvíjejí — přičemž konflikt zasahuje širší odvětví AI a vyvolává ostrou kritiku ze strany zákonodárců.

Otázka si vysloužila vzácnou veřejnou podporu ze strany zaměstnanců konkurenčních AI firem a odhalila hluboké rozpory ohledně dohledu, autonomních zbraní a národní bezpečnosti.

Mezitím odborníci usilují o poukázání na nevýhody neregulovaného použití technologie v reálných vojenských podmínkách po celém světě, často za omezených pravidel, zatímco se objevují otázky důvěry vůči vládám i poskytovatelům AI služeb.

Zaměstnanci OpenAI a Google podpořili Anthropic v otevřeném dopise

Mezi signatáři otevřeného dopisu, kteří podpořili Anthropic, byli i pracovníci OpenAI a Google — neobvyklé gesto solidarity v odvětví charakterizovaném tvrdou konkurencí.

Dopis s názvem „Nebudeme rozděleni“ obviňuje Ministerstvo obrany USA z pokusu vynutit si u Anthropicu zrušení omezení týkajících se způsobu použití jeho AI modelů.

V otevřeném dopise zaměstnanci uvedli, že Ministerstvo obrany vyhrožovalo uplatněním zákona Defense Production Act, donucením Anthropicu přizpůsobit model vojenským potřebám a označením firmy za „riziko dodavatelského řetězce“, pokud by nevyhověla.

„To vše jako odplata za to, že Anthropic trvá na svých červených liniích,“ stojí v dopise s odkazem na odpor společnosti vůči masovému dohledu a autonomnímu zabíjení.

Signatáři tvrdili, že Pentagon se snaží izolovat firmy vytvářením strachu, že konkurenti podlehnou jako první.

„Snaží se rozdělit každou společnost strachem, že ta druhá podlehne,“ uvádí dopis.

„Tato strategie funguje pouze, pokud nikdo z nás neví, kde stojí ostatní.“

Dopis vyzval lídry v oblasti AI, aby odložili firemní rivality a i nadále odmítali to, co popisují jako současné vládní požadavky na povolení používat AI modely způsoby, které zaměstnanci považují za nebezpečné.

Altman se snaží uklidnit napětí

Ačkoli generální ředitelé OpenAI a Google dopis nepodepsali, šéf OpenAI Sam Altman podle zaměstnanců uvedl, že společnost pracuje na tom, aby pomohla spor vyřešit.

Podle zprávy The Wall Street Journal Altman v poznámce zaměstnancům napsal: „Rádi bychom se pokusili pomoci deeskalovat situaci.“

Anthropic a Pentagon jsou ve sporu o to, jak může být model Claude nasazen v citlivých obranných a zpravodajských operacích.

Anthropic uvedl, že je ochoten spolupracovat s vládou, ale pouze za podmínek zavedení bezpečnostních opatření.

Pentagon opakuje, že „nechce provádět dohled“, když se blíží lhůta pro Anthropic

Úředníci Pentagonu tvrdí, že rozhodnutí o zákonném vojenském a zpravodajském použití leží na vládě, nikoli na soukromých dodavatelích.

Ministerstvo obrany doručilo Anthropicu ultimátum, požadující přijetí jeho podmínek do pátečního odpoledne, jinak varovalo před dalekosáhlými důsledky.

Na začátku tohoto týdne hlavní mluvčí Pentagonu Sean Parnell uvedl, že rezort nemá zájem na sledování Američanů ani na vývoji plně autonomních zbraní.

Zdůraznil však, že armáda nedovolí společnostem diktovat operační rozhodnutí.

„Toto je jednoduchá, zdravým rozumem podložená žádost, která zabrání tomu, aby Anthropic ohrozil kritické vojenské operace a potenciálně vystavil naše vojáky riziku,“ napsal Parnell v příspěvku na X.

„Mají čas do pátku do 17:01 ET, aby se rozhodli.“

Anthropic odmítl „ustoupit jejich požadavku“

Anthropic reagoval tím, že svou pozici ještě více upevnil.

Ve čtvrtečním prohlášení společnost uvedla: „Tyto hrozby naši pozici nezmění: nemůžeme v dobrém svědomí vyhovět jejich požadavku.“

Firma podrobně popsala své obavy ohledně dohledu a poznamenala, že podle stávajícího zákona může americká vláda bez zatykače nakupovat podrobné údaje o pohybu Američanů, jejich prohlížení webu a kontaktech.

I když taková data mohou jednotlivě vypadat neškodně, Anthropic varoval, že AI umožňuje tato data spojit do komplexního obrazu života osoby v masovém měřítku, což vyvolává vážné obavy o soukromí přiznané zpravodajskou komunitou a zákonodárci obou stran.

Ohledně zbraní Anthropic uznal, že částečně autonomní systémy již hrají roli v moderním boji a že i plně autonomní zbraně by jednou mohly být pro národní obranu klíčové.

Ale uvedl, že dnešní špičkové AI systémy nejsou dostatečně spolehlivé na to, aby rozhodovaly o smrti bez lidského zásahu.

„Vědomě neposkytneme produkt, který by ohrožoval americké vojáky a civilisty,“ uvedla společnost s tím, že vhodné bezpečnostní pojistky zatím neexistují.

„Je to prerogativou ministerstva vybrat dodavatele, kteří nejlépe odpovídají jeho představám. Ale vzhledem k významné hodnotě, kterou technologie Anthropic poskytuje našim ozbrojeným silám, doufáme, že to přehodnotí,“ uvádí prohlášení.

Osobní útoky a politická podpora

Spór se stává stále vyostřenějším.

Generální ředitel Anthropicu Dario Amodei se setkal s ostrou kritikou ze strany vysokých představitelů Pentagonu.

Emil Michael, náměstek ministra obrany, obvinil Amodeie z toho, že má „komplex boha“.

„Je škoda, že @DarioAmodei je lhář a má komplex boha,“ napsal Michael na X.

„Nechce nic jiného než osobně ovládat americkou armádu.“

Úředníci ministerstva zahraničí rovněž použili sociální sítě k podpoře postoje Pentagonu, zatímco několik demokratických zákonodárců veřejně podpořilo Anthropic.

Mark Warner, přední demokrat ve Výboru pro zpravodajství Senátu, uvedl, že společnosti musí někdy vládě ustoupit, ale že obavy Anthropicu mají opodstatnění.

Řekl, že společnost je prý ohrožována ministrem obrany Petem Hegsethem za to, že dává prioritu bezpečnosti.

„Hrozí jim, doslova už na zítřek,“ řekl Warner ve videu zveřejněném online.

Širší posun v rozložení moci

Analytici říkají, že patová situace odráží hlubší změnu v tom, jak se vyvíjí a kontroluje pokročilá vojenská technologie.

„V tomhle nikdo nevyhraje,“ řekla Lauren Kahn, hlavní výzkumná analytička v Georgetownově Center for Security and Emerging Technology, v rozhovoru pro CNBC.

„Zanechává to všem špatnou pachuť v ústech.“

Námořní kontradmirál Lorin Selby, bývalý šéf námořního výzkumu a nyní partner v Mare Liberum, řekl v zprávě CNBC, že po většinu poválečné éry byla hranice pokročilé technologie definována vládou USA.

„Od jaderného pohonu přes stealth až po GPS byl stát hlavním hybatelem objevů a průmysl integrátorem a výrobcem,“ řekl.

AI tento model převrátila.

„Dnes je komerční sektor hlavním motorem hranic schopností,“ dodal.

„Soukromý kapitál, globální konkurence a škálování komerčních dat posouvají AI tempem, které tradiční vládní výzkumné a vývojové struktury obtížně napodobí. Ministerstvo války už nedefinuje hranici toho, co je technicky možné v oblasti umělé inteligence — přizpůsobuje se jí.“

Odborníci varují před „nahodilými politikami“

Podle Rady pro zahraniční vztahy (CFR) je AI již nasazována v reálných vojenských podmínkách po celém světě, často s omezenou regulací.

Zprávy uvádějí, že země včetně Izraele, Ruska a Ukrajiny použily AI k pomoci s identifikací cílů na bojišti.

Generální tajemník OSN vyzval k mezinárodní diskusi o pojistkách pro AI, ale USA odmítly globální rámce správy, i když jejich vlastní Akční plán pro AI volá po agresivní vojenské adopci.

„Rostoucí propast mezi mezinárodní diskuzí o vojenské AI, která má tendenci zdůrazňovat rizika a možné omezení jejího použití, a zrychlujícími snahami armád po celém světě integrovat AI by měla znepokojovat všechny státy… státy nasazují tyto technologie s mozaikou nahodilých politik — pokud nějakých — a bez možnosti získat cenné poznatky o osvědčených postupech od ostatních,“ řekl Michael C. Horowitz, starší odborník CFR.

Co bude dál?

Co se stane po páteční lhůtě, zůstává nejasné.

Jakýkoli krok Pentagonu označit Anthropic za riziko v dodavatelském řetězci nebo vynutit dodržení podmínek podle Defense Production Act by pravděpodobně vyvolal právní kroky ze strany společnosti.

Takový krok by mohl také narušit vládní operace.

Model Claude od Anthropicu se široce používá v utajovaných systémech pro zpravodajskou analýzu, včetně Národní bezpečnostní agentury (NSA) a CIA.

Jeho odstranění by donutilo agentury přejít na alternativy, jako je Grok vyvinutý xAI, které současní i bývalí úředníci považují za horší a obtížně nasaditelné rychle.

„I kdyby roztržka mezi Anthropicem a Pentagonem utichla, základní dilemata ohledně rozdělení moci, práce a odpovědnosti za bezpečnost AI zůstávají,“ napsal Michael Froman, prezident CFR, ve svém textu.

„Bude role soukromých firem v zajišťování odpovědného používání AI omezena úzce na výrobu nejspolehlivějších a nejpřesnějších AI nástrojů, které vláda nasadí podle svého uvážení, nebo budou tyto firmy hrát zásadnější roli při určování přijatelných scénářů použití svých produktů? Komu důvěřujeme více a komu méně — vládě nebo soukromé firmě — aby tato rozhodnutí činila?“

Vzácný projev solidarity po celém Silicon Valley zkouší, jak daleko může vláda USA tlačit na AI firmy v otázkách vojenského použití, dohledu a autonomních zbraní.