Anthropic wznawia rozmowy z Pentagonem w ostatniej próbie porozumienia

Dyrektor generalny Anthropic, Dario Amodei, wrócił do negocjacji z Departamentem Obrony USA po tym, jak rozmowy rozpadły się w zeszłym tygodniu w sprawie tego, w jaki sposób wojsko może wykorzystywać technologię sztucznej inteligencji firmy, według raportu Financial Times.

Rozmowy mają na celu rozwiązanie sporu o dostęp Pentagonu do modeli Claude firmy Anthropic, które zostały już wdrożone w tajnych sieciach rządowych w ramach dużego kontraktu obronnego.

Rozmowy wznowione po zerwaniu

Amodei prowadzi teraz rozmowy z Emilem Michaelem, zastępcą sekretarza obrony ds. badań i inżynierii w Pentagonie, w tym, co osoby znające sprawę określiły jako ostatnią próbę osiągnięcia porozumienia regulującego sposób, w jaki wojsko może wdrażać narzędzia Anthropic, poinformował FT.

Negocjacje rozpadły się w piątek, po tym jak obie strony nie zdołały przezwyciężyć różnic co do zakresu wykorzystania technologii.

W następstwie tego prezydent Donald Trump nakazał agencjom federalnym wstrzymanie korzystania z oprogramowania Anthropic, a sekretarz obrony Pete Hegseth stwierdził, że firma może zostać uznana za ryzyko w łańcuchu dostaw dla bezpieczeństwa narodowego USA.

Spór przybrał wymiar osobisty.

Michael publicznie skrytykował Amodei na platformie społecznościowej X, nazywając go „kłamcą” o „kompleksie Boga”.

Spór o wojskowe zastosowania AI

Sednem konfliktu jest to, jak daleko Pentagon może się posunąć, stosując modele AI takie jak Claude w operacjach wojskowych.

Anthropic otrzymał kontrakt o wartości 200 milionów dolarów, dzięki któremu Claude stał się pierwszym znaczącym modelem AI wdrożonym w tajnych sieciach rządowych.

Jednak firma później domagała się zapewnień, że jej technologia nie będzie wykorzystywana do nadzoru krajowego ani do zasilania autonomicznych systemów broni.

Pentagon natomiast domaga się możliwości wykorzystywania technologii do wszelkich zgodnych z prawem celów militarnych.

Według notatki, którą Amodei wysłał do pracowników i którą widział FT, Departament Obrony zaoferował zaakceptowanie warunków Anthropic pod koniec negocjacji, jeśli zostanie usunięta konkretna fraza odnosząca się do „analizy masowo pozyskanych danych”.

Amodei napisał, że sformułowanie odzwierciedla dokładnie ten rodzaj zastosowania, którego obawiała się firma.

Podczas gdy z jednej strony Anthropic stawało w obliczu gniewu DoD, z drugiej jego model AI Claude był — jak donoszono — używany przez armię USA w serii uderzeń przeciwko Iranowi, ponieważ technologia „skraca łańcuch decyzyjny” — czyli proces od identyfikacji celu, przez zatwierdzenie prawne, po rozpoczęcie ataku.

Rywalizacja z OpenAI narasta

Kontrowersja rozszerzyła się również na szerszy sektor AI, uwypuklając rosnącą konkurencję między Anthropic a jej rywalem OpenAI.

Zaledwie kilka godzin po tym, jak agencje federalne otrzymały polecenie zaprzestania korzystania z narzędzi Anthropic, OpenAI podpisało umowę z Pentagonem i oświadczyło, że departament zgodził się na ograniczenia firmy.

Amodei w notatce wysłanej do pracowników w piątek twierdził również, że oświadczenia Pentagonu i OpenAI — które zawarło własne porozumienie z Departamentem Obrony w piątek — były „po prostu kłamstwami na temat tych kwestii lub próbą wprowadzenia w błąd”.

W osobnej wewnętrznej notatce z wcześniejszej środy Amodei również krytykował szefa OpenAI Sama Altmana, nazywając go „kłamliwym” i oskarżając o składanie — jak to określił — „pochwał w stylu dyktatora” dla Trumpa, podał The Information.

Amodei dodał, że Anthropic utrzymał swoje „czerwone linie” z zachowaniem integralności, zamiast współpracować z urzędnikami przy tworzeniu tego, co opisał jako „teatr bezpieczeństwa” mający uspokajać pracowników.

Napisał, że wielu w Waszyngtonie, w tym urzędnicy z Pentagonu i Palantir oraz konsultanci polityczni, zakładało, że to jest problem, którym firma próbowała się zająć.

Termin zawarcia umowy przez OpenAI wywołał falę krytyki w sieci — według doniesień Claude Anthropic odnotował wzrost pobrań, podczas gdy liczba odinstalowań ChatGPT firmy OpenAI wzrosła.

Altman później przyznał też, że jego firma „nie powinna była się spieszyć” z umową z Pentagonem i powiedział, że apelował do urzędników, by nie uznawali Anthropic za ryzyko w łańcuchu dostaw.

Obawy branży dotyczące nacisków rządowych

Impasse zaniepokoił część sektora technologicznego, która boi się, że oznaczenie krajowego dewelopera AI jako ryzyka dla bezpieczeństwa narodowego mogłoby mieć szersze konsekwencje dla branży.

Organizacja branżowa zrzeszająca m.in. Nvidia, Google i Anthropic wysłała w tym tygodniu list do sekretarza obrony Hegsetha, wyrażając zaniepokojenie możliwością takiego oznaczenia.

Anthropic, założony w 2021 roku przez byłych badaczy OpenAI, którzy odeszli po nieporozumieniach co do kierunku firmy, pozycjonuje się jako alternatywa skoncentrowana na bezpieczeństwie na szybko rozwijającym się rynku AI.

Wynik negocjacji może ustanowić ważny precedens dotyczący współpracy prywatnych firm AI z rządami, w miarę jak zaawansowane systemy uczenia maszynowego stają się coraz bardziej integrowane z operacjami bezpieczeństwa narodowego.