Wyjaśnienie: Co stoi za konfliktem Pentagonu z Anthropic?

Wysocy rangą dowódcy amerykańscy, w tym sekretarz obrony Pete Hegseth, spotkali się we wtorek z przedstawicielami firmy zajmującej się sztuczną inteligencją Anthropic, gdy narastający spór dotyczący wykorzystania AI w wojsku wszedł w krytyczną fazę.

Przedmiotem sporu jest zakres, w jakim rząd USA powinien mieć możliwość wykorzystywania potężnego modelu językowego Anthropic — Claude — w wrażliwych operacjach obronnych.

Pentagon wystosował ultimatum wobec Anthropic, żądając, aby firma zaakceptowała jego warunki do piątkowego popołudnia, w przeciwnym razie grożą jej daleko idące konsekwencje.

Na czym polega ultimatum, jakie Pentagon postawił firmie Anthropic?

Według wysokiego rangą urzędnika Pentagonu cytowanego przez New York Times, administracja Trumpa ostrzegła Anthropic, że może powołać się na Defense Production Act (Ustawę o produkcji obronnej), jeśli firma nie zastosuje się do żądań do godz. 17:01 w piątek.

Ten krok zmusiłby firmę do udostępnienia swojej technologii AI do użytku wojskowego.

Jednocześnie urzędnicy zagrozili oznaczeniem Anthropic jako ryzyko w łańcuchu dostaw — kwalifikacją zwykle zarezerwowaną dla firm powiązanych z zagranicznymi przeciwnikami.

Taki ruch mógłby skutecznie uniemożliwić rządowi USA korzystanie z produktów Anthropic w ogóle.

Oba kroki są zasadniczo sprzeczne.

Jeden zmuszałby wojsko do korzystania z modelu Anthropic, podczas gdy drugi zabraniałby jego użycia.

Jednak te sprzeczne groźby odzwierciedlają zarówno głębokość frustracji wobec oporu Anthropic, jak i strategiczną wartość jej technologii.

Rzecznik Anthropic powiedział, że wtorkowe spotkanie „kontynuowało rozmowy w dobrej wierze na temat naszej polityki użytkowania, aby zapewnić, że Anthropic może nadal wspierać misję bezpieczeństwa narodowego rządu zgodnie z tym, co nasze modele potrafią robić niezawodnie i odpowiedzialnie” — poinformowała agencja Reuters.

Dlaczego Anthropic ma znaczenie dla wojska

Anthropic zajmuje wyjątkową pozycję w ekosystemie obronnym USA.

Obecnie jest to jedyna firma AI, której model działa w tajnych systemach wojskowych.

Departament Obrony podpisał w zeszłym lipcu kontrakty z kilkoma wiodącymi firmami AI — w tym Google i OpenAI — oferując umowy o wartości do 200 mln dolarów.

Jednak aż do tego tygodnia tylko model Claude firmy Anthropic został dopuszczony do użycia w tajnych środowiskach.

Istota sporu o zabezpieczenia AI

Anthropic określa się jako najbardziej nastawiona na bezpieczeństwo spośród głównych twórców AI, i to właśnie to podejście coraz częściej stawia ją w konflikcie z urzędnikami obrony.

Liderzy amerykańskich sił zbrojnych naciskali na szerszy i mniej ograniczony dostęp do możliwości Claude'a.

Jak mówią osoby zaznajomione z rozmowami, Anthropic sprzeciwiało się dopuszczeniu użycia swoich modeli do masowego nadzoru lub do systemów broni autonomicznej, które mogłyby podejmować śmiertelne decyzje bez bezpośredniego udziału człowieka.

Spór nasilił się na początku tego miesiąca, gdy urzędnicy Pentagonu zaczęli obawiać się, że Anthropic zadawało pytania dotyczące sposobu wykorzystania swoich narzędzi AI podczas operacji wojskowej w Wenezueli, która doprowadziła do schwytania prezydenta Nicolas Maduro.

Departament Obrony zintegrował Claude'a z częścią swoich procesów roboczych, ale zagroził zerwaniem współpracy z powodu, jak uważa, sztucznych ograniczeń narzuconych przez prywatnego wykonawcę.

Urzędnicy Pentagonu argumentują, że zgodne z prawem wykorzystanie oprogramowania i broni jest odpowiedzialnością rządu, a nie czymś, co powinni narzucać dostawcy, podał NYT.

Zwolennicy Anthropic twierdzą z kolei, że firma jest teraz karana za to, że jako pierwsza weszła w tę sferę i za opracowanie specjalnego modelu ukierunkowanego na rząd, znanego jako Claude Gov, który różni się od produktów dostępnych publicznie.

Co dalej: implikacje prawne i handlowe

Według Reutera osoba znająca sprawę powiedziała, że Anthropic nie ma zamiaru łagodzić swoich ograniczeń użytkowania w celach wojskowych, nawet gdy rozmowy z Pentagonem trwają.

Reuters podał także, że dyrektor generalny Anthropic, Dario Amodei, powiedział Hegsethowi podczas wtorkowego spotkania, że firma nie zgłaszała Pentagonowi ani wykonawcy obronnemu Palantir obaw dotyczących nalotu.

Amodei dodał także, że zabezpieczenia obecnie obowiązujące nie będą przeszkadzać w bieżących operacjach Departamentu Obrony.

Jeśli Pentagon zdecyduje się na oznaczenie jako ryzyko łańcucha dostaw, konsekwencje dla Anthropic mogą wykraczać daleko poza kontrakty obronne.

Taka etykieta mogłaby zakłócić relacje firmy z innymi przedsiębiorstwami prowadzącymi interesy z rządem USA.

„Ten konkretny scenariusz jest bezprecedensowy” — powiedział Franklin Turner, prawnik ds. kontraktów rządowych w McCarter & English, w komentarzu cytowanym przez Reuters.

Ostrzegł, że jakiekolwiek niekorzystne działanie mogłoby wywołać szerokie postępowania sądowe, biorąc pod uwagę niezwykły charakter gróźb Pentagonu.

Na razie Anthropic twierdzi, że rozmowy trwają w dobrej wierze.

To, czy firma będzie w stanie zachować swoje priorytetowe podejście do bezpieczeństwa, pozostając jednocześnie kluczowym dostawcą dla armii USA, może zadecydować nie tylko o jej przyszłości, ale także o sposobie regulacji AI w ramach bezpieczeństwa narodowego.