Rakiety z Jemenu i symulacje Tajwanu — Anthropic ujawnia użycia Claude'a

Anthropic informuje, że przerwał próby wykorzystania Claude’a do opracowywania broni, szeroko zakrojonej inwigilacji oraz potencjalnie niebezpiecznych badań biologicznych.

Te przypadki mają znaczenie, ponieważ AI potrafi skondensować prace techniczne, które wcześniej wymagały zespołów i dłuższych harmonogramów.

Przypadki opisano w raporcie wywiadu o zagrożeniach Anthropic z 10 września, obejmującym aktywność wykrytą między grudniem 2025 a sierpniem 2026.

Firma podała, że zamknęła konta, wzmocniła zabezpieczenia i przekazała wywiad odpowiednim organom.

Raport ukazał się kilka dni po tym, jak badacz Anthropic Jacob Coxon zrezygnował, ostrzegając, że laboratoria pracujące na krawędzi wyścigają się ku samo-ulepszającej się superinteligencji, nie wiedząc, jak bezpiecznie kontrolować to, co budują.

Anthropic ujawnia najbardziej alarmujące przypadki nadużyć Claude’a

1. Komórka w Jemenie używała Claude’a jako zespołu inżynierów oprogramowania do pocisków

Pierwszy przypadek dotyczył komórki w północnym Jemenie realizującej trzy programy uzbrojenia kierowanego.

Anthropic podał, że grupa rozwijała sterowany pocisk wykorzystujący komputer lotu klasy „telefon”, wielostopniowy pocisk balistyczny o deklarowanym zasięgu powyżej 2 000 kilometrów oraz rodzinę pocisków R2000 obejmującą wariant z hipersonicznym szybowcem.

Grupa używała Claude Code „zamiast ludzkich inżynierów oprogramowania”, przydzielając instancje modelu do kodowania, badań i przeglądu kodu.

Aktywiści przeprowadzili testowy strzał sterowanego pocisku. Anthropic stwierdził, że test najwyraźniej zakończył się niepowodzeniem, a grupa w ciągu kilku godzin wróciła do Claude’a, aby zbadać, co poszło nie tak.

Firma nie znalazła dowodów, że komórka wprowadziła do użytku operacyjnego jakąkolwiek broń.

2. Rosyjscy deweloperzy pracowali nad autonomicznymi dronami-kamikaze

Drugi przypadek dotyczył niewielkiego, rosyjskiego zespołu freelancerów opracowującego, jak opisał to Anthropic, pełny stos autonomicznego roju dronów FPV typu kamikaze.

Claude był używany do opracowania koordynacji roju, prowadzenia docelowego naprowadzania i powiązanego oprogramowania.

Anthropic podał, że planowany system mógłby pozwolić modelowi pokładowemu wybierać cele, w tym klasę celu „osoba”, i wydawać polecenia detonacji bez udziału człowieka w pętli decyzyjnej.

Deweloperzy trenowali oprogramowanie rozpoznawania obrazu, wykorzystując materiały z walk na Ukrainie, i używali lokalizacji w obwodzie donieckim podczas demonstracji.

3. Badacz z Chin modelował cele wojskowe na Tajwanie

Anthropic podał, że badacz z Chin związany z sektorem obronnym i przemysłem wojskowym użył Claude’a do zbudowania zestawu do walki elektronicznej i tłumienia obrony powietrznej.

Oprogramowanie analizowało zasięg radarów, systemy ziemia–powietrze, skuteczność zagłuszania oraz kolejność, w jakiej powinny być eliminowane cele.

W połowie projektu Anthropic zaobserwował, że użytkownik zmienił domyślny scenariusz symulacji na 12 celów w Tajwanie, w tym bunkier dowodzenia, radary wczesnego ostrzegania, baterie Patriot i Tien Kung, główne bazy lotnicze oraz regionalną kwaterę dowodzenia siłami bojowymi.

Anthropic ocenił użytkownika jako powiązanego z chińskimi instytucjami badawczymi, w tym Akademią Nauk Wojskowych PLA.

To odkrycie nie powinno być opisywane jako dowód rzeczywistego planu inwazji Chin; była to symulacja celowania militarnego zbudowana przez badacza.

4. Jeden abonent pomógł zbudować system inwigilacji obejmujący 25 mln kart SIM

Anthropic podał, że pojedynczy abonent, oceniony jako prawdopodobny konsultant z Bamako, używał Claude’a jako „głównej siły inżynieryjnej” dla Lakana 360 — platformy inwigilacyjnej zbudowanej dla państwowej służby wywiadowczej Mali.

System zaprojektowano do monitorowania około 25 milionów kart SIM we wszystkich trzech krajowych operatorach mobilnych.

Mógł gromadzić rejestry połączeń, SMS-y i ruch głosowy, tworzyć teczki wywiadowcze dla poszczególnych numerów, dopasowywać głosy między kartami SIM, oznaczać użytkowników VPN lub szyfrowania oraz łączyć cele z krajowymi rejestrami biometrycznymi.

Anthropic podał, że wymóg nakazu sądowego został usunięty z jednego komponentu generującego teczki na prośbę operatora.

Firma zablokowała konto Claude, ale finalna platforma działała lokalnie, wykorzystując model on‑premises.

Działania Anthropic zatem zatrzymały dalsze prace inżynieryjne wspomagane przez Claude’a, lecz nie wyłączyły już wdrożonego systemu inwigilacji.

5. Naukowcy używali Claude’a do potencjalnie niebezpiecznych badań biologicznych

Anthropic opisał pięć studiów przypadków nadużyć biologicznych, podkreślając jednak, że nie zawsze można było ustalić, czy zaangażowani naukowcy mieli zamiar wyrządzić szkodę.

Firma podkreśliła dwoistość takiej pracy — badania, które mogą pomóc w opracowaniu szczepionek lub terapii, mogą jednocześnie uczynić patogeny bardziej niebezpiecznymi.

W jednym przypadku państwowo finansowany grant obejmował badania gain‑of‑function nad chikungunyą, ukierunkowane na zaraźliwość i unikanie odporności, z pracami przeznaczonymi dla instytutu badawczego o profilu wojskowym.

Anthropic podał, że propozycja zakładała identyfikację mutacji, wprowadzenie ich do zakaźnych klonów i selekcję w kierunku większej zjadliwości u zwierząt.

Inne przypadki dotyczyły adaptacji ptasiej grypy do ssaków, unikania odporności przez orthopoxvirus oraz badań związanych z toksynami.

Anthropic przedstawił to zagrożenie jako badania, które mogłyby wesprzeć rozwój broni biologicznej, zamiast twierdzić, że Claude był bezpośrednio użyty do skonstruowania broni biologicznej.

Zmiana, przed którą ostrzega Anthropic, to dźwignia. AI może pozwolić mniejszym grupom podejmować zadania inżynieryjne, analityczne i programistyczne, które wcześniej wymagały większych zespołów, głębszej wiedzy i więcej czasu.

Anthropic twierdzi, że jego zabezpieczenia wykryły lub zakłóciły te operacje.

Jednak jego raport pokazuje, dlaczego te zabezpieczenia będą musiały się dalej rozwijać, gdy modele staną się bardziej zdolne, a użytkownicy znajdą nowe sposoby przekształcania AI ogólnego przeznaczenia w praktyczne narzędzie operacyjne.