Anthropic semnalează abuzuri ale Claude în rachete, drone și simulări pentru Taiwan

Anthropic spune că a întrerupt încercări de a folosi Claude pentru dezvoltarea de arme, supraveghere în masă și cercetare biologică potențial periculoasă.

Cazurile sunt importante deoarece AI poate comprima lucrări tehnice care anterior necesitau echipe și termene mai lungi.

Cazurile apar în raportul Anthropic de informaţii despre ameninţări din 10 septembrie, care acoperă activitate detectată între decembrie 2025 şi august 2026.

Compania a afirmat că a terminat conturi, a întărit mecanismele de protecţie şi a împărtăşit informaţii cu autorităţile.

Raportul a apărut la câteva zile după demisia cercetătorului Anthropic Jacob Coxon, care a avertizat că laboratoarele frontieră se întreaptă spre o superinteligenţă auto-îmbunătăţitoare fără a şti cum să controleze în siguranţă ceea ce construiesc.

Anthropic expune cele mai îngrijorătoare cazuri de abuz ale Claude

1. O celulă din Yemen a folosit Claude ca echipă de inginerie software pentru rachete

Primul caz a implicat o celulă din nordul Yemenului care urmări trei programe de arme ghidate.

Anthropic a declarat că grupul dezvolta o rachetă ghidată folosind un computer de zbor de tip telefon, o rachetă balistică cu mai multe trepte cu o rază declarată peste 2.000 de kilometri şi o familie de rachete R2000 care includea o variantă cu planare hipersonică.

Grupul a folosit Claude Code „în locul inginerilor software umani”, atribuind instanţe ale modelului pentru codare, cercetare şi revizuire de cod.

Actorii au efectuat o tragere de încercare a unei rachete ghidate. Anthropic a spus că testul părea să fi eşuat, grupul revenind la Claude în câteva ore pentru a investiga ce a mers prost.

Compania nu a găsit dovezi că celula a pus în operă o armă operaţională.

2. Dezvoltatori din Rusia au lucrat la drone kamikaze autonome

Al doilea caz a implicat o mică echipă freelance din Rusia care dezvolta ceea ce Anthropic a descris drept un roi complet autonom de drone kamikaze FPV.

Claude a fost folosit pentru a dezvolta coordonarea roiului, ghidarea terminală şi software asociat.

Anthropic a spus că sistemul planificat ar fi putut permite unui model la bord să selecteze ţinte, inclusiv o clasă de ţintă „persoană”, şi să emită comenzi de detonaţie fără un operator uman în buclă.

Dezvoltatorii au antrenat software de viziune computerizată folosind imagini de luptă din Ucraina şi au utilizat locaţii din regiunea Doneţk în demonstraţii.

3. Un cercetător din China a modelat ţinte militare din Taiwan

Anthropic a afirmat că un cercetător chinez în domeniul apărării şi industriei militare a folosit Claude pentru a construi un set de instrumente pentru război electronic şi suprimarea apărării aeriene.

Software-ul a analizat acoperirea radar, sisteme sol-aer, eficienţa bruiajului şi ordinea în care ţintele ar trebui suprimate.

La jumătatea proiectului, Anthropic a observat că actorul a schimbat scenariul implicit al simulării la 12 ţinte în Taiwan, inclusiv un buncăr de comandă, radar de avertizare timpurie, baterii Patriot şi Tien Kung, baze aeriene majore şi un sediu regional de comandă pentru operaţiuni militare.

Anthropic a evaluat utilizatorul ca fiind legat de instituţii de cercetare chineze, inclusiv Academia de Ştiinţe Militare a PLA.

Constatarea nu trebuie descrisă drept dovadă a unui plan chinez real de invazie; a fost o simulare de ţintire militară construită de un cercetător.

4. Un abonat a contribuit la construirea unei supravegheri care acoperea 25 de milioane de cartele SIM

Anthropic a spus că un singur abonat, evaluat probabil ca un consultant cu sediul în Bamako, a folosit Claude ca „forţă principală de inginerie” pentru Lakana 360, o platformă de supraveghere construită pentru serviciul de informaţii de stat al Mali.

Sistemul a fost conceput pentru a monitoriza aproximativ 25 de milioane de cartele SIM la toţi cei trei operatori mobili naţionali.

Ar fi putut colecta înregistrări de apeluri, mesaje text şi trafic vocal, crea dosare de informaţii pe numere de telefon individuale, potrivi voci între cartele SIM, semnaliza utilizatorii de VPN sau criptare şi conecta ţintele cu registre naţionale biometrice.

Anthropic a declarat că o cerinţă de mandat a fost eliminată dintr-un component generator de dosare la cererea operatorului.

Compania a interzis contul Claude, dar platforma finală a rulat local folosind un model on-premises.

Acţiunea Anthropic a oprit, prin urmare, ingineria asistată de Claude, dar nu a dezactivat sistemul de supraveghere deja implementat.

5. Oameni de ştiinţă au folosit Claude pentru cercetare biologică potenţial periculoasă

Anthropic a descris cinci studii de caz privind abuzuri biologice, dar a spus că nu a putut întotdeauna determina dacă oamenii de ştiinţă implicaţi intenţionau vreun rău.

Compania a subliniat natura cu dublă utilizare a astfel de lucrări, în care cercetarea care ar putea ajuta la vaccinuri sau terapii ar putea la fel de bine să facă agenţii patogeni mai periculoşi.

Într-un caz, un grant sponsorizat de stat a implicat cercetare de tip gain-of-function pe chikungunya, vizând transmisibilitatea şi evadarea imunitară, cu lucrări destinate unui institut de cercetare militară.

Anthropic a spus că propunerea urmărea identificarea mutaţiilor, ingineria acestora în clone infecţioase şi selecţia pentru o virulenţă mai mare la animale.

Alte cazuri au implicat virusuri aviare adaptate la mamifere, evadarea imunitară a ortopoxvirusurilor şi cercetări legate de toxine.

Anthropic a formulat îngrijorarea ca fiind cercetare care ar putea susţine dezvoltarea armelor biologice, mai degrabă decât să afirme că Claude a fost folosit direct pentru a construi o armă biologică.

Schimbarea despre care avertizează Anthropic este levierul. AI poate permite unor grupuri mai mici să încerce sarcini de inginerie, analiză şi software care anterior necesitau echipe mai mari, expertiză mai profundă şi mai mult timp.

Anthropic spune că mecanismele sale de protecţie au detectat sau au perturbat aceste operaţiuni.

Raportul său, însă, arată de ce aceste măsuri de protecţie vor trebui să evolueze pe măsură ce modelele devin mai capabile şi utilizatorii găsesc noi moduri de a transforma AI generală într‑un instrument operaţional practic.