Jemen, Taiwan ja vakoilu: Anthropic paljastaa Clauden vaaralliset väärinkäytöt

Anthropic kertoo estäneensä yrityksiä käyttää Claudea aseiden kehittämiseen, laajamittaiseen vakoiluun ja mahdollisesti vaaralliseen biologiseen tutkimukseen.

Tapaukset ovat merkittäviä, koska tekoäly voi tiivistää teknistä työtä, joka aiemmin vaati tiimejä ja pidempiä aikatauluja.

Tapaukset esiintyvät Anthropicin 10. syyskuuta julkaistussa uhkatiedusteluraportissa, joka kattaa joulukuun 2025 ja elokuun 2026 välisenä aikana havaitun toiminnan.

Yritys sanoi lopettaneensa tilejä, vahvistaneensa suojatoimia ja jakaneensa tiedustelutietoa viranomaisille.

Raportti tuli päivien kuluttua siitä, kun Anthropicin tutkija Jacob Coxon erosi, varoittaen, että huippulaboratoriot rientävät kohti itsensä parantavaa superälykkyyttä ilman varmuutta siitä, miten rakentamaansa valvotaan turvallisesti.

Anthropic paljastaa Clauden huolestuttavimmat väärinkäyttötapaukset

1. Pohjois-Jemenin solu käytti Claudea ohjusohjelmiston insinööriryhmänä

Ensimmäinen tapaus koski pohjois-Jemenissä toiminutta solua, joka pyrki kolmeen ohjattuun aseohjelmaan.

Anthropic kertoi, että ryhmä kehitti puhelinluokan lennontietokoneella toimivaa ohjattua rakettia, monivaiheista ballistista ohjusta, jonka ilmoitettu kantama ylitti 2 000 kilometriä, ja R2000-ohjusperheen, johon kuului hypersoninen liukuvaihtoehto.

Ryhmä käytti Claude Codea "ihmisinsinöörien sijaan", kohdistamalla malli-instansseja koodaukseen, tutkimukseen ja koodin tarkastukseen.

Toimijat testasivat ohjattua rakettia. Anthropicin mukaan testi näytti epäonnistuneen, ja ryhmä palasi tunneissa Claudeen tutkiakseen, mikä meni pieleen.

Yritys ei löytänyt todisteita siitä, että solu olisi ottanut käyttöön toiminnallista asetta.

2. Venäjällä toimineet kehittäjät työskentelivät autonomisten kamikaze-droonien parissa

Toinen tapaus koski pientä Venäjällä toimivaa freelance-tiimiä, joka kehitti Anthropicin kuvauksen mukaan kokonaisvaltaista autonomista FPV-kamikaze-drooniparvea.

Claudea käytettiin parven koordinoinnin, loppuohjauksen ja siihen liittyvän ohjelmiston kehittämiseen.

Anthropic kertoi, että suunniteltu järjestelmä voisi sallia aluksella olevan mallin valita kohteita, mukaan lukien "henkilö"-kohdeluokka, ja antaa räjäytyskäskyjä ilman ihmistä silmukassa.

Kehittäjät kouluttivat konenäköohjelmistoa käyttäen ukrainalaista taistelukuvaa ja hyödynsivät demonstratioissa sijainteja Donetskin alueelta.

3. Kiinassa toimiva tutkija mallinsi sotilaskohteita Taiwanissa

Anthropic kertoi, että Kiinassa toimiva puolustus- ja sotateollisuustutkija käytti Claudea elektronisen sodankäynnin ja ilmatorjunnan tukahduttamiseen tarkoitetun kokonaisuuden rakentamiseen.

Ohjelmisto analysoi tutkan peittoaluetta, pinta–ilma-ohjusjärjestelmiä, häirinnän tehokkuutta ja sitä, missä järjestyksessä kohteet tulisi tukahduttaa.

Hankkeen puolivälissä Anthropic havaitsi toimijan vaihtaneen simulaation oletusskenaarion 12 kohteeseen Taiwanissa, mukaan lukien johtobunkkeri, ennakkovaroitustutka, Patriot- ja Tien Kung -paristot, merkittävät lentotukikohdat ja alueellinen taistelukomentokeskus.

Anthropic arvioi käyttäjän olevan sidoksissa kiinalaisiin tutkimuslaitoksiin, mukaan lukien PLA Academy of Military Sciences.

Tätä löydöstä ei tulisi kuvata todisteena todellisesta kiinalaisesta hyökkäyssuunnitelmasta; kyse oli tutkijan rakentamasta sotilaskohteiden simuloinnista.

4. Yksi tilaaja auttoi rakentamaan valvontajärjestelmän, joka kattoi 25 miljoonaa SIM-korttia

Anthropic kertoi, että yksi tilaaja, jonka arvioitiin todennäköisesti olevan Bamakossa toimiva konsultti, käytti Claudea Lakana 360 -valvonta-alustan "ensisijaisena insinöörityövoimana". Alusta rakennettiin Malin valtion tiedustelupalvelulle.

Järjestelmä suunniteltiin valvomaan noin 25 miljoonaa SIM-korttia kaikkien kolmen kansallisen mobiilioperaattorin verkossa.

Se pystyi keräämään puhelutietoja, tekstiviestejä ja ääniliikennettä, luomaan tiedustelukansioita yksittäisistä puhelinnumeroista, yhdistämään ääniä eri SIM-korteilta, merkitsemään VPN- tai salauskäyttäjiä ja yhdistämään kohteita kansallisiin biometrisiin rekistereihin.

Anthropic kertoi, että operaattorin pyynnöstä yhdeltä asiakirjoja tuottavalta osalta poistettiin vaatimus oikeusluvan hankkimisesta.

Yritys sulki Clauden tilin, mutta lopullinen alusta ajettiin paikallisesti käyttäen paikallista mallia (on‑premises).

Anthropicin toimenpide pysäytti siksi lisäkehityksen, jossa Claude avusti, mutta ei poistanut käytöstä jo otettua valvontajärjestelmää.

5. Tutkijat käyttivät Claudea mahdollisesti vaaralliseen biologiseen tutkimukseen

Anthropic kuvasi viisi biologisen väärinkäytön tapaustutkimusta, mutta sanoi, ettei se aina kyennyt määrittämään, oliko tutkijoilla tarkoitus aiheuttaa vahinkoa.

Yritys korosti tällaisten töiden kaksoiskäyttöluonnetta: tutkimus, joka voisi auttaa rokotteiden tai hoitojen kehitystä, voisi samalla tehdä taudinaiheuttajista vaarallisempia.

Yhdessä tapauksessa valtion rahoittama apuraha sisälsi gain-of-function-tutkimusta chikungunyan osalta, jossa pyrittiin tarttuvuuden ja immuunivälttelyn ymmärtämiseen, ja työ oli tarkoitettu sotilaalliselle tutkimuslaitokselle.

Anthropic kertoi, että ehdotus pyrki tunnistamaan mutaatioita, rakentamaan ne infektiivisiin klooneihin ja valikoimaan eläimissä suurempaa virulenssia.

Muut tapaukset liittyivät nisäkkäisiin sopeutuneeseen lintuinfluenssaan, orthopox‑viruksen immuunivälttelyyn ja toksiineihin liittyvään tutkimukseen.

Anthropic asetti huolen tutkimukseksi, joka voisi tukea biologisten aseiden kehittämistä, sen sijaan että se olisi väittänyt Clauden suoraan käytetyn bioluotettavan asekehityksen rakentamiseen.

Anthropicin varoittama muutos on vipuvaikutus: tekoäly voi antaa pienemmille ryhmille mahdollisuuden yrittää insinööri-, analyysi- ja ohjelmistotehtäviä, jotka aiemmin vaativat suurempia tiimejä, syvempää asiantuntemusta ja enemmän aikaa.

Anthropic sanoo, että sen suojatoimet havaitsivat tai keskeyttivät nämä toimet.

Raportti kuitenkin osoittaa, miksi suojatoimien on jatkettava kehittymistä, kun mallit muuttuvat kykenevämmiksi ja käyttäjät löytävät uusia tapoja muuttaa yleiskäyttöinen tekoäly käytännölliseksi operatiiviseksi työkaluksi.