Fra Jemen-raketter til Taiwan: Anthropic varsler om alarmerende misbruk av Claude

Anthropic sier de har avbrutt forsøk på å bruke Claude til våpenutvikling, masseovervåkning og potensiell farlig biologisk forskning.

Sakene er viktige fordi kunstig intelligens kan komprimere teknisk arbeid som tidligere krevde team og lengre tidshorisonter.

Sakene fremkommer i Anthropics trussel-intelligensrapport av 10. september, som dekker aktivitet oppdaget mellom desember 2025 og august 2026.

Selskapet opplyser at de stengte kontoer, styrket sikkerhetstiltak og delte etterretning med relevante myndigheter.

Rapporten kom dager etter at Anthropic-forskeren Jacob Coxon sa opp, og advarte om at framoverskutte laboratorier konkurrerer mot hverandre mot selvforbedrende superintelligens uten å vite hvordan de trygt skal kontrollere det de bygger.

Anthropic avslører Claudes mest alarmerende misbrukstilfeller

1. Jemen-celle brukte Claude som et rakettprogrammeringsteam

Det første tilfellet involverte en celle i Nord-Jemen som arbeidet med tre programmer for presisjonsstyrte våpen.

Anthropic opplyste at gruppen utviklet en styrt rakett med en telefonklasse flydatamaskin, en flerstegs ballistisk rakett med oppgitt rekkevidde over 2 000 kilometer, og en R2000-rakettfamilie som inkluderte en hypersonisk glidevariant.

Gruppen brukte Claude Code “i stedet for menneskelige programvareingeniører”, og tildelte modellinstanser til koding, forskning og kodegjennomgang.

Aktorene avfyrte en styrt rakett i en test. Anthropic sa testen så ut til å mislykkes, og at gruppen returnerte til Claude innen timer for å undersøke hva som gikk galt.

Selskapet fant ingen bevis for at cellen satte i drift et operativt våpen.

2. Russland-baserte utviklere jobbet med autonome kamikazedroner

Et annet tilfelle involverte et lite, Russland-basert frilanslag som utviklet det Anthropic beskrev som en fullstack autonom FPV-kamikazedrone-sverm.

Claude ble brukt til å utvikle svermkoordinering, terminalnavigasjon og tilhørende programvare.

Anthropic sa at det planlagte systemet kunne la en ombordmodell velge mål, inkludert en målklasse «person», og utstede detonasjonskommandoer uten menneskelig innblanding.

Utviklerne trente datamaskinvisjonsprogramvare med ukrainsk kampvideo og brukte lokasjoner i Donetsk oblast i demonstrasjoner.

3. Kina-basert forsker modellerte militære mål i Taiwan

Anthropic opplyste at en Kina-basert forsker innen forsvar og forsvarsindustri brukte Claude til å bygge en pakke for elektronisk krigføring og undertrykking av luftforsvar.

Programvaren analyserte radardekning, luftvernssystemer, jamming-effektivitet og rekkefølgen mål bør undertrykkes i.

Midt i prosjektet observerte Anthropic at brukeren endret simuleringens standardscenario til 12 mål i Taiwan, inkludert et kommandobunker, tidligvarselradar, Patriot- og Tien Kung-batterier, større flybaser og et regionalt kampkontorkommando.

Anthropic vurderte brukeren som knyttet til kinesiske forskningsinstitusjoner, inkludert PLA Academy of Military Sciences.

Funnet bør ikke beskrives som bevis for en faktisk kinesisk invasjon; det var en militær målsimulering bygd av en forsker.

4. Én abonnent hjalp til med overvåkning av omtrent 25 millioner SIM-kort

Anthropic sa at én abonnent, vurdert som trolig en konsulent basert i Bamako, brukte Claude som «primær ingeniørkraft» for Lakana 360, en overvåkingsplattform bygget for Malis statlige etterretningstjeneste.

Systemet var utformet for å overvåke om lag 25 millioner SIM-kort på tvers av alle tre nasjonale mobiloperatører.

Det kunne samle anropslogger, tekstmeldinger og taletrafikk, opprette etterretningsmapper på enkelttelefonnumre, matche stemmer på tvers av SIM-kort, flagge VPN- eller krypteringsbrukere og koble mål mot nasjonale biometriske registre.

Anthropic opplyste at krav om dommerkjennelse ble fjernet fra en komponent som genererte mapper, etter anmodning fra operatøren.

Selskapet sperret Claude-kontoen, men den endelige plattformen kjørte lokalt ved hjelp av en on-premises modell.

Anthropics tiltak stoppet derfor videre Claude-assistert ingeniørarbeid, men de deaktiverte ikke det utplasserte overvåkingssystemet.

5. Forskere brukte Claude til potensielt farlig biologisk forskning

Anthropic beskrev fem tilfeller av biologisk misbruk, men sa at de ikke alltid kunne avgjøre om de involverte forskerne hadde intensjon om å skade.

Selskapet understreket den dobbelte bruken av slik forskning, hvor arbeid som kan hjelpe vaksiner eller terapier også kan gjøre patogener farligere.

I ett tilfelle involverte en statlig finansiert stipendiat gain-of-function-forskning på chikungunya rettet mot smittsomhet og immunevasjon, med arbeid ment for et militært forskningsinstitutt.

Anthropic sa at forslaget søkte å identifisere mutasjoner, bygge dem inn i infektive kloner og selektere for økt virulens i dyr.

Andre tilfeller involverte fugleinfluensa tilpasset pattedyr, orthopoxvirus immunevasjon og toksinrelatert forskning.

Anthropic rammet inn bekymringen som forskning som kunne støtte utvikling av biologiske våpen, snarere enn å hevde at Claude direkte ble brukt til å bygge et biologisk våpen.

Endringen Anthropic advarer om er løftestangseffekten. AI kan la mindre grupper forsøke ingeniør-, analyse- og programvareoppgaver som tidligere krevde større team, dypere ekspertise og mer tid.

Anthropic sier at deres sikkerhetstiltak oppdaget eller forstyrret disse operasjonene.

Deres rapport viser likevel hvorfor disse sikkerhetsmekanismene må fortsette å utvikle seg etter hvert som modellene blir mer kapable og brukere finner nye måter å gjøre generell AI om til praktiske operative verktøy.