Yemen-missiler til Taiwan-planer: Anthropic advarer om alarmerende misbrug af Claude

Anthropic siger, at virksomheden har forpurret forsøg på at bruge Claude til våbenudvikling, masseovervågning og potentielt farlig biologisk forskning.

Sagerne er vigtige, fordi AI kan komprimere teknisk arbejde, som tidligere krævede større teams og længere tidsrammer.

Sagerne fremgår af Anthropic’s trusselsintelligensrapport af 10. september, som dækker aktivitet registreret mellem december 2025 og august 2026.

Virksomheden oplyste, at den har lukket konti, styrket sikkerhedsforanstaltninger og delt efterretninger med myndighederne.

Rapporten kom få dage efter Anthropic-forskeren Jacob Coxon trådte tilbage, hvor han advarede om, at frontlinjelaboratorier løber mod selvforbedrende superintelligens uden at vide, hvordan de sikkert kan kontrollere det, de bygger.

Anthropic afslører Claudes mest alarmerende misbrugstilfælde

1. En celle i Yemen brugte Claude som softwareingeniørteam til missiler

Den første sag involverede en celle i det nordlige Yemen, der arbejdede på tre programmer for styrede våben.

Anthropic sagde, at gruppen udviklede en styret raket med en telefonklasse flyvecomputer, et flerstadie-ballistisk missil med en angivet rækkevidde på over 2.000 kilometer og en R2000-missilfamilie, der inkluderede en hypersonisk glidevariant.

Gruppen brugte Claude Code "i stedet for menneskelige softwareingeniører", idet de tildelte modelinstanser til kodning, research og kodegennemgang.

Aktørerne gennemførte en testaffyring af en styret raket. Anthropic sagde, at testen tilsyneladende mislykkedes, og at gruppen vendte tilbage til Claude inden for timer for at undersøge, hvad der gik galt.

Virksomheden fandt ingen beviser for, at cellen havde sat et operationelt våben i drift.

2. Udviklere med base i Rusland arbejdede på autonome kamikaze-droner

En anden sag involverede et lille frilanceteam med base i Rusland, der udviklede det, Anthropic beskrev som en fuld-stack autonom FPV kamikaze-dronesværm.

Claude blev brugt til at udvikle sværmkoordination, terminalnavigation og relateret software.

Anthropic sagde, at det planlagte system kunne gøre det muligt for en ombordmodel at vælge mål, herunder en "person"-målklasse, og udsende detonationskommandoer uden menneskelig indgriben.

Udviklerne trænede computer-vision-software med ukrainsk kampmateriale og brugte lokaliteter i Donetsk Oblast i demonstrationer.

3. Forsker med base i Kina modellerede militære mål i Taiwan

Anthropic sagde, at en Kina-baseret forsker inden for forsvar og militærindustri brugte Claude til at bygge en suite til elektronisk krigsførelse og undertrykkelse af luftforsvar.

Softwaren analyserede radardækning, jord-til-luft-missilsystemer, effektiviteten af jamming og rækkefølgen, hvori mål bør undertrykkes.

Midtvejs i projektet observerede Anthropic, at aktøren ændrede simulationens standardscenario til 12 mål i Taiwan, herunder en kommandobunker, tidligvarselsradar, Patriot- og Tien Kung-batterier, større flybaser og et regionalt kampkommando-hovedkvarter.

Anthropic vurderede brugeren som knyttet til kinesiske forskningsinstitutioner, herunder PLA Academy of Military Sciences.

Resultatet bør ikke omtales som bevis for en egentlig kinesisk invasionsplan; det var en militær målretningssimulation udarbejdet af en forsker.

4. Én abonnent hjalp med at bygge overvågning, der dækkede 25 millioner SIM-kort

Anthropic sagde, at en enkelt abonnent, vurderet som sandsynligvis en konsulent med base i Bamako, brugte Claude som den "primære ingeniørarbejdsstyrke" for Lakana 360, en overvågningsplatform bygget til Malis statslige efterretningstjeneste.

Systemet var designet til at overvåge cirka 25 millioner SIM-kort på tværs af landets tre mobiloperatører.

Det kunne indsamle opkaldsregistre, sms'er og taletrafik, oprette efterretningsmapper om individuelle telefonnumre, matche stemmer på tværs af SIM-kort, markere VPN- eller krypteringsbrugere og koble mål med nationale biometriske optegnelser.

Anthropic sagde, at kravet om retskendelse blev fjernet fra en af de komponenter, der genererer dosser, efter operatørens anmodning.

Virksomheden indstillede Claude-kontoen, men den færdige platform kørte lokalt med en lokalt hostet model.

Antrhopics indgreb standsede derfor yderligere Claude-assisteret ingeniørarbejde, men de deaktiverede ikke det udrullede overvågningssystem.

5. Forskere brugte Claude til potentielt farlig biologisk forskning

Anthropic beskrev fem tilfælde af biologisk misbrug, men sagde, at de ikke altid kunne fastslå, om de involverede forskere havde til hensigt at forvolde skade.

Virksomheden understregede den dobbelte anvendelighed af sådant arbejde, hvor forskning, der kan hjælpe vacciner eller terapier, også kan gøre patogener farligere.

I ét tilfælde involverede et statssponsoreret tilskud gain-of-function-forskning på chikungunya med fokus på smitsomhed og immununddragelse, og arbejdet var tiltænkt et militært forskningsinstitut.

Anthropic sagde, at forslaget havde til formål at identificere mutationer, indføre dem i infektive kloner og selektere for større virulens hos dyr.

Andre tilfælde involverede fugleinfluenza tilpasset pattedyr, orthopoxvirus-immununddragelse og toksinrelateret forskning.

Anthropic rammesatte bekymringen som forskning, der kunne støtte udvikling af biologiske våben, snarere end at hævde, at Claude direkte blev brugt til at bygge et biologisk våben.

Det, Anthropic advarer om, er forstærkningseffekten: AI kan gøre det muligt for mindre grupper at forsøge ingeniør-, analyse- og softwareopgaver, som tidligere krævede større teams, mere ekspertise og længere tid.

Anthropic siger, at dets sikkerhedsforanstaltninger opdagede eller forpurrede disse operationer.

Rapporten viser dog, hvorfor disse sikkerhedsforanstaltninger hele tiden må udvikle sig, efterhånden som modeller bliver mere kapable, og brugere finder nye måder at gøre generel AI til et praktisk operationelt værktøj.