Jemen-raketten tot Taiwan-aanvalsplannen: Anthropic waarschuwt voor misbruik van Claude

Anthropic zegt dat het pogingen heeft verstoord om Claude te gebruiken voor wapenontwikkeling, grootschalige surveillance en potentieel gevaarlijk biologisch onderzoek.

De gevallen zijn belangrijk omdat AI technisch werk kan comprimeren dat voorheen teams en langere doorlooptijden vereiste.

De zaken staan in het dreigingsinformatierapport van Anthropic van 10 september, dat activiteiten bestrijkt die tussen december 2025 en augustus 2026 zijn gedetecteerd.

Het bedrijf zei dat het accounts heeft beëindigd, beschermingsmaatregelen heeft aangescherpt en inlichtingen met autoriteiten heeft gedeeld.

Het rapport verscheen dagen nadat onderzoeker Jacob Coxon van Anthropic ontslag nam, en waarschuwde dat grensverleggende laboratoria naar zelfverbeterende superintelligentie racen zonder te weten hoe ze hetgeen ze bouwen veilig kunnen beheersen.

Anthropic onthult de meest verontrustende misbruikgevallen van Claude

1. Jemen-cel gebruikte Claude als raketsoftware-ingenieursteam

De eerste zaak betrof een cel in het noorden van Jemen die drie geleide-wapenprogramma's nastreefde.

Anthropic zei dat de groep een geleide raket ontwikkelde met een vluchtcomputer van telefoonklasse, een meertraps ballistische raket met een opgegeven bereik van meer dan 2.000 kilometer, en een R2000-raketfamilie die een hypersonische glide-variant omvatte.

De groep gebruikte Claude Code 'in plaats van menselijke software-ingenieurs', en wees modelinstanties toe voor codering, onderzoek en code-review.

De actoren voerden een testafschot uit met een geleide raket. Anthropic zei dat de test leek te mislukken, waarna de groep binnen enkele uren terugkeerde naar Claude om te onderzoeken wat er misging.

Het bedrijf vond geen bewijs dat de cel een operationeel wapen heeft ingezet.

2. In Rusland gevestigde ontwikkelaars werkten aan autonome kamikaze-drones

Een tweede zaak betrof een klein in Rusland gevestigd freelance-team dat, volgens Anthropic, een full-stack autonoom FPV-kamikaze-dronezwerm ontwikkelde.

Claude werd gebruikt om zwermcoördinatie, eindgeleiding en bijbehorende software te ontwikkelen.

Anthropic zei dat het geplande systeem een boordmodel zou kunnen toestaan doelen te selecteren, waaronder een 'persoon'-doelklasse, en detonatieopdrachten te geven zonder menselijke tussenkomst.

De ontwikkelaars trainden beeldherkenningssoftware met Oekraïense gevechtsbeelden en gebruikten locaties in de oblast Donetsk bij demonstraties.

3. In China gevestigde onderzoeker modelleerde militaire doelen in Taiwan

Anthropic zei dat een in China gevestigde defensie- en militair-industriële onderzoeker Claude gebruikte om een pakket voor elektronische oorlogsvoering en onderdrukking van luchtafweer te bouwen.

De software analyseerde radardekking, luchtdoelraketsystemen, de effectiviteit van jamming en de volgorde waarin doelen moeten worden onderdrukt.

Halverwege het project zag Anthropic dat de actor het standaardscenario van de simulatie wijzigde naar 12 doelen in Taiwan, waaronder een commandobunker, vroegwaarschuwingsradar, Patriot- en Tien Kung-batterijen, grote luchtbases en het hoofdkwartier van een regionaal gevechtscommando.

Anthropic beoordeelde de gebruiker als gelinkt aan Chinese onderzoeksinstituten, waaronder de PLA Academy of Military Sciences.

De bevinding mag niet worden opgevat als bewijs van daadwerkelijke Chinese invasieplannen; het was een door een onderzoeker gebouwde militaire doelsimulatie.

4. Eén abonnee hielp bij het bouwen van surveillance die 25 miljoen SIM-kaarten beslaat

Anthropic zei dat een enkele abonnee, beoordeeld als waarschijnlijk een in Bamako gevestigde consultant, Claude gebruikte als de 'primaire ingenieurskracht' voor Lakana 360, een surveillancesysteem gebouwd voor de staatsinlichtingendienst van Mali.

Het systeem was ontworpen om ongeveer 25 miljoen SIM-kaarten te monitoren bij alle drie de nationale mobiele operators.

Het kon belgegevens, sms'jes en spraakverkeer verzamelen, inlichtendossiers aanmaken over individuele telefoonnummers, stemmen over SIM-kaarten matchen, VPN- of encryptiegebruikers markeren en doelwitten koppelen aan nationale biometrische gegevens.

Anthropic zei dat de eis voor een gerechtelijk bevel uit één dossiergenererende component was verwijderd op verzoek van de operator.

Het bedrijf verbood het Claude-account, maar het uiteindelijke platform draaide lokaal met behulp van een on-premises-model.

De actie van Anthropic stopte dus verder Claude-ondersteund engineering, maar schakelde het ingezet surveillancesysteem niet uit.

5. Wetenschappers gebruikten Claude voor potentieel gevaarlijk biologisch onderzoek

Anthropic beschreef vijf casestudies van biologisch misbruik, maar zei dat het niet altijd kon vaststellen of de betrokken wetenschappers schade beoogden.

Het bedrijf benadrukte het dual-use-karakter van dergelijk werk, waarbij onderzoek dat vaccins of therapieën kan bevorderen ook ziekteverwekkers gevaarlijker kan maken.

In één geval betrof een door de staat gesponsorde subsidie gain-of-function-onderzoek naar chikungunya, gericht op overdraagbaarheid en immuunontwijking, met werk bestemd voor een militair onderzoeksinstituut.

Anthropic zei dat het voorstel erop gericht was mutaties te identificeren, deze in infectieuze klonen te introduceren en te selecteren voor grotere virulentie in dieren.

Andere gevallen betroffen vogelgriep aangepast aan zoogdieren, immuunontwijking bij orthopoxvirussen en toxinegerelateerd onderzoek.

Anthropic formuleerde de zorg als onderzoek dat biologische-wapenontwikkeling zou kunnen ondersteunen, in plaats van te beweren dat Claude direct werd gebruikt om een biowapen te bouwen.

De verandering waar Anthropic voor waarschuwt is hefboomwerking. AI kan kleinere groepen in staat stellen engineering-, analyse- en softwaretaken te proberen die voorheen grotere teams, diepere expertise en meer tijd vergden.

Anthropic zegt dat zijn beschermingsmaatregelen deze operaties hebben gedetecteerd of verstoord.

Het rapport toont echter aan waarom die beschermingsmaatregelen zich zullen moeten blijven ontwikkelen naarmate modellen krachtiger worden en gebruikers nieuwe manieren vinden om algemeen toepasbare AI tot een praktisch operationeel hulpmiddel te maken.