Missili in Yemen e piani per Taiwan: Anthropic segnala abusi pericolosi di Claude

Anthropic afferma di aver interrotto tentativi di utilizzare Claude per lo sviluppo di armi, la sorveglianza di massa e ricerche biologiche potenzialmente pericolose.

I casi sono importanti perché l'IA può comprimere lavori tecnici che una volta richiedevano team e tempi più lunghi.

I casi compaiono nel rapporto di threat intelligence di Anthropic del 10 settembre, che copre attività rilevate tra dicembre 2025 e agosto 2026.

La società ha dichiarato di aver disattivato gli account, rafforzato le misure di sicurezza e condiviso le informazioni con le autorità.

Il rapporto è arrivato giorni dopo che il ricercatore Anthropic Jacob Coxon si è dimesso, avvertendo che i laboratori d'avanguardia stanno correndo verso una superintelligenza auto-migliorante senza sapere come controllare in sicurezza ciò che costruiscono.

Anthropic mette in luce i casi d'uso più allarmanti di Claude

1. Una cellula yemenita ha usato Claude come team di ingegneria software per missili

Il primo caso riguardava una cellula nel nord dello Yemen che seguiva tre programmi di armi guidate.

Anthropic ha detto che il gruppo stava sviluppando un razzo guidato usando un computer di volo di classe smartphone, un missile balistico multistadio con raggio operativo dichiarato superiore a 2.000 chilometri e una famiglia di missili R2000 che includeva una variante a planata ipersonica.

Il gruppo ha usato Claude Code “al posto degli ingegneri software umani”, assegnando istanze del modello alla programmazione, alla ricerca e alla revisione del codice.

Gli attori hanno effettuato un test di lancio di un razzo guidato. Anthropic ha detto che il test sembra essere fallito, con il gruppo che è tornato a usare Claude entro poche ore per indagare cosa fosse andato storto.

L'azienda non ha trovato prove che la cellula abbia schierato un'arma operativa.

2. Sviluppatori basati in Russia hanno lavorato a droni kamikaze autonomi

Un secondo caso ha coinvolto un piccolo team freelance con base in Russia che sviluppava ciò che Anthropic ha descritto come uno sciame di droni kamikaze FPV autonomi full-stack.

Claude è stato usato per sviluppare la coordinazione dello sciame, la guida terminale e il software correlato.

Anthropic ha affermato che il sistema pianificato potrebbe permettere a un modello a bordo di selezionare bersagli, inclusa una classe “persona”, e di emettere comandi di detonazione senza un operatore umano nel ciclo decisionale.

Gli sviluppatori hanno addestrato software di visione artificiale usando filmati di combattimento ucraini e hanno usato località della regione di Donetsk nelle dimostrazioni.

3. Un ricercatore con base in Cina ha modellato obiettivi militari a Taiwan

Anthropic ha detto che un ricercatore con base in Cina, attivo nella difesa e nel complesso militare-industriale, ha usato Claude per costruire una suite per guerra elettronica e soppressione delle difese aeree.

Il software analizzava la copertura radar, i sistemi missilistici superficie-aria, l'efficacia del jamming e l'ordine in cui i bersagli dovevano essere soppressi.

A metà progetto, Anthropic ha osservato l'attore modificare lo scenario predefinito della simulazione portandolo a 12 bersagli a Taiwan, inclusi un bunker di comando, radar di allerta precoce, batterie Patriot e Tien Kung, grandi basi aeree e un quartier generale regionale di comando operativo.

Anthropic ha valutato che l'utente fosse collegato a istituti di ricerca cinesi, inclusa l'Accademia delle Scienze Militari dell'Esercito Popolare di Liberazione (PLA Academy of Military Sciences).

Questa scoperta non dovrebbe essere descritta come prova di un reale piano d'invasione cinese; si trattava di una simulazione di targeting militare costruita da un ricercatore.

4. Un abbonato ha contribuito a costruire una sorveglianza che copre 25 milioni di schede SIM

Anthropic ha detto che un singolo abbonato, valutato come probabilmente un consulente con base a Bamako, ha usato Claude come la “forza lavoro ingegneristica principale” per Lakana 360, una piattaforma di sorveglianza costruita per il servizio di intelligence statale del Mali.

Il sistema era progettato per monitorare circa 25 milioni di schede SIM su tutti e tre gli operatori mobili nazionali.

Poteva raccogliere registri delle chiamate, SMS e traffico voce, creare dossier di intelligence su singoli numeri di telefono, associare le voci tra schede SIM, segnalare utenti di VPN o con comunicazioni cifrate e collegare obiettivi ai registri biometrici nazionali.

Anthropic ha detto che il requisito di un mandato è stato rimosso da un componente generatore di dossier su richiesta dell'operatore.

L'azienda ha bloccato l'account Claude, ma la piattaforma finale è stata eseguita localmente usando un modello on-premises.

L'azione di Anthropic ha dunque interrotto l'ulteriore ingegneria assistita da Claude ma non ha disabilitato il sistema di sorveglianza già distribuito.

5. Scienziati hanno usato Claude per ricerche biologiche potenzialmente pericolose

Anthropic ha descritto cinque casi di uso improprio in ambito biologico ma ha detto di non poter sempre determinare se gli scienziati coinvolti avessero intenzione di arrecare danno.

La società ha sottolineato la natura a doppio uso di tali lavori, in cui ricerche che potrebbero aiutare vaccini o terapie potrebbero anche rendere i patogeni più pericolosi.

In un caso, una sovvenzione sponsorizzata dallo stato riguardava ricerche di gain-of-function sul chikungunya mirate alla trasmissibilità e all'evasione immunitaria, con lavori destinati a un istituto di ricerca militare.

Anthropic ha detto che la proposta mirava a identificare mutazioni, inserirle in cloni infettivi e selezionare una maggiore virulenza negli animali.

Altri casi coinvolgevano influenza aviaria adattata ai mammiferi, evasione immunitaria di orthopoxvirus e ricerche relative a tossine.

Anthropic ha inquadrato la preoccupazione come ricerca che potrebbe supportare lo sviluppo di armi biologiche, piuttosto che affermare che Claude sia stato direttamente usato per costruire un'arma biologica.

Il cambiamento di cui Anthropic avverte è la leva: l'IA può consentire a gruppi più piccoli di tentare attività di ingegneria, analisi e sviluppo software che in precedenza richiedevano team più numerosi, competenze più profonde e più tempo.

Anthropic afferma che le sue salvaguardie hanno rilevato o interrotto queste operazioni.

Tuttavia il suo rapporto mostra perché quelle salvaguardie dovranno continuare a evolversi man mano che i modelli diventano più capaci e gli utenti trovano nuovi modi per trasformare l'IA general-purpose in uno strumento operativo pratico.