Misil Yaman hingga sasaran Taiwan: Anthropic dedah kes salah guna Claude

Anthropic berkata ia telah menggagalkan cubaan menggunakan Claude untuk pembangunan senjata, pemantauan besar-besaran dan penyelidikan biologi yang berpotensi berbahaya.

Kes-kes ini penting kerana AI boleh memampatkan kerja teknikal yang dahulunya memerlukan pasukan dan tempoh masa lebih lama.

Kes-kes ini muncul dalam laporan risikan ancaman Anthropic 10 September, merangkumi aktiviti yang dikesan antara Disember 2025 dan Ogos 2026.

Syarikat itu berkata ia menamatkan akaun, memperkukuh langkah keselamatan dan berkongsi risikan dengan pihak berkuasa.

Laporan itu dikeluarkan beberapa hari selepas penyelidik Anthropic Jacob Coxon meletak jawatan, yang memberi amaran bahawa makmal peringkat hadapan sedang berlumba ke arah superintelligence yang boleh memperbaiki diri sendiri tanpa mengetahui cara mengawalnya dengan selamat.

Anthropic mendedahkan kes salah guna Claude yang paling membimbangkan

1. Sel di utara Yaman menggunakan Claude sebagai pasukan kejuruteraan perisian misil

Kes pertama melibatkan sebuah sel di utara Yaman yang meneruskan tiga program senjata berpandu.

Anthropic berkata kumpulan itu sedang membangunkan roket berpandu yang menggunakan komputer penerbangan setaraf telefon, misil balistik berbilang peringkat dengan julat dinyatakan melebihi 2,000 kilometer, dan keluarga misil R2000 yang termasuk varian gelincir hipersonik.

Kumpulan itu menggunakan Claude Code “sebagai ganti jurutera perisian manusia”, menugaskan contoh model untuk pengekodan, penyelidikan dan semakan kod.

Para pelaku melakukan tembakan uji roket berpandu. Anthropic berkata ujian itu nampaknya gagal, dengan kumpulan itu kembali kepada Claude dalam beberapa jam untuk menyiasat apa yang tidak kena.

Syarikat itu tidak menemui bukti bahawa sel tersebut mengerahkan senjata yang beroperasi.

2. Pembangun berpangkalan di Rusia bekerja pada dron kamikaze autonomi

Kes kedua melibatkan sebuah pasukan bebas kecil berpangkalan di Rusia yang membangunkan apa yang digambarkan oleh Anthropic sebagai gerombolan dron kamikaze FPV autonomi sepenuhnya (full-stack).

Claude digunakan untuk membangunkan koordinasi gerombolan, panduan terminal dan perisian berkaitan.

Anthropic berkata sistem yang dirancang itu boleh membolehkan model di atas kapal memilih sasaran, termasuk kelas sasaran “individu”, dan mengeluarkan arahan pencetus letupan tanpa campur tangan manusia.

Pembangun itu melatih perisian penglihatan komputer menggunakan rakaman pertempuran Ukraine dan menggunakan lokasi di Oblast Donetsk dalam demonstrasi.

3. Penyelidik berpangkalan di China memodelkan sasaran ketenteraan di Taiwan

Anthropic berkata seorang penyelidik pertahanan dan industri ketenteraan berpangkalan di China menggunakan Claude untuk membina satu suite peperangan elektronik dan penindasan pertahanan udara.

Perisian itu menganalisis liputan radar, sistem misil darat-ke-udara, keberkesanan gangguan dan susunan sasaran yang harus ditindas.

Di tengah projek, Anthropic memerhati pelaku menukar senario lalai simulasi kepada 12 sasaran di Taiwan, termasuk bunker kawalan, radar amaran awal, bateri Patriot dan Tien Kung, pangkalan udara utama dan ibu pejabat perintah tempur serantau.

Anthropic menilai pengguna itu mempunyai kaitan dengan institusi penyelidikan China, termasuk Akademi Sains Ketenteraan PLA.

Penemuan itu tidak boleh digambarkan sebagai bukti tentang rancangan pencerobohan sebenar oleh China; ia adalah simulasi penargetan ketenteraan yang dibina oleh seorang penyelidik.

4. Seorang pelanggan membantu membina pemantauan yang merangkumi 25 juta kad SIM

Anthropic berkata seorang pelanggan tunggal, dinilai kemungkinan seorang perunding yang berpangkalan di Bamako, menggunakan Claude sebagai “tenaga kerja kejuruteraan utama” untuk Lakana 360, platform pemantauan yang dibina untuk perkhidmatan perisikan negara Mali.

Sistem itu direka untuk memantau sekitar 25 juta kad SIM merentasi ketiga-tiga operator mudah alih negara.

Ia boleh mengumpul rekod panggilan, teks dan trafik suara, mencipta dossier risikan mengenai nombor telefon individu, memadankan suara merentasi kad SIM, menandakan pengguna VPN atau penyulitan dan menghubungkan sasaran dengan rekod biometrik negara.

Anthropic berkata keperluan waran telah dikeluarkan dari salah satu komponen penjana dossier atas permintaan operator tersebut.

Syarikat itu mengharamkan akaun Claude, tetapi platform akhir berjalan secara tempatan menggunakan model di premis (on-premises).

Tindakan Anthropic dengan itu menghentikan kejuruteraan yang dibantu Claude seterusnya tetapi tidak mematikan sistem pemantauan yang telah digerakkan.

5. Saintis menggunakan Claude untuk penyelidikan biologi yang berpotensi berbahaya

Anthropic menerangkan lima kajian kes penyalahgunaan biologi tetapi berkata ia tidak selalu dapat menentukan sama ada saintis yang terlibat berniat menyebabkan kecederaan.

Syarikat itu menekankan sifat penggunaan dua hala bagi kerja sedemikian, di mana penyelidikan yang boleh membantu vaksin atau terapeutik juga boleh menjadikan patogen lebih berbahaya.

Dalam satu kes, geran yang ditaja negara melibatkan penyelidikan gain-of-function pada chikungunya yang bertujuan kepada kebolehpindahan dan pengelakan imun, dengan kerja yang dimaksudkan untuk sebuah institut penyelidikan ketenteraan.

Anthropic berkata cadangan itu berusaha mengenal pasti mutasi, merekanya ke dalam klon berjangkit dan memilih untuk meningkatkan virulensi pada haiwan.

Kes lain melibatkan influenza avia yang telah menyesuaikan diri kepada mamalia, pengelakan imun orthopoxvirus dan penyelidikan berkaitan toksin.

Anthropic menggambarkan kebimbangan itu sebagai penyelidikan yang boleh menyokong pembangunan senjata biologi, bukannya menuduh bahawa Claude digunakan secara langsung untuk membina bio-senjata.

Perubahan yang Anthropic beri amaran ialah kuasa pengungkit. AI boleh membolehkan kumpulan lebih kecil mencuba tugasan kejuruteraan, analisis dan perisian yang sebelum ini memerlukan pasukan lebih besar, kepakaran lebih mendalam dan masa lebih lama.

Anthropic berkata langkah keselamatannya mengesan atau menggagalkan operasi ini.

Namun, laporannya menerangkan mengapa langkah-langkah keselamatan itu perlu terus berkembang seiring model menjadi lebih berkemampuan dan pengguna menemui cara baru untuk mengubah AI serba guna menjadi alat operasi yang praktikal.