Pertembungan Anthropic-Pentagon: siapa dipersalahkan jika AI membunuh?

Bagaimana jika AI membunuh orang awam?

Itu bukan lagi tajuk spekulatif — ia adalah soalan yang Pentagon dengan senyap mengabaikan dalam doktrin barunya.

Strategi AI Jabatan Pertahanan AS bertarikh 9 Januari 2026 mengandungi satu baris yang mungkin kekal melebihi memo itu sendiri:

“Kita mesti menerima bahawa risiko tidak bergerak cukup cepat melebihi risiko penjajaran yang tidak sempurna.”

Ia merupakan salah satu pengakuan rasmi yang paling jelas setakat ini bahawa, di dalam institusi pertahanan AS, keutamaan telah berubah.

Matlamat bukan lagi untuk memperlahankan AI sehingga akauntabiliti mengejar, tetapi untuk bergerak lebih pantas — dan menangani akibatnya kemudian.

Logik itu melompat dari kertas ke realiti dalam beberapa minggu, apabila Anthropic bertembung dengan Pentagon atas sekatan penggunaan ketenteraan.

Syarikat itu segera dimasukkan ke dalam daftar hitam selepas enggan menerima terma "sebarang penggunaan yang sah" yang lebih luas.

Memo yang mencetuskan perdebatan itu lebih daripada jargon birokratik.

Memo itu mengarahkan Jabatan menjadi kekuatan perang "berpaksikan AI", melatih model termaju ke dalam sistem ketenteraan dalam 30 hari selepas pelepasan awam, dan menyulam AI "dari perancangan kempen hingga pelaksanaan rantaian bunuh."

Dokumen itu bahkan mengarahkan agensi menggunakan model "bebas daripada kekangan dasar penggunaan" dan memasukkan bahasa "sebarang penggunaan yang sah" ke dalam semua kontrak perkhidmatan AI dalam tempoh enam bulan.

Ini bukan perdebatan jauh tentang etika masa depan. Ia adalah arahan perolehan, pergeseran dasar, dan perlumbaan penerapan yang sedang berlangsung.

Dan ia meninggalkan satu persoalan yang menghantui:

Apabila sistem yang dipacu AI menghasilkan serangan tidak sah — siapa yang bertanggungjawab?

Undang-undang masih menganggap niat manusia, kuasa komando, dan pertimbangan. Namun AI ketenteraan moden dibina untuk mengecilkan garis masa, mengaburkan rantaian keputusan, dan menggandakan pelaku sehingga tiada siapa yang jelas memiliki hasilnya.

Di situ masalah akauntabiliti bukan sahaja bermula — ia dipercepatkan.

Peraturannya jelas, akauntabiliti tidak

Kesilapan pertama dalam perdebatan ini ialah menganggap senjata autonomi berada di luar undang-undang.

Tidak.

Undang-undang kemanusiaan antarabangsa masih terpakai. Negara-negara masih boleh dipertanggungjawabkan atas perbuatan salah antarabangsa. Individu-individu masih, pada prinsipnya, boleh didakwa atas jenayah perang.

Perkara itu tidak begitu kontroversial.

Seperti yang dikatakan Dr. Vincent Boulanin, Pengarah Program Tadbir Urus AI di Stockholm International Peace Research Institute (SIPRI), dengan ringkas, ketika bercakap dengan Invezz.

"Negara-negara telah bersetuju dalam konteks rundingan diplomatik mereka di PBB ... bahawa manusia mesti kekal memegang tanggungjawab untuk pembangunan dan penggunaan sistem senjata autonomi kerana mesin tidak boleh dipertanggungjawabkan atas pelanggaran undang-undang kemanusiaan antarabangsa."

Itu adalah kedudukan rasmi. Kesukaran bermula apabila teori bertemu operasi.

Formulasi Boulanin berguna kerana ia lebih tepat daripada frasa popular "jurang akauntabiliti."

Beliau tidak berhujah bahawa undang-undang hilang apabila AI memasuki rantaian itu. Beliau berhujah bahawa mekanisme untuk menjejak, meneliti dan mengaitkan pelanggaran menjadi jauh lebih sukar diaplikasikan dalam praktik.

Intipatinya bukan bahawa tanggungjawab negara dan tanggungjawab jenayah individu tidak relevan.

Ia adalah bahawa kedua-duanya menjadi sukar dioperasikan apabila tingkah laku berkaitan diagihkan antara pengaturcara, komandan, pegawai pemerolehan, pengendali, penganalisis risikan, dan pembekal komersial.

Itulah juga sebab mengapa isu ini lebih besar daripada "robot pembunuh."

Dalam praktiknya, titik tekanan bukan hanya senjata sepenuhnya autonomi, tetapi sistem sokongan keputusan AI yang membentuk penyasaran, mencadangkan objek serangan, menyusun ancaman, memendekkan semakan risikan, dan menyampaikan kesimpulan kepada manusia di bawah tekanan masa yang teruk.

Sekali mesin mengecilkan pilihan dan manusia dikurangkan kepada langkah pengesahan cepat, kehadiran formal seseorang dalam gelung itu tidak semestinya bermakna kawalan manusia yang bermakna masih wujud.

Michael N. Schmitt, salah seorang sarjana paling dikenali dalam undang-undang konflik bersenjata, menggambarkan perbezaan itu dengan baik.

Masalahnya, seperti yang beliau berhujah, bukan bahawa undang-undang konflik bersenjata berhenti terpakai kepada sistem autonomi.

Menjadi jauh lebih sukar dalam praktik untuk menentukan siapa membuat keputusan mana, berdasarkan maklumat apa, dan dengan tahap niat apa.

Itulah bezanya antara undang-undang di atas kertas dan akauntabiliti di dunia sebenar.

Memo Pentagon mengatakan "kelajuan menang." Ia mengarahkan Jabatan untuk "mengsenjatakan kelajuan pembelajaran," mengukur masa kitaran sebagai pembolehubah penentu, dan menganggap risiko kelewatan lebih besar daripada risiko penjajaran yang tidak sempurna.

Itu bukan pilihan pengurusan yang neutral.

Mereka mengubah berapa banyak masa yang manusia ada untuk memahami, mempersoalkan, dan membatalkan output yang dijana mesin.​

Apabila manusia hadir, tetapi tidak lagi membuat keputusan

Cara terbaik memahami masalah akauntabiliti adalah melalui amalan medan perang daripada abstraksi undang-undang.

Kes awam paling jelas kekal penggunaan sistem Lavender oleh Israel di Gaza, yang menurut beberapa laporan digunakan untuk mengenal pasti sejumlah besar sasaran berpotensi.

Laporan oleh The Guardian, memetik sumber risikan Israel, menyatakan Lavender pada satu peringkat mengenal pasti sehingga 37,000 lelaki Palestin yang didakwa berkaitan dengan Hamas atau Palestinian Islamic Jihad.

Laporan sama menyatakan tentera menggunakan ambang korban awam yang telah diluluskan terlebih dahulu untuk beberapa kategori serangan.

Kes itu penting bukan sahaja kerana skala, tetapi kerana ia menunjukkan apa yang berlaku apabila penyasaran dibantu AI menjadi rutin.

Mesin tidak perlu menembak senjata itu sendiri untuk mengubah bentuk tanggungjawab. Ia hanya perlu menyusun keputusan.

Sebaik pegawai sedang meneliti output yang dijana mesin dalam aliran kerja yang dipercepatkan, gambaran undang-undang tentang seorang komandan yang tenang menimbang prinsip proporsionaliti dan pembezaan mula kelihatan kurang seperti realiti dan lebih seperti fiksyen prosedural.

Richard Moyes, rakan pengurusan di Article 36, menyentuh inti perkara ini dengan lebih baik daripada kebanyakan pembuat dasar.

"Jika kita tidak tahu bagaimana keputusan autonomi dibuat, atau dari mana maklumat yang dipersembahkan komputer kepada komandan berasal, atau betapa terkini maklumat itu, maka pembuatan keputusan manusia berhenti menjadi bermakna," katanya kepada Invezz.

"Undang-undang antarabangsa dalam konflik berasaskan kepada keputusan manusia, penglibatan moral manusia dan akauntabiliti terhadap pilihan tersebut."

Perkataan itu penting kerana ia mengalihkan perdebatan daripada slogan. Isu sebenar bukan sama ada seorang manusia secara teknikal menyentuh proses itu di suatu tempat.

Isunya ialah sama ada manusia itu masih mengamalkan pertimbangan dengan cara yang boleh diiktiraf undang-undang.

Jika asal-usul data tidak jelas, logik sistem tidak telus, garis masa dipadatkan, dan jangkaan institusi condong ke arah kelajuan, maka orang di hujung rantaian mungkin bertindak kurang seperti pembuat keputusan dan lebih seperti peredam kejutan undang-undang.

Memo Pentagon menunjukkan terus ke arah dunia sedemikian.

Projeknya "Agent Network" menyeru "pengurusan pertempuran dan sokongan keputusan yang dipacu AI, dari perancangan kempen hingga pelaksanaan rantaian bunuh."

Inisiatif lain, "Open Arsenal," bertujuan mempercepatkan "saluran pembangunan TechINT-ke-keupayaan," dengan jelas "menjadikan risikan kepada senjata dalam beberapa jam, bukan tahun."

Ungkapan itu cukup terang-terangan. Ia menunjukkan Jabatan tidak bereksperimen di sempadan. Ia cuba memampatkan keseluruhan laluan dari maklumat ke tindakan.​

Masalah kotak hitam bukan hanya teknikal

Boulanin mengenal pasti empat sebab mengapa akauntabiliti menjadi sangat sukar dalam konteks sistem senjata autonomi (AWS).

Pertama, undang-undang itu sendiri masih belum muktamad mengenai bagaimana sesetengah peraturan undang-undang kemanusiaan antarabangsa (IHL) harus ditafsir dan diaplikasikan kepada sistem autonomi.

Kedua, ketidakpastian AI memburukkan lagi pertikaian sedia ada mengenai tanggungjawab negara dan individu.

Ketiga, pembangunan dan penggunaan sistem ini melibatkan sejumlah besar pelaku, menjadikan tanggungjawab sukar untuk diagihkan atau dikaitkan.

Keempat, sifat "kotak hitam" AI mempersulit usaha menyiasat insiden tertentu dan menjejaki tingkah laku kembali kepada ejen tertentu.

Perkara terakhir itu sering disalahfahami. Masalah kotak hitam bukan hanya berkaitan jurutera gagal menjelaskan output model. Ia juga bersifat institusi.

Walaupun terdapat log teknikal, penyiasat masih memerlukan akses, integriti rantaian pemeliharaan bukti, dan rangka kerja undang-undang yang mampu menterjemahkan log kepada tanggungjawab.

Boulanin menyatakan bahawa log digital dan mekanisme audit boleh, pada teori, membantu menjejaki tingkah laku kembali kepada satu atau lebih pelaku.

Tetapi beliau juga memberi amaran bahawa implikasi praktikalnya tidak difahami dengan baik.

Peringatan itu penting. Kehadiran data tidak sama dengan akauntabiliti.

Jejak digital hanya bermakna jika mahkamah, penyiasat, dan institusi ketenteraan bersedia dan mampu menggunakannya. Setakat ini, terdapat sedikit bukti bahawa mereka demikian.

Tiada sistem undang-undang utama yang setakat ini menghasilkan preseden terkenal yang muktamad menunjukkan bagaimana keputusan medan perang yang dibantu AI akan dibina semula di mahkamah merentasi keseluruhan rantaian reka bentuk, pemerolehan, penerapan, dan penggunaan.

Diplomasi terhenti sementara penerapan dipercepat

Masalah akauntabiliti masih akan serius jika negara-negara berlumba membina rejim antarabangsa yang lebih kukuh mengenainya. Mereka tidak.

Reuters melaporkan bulan ini bahawa 128 negara sedang membincangkan sama ada mereka boleh mencapai konsensus mengenai teks tidak mengikat mengenai sistem senjata autonomi maut sebelum mandat semasa berakhir pada bulan September.

Pengerusi perbincangan Geneva berkata kemajuan mengenai peraturan "amat diperlukan," satu frasa yang mencerminkan betapa lewatnya proses ini.​

Garis masa itu penting kerana landasan ketenteraan dan diplomatik bergerak ke arah bertentangan. Di Geneva, negara-negara masih membahaskan peraturan asas.

Di Washington, Pentagon sudah mempercepat penerapan AI medan perang, penyebaran model, dan reka bentuk semula kontrak.

Memo AS tidak membuat cubaan bermakna untuk berhenti demi kerangka global yang lebih jelas. Sebaliknya, ia menganggap kelajuan sendiri sebagai kelebihan strategik.​

Moyes lantang mengenai kebuntuan politik itu.

"Undang-undang antarabangsa perlu dikemas kini untuk memastikan garis dasar pertimbangan manusia, kawalan dan akauntabiliti dalam penggunaan senjata autonomi dan sistem penyasaran AI," katanya kepada Invezz.

"Beberapa negara yang sama yang menggunakan sistem ini sedang menghalang penerimaan peraturan undang-undang baru - dan yang akan menanggung kosnya ialah penduduk awam."

Pemerhatian itu layak mendapat lebih perhatian daripada yang diterimanya.

Negara-negara dengan kemampuan terbesar dan insentif operasi terkuat untuk mengekalkan kelenturan juga merupakan negara yang paling berupaya melambatkan atau mencairkan peraturan baru.

Format diplomatik yang menekankan konsensus memudahkan perkara itu.

Jadi jurang itu tidak kekal kerana tiada siapa yang melihatnya. Ia kekal kerana pelaku yang paling mampu menutupnya sering mendapat manfaat daripada membiarkannya terbuka.

Memo Pentagon menginstitusikan kekosongan itu

Penting untuk tidak membesar-besarkan apa yang dilakukan memo 9 Januari itu. Ia tidak membatalkan undang-undang konflik bersenjata.

Ia tidak secara formal menghapuskan tanggungjawab manusia. Ia tidak, dengan sendirinya, membenarkan serangan tidak sah.

Tetapi ia melakukan sesuatu yang mungkin lebih besar implikasinya.

Ia menginstitusikan sebuah doktrin di bawah mana kelajuan, skala, kesegaran model, dan penghapusan kekangan penggunaan yang dikenakan pembekal menjadi keutamaan perolehan rasmi.​

Bahasa memo itu mendedahkan seluruhnya. Ia menyeru eksperimen dengan model AI terkemuka Amerika "pada semua peringkat klasifikasi."

Ia menyatakan penolakan permintaan data CDAO mesti dinyatakan alasannya dalam masa tujuh hari dan boleh dinaikkan kepada kepimpinan kanan.

Ia mewujudkan sebuah "Barrier Removal Board" dengan kuasa untuk mengecualikan keperluan bukan statutori. Ia mengatakan Jabatan mesti "mendekati pertukaran risiko ... seolah-olah kita berada dalam perang."

Tiada satu pun daripada itu membuktikan ketidakpatuhan undang-undang. Tetapi ia menunjukkan sebuah institusi cuba membuang geseran dari sistem.​

Dan geseran, dalam konteks ini, sering menjadi tempat akauntabiliti wujud.

Semakan perlahan adalah geseran. Dokumentasi adalah geseran. Keraguan undang-undang adalah geseran. Sekatan model adalah geseran. Keraguan manusia adalah geseran.

Sebaik misi institusi menjadi penghapusan halangan, langkah-langkah perlindungan itu mula kelihatan, dari dalam sistem, seperti ketidakcekapan dan bukannya perlindungan.

Terdapat satu lagi butiran yang mendedahkan dalam memo itu.

Ia menyatakan bahawa "inisiatif khas yang dihuraikan dalam lampiran berklasifikasi" dan dalam "Lampiran Berklasifikasi yang dibekalkan secara berasingan" juga akan dipercepatkan.

Jadi walaupun versi awam strategi itu menunjuk ke arah arkitektur berklasifikasi yang lebih besar yang kekal di luar pemerhatian awam.

Itu tidak bermakna bahan tersembunyi itu semestinya tidak sah di sisi undang-undang.

Ia bermakna orang awam diminta mempercayai satu sistem yang mekanisme akauntabilitinya sudah tegang, sementara beberapa butiran paling berkesannya kekal rahsia.​

Persoalan sebenar lebih kecil, tetapi lebih memudaratkan

Versi paling meyakinkan dari naratif ini bukan bahawa senjata autonomi telah mewujudkan kekosongan undang-undang sepenuhnya. Tidak begitu.

Ia ialah mereka membantu menghasilkan dunia di mana tanggungjawab undang-undang kekal ada di dalam teori tetapi kurang mampu dicapai dalam praktik.

Kerana jika Boulanin betul, jalan undang-undang ada, tetapi sukar digunakan.

Jika Moyes betul, pertimbangan manusia berhenti menjadi bermakna apabila alasan mesin tidak telus dan asas data tidak pasti.

Dan jika Schmitt betul, kesukaran utama ialah penguatkuasaan praktikal: mengenal pasti siapa membuat keputusan apa, atas dasar apa, dan dengan niat apa.

Gabungkan ketiga-tiga hujah itu, dan memo Pentagon mula dibaca kurang seperti strategi teknologi dan lebih seperti dokumen tadbir urus bagi hakisan akauntabiliti.

Ia tidak mengumumkan hakisan itu secara terbuka. Ia menormalkan pertukaran yang menjadikan hakisan itu lebih mungkin.

Seseorang akan menanggung kos bergerak pantas sebelum akauntabiliti diselesaikan. Memo itu menjelaskan bahawa Jabatan bersedia menerima risiko itu.