Anthropic sambung rundingan terakhir dengan Pentagon — laporan

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, telah kembali ke meja rundingan dengan Jabatan Pertahanan AS selepas perbincangan runtuh minggu lalu mengenai bagaimana tentera boleh menggunakan teknologi kecerdasan buatannya, menurut laporan oleh Financial Times.

Perbincangan itu bertujuan menyelesaikan pertikaian mengenai akses Pentagon kepada model AI Claude Anthropic, yang telahpun digunakan dalam rangkaian kerajaan berperingkat rahsia di bawah kontrak pertahanan utama.

Perbincangan bersambung selepas rundingan runtuh

Amodei kini sedang berbincang dengan Emil Michael, timbalan setiausaha pertahanan bagi penyelidikan dan kejuruteraan di Pentagon, dalam apa yang menurut sumber yang biasa dengan perkara itu digambarkan sebagai usaha terakhir untuk mencapai perjanjian yang mengatur bagaimana tentera boleh mengguna alat Anthropic, lapor FT.

Rundingan runtuh pada hari Jumaat selepas kedua-dua pihak gagal merapatkan perbezaan mengenai skop penggunaan teknologi itu.

Susulan itu, Presiden Donald Trump mengarahkan agensi persekutuan menghentikan penggunaan perisian Anthropic, manakala Setiausaha Pertahanan Pete Hegseth berkata syarikat itu boleh ditetapkan sebagai risiko rantaian bekalan kepada keselamatan negara AS.

Pertikaian itu turut menjadi peribadi.

Michael mengkritik Amodei secara terbuka dalam hantaran di platform X, menyifatkannya sebagai “pembohong” dengan “kompleks Tuhan.”

Pertikaian mengenai penggunaan AI oleh tentera

Inti konflik ialah sejauh mana Pentagon boleh menerapkan model AI seperti Claude dalam operasi ketenteraan.

Anthropic dianugerahkan kontrak bernilai $200 juta yang menjadikan Claude model AI utama pertama yang digunakan dalam rangkaian kerajaan yang berperingkat rahsia.

Bagaimanapun, syarikat itu kemudian meminta jaminan bahawa teknologinya tidak akan digunakan untuk pengawasan domestik atau untuk menggerakkan sistem senjata autonomi.

Sebaliknya, Pentagon mendesak kebolehan untuk menggunakan teknologi itu bagi apa jua tujuan ketenteraan yang sah.

Menurut memo yang dihantar Amodei kepada pekerja yang dilihat oleh FT, Jabatan Pertahanan menawarkan untuk menerima syarat Anthropic hampir di hujung rundingan jika frasa tertentu yang merujuk kepada “analysis of bulk acquired data” dikeluarkan.

Amodei menulis bahawa pernyataan itu mencerminkan tepat jenis kes penggunaan yang dibimbangkan oleh syarikat.

Sementara di satu pihak Anthropic berdepan kemarahan DoD, di pihak lain model AInya, Claude, dilaporkan digunakan oleh tentera AS dalam serangan bertubi-tubi ke atas Iran kerana teknologi itu “memendekkan kill chain” — iaitu proses daripada pengenalpastian sasaran sehingga kelulusan undang-undang dan pelancaran serangan.

Persaingan dengan OpenAI memuncak

Kontroversi itu turut merebak ke industri AI yang lebih luas, menonjolkan persaingan yang semakin meningkat antara Anthropic dan pesaingnya, OpenAI.

Hanya beberapa jam selepas agensi persekutuan diarahkan menghentikan penggunaan alat Anthropic, OpenAI menandatangani perjanjian dengan Pentagon dan berkata jabatan itu telah bersetuju dengan sekatan syarikat itu.

Dalam memo yang dihantar kepada kakitangan pada hari Jumaat, Amodei juga mendakwa bahawa kenyataan dari Pentagon dan OpenAI — yang menandatangani perjanjian sendiri dengan Jabatan Pertahanan pada hari Jumaat — adalah “terus terang pembohongan tentang isu-isu ini atau cuba mengelirukannya.”

Dalam nota dalaman yang berasingan awal hari Rabu, Amodei juga mengkritik ketua OpenAI, Sam Altman, menyifatkannya sebagai “pembohong” dan menuduhnya memberi apa yang digambarkannya sebagai “pujian gaya diktator” untuk Trump, menurut The Information.

Amodei menambah bahawa Anthropic telah mengekalkan “garis merah dengan integriti,” bukannya bekerjasama dengan pegawai untuk mencipta apa yang beliau gambarkan sebagai “teater keselamatan” yang bertujuan menenangkan pekerja.

Beliau menulis bahawa ramai di Washington, termasuk pegawai di Pentagon dan Palantir serta perunding politik, menganggap itulah isu yang cuba ditangani oleh syarikat itu.

Waktu perjanjian OpenAI mencetuskan tindak balas dalam talian, dengan Claude Anthropic dilaporkan mencatat peningkatan muat turun manakala penyahpasangan OpenAI ChatGPT meningkat.

Altman kemudian mengakui bahawa syarikatnya “tidak sepatutnya tergesa-gesa” dalam perjanjian dengan Pentagon dan berkata beliau telah mendesak pegawai supaya tidak menetapkan Anthropic sebagai risiko rantaian bekalan.

Kebimbangan industri terhadap tekanan kerajaan

Perseteruan itu membimbangkan sebahagian sektor teknologi, yang bimbang bahawa pelabelan pembangun AI domestik sebagai risiko keselamatan kebangsaan boleh memberi implikasi lebih luas kepada industri.

Sebuah kumpulan perdagangan teknologi yang ahli-ahlinya termasuk Nvidia, Google dan Anthropic menghantar surat kepada Setiausaha Pertahanan Hegseth minggu ini menyuarakan kebimbangan mengenai kemungkinan pelantikan sedemikian.

Anthropic, yang ditubuhkan pada 2021 oleh bekas penyelidik OpenAI yang keluar selepas tidak sehaluan mengenai hala tuju syarikat itu, telah meletakkan dirinya sebagai alternatif yang memberi tumpuan kepada keselamatan dalam pasaran AI yang berkembang pesat.

Hasil rundingan itu boleh menetapkan preseden penting mengenai bagaimana syarikat AI swasta bekerjasama dengan kerajaan apabila sistem pembelajaran mesin lanjutan semakin diintegrasikan ke dalam operasi keselamatan kebangsaan.