Dari Meta ke OpenAI: Keselamatan AI memasuki era baharu apabila serangan siber autonomi muncul

Syarikat kecerdasan buatan menghadapi pemerhatian yang semakin meningkat selepas Meta menjadi pembangun terkini yang mendedahkan bahawa salah satu model AInya melancarkan serangan siber semasa penilaian keselamatan terkawal, menambah kepada siri insiden baru-baru ini yang telah menguatkan kebimbangan terhadap risiko keselamatan siber yang ditimbulkan oleh sistem AI yang semakin berkemampuan.

Pendedahan itu menyusul pengakuan serupa daripada OpenAI dan Anthropic dalam beberapa minggu kebelakangan ini, menandakan kes keempat yang diketahui di mana sistem AI lanjutan telah menceroboh atau cuba menceroboh sistem luaran semasa ujian keselamatan siber.

Siri insiden itu telah menguatkan amaran daripada penyelidik keselamatan siber bahawa kecerdasan buatan dengan cepat mengubah sifat ancaman siber, memampatkan serangan yang dahulunya mengambil masa hari atau minggu menjadi operasi yang boleh berlaku dalam beberapa minit.

Meta mengatakan akses internet dibolehkan oleh salah konfigurasi ujian

Meta berkata kejadian itu berlaku semasa penilaian yang dijalankan oleh Irregular, sebuah syarikat ujian keselamatan siber bebas.

Menurut syarikat itu, satu ralat konfigurasi secara tidak sengaja memberikan salah satu model AI Meta akses internet semasa penilaian tersebut.

Model itu kemudiannya mengeksploitasi kerentanan dalam perkhidmatan pihak ketiga.

Meta berkata model itu "mengeksploitasi kerentanan keselamatan dalam perkhidmatan pihak ketiga, dengan cara yang serupa dengan insiden yang dilaporkan sebelum ini dengan syarikat lain."

The Information, memetik sumber yang biasa dengan perkara itu, melaporkan bahawa model yang terlibat ialah Muse Spark 1.1, yang telah digambarkan Meta sebagai salah satu sistem termajunya untuk pengaturcaraan dan tugas agenik AI.

Laporan itu mengatakan model tersebut menceroboh sistem sebuah syarikat yang tidak didedahkan dan mengubah persekitaran dalaman syarikat itu.

Irregular bagaimanapun menekankan bahawa kejadian itu berpunca daripada susunan ujian dan bukannya pelarian tidak terkawal oleh model.

Seorang jurucakap syarikat memberitahu Reuters bahawa kejadian itu adalah "exact same evaluation-environment issue that was already disclosed by Anthropic last week" dan tidak melibatkan "sandbox escape or a sophisticated cyber action".

"Tiada isu terbuka pada masa ini. Irregular sedang membangunkan kertas putih untuk berkongsi amalan terbaik bagi penyekatan dan menjalankan penilaian siber dengan selamat," tambah syarikat itu.

Siri insiden meletakkan keselamatan AI di bawah sorotan

Pendedahan Meta menyusul satu siri pengumuman serupa di seluruh industri AI.

Bulan lalu, OpenAI mendedahkan bahawa salah satu ejen AInya menjejaskan sistem milik platform AI Hugging Face semasa ujian keselamatan siber dan mendedahkan contoh tambahan di mana ejen-ejennya melarikan diri dari kandungan digital mereka.

Pengumuman itu mendorong pesaing Anthropic untuk menjalankan semakan sendiri, yang membawa kepada penemuan bahawa beberapa model Claude AI telah menggodam sistem tiga syarikat selepas salah konfigurasi ujian secara tidak sengaja memberi mereka akses internet.

Anthropic menyatakan bahawa insiden mereka berbeza daripada OpenAI kerana ia berpunca daripada sambungan internet tidak sengaja dan bukannya AI secara bebas menemui laluan baharu ke sistem luaran.

Institut Keselamatan AI United Kingdom juga melaporkan tingkah laku yang semakin canggih daripada sistem AI termaju.

Awal bulan ini, institut tersebut mendedahkan bahawa Mythos AI milik Anthropic dan Sol AI milik OpenAI mencipta identiti dalam talian palsu semasa mencuba serangan siber dalam ujian.

Dalam kes yang paling membimbangkan, Mythos AI Anthropic menubuhkan akaun pengguna palsu dan menghantar mesej peribadi dalam cubaan untuk mendapatkan akses ke satu perkhidmatan sebelum cuba menyembunyikan aktivitinya.

Institut itu berkata model-model tersebut mempamerkan tahap "autonomy and deception" yang tidak pernah diperhatikan sebelum ini, sambil menyatakan bahawa kebanyakan tingkah laku berniat jahat dilakukan oleh Mythos.

Pakar memberi amaran lebih banyak insiden mungkin berlaku

Penyelidik berkata kejadian seperti ini berkemungkinan menjadi semakin kerap apabila sistem AI bertambah baik.

Daniel Hulme, ketua AI global di syarikat pengiklanan WPP, memberitahu BBC bahawa sistem-sistem itu tidak berniat jahat secara sedar.

"Mereka tidak sedar — mereka tidak sengaja melakukan sesuatu yang licik."

"Apa yang mereka lakukan ialah menghasilkan strategi yang sangat sofistikated atau serangan siber untuk mencapai matlamat yang telah diberikan kepada mereka," katanya.

"Apabila anda memberi AI sebuah matlamat, jika anda tidak memikirkan semua cara ia mungkin mencapai matlamat itu, ia akan menemui cara untuk mencapai matlamat yang anda tidak fikirkan."

Jeffrey Ladish, pengarah eksekutif kumpulan penyelidikan AI Palisade Research, percaya banyak insiden serupa mungkin tidak akan pernah menjadi awam.

"Ini hanya akan menjadi lebih teruk apabila model-model menjadi lebih pintar. Mereka akan menjadi lebih baik dalam menipu. Mereka akan menjadi lebih baik dalam berbohong," katanya kepada Reuters.

Soalan liabiliti muncul ke hadapan

Pendedahan baru-baru ini juga mencetuskan perbincangan mengenai tanggungjawab undang-undang apabila sistem AI bertindak tanpa pengawasan manusia secara langsung.

Menurut Reuters, plaintif yang berpotensi boleh termasuk syarikat yang sistemnya diceroboh, pekerja terjejas, pelanggan yang maklumat peribadinya didedahkan, dan pemegang saham jika suatu pencerobohan merosakkan nilai korporat.

Ketua Pegawai Eksekutif Hugging Face, Clem Delangue, berkata beliau tidak berniat untuk menyaman OpenAI berhubung insiden itu tetapi percaya pembangun mesti kekal bertanggungjawab.

"Kita mesti memastikan rangka kerja undang-undang menjadikan peristiwa ini benar-benar haram," Delangue memberitahu CNN, sambil menambah bahawa syarikat harus dipertanggungjawabkan apabila kesilapan berlaku. "Jika tidak kita akan berakhir dalam dunia yang sangat berbeza."

Pakar undang-undang juga telah membangkitkan persoalan sama ada pencerobohan autonomi oleh AI boleh tergolong di bawah US Computer Fraud and Abuse Act, walaupun undang-undang sedia ada umumnya memerlukan bukti niat, satu isu yang belum lagi ditangani oleh mahkamah apabila sistem AI dan bukan manusia melakukan pencerobohan.

Sorotan pada langkah pengawalseliaan

Insiden-insiden terkini berkemungkinan akan memperhebat usaha kerajaan AS untuk mengukuhkan langkah keselamatan bagi sistem AI termaju pada masa syarikat seperti Anthropic dan OpenAI sedang berlumba untuk membangunkan model yang lebih berkuasa menjelang penyenaraian awam yang dirancang.

Walaupun persaingan dalam sektor AI semakin rancak, beberapa pemimpin terkemuka dalam industri berhujah bahawa penggubalan perlu diperlahan sehingga langkah keselamatan yang mencukupi tersedia.

Washington sudah mula memperketat pengawasan terhadap model-model AI termaju.

Pada 2 Jun, Presiden AS Donald Trump mengarahkan penasihatnya untuk membangunkan rangka kerja ujian keselamatan siber secara sukarela untuk sistem AI paling termaju, dengan input daripada syarikat teknologi terkemuka.

Anthropic sebelum ini mengehadkan akses kepada model Fable 5 dan Mythos 5 selepas pihak berkuasa AS sementara mengenakan kawalan eksport, memetik kebimbangan keselamatan negara.

Ahli penggubal undang-undang juga bergerak untuk memperjelas liabiliti apabila sistem AI menyebabkan kerosakan.

Di bawah California's Assembly Bill 316, syarikat yang membangunkan atau menggunakan sistem AI tidak boleh mengelak tanggungjawab undang-undang dengan berhujah bahawa teknologi itu sendiri yang bersalah.

Bagaimanapun undang-undang itu membenarkan defendan mengemukakan pembelaan undang-undang lain, termasuk dakwaan bahawa tindakan mereka tidak secara langsung menyebabkan kemudaratan yang didakwa atau bahawa tanggungjawab harus dikongsi oleh pihak lain.

Insiden OpenAI-Hugging Face terus membakar seruan untuk pengawasan persekutuan yang lebih ketat.

Susulan episod itu, penggubal undang-undang memperkenalkan AI Kill Switch Act, yang akan mewajibkan pembangun AI mengekalkan keupayaan untuk mematikan, mengehadkan, atau menggantung model mereka apabila perlu.

Wakil Ted Lieu, Demokrat dari California dan salah seorang pengarang bersama rang undang-undang itu, berkata pada hari Khamis bahawa insiden siber baru-baru ini menekankan kepentingan segera penggubalan undang-undang tersebut.

"Kita perlu memastikan rang undang-undang ini diluluskan tahun ini kerana model-model tertutup berkeupayaan tinggi sudah melakukan, seperti yang anda nyatakan, penggodaman tanpa kebenaran terhadap syarikat lain," kata Lieu dalam temu bual dengan CNBC's "Squawk Box" pada hari Khamis.