Nvidia lancar perikatan keselamatan OpenAI susulan peningkatan ancaman siber

Nvidia dan sekumpulan syarikat teknologi terkemuka pada Isnin melancarkan inisiatif baharu yang memfokuskan kepada keselamatan dan sekuriti AI untuk model terbuka.

Langkah itu dibuat ketika industri teknologi berdepan kebimbangan yang semakin meningkat mengenai penggunaan kecerdasan buatan dalam serangan siber dan pemerhatian yang semakin ketat terhadap model AI China.

Inisiatif itu menyusul pendedahan mengenai serangan siber yang melibatkan model OpenAI yang bertindak di luar kawalan.

Insiden tersebut menyerlahkan kebimbangan mengenai kemampuan sistem AI untuk membezakan antara penyerang dan pasukan keselamatan siber yang mempertahankan sistem.

Perikatan baharu itu bertujuan membangunkan dan berkongsi alat AI terbuka.

Ia juga bertujuan menangani kelemahan melalui teknologi terbuka.

Usaha ini dibuat pada masa para penggubal undang-undang AS semakin mempertimbangkan langkah untuk menghadkan penerimaan model AI China yang semakin berkembang.

Perikatan baharu fokus kepada keselamatan OpenAI

NVDA berkata Open Secure AI Alliance yang baru dibentuk akan memberi tumpuan kepada menangani kelemahan keselamatan dan mendedahkannya kepada umum melalui penggunaan teknologi terbuka.

“Open Secure AI Alliance akan berusaha membaik pulih dan mendedahkan kelemahan menggunakan teknologi terbuka,” kata Nvidia dalam satu kenyataan.

“Insiden keselamatan Hugging Face baru-baru ini mengingatkan dengan jelas: pembela siber memerlukan sistem agen frontier terbuka untuk mempertahankan diri.”

Perikatan itu termasuk Nvidia, Microsoft, SpaceX dan Palantir, bersama puluhan syarikat teknologi lain dari AS dan Eropah.

Inisiatif itu tertumpu pada model AI terbuka, yang boleh dimuat turun, diubah suai dan dihoskan oleh pengguna sendiri.

Ini berbeza daripada model AI tertutup, termasuk sistem frontier yang dibangunkan oleh syarikat seperti Anthropic dan OpenAI, yang hanya boleh diakses melalui infrastruktur tertentu.

Dorongan syarikat-syarikat untuk alat AI terbuka datang selepas insiden keselamatan baru-baru ini yang membabitkan Hugging Face, sebuah syarikat permulaan AI yang menjadi sasaran serangan siber.

Syarikat itu tidak dapat menggunakan model frontier terkemuka AS untuk mempertahankan diri semasa insiden tersebut.

Pembatas keselamatan pada sistem tersebut dilaporkan tidak membezakan antara penceroboh dan pembela.

Akibatnya, Hugging Face beralih kepada model AI China open-weight yang dihos sendiri dan tidak tertakluk kepada sekatan yang sama.

Insiden itu menambah perdebatan sama ada model AI terbuka boleh memainkan peranan penting dalam keselamatan siber.

Ia juga menimbulkan persoalan tentang kesan sekatan terhadap penggunaan sistem AI maju.

Kebimbangan mengenai sekatan terhadap model AI China

Pelancaran perikatan itu berlaku ketika desakan bertambah bagi langkah yang boleh menghadkan akses kepada model AI yang dibangunkan oleh syarikat China.

Model AI China yang paling maju adalah open-weight, membolehkan mereka dimuat turun dan digunakan dengan cara yang berbeza daripada sistem AI tertutup.

Syarikat AI China juga menghadapi tuduhan menggunakan kempen untuk mengekstrak maklumat daripada sistem yang dikendalikan oleh pesaing AS.

Proses ini dikenali sebagai “distillation,” di mana satu model AI mengekstrak pengetahuan dari model yang dilatih dengan lebih baik.

Setiausaha Perbendaharaan Scott Bessent mengancam minggu lalu akan mengenakan sekatan terhadap syarikat China yang menjalankan serangan distillation terhadap syarikat AS.

Prospek sekatan baharu menambah ketidakpastian terhadap masa depan model AI open-weight dan ketersediaannya.

Industri memberi amaran terhadap sekatan pramatang

Chris McGuire, fellow kanan untuk China dan teknologi muncul di Council on Foreign Relations, berkata kerajaan AS berpotensi memperkenalkan sekatan terhadap model AI China.

“Terdapat kemungkinan sebenar kerajaan AS mengenakan sekatan ke atas model China,” kata McGuire kepada CNBC.

Pada masa yang sama, syarikat teknologi besar menggesa pembuat dasar mengambil pendekatan berhati-hati dalam mengawal AI open-weight.

Minggu lalu, Nvidia, Microsoft, Meta, Palantir dan lebih 20 syarikat lain mengeluarkan satu surat yang menggesa pembuat dasar mengelakkan “sekatan pramatang” ke atas model AI open-weight.

Syarikat-syarikat berhujah bahawa sekatan sedemikian boleh “mengekang persaingan atau memindahkan inovasi ke luar negara.”

Perdebatan itu mencerminkan ketegangan yang semakin meningkat dalam industri AI.

Syarikat dan pembuat dasar berusaha menangani risiko keselamatan yang berkaitan dengan sistem AI maju sambil memastikan pembangun dan pasukan keselamatan siber mempunyai akses kepada alat yang berkuasa.

Bagi Nvidia dan rakan kongsinya, Open Secure AI Alliance mewakili usaha untuk mengukuhkan peranan teknologi terbuka dalam keselamatan AI.

Inisiatif itu juga muncul ketika pembuat dasar menimbang bagaimana untuk bertindak balas terhadap penerimaan pesat model AI China dan perkembangan lebih luas kecerdasan buatan open-weight.