Bank Jerman nilaikan risiko model AI Anthropic susulan kebimbangan siber

Bank-bank Jerman dan pihak berkuasa nasional sedang menilai risiko berpotensi berkaitan model kecerdasan buatan baharu yang dibangunkan oleh Anthropic, kata seorang pegawai pada hari Khamis.

Kebimbangan tertumpu pada sama ada teknologi itu boleh meningkatkan ancaman serangan siber yang mensasarkan institusi kewangan.

Kolja Gabriel, seorang anggota lembaga eksekutif Persatuan Perbankan Jerman, berkata kumpulan itu sedang aktif berunding dengan pakar keselamatan siber di kalangan bank-anggotanya.

Beliau menambah bahawa perbincangan juga sedang dijalankan dengan kementerian kewangan Jerman dan pihak berkuasa lain, menurut Reuters.

Penyelarasan dengan pengawal selia dan pihak berkuasa

Perbincangan yang sedang berjalan turut melibatkan penyertaan Bundesbank dan pengawal selia kewangan Jerman, BaFin.

BaFin mengesahkan bahawa ia mengekalkan pertukaran berkala dengan pihak berkepentingan di peringkat nasional, Eropah dan antarabangsa.

Pengawal selia menekankan keperluan kesiapsiagaan dalam sektor kewangan.

Mythos menimbulkan kebimbangan dalam kalangan pakar keselamatan siber

Model Anthropic, yang dikenali sebagai Mythos, telah menarik perhatian pakar keselamatan siber yang percaya ia menimbulkan cabaran ketara bagi bank, terutamanya mereka yang bergantung pada sistem teknologi warisan.

Kebimbangan ini turut mencetuskan minat pengawal selia di Britain dan Amerika Syarikat.

“Mythos sedang digunakan secara terkawal oleh firma keselamatan IT untuk menutup kerentanan berpotensi secepat mungkin.

Kami menjangkakan beberapa kemas kini perisian dalam masa terdekat dan sedang memantau perkembangan dengan teliti,” kata Gabriel dalam kenyataan emel.

Beliau bertanggungjawab ke atas teknologi dan inovasi di persatuan itu.

Penyelia di European Central Bank sedang bersedia untuk menyoal bankir mengenai risiko berkaitan model itu.

Pelancaran terhad dan ujian industri

Anthropic menyatakan bahawa versi semasanya, Claude Mythos Preview, tidak akan dikeluarkan untuk kegunaan umum.

Sebaliknya, syarikat itu telah melancarkan inisiatif bernama Project Glasswing.

Program ini menjemput firma teknologi utama, pembekal keselamatan siber dan organisasi termasuk JPMorgan Chase untuk menilai model itu secara persendirian dan mengukuhkan pertahanan.

Pelancaran terkawal ini mencerminkan kehati-hatian yang lebih meluas dalam industri ketika pihak berkepentingan berusaha memahami implikasi sistem AI maju.

Pengaruh Anthropic yang meningkat dalam landskap AI

Pemerhatian ini berlaku ketika Anthropic semakin menonjol dalam sektor kecerdasan buatan global.

Syarikat itu muncul sebagai pemain utama selepas pusingan pembiayaan besar yang menilai ia pada $380 billion.

Menurut Dave Kasten dari Palisade Research, Anthropic telah mengukuhkan kedudukannya dengan memberi tumpuan kepada keselamatan dan kebolehpercayaan.

Beliau menyatakan bahawa pendekatan syarikat terhadap “integriti perlembagaan” telah mewujudkan kelebihan struktur berbanding pesaing.

Kasten menyerlahkan keupayaan model untuk mengesan kerentanan melalui penalaran maju, dan bukan hanya bergantung pada corak sejarah.

Beliau memetik contoh di mana sistem itu mengenal pasti kecacatan yang sebelum ini tidak dikesan dalam pelaksanaan FreeBSD, menunjukkan potensinya untuk keselamatan siber proaktif.

Kepentingan strategik dan ketegangan dasar

Walaupun wujud kebimbangan, minat terhadap Mythos melampaui Eropah.

Laporan Politico menunjukkan bahawa agensi AS dan pegawai kongres terus melibatkan diri dengan keupayaan model itu, walaupun selepas sekatan dikenakan terhadap kerjasama dengan Anthropic.

Laporan itu berkata Commerce Department’s Center for AI Standards and Innovation sedang menguji ciri keselamatan siber Mythos.

Kakitangan dari beberapa jawatankuasa kongres juga telah meminta taklimat mengenai model itu.

Situasi itu menyerlahkan ketegangan yang lebih meluas.

Sementara Pentagon telah melabel Anthropic sebagai risiko rantaian bekalan dan memutuskan hubungan perniagaan, bahagian-bahagian tertentu dalam kerajaan AS tampak enggan mengabaikan teknologi yang dianggap penting secara strategik.

Sejauh manakah penglibatan ini masih tidak jelas.

Walau bagaimanapun, minat yang berterusan menunjukkan bahawa alat AI maju seperti Mythos semakin menjadi tumpuan utama dalam pertimbangan keselamatan siber dan keselamatan nasional, walaupun di tengah-tengah kehati-hatian pengawal selia.