Mengapa AI Mythos Anthropic Membuat Pengawal Selia dan Bank Pusat Berwaspada

Pengawal selia kewangan di seluruh ekonomi utama meningkatkan pengawasan terhadap model kecerdasan buatan baru yang berkuasa yang dibangunkan oleh Anthropic, di tengah kebimbangan yang semakin meningkat bahawa keupayaan canggihnya boleh mendedahkan kelemahan dalam sistem kewangan dan digital kritikal.

Pihak berkuasa di Jepun, Eropah, India, dan wilayah lain sedang menyelaraskan tindak balas ketika model yang dikenali sebagai Mythos menimbulkan persoalan baharu mengenai risiko keselamatan siber dalam dunia yang semakin dipacu AI.

Jepun mengadakan pertemuan dengan bank terkemuka dan pengawal selia

Di Jepun, Financial Services Agency pada hari Rabu berkata ia akan mengadakan mesyuarat peringkat tinggi pada hari Jumaat dengan kumpulan perbankan terbesar negara, termasuk Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group, dan Mizuho Financial Group.

Kehadiran juga akan merangkumi Bank of Japan dan Tokyo Stock Exchange, mencerminkan keluasan kebimbangan di seluruh sistem kewangan.

Satsuki Katayama berkata matlamatnya adalah untuk menghimpunkan pihak berkepentingan utama bagi menilai situasi yang berkembang.

"Kami akan menghimpunkan ahli teras yang memikul tanggungjawab terbesar untuk berkongsi penilaian mengenai situasi semasa dan bertukar pandangan, termasuk isu-isu yang telah ditandakan di pelbagai bahagian komuniti kewangan antarabangsa," katanya.

Bank pusat di seluruh dunia berjaga-jaga

Pengawal selia di wilayah lain mengambil langkah serupa.

Reserve Bank of Australia pada Rabu berkata ia memantau perkembangan dengan teliti dan "berhubung dengan rakan pengawal selia, kerajaan dan entiti yang dikawal."

Sementara itu, Reserve Bank of New Zealand pada Rabu menggambarkan risikonya sebagai “sedang berkembang” dan mengesahkan ia sedang menyelaraskan dengan rakan sejawat domestik dan Australia.

India juga telah menyertai usaha global itu.

Menurut laporan Reuters, Reserve Bank of India sedang berbincang dengan pengawal selia antarabangsa, pemberi pinjaman, dan pegawai kerajaan untuk menilai ancaman berpotensi.

Penilaian awal mencadangkan model itu boleh mempercepat penemuan dan eksploitasi kelemahan perisian, meningkatkan kebimbangan keselamatan siber.

Isu itu telah sampai ke peringkat tertinggi dalam pembuat dasar global.

Menteri Kewangan Kanada François-Philippe Champagne memberitahu BBC bahawa model itu telah dibincangkan pada pertemuan International Monetary Fund baru-baru ini di Washington.

"Sudah pasti ianya cukup serius untuk mendapat perhatian semua menteri kewangan," katanya, menggambarkan teknologi itu sebagai "unknown unknown".

Begitu juga, ketua Bank of England Andrew Bailey memberi amaran bahawa pihak berkuasa sedang menilai implikasinya dengan teliti.

“Kita kini terpaksa melihat dengan sangat teliti apa yang perkembangan AI terbaru ini boleh maksudkan bagi risiko jenayah siber,” katanya kepada BBC.

Pedang bermata dua untuk keselamatan siber

Walaupun Mythos direka untuk aplikasi keselamatan siber defensif, keupayaannya telah mencetuskan kebimbangan.

Anthropic berkata ujian awal mendedahkan “beribu-ribu” kelemahan penting merentasi sistem operasi utama dan pelayar web.

Pada hari Selasa, Presiden Bundesbank Joachim Nagel menggambarkan model itu sebagai “pedang bermata dua.”

"Ia bukan sahaja boleh digunakan untuk memperbaiki sistem keselamatan digital, tetapi juga untuk mengambil kesempatan ke atas kelemahan mereka bagi tujuan berniat jahat."

Pakar berkata kebimbangan terletak pada kelajuan dan skala di mana sistem AI sedemikian boleh mengenal pasti dan mengeksploitasi kelemahan — jauh melebihi tindak balas keselamatan tradisional.

Mengapa Anthropic menghadkan akses kepada model itu?

Anthropic telah menghadkan akses kepada model itu melalui inisiatif terkawal yang dipanggil Project Glasswing.

Organisasi terpilih, termasuk Amazon, Microsoft, Nvidia, dan Apple, telah diberikan akses awal, bersama berpuluh-puluh entiti yang bertanggungjawab mengekalkan infrastruktur digital kritikal.

Dalam video pelancaran, Dario Amodei berkata syarikat itu telah menawarkan untuk bekerjasama dengan pihak berkuasa AS untuk “membantu mempertahankan daripada risiko model-model ini.”

Ujian oleh penyelidik bebas, termasuk apa yang dipanggil “red teams,” telah menyerlahkan keupayaan canggih model itu.

Menurut Anthropic, Mythos boleh mengenal pasti pepijat kritikal dalam sistem warisan secara autonomi dan malah mencadangkan kaedah untuk mengeksploitasinya.

"Mythos Preview telah pun menemui beribu-ribu kelemahan tahap tinggi, termasuk beberapa dalam setiap sistem operasi utama dan pelayar web," kata syarikat itu.

"Memandangkan kadar kemajuan AI, tidak akan lama sebelum keupayaan sedemikian merebak, berpotensi ke luar pihak yang komited untuk menyebarkannya dengan selamat."

Risiko paling tinggi pada sistem warisan

Ancaman berpotensi ini amat ketara dalam sektor-sektor yang bergantung pada infrastruktur kompleks dan lapuk usia.

Laporan oleh Bain & Company mencatat bahawa industri seperti tenaga, pembuatan, dan pengangkutan mungkin menghadapi risiko meningkat disebabkan sistem lapuk yang sukar dipatch.

Bank juga rentan memandangkan kebergantungan mereka pada sistem saling berhubung, sebahagiannya berusia berdekad-dekad.

Walau bagaimanapun, laporan tersebut menekankan bahawa risiko boleh dikendalikan dengan amalan keselamatan siber yang kukuh.

"Ancaman ini serius, tetapi ia bukan tidak dapat diatasi, dan asas keselamatan siber yang kukuh adalah pertahanan terbaik anda," katanya, menambah bahawa perlindungan sedia ada seperti segmentasi rangkaian, kawalan akses, dan pengesanan anomali boleh memberikan perlindungan yang signifikan.

Tumpuan beralih ke kesiapsiagaan daripada panik

Daripada tergesa-gesa membangunkan pertahanan khusus AI yang sepenuhnya baru, pakar berhujah bahawa organisasi harus mengutamakan pengukuhan rangka kerja keselamatan sedia ada.

Cadangan termasuk menubuhkan pasukan tindak balas ancaman AI khusus, memperbaiki langkah keselamatan siber asas, dan menangani kelemahan dalam persekitaran teknologi operasi.

Sebagai akses kepada sistem AI berkuasa berkembang, pengawal selia dan syarikat sama-sama berdepan dengan satu tindakan imbangan—memanfaatkan manfaat inovasi sambil menjaga terhadap akibat yang tidak diingini.

Tindak balas global yang pantas terhadap Mythos menunjukkan bahawa pembuat dasar sedar tentang kepentingannya.

Sama ada usaha awal ini akan mencukupi untuk mengurangkan risiko yang dibawa oleh AI generasi akan datang kekal sebagai persoalan terbuka.