Claude Mythos Preview: amaran kepada Wall Street

Claude Mythos Preview milik Anthropic tidak direka untuk memilih saham, menjadi penganalisis kredit atau pembantu dagangan.

Model ini berada di sudut kecerdasan buatan yang lebih membimbangkan: keselamatan siber.

Anthropic mengatakan Mythos boleh mengenal pasti dan mengeksploitasi kelemahan perisian yang sebelum ini tidak diketahui merentasi sistem operasi dan penyemak imbas utama.

Bagi bank, pengurus aset, syarikat insurans, bursa dan firma pembayaran, dakwaan itu berada pada ruang yang jauh lebih sensitif daripada soal produktiviti.

Sektor kewangan bergantung pada perisian dikongsi, pembekal awan, rangkaian pembayaran, pembekal data dan sistem dalaman yang berusia berdekad-dekad.

Jika model AI boleh menemui kelemahan lebih cepat daripada institusi dapat menampalnya, risikonya bukan lagi sekadar masalah teknologi. Ia menjadi masalah keyakinan pasaran.

Anthropic tidak memaparkan Mythos Preview sebagai pelepasan untuk orang awam secara umum.

Model itu dikendalikan melalui akses terhad, tetapi keupayaan yang ditunjukkannya adalah apa yang penting bagi kewangan: sistem AI semakin pantas dalam mencari dan mengubah kelemahan perisian menjadi eksploit yang berfungsi.

Model siber dengan implikasi kewangan

Kesilapan pertama ialah melayan Mythos sebagai satu lagi AI serba guna.

Tidak seperti chatbot pengguna atau pembantu AI yang kini diuji untuk penyelidikan, pematuhan dan perkhidmatan pelanggan, Mythos penting kerana apa yang ia tunjukkan mengenai peringkat seterusnya penemuan kelemahan pada kelajuan mesin.

Anthropic mengatakan ujian pasukan merahnya mendapati Mythos Preview boleh mengenal pasti dan mengeksploitasi kelemahan zero-day dalam setiap sistem operasi utama dan setiap penyemak imbas web utama apabila diarahkan oleh pengguna.

Itu sudah mengejutkan dalam mana-mana industri, tetapi bagi sektor kewangan, ia lebih tajam lagi.

Bank bukan sekadar mengendalikan laman web dan aplikasi. Mereka mengekalkan ekosistem teknologi besar yang merangkumi sistem teras perbankan, platform dagangan, pintu pembayaran, enjin risiko, pangkalan data pelanggan, penggubahan awan dan pautan pembekal pihak ketiga.

Sebahagian infrastruktur itu moden, tetapi banyak daripadanya lama, sangat disesuaikan dan sukar untuk digantikan.

Dalam institusi besar, mengenal pasti keseluruhan peta pergantungan perisian pun boleh menjadi cabaran.

Model yang mempercepat penemuan kelemahan mengubah keseimbangan tekanan. Pihak pembela mungkin dapat menemui titik lemah lebih awal.

Tetapi penyerang, jika mereka memperoleh keupayaan yang setanding, mungkin dapat merapatkan masa antara penemuan dan eksploitasi.

Itulah dilema utama: Mythos boleh mengukuhkan sistem kewangan, tetapi hanya jika pembela dapat menyerap dan bertindak atas dapatan itu lebih cepat daripada pihak lawan yang boleh mengsenjatakan alat serupa.

Apabila ramalan menjadi lebih murah

Ajay Agrawal, profesor di Rotman School of Management, University of Toronto dan pengarang bersama Prediction Machines dan Power and Prediction, memberitahu Invezz bahawa impak ejen AI maju harus dilihat sebagai perubahan dalam ekonomi membuat keputusan, bukan semata-mata cara yang lebih murah untuk menghasilkan analisis.

Pembingkaian itu berguna untuk Mythos, walaupun keupayaan model yang paling ketara adalah dalam siber dan bukannya analisis pelaburan.

Jika penemuan kelemahan menjadi lebih murah, pasukan keselamatan akan berdepan lebih banyak dapatan, lebih banyak kerja triage dan lebih banyak keputusan tentang apa yang paling penting.

Sumber yang terhad mungkin bukan lagi keupayaan untuk mengesan kecacatan, tetapi keupayaan untuk menilai kecacatan mana yang paling bermakna.

Dengan kata lain, kesesakan bahagian sektor kewangan boleh berpindah dari pengesanan kepada tanggungjawab.

Masalah penampalan adalah titik tekanan sebenar

Institusi kewangan sudah memperuntukkan perbelanjaan besar untuk keselamatan siber, tetapi persoalannya ialah sama ada model operasi mereka dapat mengejar dunia di mana alat AI menghasilkan dapatan keselamatan yang serius pada kadar yang jauh lebih pantas.

Menemui kelemahan tidak bermakna masalah itu diselesaikan.

Pertama, pasukan perlu menyemak sama ada kecacatan itu menjejaskan sistem mereka. Jurutera mesti mengujinya, pasukan risiko mesti menilai pendedahan, dan ketua perniagaan perlu memahami sama ada memperbaikinya boleh mengganggu perkhidmatan kritikal.

Pembekal mungkin juga perlu mengeluarkan kemas kini, dan pengawal selia mungkin perlu dimaklumkan. Dalam beberapa kes, malah tampalan boleh mewujudkan risiko operasi baru.

Aliran kerja itu perlahan kerana teknologi perbankan bukan makmal yang bersih. Ia adalah sistem hidup yang mesti kekal beroperasi.

Pendedahan Mythos mencadangkan masa depan di mana sisi penemuan keselamatan siber menjadi lebih pantas dan lebih murah, manakala sisi pembaikan kekal terhad oleh manusia, tadbir urus, seni bina legasi dan jangkaan pengawal selia.

Bank besar mungkin mempunyai wang dan kakitangan untuk bertindak balas dengan cepat. Bank yang lebih kecil mungkin tidak.

Pembekal awan besar mungkin boleh membetulkan masalah dengan pantas, tetapi pembekal kecil yang menyokong sistem back-office penting mungkin mengambil masa lebih lama.

Itu bermakna titik paling lemah mungkin tidak berada di dalam bank itu sendiri. Ia boleh berada pada pembekal luar, walaupun bank itu adalah pihak yang menanggung kerosakan reputasi.

Mengapa IMF melihat risiko kestabilan kewangan

Tabung Kewangan Antarabangsa telah mengangkat perdebatan itu melepasi kebersihan siber korporat.

Ia memberi amaran bahawa alat siber yang dikuasakan AI boleh meningkatkan risiko kestabilan kewangan, terutamanya di mana institusi bergantung pada perisian biasa dan pembekal perkhidmatan berkongsi.

Firma kewangan bersambung melalui lebih daripada kunci kira-kira. Mereka bersambung melalui sistem operasi, infrastruktur awan, sistem pembayaran, utiliti pasaran, rangkaian pemesejan, suapan data dan pembekal perisian.

Satu kelemahan yang dieksploitasi dalam komponen yang banyak digunakan oleh itu boleh berkelakuan kurang seperti ralat teknologi tempatan dan lebih seperti kejutan bersama.

Bahayanya bukan sahaja satu bank digodam. Ia ialah banyak institusi mengetahui, pada masa yang sama, bahawa mereka berkongsi pendedahan yang sama.

Dalam senario itu, risiko siber boleh menjadi risiko kecairan, risiko pasaran dan risiko keyakinan.

Masih ada penampan seperti yang dinyatakan IMF bahawa keupayaan siber AI maju belum lagi tersedia secara meluas, dan perisian kewangan khusus industri yang tertutup boleh jadi lebih sukar untuk disasarkan berbanding infrastruktur sumber terbuka.

Tetapi perlindungan itu mungkin menjadi lemah apabila keupayaan merebak, model bertambah baik, dan penyerang belajar menggabungkan maklumat awam dengan alat automatik.

Pengawal selia beralih dari kebimbangan kepada tindakan

Bank Pusat Eropah telah bergerak pantas untuk meletakkan daya tahan operasi kembali di tengah perdebatan perbankan.

Frank Elderson, ahli Lembaga Eksekutif ECB dan timbalan pengerusi Lembaga Penyeliaannya, memberi amaran bahawa model AI sempadan mengubah landskap ancaman siber dengan menurunkan halangan bagi penyerang dan meningkatkan kelajuan eksploitasi.

ECB juga mengatakan bank perlu membuat pelaburan berbilang tahun dalam sumber manusia, sistem dan tadbir urus, bukannya sekadar pembetulan teknologi sempit.

Pesan Elderson tegas:

Perbezaan itu penting kerana pengawal selia nampaknya tidak melayan Mythos sebagai kejadian panik, tetapi sebagai bukti bahawa kelemahan siber yang berlarutan mungkin perlu diperbaiki dengan lebih pantas.

Bank telah menghabiskan bertahun-tahun membina rangka kerja ketahanan, menjalankan ujian tekanan siber dan menambah baik tindak balas insiden.

Tetapi kehadiran model yang boleh mencari dan mengeksploitasi kelemahan dengan lebih cekap mengubah jadual masa.

Perlumbaan penyerang-pembela menjadi tidak simetri

Bahagian yang tidak selesa dalam cerita Mythos ialah keupayaan yang sama boleh membantu kedua-dua pihak.

Bagi pembela, model yang boleh memeriksa kod, mencari kelemahan dan membantu memprioritaskan pembaikan adalah sangat bernilai.

Ia boleh membantu bank mengimbas sistem lama, menyemak kod pihak ketiga, menguji alat dalaman dan mencari kelemahan sebelum penyerang melakukannya. Ia juga boleh mengurangkan kebergantungan pada pakar siber manusia yang jarang ditemui.

Tetapi keselamatan siber bukan pertandingan sebelah sahaja. Jika keupayaan AI serupa tersebar melampaui beberapa makmal terkawal, penyerang boleh mendapat manfaat sama pantas seperti pembela.

Tidak seperti bank dan pasukan keselamatan, penyerang tidak perlu melindungi keseluruhan sistem; mereka hanya perlu mencari satu titik masuk lemah.

Huraian Anthropic sendiri tentang Mythos menekankan kepentingan keupayaan itu:

“Mythos Preview mampu mengenal pasti dan kemudian mengeksploitasi kelemahan zero-day dalam setiap sistem operasi utama dan setiap penyemak imbas web utama.”

Itu tidak bermakna setiap penyerang mempunyai akses kepada Mythos kerana Anthropic telah memaparkan model itu sebagai terhad dan terkawal.

Tetapi arah pergerakan cukup jelas untuk bank merancang mengikutnya.

Premium risiko baharu untuk teknologi lama

Mythos tidak membuat sektor kewangan menjadi tidak selamat dalam sekelip mata, kerana sektor itu kekal antara bahagian ekonomi global yang paling dikawal selia dan sedar tentang siber.

Bank telah membelanjakan banyak untuk keselamatan, dan ramai sudah menggunakan AI untuk mengesan penipuan, memantau ancaman dan melindungi pelanggan.

Namun, model ini adalah amaran tentang kelajuan.

Sektor kewangan menjadi lebih digital, lebih dioutsource dan lebih saling berkaitan, dan walaupun itu menjadikan sistem cekap, ia juga mewujudkan titik kegagalan yang dikongsi.

Jika AI memampatkan masa yang diperlukan untuk mencari dan mengeksploitasi kelemahan, maka kitaran tampalan lama, proses pembekal yang perlahan dan akauntabiliti yang terkoyak menjadi lebih berbahaya.

Pemenang bukan semata-mata firma yang mempunyai akses kepada model terbaik. Mereka ialah pihak yang boleh menukar penemuan yang lebih pantas menjadi keputusan yang lebih pantas dan lebih selamat.

Bagi Wall Street dan sistem kewangan yang lebih luas, Mythos bukan sekadar cerita siber. Ia cerita tentang ketahanan operasi menjadi ketahanan kewangan.

Dalam pasaran yang dibina atas kepercayaan, keupayaan untuk terus beroperasi di bawah tekanan digital mungkin menjadi sama penting dengan keupayaan untuk menyerap kerugian dalam kunci kira-kira.