Mengapa Anthropic bekerjasama dengan Nvidia, Microsoft dalam keselamatan siber

Ruang kecerdasan buatan semakin membesar setiap hari, dan para gergasi sedang bersiap untuk langkah seterusnya.

Anthropic menjalin pakatan dengan Nvidia, Microsoft dan banyak lagi gergasi teknologi untuk menghadapi gelombang seterusnya sistem AI, yang mungkin menjadi cukup berkuasa untuk membentuk semula pertahanan siber.

Di bawah inisiatif baharu bernama Project Glasswing, syarikat permulaan itu memberikan rakan terpilih akses kepada sebuah model yang belum dikeluarkan, Claude Mythos Preview.

Anthropic berkata sistem itu telah mengesan "beribu-ribu" kerentanan perisian utama.

Rakan pelancaran Anthropic termasuk Microsoft, Nvidia, Amazon, Apple, Google, CrowdStrike, Palo Alto Networks, Cisco, Broadcom, JPMorgan Chase dan Linux Foundation.

Model yang cukup berkuasa hingga membimbangkan penciptanya

Hujah asas Anthropic ialah Mythos Preview bukan sekadar model pengekodan yang lebih baik.

Ia mempunyai keupayaan luar biasa untuk menemui kelemahan tersembunyi dalam perisian yang menyokong ekonomi digital moden.

Dalam kenyataannya, syarikat itu berkata model tersebut mengenal pasti beribu-ribu kerentanan ketara dalam sistem operasi.

Itu menerangkan mengapa Anthropic tidak melancarkannya seperti pelancaran produk biasa. Sebaliknya, ia menganggap model itu sebagai alat yang mesti diuji terlebih dahulu di bawah keadaan terkawal.

Perbezaan itu penting, kerana model yang dapat menemui kecacatan dengan pantas juga boleh memendekkan masa antara pengenalpastian satu kerentanan dan mengeksploitasi kerentanan tersebut.

Pembingkaian umum Anthropic ialah kes penggunaan pertama paling selamat untuk sistem sedemikian adalah defensif: membantu organisasi yang dipercayai mencari dan membaiki kelemahan sebelum penyerang melakukannya.

Juga baca- Pertembungan Anthropic-Pentagon menimbulkan persoalan utama: siapa yang dipersalahkan jika AI membunuh?

Mengapa Microsoft, Nvidia dan lain-lain penting

Senarai rakan kongsi menunjukkan Anthropic cuba membina gabungan defensif di sekitar bahagian sistem digital yang paling penting.

Microsoft membawa capaian merentasi perisian perusahaan, pengkomputeran awan dan alat keselamatan. Nvidia berada di tengah tumpukan perkakasan AI.

Amazon, Google dan Apple mengawal sebahagian besar infrastruktur awan, pengguna dan perisian.

CrowdStrike, Palo Alto Networks dan Cisco sangat terlibat dalam pertahanan siber korporat.

Broadcom, JPMorgan Chase dan Linux Foundation masing-masing mewakili lapisan kritikal infrastruktur, kewangan dan perisian sumber terbuka.

Dalam istilah praktikal, inilah jenis organisasi yang dapat mengesan ancaman awal, menguji sistem pada skala besar dan menampal kerentanan dengan cepat.

Anthropic berkata rakan pelancaran akan menggunakan Mythos Preview dalam kerja keselamatan defensif mereka dan syarikat itu akan berkongsi penemuan dengan industri.

Ia juga merancang untuk mengembangkan akses kepada kira-kira 40 lagi organisasi yang bertanggungjawab ke atas infrastruktur perisian kritikal.

Itu menjadikan Project Glasswing kelihatan kurang seperti latihan penjenamaan dan lebih kepada usaha untuk meletakkan alat AI berkuasa terlebih dahulu ke tangan institusi yang mampu menanggung risikonya.

Cerita yang lebih mendalam ialah AI semakin menjadi ancaman dan juga pertahanan.

Persidangan keselamatan siber RSA tahun ini didominasi oleh perbincangan tentang serangan yang dikuasakan AI dan sama ada pertahanan konvensional masih mencukupi.

Isunya bukan sahaja penyerang boleh menggunakan AI untuk bergerak lebih pantas, tetapi pihak pembela mungkin memerlukan sistem yang sama berkemampuan sekadar untuk mengejar.