Anthropic'in Mythos'u: Düzenleyiciler ve merkez bankaları neden tedirgin?

Önde gelen ekonomilerdeki finansal düzenleyiciler, Anthropic'in geliştirdiği güçlü yeni bir yapay zekâ modelini daha yakından inceliyor; gelişmiş yeteneklerinin kritik finansal ve dijital sistemlerdeki güvenlik açıklarını ortaya çıkarabileceği yönünde artan endişeler var.

Japonya, Avrupa, Hindistan ve diğer bölgelerdeki yetkililer model olarak bilinen Mythos nedeniyle siber güvenlik risklerine ilişkin taze sorular ortaya çıktığı için yanıtları koordine ediyor.

Japonya en büyük kredi kuruluşları ve düzenleyicileri topluyor

Japonya'da Finansal Hizmetler Ajansı Çarşamba günü, Mitsubishi UFJ Financial Group, Sumitomo Mitsui Financial Group ve Mizuho Financial Group dahil olmak üzere ülkenin en büyük bankacılık gruplarıyla Cuma günü üst düzey bir toplantı yapacağını açıkladı.

Toplantıya ayrıca Japonya Merkez Bankası ve Tokyo Menkul Kıymetler Borsası da katılacak; bu, finansal sistem genelindeki endişelerin genişliğini yansıtıyor.

Satsuki Katayama, amacın gelişen durumu değerlendirmek için kilit paydaşları bir araya getirmek olduğunu söyledi.

"En büyük sorumluluğu taşıyan çekirdek üyeleri bir araya getirip mevcut durum hakkındaki değerlendirmeleri paylaşacağız ve uluslararası finans topluluğunun çeşitli kesimlerinde gündeme gelen konular da dahil olmak üzere görüş alışverişinde bulunacağız," dedi.

Dünya genelinde merkez bankaları alarma geçti

Diğer bölgelerdeki düzenleyiciler de benzer adımlar atıyor.

Avustralya Merkez Bankası Çarşamba günü gelişmeleri yakından izlediğini ve "muadili düzenleyiciler, hükümet ve düzenlenen kuruluşlarla etkileşim halinde olduğunu" söyledi.

Bu arada Yeni Zelanda Merkez Bankası Çarşamba günü riskleri "gelişmekte olan" olarak nitelendirdi ve yurt içi ile Avustralya muhataplarıyla koordinasyon sağlandığını doğruladı.

Hindistan da küresel çabaya katıldı.

Reuters raporuna göre, Hindistan Merkez Bankası potansiyel tehditleri değerlendirmek için uluslararası düzenleyiciler, kredi kuruluşları ve hükümet yetkilileriyle görüşüyor.

İlk değerlendirmeler, modelin yazılım güvenlik açıklarının keşfini ve istismarını hızlandırabileceğine işaret ediyor; bu da siber güvenlik endişelerini artırıyor.

Konu küresel politika yapımının en üst seviyelerine ulaştı.

Kanada maliye bakanı François-Philippe Champagne, BBC'ye modelin Washington'daki yakın tarihli bir Uluslararası Para Fonu toplantısında tartışıldığını söyledi.

"Kesinlikle tüm maliye bakanlarının dikkatini hak edecek kadar ciddi," diyerek teknolojiyi bir "bilinmeyen bilinmeyen" olarak nitelendirdi.

Benzer şekilde, İngiltere Merkez Bankası başkanı Andrew Bailey yetkililerin etkileri yakından değerlendirdiği konusunda uyarıda bulundu.

"Bu en son yapay zekâ gelişiminin siber suç riski açısından ne anlama gelebileceğine şimdi çok dikkatli bakmak zorundayız," dedi BBC'ye.

Siber güvenlik için iki ucu keskin kılıç

Mythos savunma amaçlı siber güvenlik uygulamaları için tasarlanmış olsa da yetenekleri endişe uyandırdı.

Anthropic, erken testlerin büyük işletim sistemleri ve web tarayıcıları genelinde "binlerce" önemli zafiyet ortaya çıkardığını söyledi.

Salı günü Bundesbank Başkanı Joachim Nagel modeli "iki ucu keskin bir kılıç" olarak nitelendirdi.

"Sadece dijital güvenlik sistemlerini iyileştirmek için kullanılmakla kalmayıp, aynı zamanda bunların zaaflarını kötü amaçlarla kullanmak için de istismar edilebilir," dedi.

Uzmanlar, asıl kaygının bu tür bir yapay zekâ sisteminin zayıflıkları tespit etme ve istismar etme hızında ve ölçeğinde olduğunu; bunun geleneksel güvenlik yanıtlarını çok geride bırakabileceğini söylüyor.

Anthropic neden modele erişimi kısıtladı?

Anthropic, modele erişimi Project Glasswing adlı kontrollü bir girişim kapsamında kısıtladı.

Amazon, Microsoft, Nvidia ve Apple dahil seçili kuruluşlara erken erişim verildi; ayrıca kritik dijital altyapıyı sürdüren onlarca kuruluş da erişim sağladı.

Bir lansman videosunda Dario Amodei, şirketin bu modellerin riskine karşı "savunmaya yardımcı olmak" için ABD yetkilileriyle işbirliği teklif ettiğini söyledi.

Bağımsız araştırmacılar tarafından, "kırmızı takımlar" da dahil olmak üzere yapılan testler modelin gelişmiş yeteneklerini ortaya koydu.

Anthropic'e göre Mythos, eski sistemlerde kritik hataları otonom olarak tespit edebiliyor ve bunları istismar etme yöntemleri bile önerebiliyor.

Şirket, "Mythos Preview'in halihazırda her büyük işletim sistemi ve web tarayıcısında bazıları dahil olmak üzere binlerce yüksek şiddetli zafiyet bulduğunu" söyledi.

"Yapay zekânın ilerleme hızını göz önünde bulundurarak, bu tür yeteneklerin, bunları güvenli şekilde kullanan aktörlerin ötesinde hızla yayılması uzun sürmeyecek," diye ekledi.

Riskler eski sistemlerde en yüksek

Potansiyel tehdit, karmaşık ve yaşlanan altyapıya dayanan sektörlerde özellikle ciddi.

Bain & Company'nin bir raporu, enerji, imalat ve ulaşım gibi sektörlerin yamanması zor eski sistemler nedeniyle artan riskle karşı karşıya kalabileceğini belirtti.

Bankalar da birbirine bağlı sistemlere bağımlı oldukları için savunmasız durumda; bazı sistemler on yıllardır kullanılmakta.

Bununla birlikte rapor, güçlü siber güvenlik uygulamalarıyla risklerin yönetilebilir olduğunu vurguladı.

"Tehdit ciddi, ancak aşılmaz değil ve güçlü siber güvenlik temelleri en iyi savunmadır," dedi ve ağ segmentasyonu, erişim kontrolleri ve anomali tespiti gibi mevcut koruyucu önlemlerin önemli koruma sağlayabileceğini ekledi.

Odak paniğe değil hazırlığa kayıyor

Uzmanlar, tamamen yeni yapay zekâya özgü savunmalar geliştirmeye acele etmek yerine kuruluşların mevcut güvenlik çerçevelerini güçlendirmeyi önceliklendirmesi gerektiğini savunuyor.

Öneriler arasında özel yapay zekâ tehdit müdahale ekipleri kurulması, temel siber güvenlik önlemlerinin iyileştirilmesi ve operasyonel teknoloji ortamlarındaki zafiyetlerin ele alınması yer alıyor.

Güçlü yapay zekâ sistemlerine erişim genişledikçe düzenleyiciler ve şirketler yeniliğin faydalarından yararlanırken beklenmeyen sonuçlara karşı korunma arasında bir denge kurmak zorunda kalacak.

Mythos'a yönelik hızlı küresel tepki, politika yapıcıların risklerin farkında olduğunu gösteriyor.

Bu ilk çabaların nesil atlatan yapay zekânın yarattığı riskleri hafifletmek için yeterli olup olmayacağı ise hala açık bir soru.