Alman bankaları Anthropic'in AI modeli Mythos'un risklerini değerlendiriyor

Perşembe günü bir yetkili, Alman bankalarının ve ulusal yetkililerin Anthropic tarafından geliştirilen yeni bir yapay zeka modeline bağlı potansiyel riskleri değerlendirdiğini söyledi.

Endişeler, teknolojinin finansal kuruluşları hedef alan siber saldırı tehdidini artırıp artırmayacağı üzerinde yoğunlaşıyor.

Alman Bankacılık Derneği yönetim kurulu üyesi Kolja Gabriel, grubun üye bankalar genelinde siber güvenlik uzmanlarıyla aktif şekilde istişare ettiğini söyledi.

Reuters’e göre ayrıca Almanya Maliye Bakanlığı ve diğer yetkililerle de görüşmelerin sürdüğünü ekledi.

Düzenleyiciler ve yetkililerle koordinasyon

Sürmekte olan görüşmelere Bundesbank ve Almanya’nın finansal düzenleyicisi BaFin de katılıyor.

BaFin, ulusal, Avrupa ve uluslararası paydaşlarla düzenli görüş alışverişini sürdürdüğünü doğruladı.

Düzenleyici, finans sektöründe hazırlıklı olunması gerektiğini vurguladı.

Mythos siber güvenlik uzmanları arasında endişe yarattı

Mythos olarak bilinen Anthropic modeli, özellikle eski teknoloji sistemlerine dayanan bankalar için önemli zorluklar oluşturduğunu düşünen siber güvenlik uzmanlarının dikkatini çekti.

Bu endişeler ayrıca Britanya ve Amerika Birleşik Devletleri'nde düzenleyici ilgiyi de beraberinde getirdi.

“Mythos, potansiyel güvenlik açıklarını mümkün olan en hızlı şekilde kapatmak için BT güvenlik firmaları tarafından kontrollü bir şekilde kullanılıyor.

Kısa süre içinde bir dizi yazılım güncellemesi bekliyoruz ve gelişmeleri yakından izliyoruz,” dedi Gabriel e-posta ile gönderdiği açıklamada.

Dernekte teknoloji ve inovasyondan sorumlu.

Avrupa Merkez Bankası'ndaki denetçiler, modelle bağlantılı riskler hakkında bankacıları sorgulamaya hazırlanıyor.

Sınırlı dağıtım ve sektörel testler

Anthropic, mevcut sürümünün Claude Mythos Preview'ın genel kullanıma sunulmayacağını belirtti.

Bunun yerine şirket, Project Glasswing adlı bir girişim başlattı.

Program, başlıca teknoloji firmalarını, siber güvenlik sağlayıcılarını ve JPMorgan Chase dahil kuruluşları modeli özel olarak değerlendirmeye ve savunmaları güçlendirmeye davet ediyor.

Bu kontrollü dağıtım, paydaşların gelişmiş yapay zeka sistemlerinin sonuçlarını anlamaya çalıştığı bir ortamda sektördeki daha geniş temkinliliği yansıtıyor.

Anthropic'in yapay zeka alanındaki yükselen etkisi

Bu yoğun inceleme, Anthropic'in küresel yapay zeka sektöründe önem kazandığı bir döneme denk geliyor.

Şirket, onu $380 billion değerlemeye getiren önemli bir finansman turunun ardından önemli bir oyuncu olarak öne çıktı.

Palisade Research'ten Dave Kasten'e göre, Anthropic güvenlik ve güvenilirliğe odaklanarak güçlü bir konum inşa etti.

Şirketin 'anayasal bütünlük' yaklaşımının rakiplere karşı yapısal bir avantaj yarattığını belirtti.

Kasten, modelin yalnızca tarihsel örüntülere dayanmak yerine ileri düzey akıl yürütme yoluyla güvenlik açıklarını tespit etme yeteneğini vurguladı.

Bir örnek olarak sistemin, FreeBSD uygulamasında daha önce tespit edilmemiş bir kusuru belirlediğini gösterdi; bu da proaktif siber güvenlik için potansiyelini ortaya koyuyor.

Stratejik önem ve politika gerilimleri

Endişelere rağmen Mythos'a olan ilgi Avrupa'nın ötesine uzanıyor.

Bir Politico raporu, ABD ajanslarının ve kongre yetkililerinin Anthropic ile çalışmaya getirilen kısıtlamalardan sonra dahi modelin yetenekleriyle etkileşimi sürdürdüğünü belirtti.

Rapor, Ticaret Bakanlığı'nın AI Standartları ve İnovasyon Merkezi'nin Mythos'un siber güvenlik özelliklerini test ettiğini söyledi.

Birden fazla kongre komitesinde görevli personel de model hakkında brifing talep etti.

Bu durum daha geniş bir gerilimi ortaya koyuyor.

Pentagon Anthropic'i tedarik zinciri riski olarak nitelendirip ticari bağlarını kestiği halde, ABD hükümetinin bazı bölümleri stratejik önemde görülen bir teknolojiyi görmezden gelmekte isteksiz görünüyor.

Bu etkileşimin boyutu belirsizliğini koruyor.

Bununla birlikte süregelen ilgi, Mythos gibi gelişmiş yapay zeka araçlarının düzenleyici temkinliliğe rağmen siber güvenlik ve ulusal güvenlik değerlendirmelerinde giderek daha merkezi hale geldiğini gösteriyor.