Nvidia, artan siber tehditler karşısında OpenAI güvenlik ittifakı başlattı

Nvidia ve önde gelen teknoloji şirketlerinden oluşan bir grup Pazartesi günü açık modeller için yapay zeka güvenliği ve emniyetine odaklanan yeni bir girişim başlattı.

Bu hamle, teknoloji sektörünün yapay zekânın siber saldırılarda kullanımı konusundaki artan endişeler ve Çin yapay zeka modellerine yönelik yoğunlaşan incelemelerle karşı karşıya olduğu bir dönemde geldi.

Girişim, kötü niyetli bir OpenAI modeliyle ilgili bir siber saldırının açığa çıkmasının ardından geldi.

Olay, yapay zeka sistemlerinin saldırganlarla kendilerine karşı savunma yapan siber güvenlik ekiplerini ayırt etme yeteneğiyle ilgili endişeleri gündeme getirdi.

Yeni ittifak, açık yapay zeka araçları geliştirmeyi ve paylaşmayı hedefliyor.

Ayrıca açıklık esaslı teknolojiler aracılığıyla güvenlik açıklarını gidermeyi amaçlıyor.

Bu çaba, ABD yasama organlarının Çin yapay zeka modellerinin artan benimsenimini sınırlamaya yönelik önlemleri giderek daha fazla değerlendirdikleri bir dönemde geldi.

Yeni ittifak OpenAI güvenliğine odaklanıyor

NVDA, yeni kurulan Open Secure AI Alliance'ın güvenlik açıklarını ele almaya ve bunları açık teknolojiler kullanarak kamuoyuna açıklamaya odaklanacağını söyledi.

"Open Secure AI Alliance, açık teknolojiler kullanarak güvenlik açıklarını düzeltme ve açıklama üzerinde çalışacak," Nvidia bir açıklamada söyledi.

"Son Hugging Face güvenlik olayı açık bir hatırlatma verdi: siber savunucuların kendi kendini koruyabilmesi için açık, ajan-temelli ileri sistemlere ihtiyaçları var."

İttifak, Nvidia, Microsoft, SpaceX ve Palantir'in yanı sıra ABD ve Avrupa'dan onlarca diğer teknoloji şirketini içeriyor.

Girişim, kullanıcıların kendilerinin indirip, değiştirebileceği ve barındırabileceği açık yapay zeka modellerine odaklanıyor.

Bu, Anthropic ve OpenAI gibi şirketler tarafından geliştirilen ileri seviye sistemler dahil olmak üzere kapalı yapay zeka modellerinden farklıdır; bu modeller yalnızca belirli altyapılar aracılığıyla erişilebiliyor.

Şirketlerin açık yapay zeka araçlarına yönelik çabası, siber saldırıya hedef olan bir yapay zeka girişimi olan Hugging Face ile ilgili yakın tarihli bir güvenlik olayının ardından geliyor.

Şirket, olay sırasında savunma için önde gelen ABD yapay zeka sistemlerini kullanamadı.

Söz konusu sistemlerdeki güvenlik önlemlerinin söylendiğine göre saldırgan ile savunmacıyı ayırt etmediği bildirildi.

Sonuç olarak Hugging Face, aynı kısıtlamalara tabi olmayan kendi barındırdığı, açık ağırlıklı bir Çin yapay zeka modeline yöneldi.

Olay, açık yapay zeka modellerinin siber güvenlikte önemli bir rol oynayıp oynayamayacağı tartışmasına katkıda bulundu.

Ayrıca gelişmiş yapay zeka sistemlerinin kullanımına getirilecek kısıtlamaların etkisi hakkında soru işaretleri doğurdu.

Çin yapay zeka modellerine getirilen kısıtlamalar hakkında endişeler

İttifakın başlatılması, Çinli şirketler tarafından geliştirilen yapay zeka modellerine erişimi sınırlayabilecek önlemler çağrılarının arttığı bir zamanda gerçekleşti.

En gelişmiş Çin yapay zeka modelleri açık ağırlıklıdır; bu da onların kapalı yapay zeka sistemlerinden farklı şekillerde indirilebilmesine ve kullanılabilmesine olanak tanır.

Çinli yapay zeka şirketleri ayrıca ABD'li rakipler tarafından işletilen sistemlerden bilgi çıkarmak için kampanyalar yürütmekle de suçlandı.

Bu süreç 'distillation' (bilgi damıtma) olarak biliniyor; bir yapay zeka modelinin daha iyi eğitilmiş bir modelden bilgi çıkarmasıdır.

Hazine Bakanı Scott Bessent geçen hafta, ABD şirketlerine karşı distillation saldırıları gerçekleştiren Çinli şirketlere yaptırım tehdidinde bulundu.

Yeni kısıtlamaların olasılığı, açık ağırlıklı yapay zeka modellerinin geleceği ve erişilebilirliği konusunda belirsizlik yarattı.

Sektör erken kısıtlamalara karşı uyarıyor

Dış İlişkiler Konseyi'nde Çin ve gelişmekte olan teknolojiler kıdemli üyesi Chris McGuire, ABD hükümetinin potansiyel olarak Çin yapay zeka modellerine kısıtlamalar getirebileceğini söyledi.

"ABD hükümetinin Çin modellerine kısıtlamalar getirme olasılığı gerçekten var," McGuire CNBC'ye söyledi.

Aynı zamanda, başlıca teknoloji şirketleri politika yapıcıları açık ağırlıklı yapay zekayı düzenlerken temkinli olmaya çağırdı.

Geçen hafta, Nvidia, Microsoft, Meta, Palantir ve 20'den fazla diğer şirket, politika yapıcıları açık ağırlıklı yapay zeka modellerine "erken kısıtlamalardan" kaçınmaya çağıran bir mektup yayımladı.

Şirketler, bu tür kısıtlamaların "rekabeti baltalayabileceğini veya inovasyonu yurt dışına itebileceğini" savundu.

Tartışma, yapay zeka endüstrisi içindeki artan gerilimi yansıtıyor.

Şirketler ve politika yapıcılar, geliştiriciler ve siber güvenlik ekiplerinin güçlü araçlara erişimini sağlarken aynı zamanda gelişmiş yapay zeka sistemleriyle bağlantılı güvenlik risklerini ele almaya çalışıyor.

Nvidia ve ortakları için Open Secure AI Alliance, yapay zeka güvenliğinde açık teknolojilerin rolünü güçlendirme çabası anlamına geliyor.

Girişim, politika yapıcıların Çin yapay zeka modellerinin hızlı benimsenmesine ve açık ağırlıklı yapay zekânın daha geniş çaplı gelişimine nasıl yanıt vereceklerini tarttıkları bir döneme denk geliyor.