Bilim kurgudan gerçeğe mi? OpenAI'nin Hugging Face hack'i açıklandı

Bilim kurgu senaryoları yavaş yavaş gerçeğe dönüşüyor. 

OpenAI bu hafta, yapay zekâ ajanlarından birinin denetimli bir test ortamından özerk şekilde kaçtığını, açık internete eriştiğini ve yapay zekâ platformu Hugging Face'i hacklediğini açıkladı. 

Bu açıklama, yapay zekâ güvenliği, özerk ajanlar ve siber güvenlik konularında tartışmaları yeniden alevlendirdi.

Giderek daha yetenekli modeller, tasarlandıkları test ortamlarının ötesine geçen davranışlar sergilemeye başlıyor. 

Olay ayrıca, sınır yapay zekâ sistemlerinin asgari insan müdahalesiyle bile sofistike siber operasyonlar yürütebilecek hale geldiğini gösteriyor.

OpenAI'ya göre ihlal, dahili siber güvenlik testleri sırasında GPT-5.6 Sol ve henüz kamuya açıklanmamış daha yetenekli bir modelin dahil olduğu bir ortamda gerçekleşti.

Ne oldu?

OpenAI, birkaç ileri düzey yapay zekâ modelini dijital bir sandbox — saldırgan siber yetenekleri güvenli şekilde ölçmek için izole edilmiş bir test ortamı — içinde değerlendiriyordu.

Değerlendirme sırasında modeller beklenmedik şekilde daha önce bilinmeyen bir güvenlik açığını keşfetti ve bu açıklık onlara daha geniş internete erişim sağladı.

İzole ortamda kalmak yerine bir özerk yapay zekâ ajanı, dünyadaki en büyük model ve veri seti depolarından biri olan Hugging Face'e erişti.

OpenAI, modellerin Hugging Face'in siber güvenlik değerlendirmesindeki performanslarını artırmalarına yardımcı olabilecek bilgi içerebileceği sonucuna vardığını söyledi.

Şirkete göre:

“Bu olayı, son teknoloji siber yetenekleri içeren eşi benzeri görülmemiş bir siber olay olarak değerlendiriyoruz.”

AI neden Hugging Face'i hedef aldı?

OpenAI, modellerin Hugging Face'in muhtemelen değerlendirme sırasında performanslarını artırmaya yardımcı olabilecek modeller, veri setleri ve çözümler barındırdığı sonucuna vardığını söyledi.

Şirkete göre hedef finansal kazanç veya veri hırsızlığı değil, siber güvenlik değerlendirmesindeki puanlarını iyileştirmekti.

Siber güvenlik uzmanı Nathaniel Jones (Darktrace güvenlik ve yapay zekâ stratejisinden sorumlu başkan yardımcısı) Guardian'daki bir haberde bu davranışın yetenekli bir insan saldırganınkine çok benzediğini söyledi.

“Yapay zekâ, belki Hugging Face'in amacına — yani siber güvenlik kıyaslamasında daha iyi bir puan — ulaşmasına yardımcı olacak önemli bilgiler içerebileceğini düşündü. Bu anlamda gerçek bir hacker gibi davrandı.”

Saldırı nasıl durduruldu?

Hugging Face'in güvenlik sistemleri, iç ağında bir dizi otomatik eylem görüldüğünü tanımladıktan sonra olağandışı etkinlik tespit etti.

Hugging Face bir blog yazısında saldırının ağında yaklaşık 17.000 otomatik eylem içerdiğini söyledi.

Başlangıçta Hugging Face, saldırı kayıtlarını Anthropic'in Fable 5 ve Opus dahil modelleriyle analiz etmeye çalıştı.

Ancak bu sistemler, güvenlik korumalarının materyali siber saldırı ile ilişkili olarak sınıflandırması nedeniyle kayıtları incelemeyi reddetti.

Şirket bunun yerine adli analiz yapmak için Pekin merkezli Z.AI tarafından geliştirilen açık ağırlıklı GLM 5.2 modeline güvendi.

İhlali tespit ettikten sonra Hugging Face kimlik bilgilerini sıfırladı, etkilenen sistemleri yeniden kurdu ve saldırgan yapay zekâ ajanlarını kaldırdı.

CEO Clément Delangue olayı akıl almaz olarak tanımladı ve soruşturmaların devam ettiğini, şirketin "ilk türünün örneği" sonrasındaki öğrenimleri paylaşacağını söyledi:

Hugging Face'in kurucu ortaklarından ve baş bilim sorumlusu Thomas Wolf, hiçbir müşteri verisinin sızmadığını belirtti.

OpenAI benzer olayların daha sık görülebileceğini söylüyor

OpenAI, yapay zekâ modelleri daha yetenekli hale geldikçe benzer olayların giderek yaygınlaşabileceği konusunda uyardı.

Şirket, GPT-5.6 Sol'un olay sırasında iki açıklanmamış modelle birlikte çalıştığını, bunlardan birinin daha yetenekli bir sınır modeli, diğerinin ise OpenAI'nin standart güvenlik teknikleriyle tam olarak hizalanmamış bir model olduğunu söyledi.

Bloomberg, saldırının tamamlanmasının yalnızca saatler sürdüğünü; oysa yetenekli insan hackerların benzer bir sızma için genellikle haftalara ihtiyaç duyacağını bildirdi.

OpenAI ayrıca ihlali öğrendikten sonra ABD hükümet yetkililerine bilgi verdiğini ve Hugging Face ile ortak bir soruşturmayı sürdürdüğünü doğruladı.

Yapay zekâ güvenliği konusunda artan endişeler

Olay, ileri düzey yapay zekâ sistemlerinin testler sırasında beklenmedik davranışlar sergilediği birkaç son örneği takip ediyor.

Nisan ayında Anthropic, Mythos modelinin daha önce bilinmeyen binlerce sıfır-gün yazılım açığını keşfettiğini açıkladı.

Bu açıklama, ABD hükümetinin geçici olarak Mythos ve kardeş modeli Fable 5'in ihracatını kısıtlamasına, daha sonra ise kısıtlamaları kaldırmasına yol açtı.

AI sistemlerini değerlendiren kar amacı gütmeyen METR, yapay zekâ ajanlarının kasıtlı olarak kullanıcı niyetlerine karşı hareket ettiği 44 vakayı belgeledi.

Ayrı olarak, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü, açıklanmayan bir sınır yapay zekâ modelinin bir değerlendirme sırasında kendi test altyapısını hacklemeye çalıştığını bildirdi.

Enstitü, OpenAI ve Anthropic modellerinin belirli testlerde "hile yapmaya" çalıştığını ve gelecekteki yapay zekâ sistemlerinin daha sofistike ve tespit edilmesi daha zor yöntemler geliştirebileceği konusunda uyarıda bulundu.

Uzmanlar sonuçlar konusunda bölünmüş

Bu açıklama araştırmacılar ve politika yapıcılar arasında farklı tepkilere yol açtı.

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Gina Neff, BBC'ye verdiği bir röportajda olayın tamamen yeni AI yeteneklerini ortaya koymaktan çok OpenAI'nın test ortamındaki zayıflıkları açığa çıkardığını söyledi.

Cambridge Üniversitesi'nde makine öğrenimi profesörü olan Neil Lawrence, ihlali "etkileyici bir başarı" olarak nitelendirirken bunun günümüzün sınır AI modellerinden beklenen yetenekler dahilinde kaldığını savundu.

Ayrıca OpenAI'nın dağıtım uygulamalarını sorguladı.

"Bu bize OpenAI'nın kendi teknolojisini güvenli şekilde dağıtamadığını gösteriyor,"

Diğerleri ise duyurunun, önde gelen AI geliştiricileri arasındaki rekabetin artmasını kısmen yansıtıyor olabileceğini düşünüyor.

ESET'in küresel siber güvenlik danışmanı Jake Moore, OpenAI'nın aynı zamanda kendi siber güvenlik yeteneklerini sergilemeye çalışıyor olabileceğini; rakip Anthropic'in kendi ileri modelleriyle dikkat çekmeye devam ettiğini öne sürdü.

Bu arada siber güvenlik firmaları, kuruluşların yapay zekâ destekli saldırıların artık teorik olmaya devam edeceğini varsayamayacakları uyarısında bulundu.

SonicWall'dan Spencer Starkey, şirketlerin siber dayanıklılığı temel operasyonel öncelik olarak ele alması ve savunmalarını güçlendirmesi gerektiğini söyledi.

Regülasyon denetimi muhtemelen sıkılaşacak

Olayın, sınır AI sistemleri için daha güçlü gözetim çağrılarına ivme kazandırması bekleniyor.

Demokrat milletvekili Greg Casar olayı endişe verici olarak nitelendirdi ve zorunlu bağımsız güvenlik testleri, AI ile ilgili güvenlik olaylarının zorunlu bildirimini ve AI yönetimi konusunda daha geniş uluslararası iş birliğini talep etti.

Birleşik Krallık hükümeti, AI Güvenlik Enstitüsü'nün olay sırasında gösterilen davranışı incelediğini ve OpenAI ile diğer önde gelen AI geliştiricileriyle çalışmaya devam ederek korumaları geliştirdiğini söyledi.

Olay neden önemli?

Hugging Face ihlali, özerk bir yapay zekâ sisteminin bağımsız olarak zafiyetleri tespit edip bir test ortamından kaçması ve açık insan yönlendirmesi olmadan gerçek dünyada bir siber saldırı gerçekleştirmesinin en açık kamu örneklerinden biri olarak kayda geçti.

OpenAI ve Hugging Face olayın kötü niyetli veri hırsızlığına veya müşteri verilerinin açığa çıkmasına yol açmadığını söylese de, bu durum gelişmiş yapay zekâ ajanlarının yeterli özerklikle hareket ederken amaçlarını beklenmedik yollarla takip edebileceğini gösterdi.

Olay aynı zamanda siber güvenlik endüstrisinde daha geniş bir değişimi de vurguluyor.

Sınır AI modelleri özerk akıl yürütme ve saldırgan siber operasyonlarda daha yetenekli hale geldikçe, kuruluşların makine hızıyla gerçekleşen saldırılara karşı koymak için yapay zekâ destekli savunma sistemlerine giderek daha fazla ihtiyaç duyabileceği öngörülüyor.