Invezz Açıklıyor: AI model distilasyonu nedir ve ABD neden Çinli firmaları suçluyor?

ABD güvenlik kurumları, altı Çinli yapay zeka şirketini kendi sistemlerini eğitmek için Amerikan yapay zeka modellerini sistematik olarak kullandıklarıyla suçlayarak, model distilasyonu olarak bilinen teknik bir süreci yeniden gündeme getirdi.

The National Security Agency, Federal Bureau of Investigation and Cybersecurity and Infrastructure Security Agency salı günü açıkladı ki DeepSeek, Moonshot, Alibaba Group Holding, MiniMax, StepFun ve Z.AI "ABD'nin öncü yapay zeka modellerinin kısıtlı, tescilli işlevselliklerini ve yeteneklerini çıkaran endüstriyel ölçekte saldırgan, kötü niyetli ve hedefe yönelik distilasyon faaliyetleri" yürütmüşlerdir.

Kurumlar, şirketlerin en az 2024'ten beri distilasyonu kullanarak ABD yapay zeka modellerinden bilgiye eriştiklerini ve bunu kendi sistemlerini geliştirmek için kullandıklarını bildirdi.

AI model distilasyonu nedir?

Distilasyon, büyük ve sofistike bir yapay zeka modelinin bazı yeteneklerini daha küçük veya daha özelleşmiş bir modele aktarmak için kullanılan bir tekniktir.

Daha büyük sisteme genellikle "öğretmen" modeli, daha küçük sisteme ise "öğrenci" modeli denir.

Küçük modeli tamamen sıfırdan inşa etmek yerine geliştiriciler, onu öğretmenin ürettiği bilgilerle eğitirler.

Bu yaklaşım, Geoffrey Hinton ve Google'daki ortak yazarları tarafından 2015'te, büyük bir modelin davranışını daha küçük bir modele çıktılar kullanarak sıkıştırmanın bir yolu olarak resmileştirildi.

Pratikte geliştirici, güçlü bir yapay zeka modelinden çok sayıda isteme yanıt vermesini isteyebilir ve sonra bu yanıtları başka bir model için eğitim materyali olarak kullanabilir.

Öğrenci model, öğretmenin yanıtlarındaki kalıpları öğrenir ve sonunda aynı ölçekli hesaplama kaynaklarına ihtiyaç duymadan onun bazı yeteneklerini yeniden üretebilir.

Sonuç, performansının büyük bölümünü korurken işletmesi önemli ölçüde daha ucuz ve daha kolay olan bir yapay zeka sistemi olabilir.

Bu da distilasyonu, daha yetenekli modelleri daha verimli hâle getirme çabalarının önemli bir parçası yapıyor.

Distilasyonun yapay zeka endüstrisi genelinde meşru uygulamaları vardır.

Öncü yapay zeka şirketleri, tekniği daha düşük maliyetli, daha hızlı yanıt veren ve belirli uygulamalara daha uygun kendi modellerinin daha küçük sürümlerini oluşturmak için kullanabilir.

Distilasyon ne zaman tartışmalı hale gelir?

Bir şirket, başka bir şirketin tescilli modelinin yeteneklerini izinsiz olarak yeniden üretmeye çalıştığında distilasyon tartışmalı hâle gelir.

Bir rakip, bir öncü modelle yapılan binlerce ya da milyonlarca etkileşimi kendi sistemi için eğitim verisi üretmek üzere kullanabilir.

Benzer yetenekleri bağımsız olarak geliştirmek için yıllar ve muazzam paralar harcamak yerine, mevcut bir modelin yanıtlarını kısa yol olarak kullanabilir.

ABD güvenlik kurumları, Çinli şirketlerin Amerikan yapay zeka sistemlerine izinsiz erişim sağlamak için birden fazla yol kullandığını söyledi.

Bildirimde, "Çin merkezli yapay zeka şirketleri distilasyon taleplerini izinsiz erişim elde etmek için birden çok yol üzerinden yönlendiriyor ve sonuç olarak ABD yapay zeka şirketlerinin kullanım koşullarını ihlal ediyorlar" denildi.

OpenAI ve Anthropic de ayrı ayrı Çinli yapay zeka şirketlerini modellerinden yetenek çıkarmaya çalışmakla suçladı.

Anthropic, Şubat ayında DeepSeek, Moonshot AI ve MiniMax'ı içeren kampanyaları ortaya çıkardığını söyledi.

Anthropic'e göre kampanyalar yaklaşık 16 milyon Claude etkileşimi ve 24.000 sahte hesap içeriyordu; MiniMax tek başına 13 milyondan fazla etkileşime denk geliyordu.

OpenAI de Ocak ayında benzer iddialarda bulundu.

Bu suçlamalar, distilasyonu fikri mülkiyet ve AI endüstrisinde rekabet üzerine geniş tartışmanın odağı haline getirdi.

Konunun önemi, geçen yıl düşük maliyetli AI modeliyle öne çıkan DeepSeek'in ortaya çıkmasının ardından daha da arttı; bu model, ABD'nin önde gelen sistemleriyle rekabet ediyormuş gibi görünen yetenekler sergilemişti.

Bu gelişme, ABD'nin öncü yapay zekada sarsılmaz bir avantaja sahip olduğu varsayımlarını sorguladı ve Çinli şirketlerin oldukça farklı maliyet yapılarıyla eşdeğer performansı nasıl elde ettiğine dair soruları gündeme getirdi.

AI güvenlik firması SecurityPal'ın kurucusu Pukar Hamal, uygulamayı daha önce bir öğrencinin başka bir öğrencinin çalışmasını kopyalamasına benzetmişti.

Hamal, daha önce CNBC'ye verdiği bir röportajda, "Neredeyse birinin derslere gidip ders kitabını okumuş, ödevin tüm zorlu kısmını yapmış gibi" dedi.

"Sonra başka bir öğrenci çıkıp, 'Hey, ben onu yapmadım. Sadece senin çalışmanı kopyalayabilir miyim?' diyor."

Washington neden ulusal güvenlik riski görüyor

Son ABD danışma bildirimi yalnızca ticari rekabet endişelerinin ötesine geçiyor.

Kurumlar, endüstriyel ölçekte distilasyonun Çinli yapay zeka şirketlerinin araştırma ve geliştirme maliyetlerini düşürebileceğini ve aynı zamanda Çin'in "ABD ve müttefiklerimize karşı kullanılabilecek askeri ve siber saldırı yeteneklerini" artırabileceğini söyledi.

A Reuters raporu, July 31'de Çinli askeri araştırmacıların önde gelen ABD yapay zeka modellerinin çıktılarından yararlanarak yerli sistemleri eğittiğini ve savunma yeteneklerini ilerlettiğini bildirdi.

Anthropic ayrıca yasa dışı distilasyonun bir güvenlik problemi yaratabileceğini; çünkü Amerikan öncü modellerine entegre edilen güvenlik korumalarının ortaya çıkan sistemlere aktarılmayabileceğini savundu.

"Yasa dışı distilasyonla oluşturulan modeller gerekli güvenlik önlemlerinden yoksundur ve bu önemli ulusal güvenlik riskleri yaratır," Anthropic Şubat ayında bir notta dedi.

ABD yapay zeka şirketleri, modellerinin biyolojik silah geliştirme veya kötü amaçlı siber operasyonlar yürütme gibi faaliyetlere yardımcı olmasını engellemeyi amaçlayan güvenlik önlemleri inşa ediyor.

Anthropic, izinsiz distilasyonla oluşturulan bir modelin bu korumaları muhafaza etmeyebileceği konusunda uyarıda bulundu.

AI'nin askeri boyutu riskleri yükseltiyor

Endişe, yapay zekanın askeri yeteneklere entegre edilmesine yönelik Çin'in daha geniş çabalarıyla da bağlantılı.

Centre for Security and Emerging Technology tarafından February ayında yapılan bir analiz, Ocak 2023 ile December 2024 arasında Halk Kurtuluş Ordusu tarafından yayınlanan Çince teklif çağrılarını inceledi.

Analiz, PLA'nın karar destek sistemleri, sensör geliştirme ve veri füzyonu dahil olmak üzere birçok alanda yapay zekâ destekli yetenekler peşinde olduğunu buldu.

Araştırmacılar ayrıca ABD'nin algılanan askeri avantajlarını dengelemeye yönelik teknolojilere ciddi ilgi olduğunu; buna deniz üstü ve altındaki ABD deniz varlıklarını tespit edebilen sistemler ve ABD'nin uzay tabanlı sistemlerini karşılamaya yönelik teknolojiler de dahil olduğunu belirledi.

ABD yetkilileri, gelişmiş yapay zeka yetenekleri izinsiz distilasyon yoluyla elde edilebiliyorsa ve bağımsız olarak geliştirilmiyorsa, teknolojinin askeri ve istihbarat uygulamalarına daha hızlı erişebileceğini savunuyor.

Çin suçlamaları reddediyor

Pekin, Çinli yapay zeka şirketlerinin Amerikan öncü modellerini uygunsuz şekilde distile ettiği yönündeki ABD iddialarını reddetti.

Çin Dışişleri Bakanlığı sözcüsü Mao Ning, Çarşamba günü Washington'u Çin'e karşı asılsız suçlamalarda bulunmaktan kaçınmaya çağırdı.

Mao, Pekin'deki günlük bir basın toplantısında, "ABD tarafının iki ülke devlet başkanları arasında varılan önemli uzlaşıyı samimi şekilde uygulamasını ve asılsız suçlamalarda bulunmaktan ve Çin'i karalamaktan kaçınmasını umuyoruz" dedi.

"Hem Çin hem de ABD yapay zeka alanında büyük ülkelerdir ve işbirliğini güçlendirmelidirler," diye ekledi.

Temmuz ayında yayımlanan bir Çin hükümeti açıklaması da benzer şekilde Çinli yapay zeka şirketlerinin ABD yapay zeka yeteneklerini yeniden üretmek için distilasyona dayandığı iddialarını reddetti.

Açıklama, Çin modellerinin bağımsız olarak dünya çapında lider yeteneklere ulaştığını savundu ve ABD'nin araştırma ve geliştirmede distilasyonu kullanması nedeniyle Washington'u çifte standart uygulamakla suçladı.

Açıklamada, "Birçok ABD yapay zeka şirketi kendi Ar-Ge ve eğitimleri için Çin'in modellerinden distile etti" denildi ve ABD şirketlerinin Çin'in açık kaynak modellerine erişim kısıtlamalarına karşı çıktığı eklendi.

ABD nasıl yanıt veriyor

Washington, endüstriyel ölçekli yapay zeka modeli hırsızlığı olarak gördüğü şeye karşı önlemler almayı şimdiden değerlendirmeye başladı.

Nisan ayında Beyaz Saray Bilim ve Teknoloji Ofisi bir memorandum yayımladı ve Trump yönetiminin yabancı aktörlerin izinsiz, endüstriyel ölçekli distilasyon girişimleri hakkında ABD yapay zeka şirketleriyle istihbarat paylaşacağını söyledi.

Yönetim ayrıca özel sektöre yanıt koordinasyonunda yardımcı olacağını, sektörde bu tür faaliyetleri tespit ve hafifletme yöntemleri geliştirmek için sanayi ile çalışacağını ve yabancı aktörleri hesap verebilir kılacak tedbirleri araştıracağını söyledi.

ABD yasama organındaki milletvekilleri de mevzuat peşinde.

Temsilciler Meclisi Dış İlişkiler Komitesi, Nisan ayında Amerikan Yapay Zekâ Modeli Hırsızlığını Caydırma Yasası'nı ilerletti; bu yasa, ABD yapay zeka modellerinin izinsiz kopyalanması konusundaki endişeleri ele almayı amaçlıyor.

Son güvenlik danışma bildirimi bu çabalara ivme kazandırabilir.

Kurumlar, Amerikan yapay zeka geliştiricilerine "derhal harekete geçmelerini" tavsiye etti; buna şüpheli kötü niyetli distilasyon girişimlerine verilen yanıtları değiştirmek ve bu tür kampanyalara ilişkin istihbaratı diğer yapay zeka şirketleriyle paylaşmak da dahil.

Ayrım neden önemli

Distilasyon üzerindeki tartışma nihayetinde yapay zeka yeteneklerinin nasıl geliştirileceği ve paylaşılacağına dair daha geniş bir soruyu yansıtıyor.

Bir teknoloji olarak distilasyon ne yeni ne de doğası gereği yasadışıdır. Güçlü yapay zeka sistemlerini daha küçük, daha ucuz ve daha kullanışlı hâle getirmek için yaygın olarak kullanılan bir yöntemdir.

Uyuşmazlık ise erişim, yetkilendirme ve bir rakibin, başka bir şirketin geliştirmesi yıllar ve milyarlarca dolar süren yetenekleri yeniden üretmek için tescilli bir modelin çıktısını kullandığında ne olduğuyla ilgilidir.

Yapay zeka modelleri daha yetenekli hale geldikçe ve ticari ile askeri değerleri arttıkça bu ayrımın giderek daha önemli olması muhtemeldir.

ABD yapay zeka şirketleri için zorluk artık sadece daha iyi modeller inşa etmek değil. Aynı zamanda bu modellerin rakipler tarafından ucuz bir eğitim verisi kaynağı olarak kullanılmasını engellemek zorundalar.

Politika yapıcılar için ise soru, yetkisiz yapay zeka yetenek çıkarımını meşru araştırmayı, açık kaynak geliştirmeyi ve endüstri genelindeki distilasyonun normal kullanımını kısıtlamadan nasıl önleyecekleri.

Altı Çinli şirkete karşı son ABD iddiaları, yapay zeka liderliği mücadelesinin çipler ve hesaplama gücünün ötesine geçtiğini gösteriyor.

Artan şekilde, yapay zeka modellerinin ürettiği çıktılar kendileri stratejik bir varlık haline geliyor.