Amazon, oyunu değiştiren yapay zeka çipini tanıttı: Nvidia'nın hakimiyetini bozacak mı?

Amazon, en son özel yapımı yapay zeka çipi Trainium3'ü resmen piyasaya sürdü; bu, Nvidia'nın yapay zeka donanım pazarındaki hakimiyetine meydan okumak için agresif bir girişimin işaretidir.

Yeni çip, selefine göre 4,4 kat daha hızlı performans ve %40 daha yüksek enerji verimliliği sunarken, AWS aynı anda tek bir sistemde 144 çipi işleyebilen Trn3 UltraServer'ları piyasaya sürdü.

Anthropic, Karakuri ve Decart gibi müşteriler, Trainium3 kullanarak eğitim ve çıkarım maliyetlerinde %50'ye kadar azalma bildirdi.

Bu hamle, teknoloji devlerinin Nvidia'nın GPU'larına olan bağımlılığı azaltmak ve yapay zeka altyapısının astronomik maliyetlerini azaltmak için özel silikon geliştirme eğilimini daha geniş bir sektör eğilimi ortaya koyuyor.

Maliyet devrimi: Amazon, Nvidia'nın fiyatlarını nasıl düşürüyor

Trainium3'ün gerçek silahı ham performans değil; Bu ekonomi.

3 nanometre teknolojisi üzerine inşa edilen her UltraServer, 362 FP8 PFLOP ve 20,7 TB'a kadar HBM3e bellek sunarak büyük modellerin aylar yerine haftalarda eğitim almasını sağlıyor.

Ancak maliyet açısı işletmelerin dikkatini çekiyor. Decart, yapay zeka video üretim girişimi, Nvidia GPU'larının yarısı fiyatıyla gerçek zamanlı video üretimi için 4 kat daha hızlı çıkarım sağlıyor.

Aylık milyonlarca para harcayan kuruluşlar için bu, dönüşüm ekonomisidir.

Amazon'un stratejisi iki sorun noktasını hedefliyor. İlk olarak, enerji verimliliği farkı: Trainium3, önceki nesillere göre megawatt başına 5 katından fazla çıkış tokenı sağlıyor ve veri merkezi elektrik faturalarını doğrudan azaltıyor.

İkincisi, token maliyeti. AWS, Trainium ve Google'ın TPU'larının, yüksek seviyeli Nvidia H100 kümelerine kıyasla milyar token başına %50-70 daha düşük maliyet sunduğunu iddia ediyor.

Trilyon parametreli modeller eğiten işletmeler için ise birikim tasarruflar yılda yüz milyonlara ulaşır.

Anthropic'in erken benimsenmesi sembolik bir ağırlık taşır; Amazon, OpenAI'nin rakibinde 8 milyar dolarlık bir hisseye sahip, ancak üretim iş yükü için Trainium'u seçti.

Bu onay, Trainium3'ün deneysel olmadığını gösteriyor; üretime hazır ve Nvidia'nın amiral gemisi ürünleriyle rekabet edişli.

Amazon gerçekten kazanabilir mi?

Yine de Nvidia'nın hendeği hâlâ korkutucu. Nvidia'nın yazılım ekosistemi olan CUDA, yapay zeka geliştirme için sektör standardı haline geldi.

Çoğu araştırmacı modelleri CUDA üzerinde eğitir; çoğu çerçeve önce CUDA için optimize edilir.

Trainium'a geçiş, kodu yeniden yazmayı, ekipleri yeniden eğitmeyi ve AWS ile tedarikçi kilitlenmesini kabul etmeyi gerektirir; bu, riskten kaçınan işletmeler için göz korkutucu bir durumdur.

Amazon, bu gerçeği kabul ederek Trainium4'ün Nvidia'nın NVLink Fusion bağlantı teknolojisini destekleyeceğini duyuruyor ve böylece Trainium ve Nvidia çiplerinin aynı raflarda karışık dağıtımlarını mümkün kılacak.

Nvidia'yı bir gecede değiştirmenin imkansız olduğu pragmatik bir itiraf, ancak Trainium'u maliyet etkin bir tamamlayıcı olarak konumlandırmak mümkün.

Müşteri ataleti de Nvidia'yı destekliyor. Mevcut GPU altyapısına, eğitilmiş ekiplere ve optimize edilmiş pipeline'lara sahip işletmeler, saf performans kazanımlarının haklı çıkaramayacağı geçiş maliyetleriyle karşı karşıya.

Microsoft, Google ve Meta: Trainium'un en büyük hedefleri kendi yapay zeka çiplerini dahili olarak üretiyor ve bu da adreslenebilir pazarları azaltıyor.

Yine de, girişimler ve maliyet duyarlı işletmeler böyle bir yük yükünle karşı karşıya değil.

Karakuri, Metagenomi ve Splash Music Trainium'u büyük ölçekte yayımlıyor; bu da Amazon'un Nvidia prestij pazarını korurken bile yeni iş yüklerini yakalayabileceğini gösteriyor.

Asıl soru, Amazon'un Nvidia'nın ham performansına ulaşıp ulaşamayacağı değil; Trainium3 zaten var.

Sadece maliyet ve enerji verimliliği 50 milyar+ dolarlık yapay zeka çipi pazarını yeniden şekillendirip şekillendirmediği, yoksa ekosistem kilitlenmesi ve müşteri ataletinin Nvidia'yı sağlam tutup tutmadığı da önemli.