Amazon esittelee mullistavan tekoälysirun: häiritseekö se Nvidian ylivoimaa?

Amazon on virallisesti lanseerannut Trainium3:n, uusimman räätälöidyn tekoälypiirinsä, mikä merkitsee aggressiivista pyrkimystä haastaa Nvidian ote tekoälylaitemarkkinoilla.

Uusi siru tarjoaa 4,4 kertaa nopeamman suorituskyvyn ja 40 % paremman energiatehokkuuden verrattuna edeltäjäänsä, kun taas AWS julkaisi samanaikaisesti Trn3 UltraServerit, jotka pystyvät käsittelemään 144 piiriä yhdessä järjestelmässä.

Asiakkaat kuten Anthropic, Karakuri ja Decart raportoivat jo koulutus- ja päättelykustannusten laskuista jopa 50 % Trainium3:n avulla.

Tämä toimenpide korostaa laajempaa alan trendiä, jossa teknologiajätit kehittävät omia piejä vähentääkseen riippuvuutta Nvidian GPU:ista ja vähentääkseen tekoälyinfrastruktuurin tähtitieteellisiä kustannuksia.

Kustannusvallankumous: Kuinka Amazon heikentää Nvidian hinnoittelua

Trainium3:n todellinen ase ei ole raaka suorituskyky; Kyse on taloudesta.

3 nanometrin teknologiaan perustuva jokainen UltraServer tarjoaa 362 FP8 PFLOPIA ja jopa 20,7 TB HBM3e-muistia, mahdollistaen massiivisten mallien kouluttamisen viikoissa kuukausien sijaan.

Mutta kustannusnäkökulma on se, mikä kiinnittää yritysten huomion. Decart, tekoälypohjainen videotuotantostartup, saavuttaa jo 4 kertaa nopeamman päättelyn reaaliaikaisessa videotuotannossa puoleen Nvidia-GPU:iden hinnasta.

Organisaatioille, jotka käyttävät miljoonia kuukausittain tekoälyinfrastruktuuriin, tämä on mullistava taloustiede.

Amazonin strategia kohdistuu kahteen kipupisteeseen. Ensinnäkin energiatehokkuusvaje: Trainium3 toimittaa yli viisinkertaiset lähtötokenit megawattia kohden kuin aiemmat sukupolvet, mikä suoraan leikkaa datakeskusten sähkölaskuja.

Toiseksi, token-kustannus. AWS väittää, että Trainiumin ja Googlen TPU:t tarjoavat 50–70 % alhaisemmat kustannukset per miljardi tokenia verrattuna huippuluokan Nvidia H100 -klustereihin.

Yrityksille, jotka kouluttavat biljoonaparametrimalleja, kumulatiivinen säästö saavuttaa satoja miljoonia vuosittain.

Anthropicin varhainen käyttöönotto kantaa symbolista painoarvoa; Amazonilla on 8 miljardin dollarin osuus OpenAI:n kilpailijasta, mutta hän valitsi tuotantokuormille Trainiumin.

Tuo hyväksyntä osoittaa, ettei Trainium3 ole kokeellinen; se on tuotantovalmis ja kilpailee Nvidian lippulaivatarjonnan kanssa.

Voiko Amazon oikeasti voittaa?

Silti Nvidian vallihauta on edelleen pelottava. CUDA, Nvidian ohjelmistoekosysteemi, on noussut tekoälykehityksen alan standardiksi.

Useimmat tutkijat kouluttavat malleja CUDA:lla; useimmat kehykset optimoivat ensin CUDA:lle.

Trainiumiin siirtyminen vaatii koodin uudelleenkirjoittamista, tiimien uudelleenkouluttamista ja toimittajalukitusten hyväksymistä AWS:n kanssa, mikä on haastava haaste riskinkarttaville yrityksille.

Amazon tunnustaa tämän ilmoittamalla, että Trainium4 tukee Nvidian NVLink Fusion -liitäntäteknologiaa, mahdollistaen Trainium- ja Nvidia-piirien sekoituskäyttöönoton samoissa telineissä.

On pragmaattista myöntää, että Nvidian korvaaminen yhdessä yössä on mahdotonta, mutta Trainiumin sijoittaminen kustannustehokkaaksi täydentäjäksi on mahdollista.

Asiakkaiden inertia suosii myös Nvidiaa. Yritykset, joilla on olemassa oleva GPU-infrastruktuuri, koulutetut tiimit ja optimoidut putket, kohtaavat vaihtokustannuksia, joita puhtaat suorituskyvyn parannukset eivät oikeuta.

Microsoft, Google ja Meta: Trainiumin suurimmat kohteet valmistavat myös omia tekoälypiirejään sisäisesti, mikä vähentää osoitettavissa olevia markkinoita.

Silti startupit ja kustannusherkät yritykset eivät kohtaa tällaista vakituisuustaakkaa.

Karakuri, Metagenomi ja Splash Music ottavat Trainiumin käyttöön laajassa mittakaavassa, mikä viittaa siihen, että Amazon voi ottaa vastaan uusia työkuormia, vaikka Nvidia säilyttäisi arvostetun markkinan.

Todellinen kysymys ei ole, pystyykö Amazon vastaamaan Nvidian raakaan suorituskykyyn; Trainium3 tekee sen jo.

Kyse on siitä, muokkaavatko kustannukset ja energiatehokkuus yksinään 50 miljardin dollarin+ tekoälysirumarkkinaa, vai pitävätkö ekosysteemin lukkiutuminen ja asiakkaiden passiivisuus Nvidian pysyvänä.