Jensen Huang van Nvidia zegt dat dit bedrijf van onschatbare waarde is voor next-gen AI-doorbraken

  • Jensen Huang noemt high-speed geheugen "van onschatbare waarde" voor next-gen AI.
  • Nieuwe HBM-technologie concurreert nu met Koreaanse topleveranciers in marktaandeel.
  • De verschuiving van AI van training naar inferentie maakt geheugenprestaties bedrijfskritisch.

Terwijl de wereldleiders debatteren over de opkomst van kunstmatige intelligentie op het gebied van duurzaamheid, storten bedrijven miljarden dollars in om te profiteren van de groei, en Nvidia is geen verrassing koploper in die race.

De techgigant werkt samen met meerdere andere bedrijven en onlangs sprak Nvidia CEO Jensen Huang over de "onschatbare" bijdrage van Micron Technology bij het mogelijk maken van de volgende generatie AI-doorbraken.

Terwijl hij over Micron sprak, zei Nvidia CEO Jensen Huang:

De cruciale rol van Micron in geheugen met hoge bandbreedte in AI

De GPU's van Nvidia blijven de gouden standaard voor het aandrijven van AI-modellen, maar Jensen Huang maakte duidelijk dat deze chips alleen geen optimale AI-prestaties kunnen bereiken zonder geheugen met hoge snelheid en lage latentie.

Generatieve AI en grootschalige taalmodellen vereisen vooral enorme hoeveelheden gegevensdoorvoer en verwerkingskracht.

Dit is waar Micron, als een belangrijk lid van het wereldwijde 'geheugenoligopolie', een cruciale rol speelt. Naast Samsung en SK Hynix is Micron marktleider op de HBM-markt en is het de enige grote in de VS gevestigde leverancier van deze geavanceerde geheugentechnologie.

Het HBM3E-geheugen van Micron, gebrandmerkt als het snelste geheugen met de hoogste capaciteit voor AI-innovatie, heeft het bedrijf in staat gesteld Samsung te overtreffen en de op een na grootste HBM-leverancier ter wereld te worden, met een marktaandeel van 21%.

Huang zei dat naarmate AI verschuift van alleen het trainen van modellen naar het daadwerkelijk uitvoeren ervan in de echte wereld, de geheugentechnologie van Micron alleen maar belangrijker zal worden.

Nu de acceptatie van AI explodeert, stijgt de vraag naar krachtig geheugen en zijn er slechts een handvol spelers die het soort geavanceerde chips kunnen leveren dat nodig is om enorme AI-systemen aan te drijven.

Samenwerking tussen Micron en Nvidia stimuleert de vooruitgang van de AI-infrastructuur

De geheugenchips met hoge bandbreedte van Micron zijn geïntegreerd in Nvidia's nieuwste AI-gestuurde producten, waaronder de RTX 50-serie gamingchips en Nvidia's Blackwell AI-architectuursystemen.

Door de samenwerking kunnen de GPU's van Nvidia tegelijkertijd AI-workloads en graphics aan, wat de deur opent naar nieuwe prestatieniveaus in zowel consumenten- als bedrijfs-AI.

Tijdens zijn CES 2025 keynote wees Huang erop dat het geheugen van Micron, dat snelheden tot 18 terabyte per seconde kan halen, van cruciaal belang is om het meeste uit de AI-hardware van Nvidia te halen en toekomstige AI-systemen sneller en schaalbaarder te maken.

De groeiende alliantie tussen Nvidia en Micron is een teken van waar AI-hardware naartoe gaat: GPU's en geheugen moeten nu in de pas lopen.

Nu de HBM-markt naar verwachting in 2030 miljarden waard zal zijn, plaatst de vooruitgang van Micron het in een belangrijke leveranciersrol in de AI-chipwereld en ondersteunt het Nvidia's streven om zowel AI-hardware als de bredere AI-infrastructuurstack te domineren.