Samsung e AMD potenziano l'intesa sui chip AI: perché conta

Samsung Electronics e AMD hanno approfondito la loro partnership di lunga data con un nuovo accordo incentrato sull'infrastruttura per l'intelligenza artificiale, mentre la domanda globale per sistemi data center ad alte prestazioni accelera.

Il memorandum of understanding è stato firmato nel campus dei semiconduttori di Samsung a Pyeongtaek, Corea del Sud, durante una visita dell'amministratrice delegata di AMD, Lisa Su, insieme al vicepresidente e amministratore delegato di Samsung Electronics, Young Hyun Jun.

L'accordo riflette un più ampio cambiamento del settore, dove i produttori di chip si stanno avvicinando per affrontare i colli di bottiglia nel calcolo per l'IA, in particolare riguardo la velocità della memoria, l'efficienza energetica e l'integrazione di sistema.

Perché la memoria sta diventando il collo di bottiglia per l'IA

L'accordo si concentra su una coordinazione più stretta tra tecnologie di memoria e di calcolo.

Si prevede che Samsung fornisca la sua memoria ad alta ampiezza di banda di nuova generazione, HBM4, per l'imminente acceleratore AI Instinct MI455X di AMD.

Svilupperà inoltre memorie DDR5 su misura per i processori EPYC di sesta generazione di AMD, con nome in codice Venice.

Con l'aumentare delle dimensioni dei modelli di IA, l'ampiezza di banda e l'efficienza della memoria sono diventate vincoli critici.

I carichi di lavoro AI avanzati richiedono sistemi in cui GPU, CPU e memoria funzionino insieme senza soluzione di continuità.

Questa collaborazione mira a migliorare sia le prestazioni di addestramento che di inferenza nei data center di nuova generazione.

L'HBM4 di Samsung è progettata per raggiungere velocità fino a 13 gigabit al secondo e fornire una larghezza di banda fino a 3,3 terabyte al secondo.

La memoria è costruita su un processo DRAM di classe da 10 nanometri di sesta generazione con un die logico a 4 nm e sta entrando in produzione di massa.

Come i chip alimenteranno i sistemi di nuova generazione

La GPU Instinct MI455X di AMD, che dovrebbe integrare l'HBM4 di Samsung, è pensata per carichi di lavoro AI su larga scala.

Farà parte dell'architettura a livello di rack Helios di AMD, che integra calcolo, memoria e networking a livello di sistema.

Le aziende stanno puntando all'integrazione full-stack, combinando le GPU Instinct di AMD, le CPU EPYC e memorie avanzate in piattaforme unificate.

Questo approccio è sempre più considerato essenziale per scalare efficacemente i sistemi AI attraverso i data center.

Oltre alla fornitura di memoria, l'accordo include discussioni su una potenziale partnership di foundry.

Samsung potrebbe produrre in futuro chip per AMD, espandendo il suo ruolo oltre la memoria fino alla produzione a contratto di chip.

Come l'accordo si inserisce nella corsa globale ai chip

La partnership arriva in un momento in cui la competizione nel mercato dei semiconduttori per l'IA si sta intensificando.

Le aziende stanno correndo per assicurarsi catene di approvvigionamento a lungo termine per memorie avanzate, in particolare per i chip HBM, la cui disponibilità è limitata.

Samsung detiene attualmente circa il 22% del mercato HBM globale, secondo Counterpoint, dopo SK Hynix, che guida con il 57%.

Rafforzare i legami con AMD potrebbe aiutare Samsung a ridurre quel divario.

L'annuncio coincide anche con la conferenza annuale per sviluppatori GTC di Nvidia, dove l'amministratore delegato Jensen Huang ha evidenziato le capacità dell'HBM4 di Samsung e ha confermato una partnership di foundry con l'azienda.

Perché la domanda delle big tech sta creando urgenza?

L'urgenza di tali partnership è guidata dagli investimenti su larga scala in IA da parte delle società tecnologiche.

AMD ha recentemente concordato un accordo pluriennale per fornire chip AI a Meta Platforms, del valore riportato fino a 60 miliardi di dollari, con termini che potrebbero includere una partecipazione fino al 10% da parte di Meta nella società.

Ha firmato un accordo simile con OpenAI lo scorso anno.

Questi accordi stanno rimodellando il panorama dei semiconduttori, spingendo i produttori di chip a collaborare più strettamente su tutto lo stack di calcolo.

Samsung e AMD hanno collaborato per quasi due decenni in ambito grafica, mobile e tecnologie di calcolo.

Più recentemente, Samsung ha fornito memorie HBM3E per gli acceleratori MI350X e MI355X di AMD, gettando le basi per questa collaborazione ampliata.