Amazon presenta un chip de IA revolucionario: ¿romperá el dominio de Nvidia?

Amazon ha lanzado oficialmente Trainium3, su último chip de IA personalizado, señalando un impulso agresivo para desafiar el control de Nvidia en el mercado de hardware de inteligencia artificial.

El nuevo chip ofrece un rendimiento 4,4 veces superior y un 40% más eficiencia energética en comparación con su predecesor, mientras que AWS desplegó simultáneamente UltraServers Trn3 capaces de manejar 144 chips en un solo sistema.

Clientes como Anthropic, Karakuri y Decart ya están reportando reducciones en los costes de formación e inferencia de hasta un 50% usando Trainium3.

Esta medida pone de manifiesto una tendencia más amplia de la industria en la que los gigantes tecnológicos desarrollan silicio propietario para reducir la dependencia de las GPUs de Nvidia y reducir drásticamente los gastos astronómicos de la infraestructura de IA.

La revolución de los costes: Cómo Amazon está rebajando los precios de Nvidia

El verdadero arma de Trainium3 no es el rendimiento puro; Es economía.

Construido sobre tecnología de 3 nanómetros, cada UltraServer ofrece 362 PFLOPs FP8 con hasta 20,7 TB de memoria HBM3e, permitiendo que los modelos masivos entreno en semanas en lugar de meses.

Pero el ángulo del coste es lo que capta la atención de las empresas. Decart, una startup de generación de vídeo con IA, ya está logrando una inferencia 4 veces más rápida para generación de vídeo en tiempo real a la mitad del coste de las GPUs Nvidia.

Para las organizaciones que gastan millones mensualmente en infraestructura de IA, eso es economía transformadora.

La estrategia de Amazon aborda dos puntos problemáticos. Primero, la brecha de eficiencia energética: Trainium3 ofrece más de 5 veces más tokens de salida por megavatio que generaciones anteriores, recortando directamente las facturas de electricidad de los centros de datos.

Segundo, el coste de las fichas. AWS afirma que Trainium y los TPUs de Google ofrecen un coste por mil millones de tokens un 50-70% menor en comparación con los clústeres Nvidia H100 de gama alta.

Para las empresas que entrenan modelos de un billón de parámetros, el ahorro acumulado alcanza cientos de millones anualmente.

La adopción temprana de Anthropic tiene un peso simbólico; Amazon posee una participación de 8.000 millones de dólares en el rival de OpenAI, pero eligió Trainium para las cargas de producción.

Ese respaldo indica que Trainium3 no es experimental; está listo para la producción y es competitivo con las ofertas insignia de Nvidia.

¿Puede Amazon realmente ganar?

Sin embargo, el foso de Nvidia sigue siendo imponente. CUDA, el ecosistema de software de Nvidia, se ha convertido en el estándar industrial para el desarrollo de IA.

La mayoría de los investigadores entrenan modelos en CUDA; la mayoría de los frameworks optimizan primero para CUDA.

Cambiar a Trainium requiere reescribir código, reentrenar a los equipos y aceptar el bloqueo de proveedores con AWS, una tarea abrumadora para empresas que evitan el riesgo.

Amazon reconoce esta realidad anunciando que Trainium4 soportará la tecnología de interconexión NVLink Fusion de Nvidia, permitiendo despliegues mixtos de chips Trainium y Nvidia en los mismos racks.

Es una admisión pragmática que reemplazar a Nvidia de la noche a la mañana es imposible, pero posicionar a Trainium como un complemento rentable es alcanzable.

La inercia del cliente también favorece a Nvidia. Las empresas con infraestructura de GPU ya existente, equipos entrenados y pipelines optimizados se enfrentan a costes de cambio que las ganancias puras de rendimiento no justifican.

Microsoft, Google y Meta: Los mayores objetivos de Trainium también fabrican sus propios chips de IA internamente, reduciendo los mercados dirigibles.

Aun así, las startups y las empresas sensibles a los costes no enfrentan tal carga de incumbencia.

Karakuri, Metagenomi y Splash Music están desplegando Trainium a gran escala, lo que sugiere que Amazon puede captar nuevas cargas de trabajo incluso si Nvidia mantiene el mercado de prestigio.

La verdadera cuestión no es si Amazon puede igualar el rendimiento bruto de Nvidia; Trainium3 ya lo hace.

Es si el coste y la eficiencia energética por sí solos transforman un mercado de chips de IA de 50.000 millones de dólares, o si el bloqueo del ecosistema y la inercia del cliente mantienen a Nvidia arraigada.