Informe: Nvidia planea reducir la configuración de memoria de Rubin Ultra para hacer frente a la escasez de HBM de gama alta

La fiebre por las infraestructuras de IA está rozando el límite de la cadena de suministro.

Según informó The Information, Nvidia está evaluando una medida bastante agresiva: lanzar una versión de la próxima generación de GPU de IA Rubin Ultra con menor configuración de memoria de video de la planeada originalmente, para aliviar la presión de producción masiva causada por la escasez de memoria de alto ancho de banda (HBM) de gama alta.

Esto significa que, incluso Nvidia, que domina el mercado de GPUs, se ve obligada a buscar un equilibrio entre las especificaciones del producto y la capacidad de suministro.

Este cambio no solo refleja que el abastecimiento de HBM se ha convertido en uno de los cuellos de botella más críticos de la cadena de valor de la IA, sino que también implica que el costo de los servidores de IA podría seguir incrementándose, y la presión de construcción de centros de datos continuará repercutiendo hacia el sector downstream.

El jueves, las acciones de Nvidia cerraron con una caída del 0,1%, mientras que las de SK hynix bajaron un 4,97%.

Abastecimiento de HBM, Nvidia prueba varias versiones de “memoria reducida”

Según fuentes conocedoras del tema, en las últimas semanas Nvidia ya ha probado al menos tres versiones diferentes de la GPU Rubin Ultra, algunas de las cuales emplean una capacidad de memoria de video inferior a la originalmente planificada.

Una razón importante por la que Nvidia considera lanzar una versión de memoria reducida es la posibilidad de no poder conseguir en el futuro el volumen suficiente de chips HBM de gama alta para sustentar una producción masiva basada en el diseño original.

Rubin Ultra es una parte clave de la próxima generación de plataformas de cómputo de IA de Nvidia, posicionada por encima de la línea Rubin que pronto entrará en producción, y es vista como la plataforma de hardware fundamental para el entrenamiento de modelos de IA a gran escala en el futuro. Según la planificación original, estaría equipada con HBM de mayor capacidad y ancho de banda para mejorar aún más el rendimiento en el entrenamiento y la inferencia de modelos.

Sin embargo, ante la persistente escasez de HBM, Nvidia está reevaluando la configuración de su producto y espera garantizar el lanzamiento en tiempo y forma ajustando la capacidad de memoria, en vez de esperar a la expansión de la cadena de suministro.

Menos memoria implica desplegar más GPUs

Para el entrenamiento de IA, el HBM no solo determina la capacidad de transferencia de datos de la GPU, sino que también afecta directamente el tamaño de los grandes modelos que puede alojar.

Si finalmente Rubin Ultra opta por una configuración de memoria más baja, los clientes podrían tener que desplegar más GPUs al ejecutar cargas de trabajo de IA de gran tamaño, como modelos de lenguaje grandes, para lograr las tareas de cómputo que originalmente se podían completar con menos chips.

Si bien Nvidia aún puede compensar parcialmente la pérdida de rendimiento aumentando la potencia de cálculo de las GPUs y optimizando el ancho de banda de interconexión, en términos generales, el costo de implementación del sistema y la complejidad de los clusters igualmente podrían verse incrementados.

Para los grandes proveedores de la nube, como Microsoft, Meta, Amazon y Google, que siguen aumentando su inversión en IA, esto significa que los costos de construcción de centros de datos podrían seguir subiendo.

La fiebre de la IA revela el mayor cuello de botella de la industria

El HBM ya se ha convertido en uno de los componentes centrales más escasos de la industria de IA actual.

En los últimos años, la demanda de entrenamiento de grandes modelos ha crecido rápidamente, generando un aumento sostenido en los envíos de GPUs, mientras que el HBM necesario para estas GPUs es provisto principalmente por un pequeño grupo de fabricantes, como Samsung Electronics, SK hynix y Micron. Debido a la complejidad de fabricación del HBM, sus altos requisitos de rendimiento y el largo ciclo de expansión de la producción, el crecimiento del suministro siempre ha quedado por detrás de la demanda de IA.

El sector considera, en general, que en los próximos años el HBM seguirá estando en situación de escasez, lo que explica, en parte, el alto precio de los servidores de IA.

Que Nvidia esté evaluando activamente bajar la configuración de memoria de la Rubin Ultra también refleja que, incluso con el mayor poder de negociación de la industria, su planificación de productos sigue estando limitada por el abastecimiento de HBM.

La presión de costos se extiende a todo el sector tecnológico

El impacto del aumento del precio del HBM ya no se limita a los servidores de IA.

A medida que componentes clave como GPUs y HBM siguen escaseando, el costo del hardware en toda la industria tecnológica se ve impulsado al alza. Los presupuestos empresariales para adquirir infraestructuras de IA aumentan constantemente y cada vez más empresas se ven obligadas a incrementar sus gastos de capital para satisfacer las necesidades de despliegue de IA generativa.

Al mismo tiempo, el aumento de costos de los chips upstream ya está alcanzando el sector de la electrónica de consumo. Algunas empresas de hardware, como Apple, ya han comenzado a compensar la presión de costos en la cadena de suministro aumentando los precios de los productos finales.

Los analistas del mercado creen que, mientras la demanda de potencia de IA siga creciendo rápidamente y la capacidad adicional de HBM se libere lentamente, la competencia por los recursos de memoria de alta gama continuará, y la capacidad de suministro de HBM seguirá siendo un factor clave que determine el ritmo de expansión de la industria de IA.