Il principio fondamentale del passaggio di HBM agli stack a 8 livelli è l'aumento dei volumi di spedizione.

1/ Recentemente, il mercato HBM sta cambiando in direzione dell’ottimizzazione delle prestazioni e dell’efficienza economica dei vari sistemi. 2/ NVIDIA aveva pianificato originariamente di utilizzare HBM4 impilato su 12 livelli su Rubin e HBM4E impilato su 12 livelli su Rubin Ultra, ma per mitigare i problemi di calore ed efficienza energetica dei prodotti ad alta velocità e multipli livelli, sta considerando anche una soluzione con stack a 8 livelli. 3/ Anche AMD e Google sono state osservate mentre valutano, nella stessa generazione di prodotto, diverse configurazioni di HBM a seconda del carico di lavoro e della fascia di prezzo. Questo sembra essere finalizzato a massimizzare la quantità di GPU spedite in condizioni di offerta limitata di HBM. 4/ Non bisogna interpretare ciò come un rallentamento della domanda di HBM. Al contrario, il rapporto domanda-offerta di HBM è più teso del previsto. Infatti, anche modificando le specifiche HBM, l’aumento delle spedizioni di sistema compenserà la diminuzione della capacità di memoria per stack. 5/ NVIDIA Rubin Ultra sta passando dall’approccio principalmente con 12Hi verso una considerazione simultanea di HBM4E 8Hi, HBM4 12Hi e HBM4 8Hi; anche AMD MI455X e Google TPU v8 stanno valutando configurazioni multi-livello 8Hi e 12Hi.