L'intelligenza artificiale che continua a imparare sta ancora espandendo il mercato dei semiconduttori per lo stoccaggio
- Nonostante recentemente si siano diffuse teorie riguardo alla necessità di rallentare lo sviluppo dell'intelligenza artificiale, la tecnologia di apprendimento continuo, che permette all’AI di apprendere costantemente nuove informazioni, sta diventando una nuova forza trainante per la crescita del mercato dei semiconduttori di memoria.
- La banca d'investimento globale Citi prevede che il prossimo anno la domanda globale di bit HBM crescerà del 62% rispetto a quest'anno, raggiungendo i 75,2 miliardi di Gb.
- Citi individua proprio l’apprendimento continuo come una delle ragioni principali dell’aumento esplosivo della domanda di HBM e analizza che, con il ripetersi delle attività di formazione e inferenza, non solo la domanda di HBM, ma anche quella di DRAM per server e SSD enterprise cresceranno contemporaneamente.
- Attualmente, la maggior parte delle AI generative adotta un approccio basato su pre-training e successiva risposta, per cui le nuove informazioni non vengono automaticamente integrate nella conoscenza a lungo termine, causando problemi di efficienza.
- Nell’apprendimento continuo, i confini tra training e inference diventano sfumati, con l’obiettivo di permettere all’AI di apprendere nuovi dati ed esperienze anche durante l’erogazione dei servizi, integrandoli con la conoscenza esistente.
- Mentre si apprendono costantemente nuove informazioni, è necessario accedere anche ai dati esistenti su larga scala; ciò richiede una capacità di memoria maggiore e, oltre a HBM, sta diventando importante anche l'uso congiunto di DRAM per server ed eSSD basati su NAND.
- Poiché anche nella fase di inference avvengono processi di apprendimento, la sola larghezza di banda risulta insufficiente a superare i colli di bottiglia, per cui potrebbe aumentare la domanda per tecnologie come PIM che consentono l’elaborazione vicino alla memoria.
- Samsung Electronics ha proposto lo zHBM, che impila direttamente l’HBM sull’acceleratore AI, mentre SK hynix ha presentato strutture come PIM, SALT-KV e HBF, nel tentativo di superare i limiti delle attuali architetture GPU-HBM.
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
Ti potrebbe interessare anche
Nel prossimo mese, vedrai Bitcoin iniziare con "10", e forse addirittura con "11"!
Meta (META.US): Il primo junk bond per il data center ha ricevuto più di quattro volte le sottoscrizioni richieste, la forte domanda ha portato all’emissione a premio
La prima emissione di obbligazioni spazzatura dal data center di Meta Platforms ha attirato una domanda superiore di oltre quattro volte l’importo dell’offerta, con rendimenti allettanti che hanno attratto gli investitori.
La revisione degli indici azionari USA entrerà in vigore lunedì prossimo: Bloom Energy (BE.US) ed Everpure (P.US) saranno incluse nello S&P 500, con cambiamenti anche per le società di piccola e media capitalizzazione.
Bloom Energy, Illumina ed Everpure saranno incluse nell’indice S&P 500, mentre diverse altre aziende saranno aggiunte agli indici S&P 100, S&P MidCap 400 e S&P SmallCap 600.
La Federal Reserve potrebbe ripetere l’aumento dei tassi del 2022? Bank of America avverte: prevede che i tassi tornino sopra il 5%, consiglia di shortare i Treasury a 2 anni.
Bank of America ha avvertito che con Waller alla guida della Federal Reserve, i tassi di interesse potrebbero salire sopra il 5%, ripetendo quanto accaduto nel 2022.
Prezzi delle criptovalute
Altro
