Cosa significa Meta Muse per GPU e CPU?

Con il rilascio di agenti AI personali come Meta Muse, l’AI sta evolvendosi da semplici chatbot reattivi verso agenti intelligenti che operano autonomamente 24/7, il che potrebbe aumentare notevolmente il consumo di CPU, GPU, memoria e infrastrutture di rete.

Secondo l’ultimo rapporto di ricerca pubblicato da Citi il 6 ottobre, le applicazioni di agent come Meta Muse stanno spingendo le aspettative del mercato dell’hardware di calcolo verso nuovi massimi. La banca prevede che entro il 2030, il mercato totale potenziale (TAM) globale delle CPU crescerà dagli attuali 29 miliardi di dollari previsti nel 2025 fino a 300 miliardi di dollari, con un tasso di crescita annuo composto del 60%.

Sul versante delle GPU, gli agent hanno ugualmente portato a un incremento strutturale della domanda. Secondo le stime della banca, se Meta Muse raggiungesse 100 milioni di utenti attivi giornalieri, sarebbero necessarie tra 200.000 e 390.000 GPU di livello Blackwell, il che potrebbe generare tra 7 e 19 miliardi di dollari di entrate una tantum per Nvidia.

Questa tendenza favorisce direttamente i fornitori chiave di potenza computazionale. La banca sottolinea che, poiché Meta è uno dei maggiori clienti del business server di AMD, AMD sarà uno dei principali beneficiari della rinascita delle CPU e il suo target price è stato alzato a 800 dollari; allo stesso tempo, anche Nvidia continuerà a trarre vantaggio dall’impennata della domanda di GPU.

L’ascesa degli agenti intelligenti, la CPU diventa il nuovo collo di bottiglia

Prima dell’esplosione dell’AI agent-based, le CPU erano per lo più confinate a carichi di lavoro tradizionali e come nodo iniziale (Head Node) per applicazioni AI. In questi ruoli, la CPU fungeva soltanto da “gestore”, cioè inoltrava le richieste dell’utente verso la GPU e restituiva i risultati, mentre le operazioni intensive di moltiplicazione di matrici e inferenza erano eseguite dalla GPU.

Tuttavia, gli agenti intelligenti hanno cambiato questa suddivisione. Il rapporto di Citi sottolinea : “Rispetto ai tradizionali chatbot, riteniamo che gli agent AI rappresentino una forza trainante per una crescita potenziale della domanda computazionale di un ordine di grandezza.” Gli agent devono gestire orchestrazione, loop di inferenza, processamento dati e componenti di sicurezza, il che rende la CPU il nuovo collo di bottiglia.

Con il passaggio dell’AI dal training del modello alle inferenze e poi ai workflow autonomi degli agent, il rapporto tra CPU e GPU sta cambiando radicalmente. Nella fase di training era di 1:8; in quella di inferenza di 1:4; mentre negli agent AI si sta evolvendo verso 1:1 o addirittura superiore. Secondo la banca, entro il 2030 le CPU dedicate agli agent cresceranno con un CAGR del 247%, arrivando a rappresentare il 52% dell’intero mercato delle CPU.

Il bilancio computazionale in GPU di Meta Muse

Meta Muse è il primo agente AI destinato ai consumatori lanciato su una vera scala di social network, e la sua impronta di calcolo rappresenta oggi una delle variabili più importanti nell’infrastruttura AI. A differenza dei classici chatbot, Muse opera come agente autonomo in maniera continuativa, e la sua logica di base impone un consumo di GPU molto più elevato.

Citi ha costruito un modello bottom-up di domanda di GPU. Nel caso base, si ipotizza che un utente tipo effettui 4 richieste semplici e 12 task da agente al giorno (ad esempio: trovare ristoranti, controllare il calendario e redigere inviti), con ogni task che richiede circa 8 chiamate di modello. Poiché il modello non conserva memoria fra una chiamata e l’altra, deve rileggere ogni volta un contesto conversazionale in continuo aumento.

Sulla base di ciò, la banca stima che ogni utente Muse abbia bisogno approssimativamente di 0,0020 GPU di livello GB200. In termini pratici, una sola GPU può servire circa 500 utenti. La banca sottolinea: “Gli agent, strutturalmente, rappresentano carichi di lavoro di inferenza molto più pesanti rispetto ai chatbot.” Nella stessa struttura, la capacità GPU richiesta da utenti chatbot è solo il 12,5%-25% di quella di un utente agente.

Effetti a catena su memoria e rete

I workflow degli agent non impongono solo requisiti maggiori ai chip logici, ma le loro conseguenze si estendono a memoria e reti. Sul fronte della memoria, le CPU esigono un’elevata associatività con LP, DDR e SSD. Di recente, Micron ha sottolineato che i workflow agent-based, come quelli di Meta Muse, stanno aumentando il valore per i consumatori e che le CPU stanno imponendo vincoli ancora superiori alla DRAM.

Nel segmento di rete, gli agent AI stanno aumentando in maniera sostanziale il traffico di rete. Il management Nvidia ha comunicato a Citi: “Gli agent possono operare per ore o senza interruzioni... alimentando una generazione di token molto maggiore sia nei carichi di lavoro consumer che enterprise.”

Questa attività continua significa che un numero crescente di accessi all’infrastruttura proverrà dagli agent piuttosto che da esseri umani. Questo incrementa il traffico “north-south” all’interno dei data center (ad esempio accesso allo storage, sicurezza, configurazione ecc.), creando nuove opportunità di accelerazione per l’uso di DPU (come BlueField 4) e Ethernet Spectrum-X.