Co Meta Muse oznacza dla GPU i CPU?

Wraz z publikacją takich indywidualnych inteligentnych agentów AI jak Meta Muse, AI ewoluuje z pasywnego chatbota w autonomiczne, całodobowo działające agentów, co może zwiększyć zapotrzebowanie na CPU, GPU, pamięć oraz infrastrukturę sieciową.

Według najnowszego raportu badawczego Citi z 6 października, aplikacje agentów, reprezentowane przez Meta Muse, podnoszą oczekiwania rynkowe wobec sprzętu obliczeniowego na nowy poziom. Bank prognozuje, że do 2030 roku globalny potencjalny rynek (TAM) CPU wzrośnie z 29 miliardów dolarów w 2025 roku do 300 miliardów dolarów, z roczną złożoną stopą wzrostu na poziomie 60%.

Po stronie GPU agentów również powodują strukturalny wzrost zapotrzebowania. Według szacunków banku, jeśli Meta Muse osiągnie 100 milionów aktywnych użytkowników dziennie, będzie potrzebować od 200 000 do 390 000 GPU klasy Blackwell, co może przynieść Nvidia jednorazowy przychód w wysokości 7 do 19 miliardów dolarów.

Ten trend bezpośrednio sprzyja kluczowym dostawcom mocy obliczeniowej. Bank wskazuje, że Meta jest jednym z największych klientów serwerowych AMD, przez co AMD stanie się głównym beneficjentem odrodzenia CPU, a docelowa cena została podniesiona do 800 dolarów; jednocześnie Nvidia będzie nadal korzystać ze wzrostu zapotrzebowania na GPU.

Wzrost agentów, CPU staje się nowym wąskim gardłem

Przed eksplozją AI agentów, CPU ograniczały się do tradycyjnych obciążeń roboczych i działały jako head node w aplikacjach AI. W tych head nodach CPU odpowiadały jedynie za „zarządzanie”: przesyłały żądania użytkownika do GPU i zwracały wynik, a ciężka praca w zakresie mnożenia macierzy i inferencji spoczywała na GPU.

Jednak agenci zmieniają ten podział pracy. Citi w raporcie podkreśla: „W porównaniu z tradycyjnymi chatbotami, uważamy, że AI agentów jest czynnikiem napędzającym ilościowy wzrost zapotrzebowania na obliczenia.” Agent musi obsługiwać orkiestrację, pętle wnioskowania, przetwarzanie danych oraz komponenty bezpieczeństwa, przez co CPU staje się nowym wąskim gardłem.

Wraz z przejściem AI od treningu modelu do wnioskowania, a następnie do autonomicznych workflow agentów, stosunek CPU do GPU zmienia się znacząco. W fazie treningu modelu stosunek ten wynosi 1:8, w fazie wnioskowania 1:4, natomiast w AI agentów ewoluuje w stronę 1:1 lub nawet wyższych poziomów. Bank prognozuje, że do 2030 roku CPU dedykowane agentom będą rosły z roczną złożoną stopą wzrostu 247%, obejmując 52% całego rynku CPU.

Księga GPU obliczeniowej agentów Meta Muse

Meta Muse to pierwszy konsumencki AI agent opublikowany na rzeczywistą skalę sieci społecznościowej, a jego ślad obliczeniowy jest jednym z najważniejszych czynników w obecnej infrastrukturze AI. W przeciwieństwie do standardowych chatbotów, Muse jako autonomiczny agent działa nieprzerwanie, a jego logika bazowa sprawia, że jego zużycie GPU jest znacznie większe.

Citi zbudowało model zapotrzebowania na GPU od podstaw. W scenariuszu bazowym przyjęto, że typowy użytkownik każdego dnia wykonuje 4 proste zapytania oraz 12 zadań agentów (takich jak znalezienie restauracji, sprawdzenie kalendarza i sporządzenie zaproszenia), z każdym zadaniem agentów składającym się z około 8 wywołań modelu. Ponieważ model nie zapamiętuje kontekstu między wywołaniami, musi za każdym razem ponownie odczytać rosnącą historię rozmów.

Na tej podstawie bank szacuje, że każdy użytkownik Muse potrzebuje około 0,0020 GPU klasy GB200. Mówiąc prościej, jedna GPU może obsłużyć około 500 użytkowników. Bank podkreśla: „Zadania agentów są strukturalnie bardziej wymagające obliczeniowo niż chatboty.” W tym samym układzie, użytkownicy czatowi potrzebują jedynie 12,5% - 25% mocy GPU w porównaniu do użytkowników agentów.

Efekt domino w pamięci i sieciach

Workflow agentów nie tylko stawiają wyższe wymagania wobec chipów logicznych, ale też efekt domino rozprzestrzenia się na pamięć i sieci. W zakresie pamięci, CPU wykazują wysoką dodatkową zależność od LP, DDR i SSD. Micron ostatnio wskazał, że workflow agentów reprezentowane przez Meta Muse dostarczają konsumentom większą wartość, a CPU generują większe ograniczenia dla DRAM.

Po stronie sieci, AI agentów znacząco zwiększa ruch sieciowy. Zarząd Nvidia w rozmowie z Citi powiedział: „Agent może być uruchamiany godzinami lub bez przerwy… napędzając generowanie znacznie większej liczby Tokenów w obciążeniach konsumentów i przedsiębiorstw.”

Taka nieprzerwana praca oznacza, że coraz częściej infrastrukturę odwiedzają agenci, a nie ludzie. To napędza wzrost „południkowych” i „północnych” przepływów w data center (takich jak dostęp do pamięci, bezpieczeństwo, konfiguracja usług), tworząc nowe możliwości przyspieszenia dzięki użyciu DPU (np. BlueField 4) i Spectrum-X Ethernet.