Marvell wprowadza drugiej generacji rozszerzacz pamięci CXL, obsługuje maksymalnie 9TB pamięci DDR4

Marvell rozszerza ofertę pamięci o większą pojemność i wyższą przepustowość, celując w rosnący popyt związany z modernizacją infrastruktury AI dla potrzeb inferencji.

Według Bloomberg, 12 października Marvell oficjalnie zaprezentował drugą generację Structera X 3406 i 3506 CXL Memory Expander. Firma ogłosiła, że jest to pierwsza w branży sześciokanałowa pamięć rozszerzająca CXL 3.2, która dzięki jednemu kontrolerowi obsługuje do 9 TB DDR4 lub 6 TB DDR5, z liczbą kanałów zwiększoną o 50% w stosunku do poprzedniej generacji. Oba produkty mają trafić do klientów na próbki w pierwszym kwartale 2027 roku.

Premiera ma na celu rozwiązanie narastającego problemu ograniczeń pamięci przy obciążeniach inferencji AI. Wraz ze wzrostem rozmiaru dużych modeli językowych (LLM), wydłużaniem okna kontekstu i szybkim wzrostem zapotrzebowania na bufor KV, tradycyjna architektura serwerowa jest coraz mocniej obciążona pod kątem pojemności i przepustowości pamięci, co sprawia, że pamięć staje się kluczowym czynnikiem hamującym efektywność i wydajność infrastruktury AI.

Firmy takie jak AMD, Arm, Alibaba, Samsung oraz SK hynix zadeklarowały wsparcie dla nowych produktów i związanej z nimi współpracy ekosystemowej.

Kluczowe ulepszenia technologiczne: więcej kanałów, większa pojemność

Structera X 3406 oraz 3506 bazują na poprzedniej generacji, oferując ulepszenia w zakresie liczby kanałów pamięci, rozszerzonej pojemności oraz wydajności kompresji.

Oba produkty obsługują sześciokanałową konfigurację pamięci. Model 3406 oferuje 18 slotów DDR4 RDIMM, z maksymalną pojemnością 9 TB; model 3506 obsługuje 12 slotów DDR5 RDIMM, z pojemnością maksymalną 6 TB. W zakresie połączeń hosta, oba produkty umożliwiają współdzielenie zasobów pamięci przez maksymalnie cztery hosty, a przepustowość połączenia hostów sięga 256 GB/s, korzystając z interfejsu PCIe 6.0 x16.

Pod względem wydajności kompresji, nowe produkty posiadają wbudowany silnik kompresji LZ4, zapewniając przepustowość kompresji i dekompresji na poziomie do 250 GB/s, czyli pięciokrotnie wyższą niż w poprzedniej generacji, pozwalając zwiększyć efektywną pojemność pamięci od 2 do 3 razy względem oryginalnej wartości.

Marvell informuje, że w scenariuszu inferencji dużych modeli językowych nowe produkty mogą skrócić czas odpowiedzi na pierwszy bajt (TTFT) o 40%–50% przy tej samej długości kontekstu; w scenariuszach głębokiego uczenia (DLRM), liczba zapytań na sekundę obsługiwana przez pojedynczy kontroler może wzrosnąć dwukrotnie, a efektywna pojemność tabeli osadzającej do 2–3 razy względem poprzedniej wersji.

Cel: centra danych o ultra dużej skali, ekspansja współpracy ekosystemowej

Marvell deklaruje, że druga generacja Structera X bazuje na stosie programowym oraz integracji ekosystemu pierwszej generacji produktów 2404/2504, które były dostarczane klientom z ultradużych centrów danych, aby przyspieszyć wprowadzenie nowych produktów na rynek.

Wielu partnerów z branży publicznie wyraziło wsparcie. Raghu Nambiar, wiceprezes AMD, podkreślił, że współpraca opiera się na wydajności i skalowalności procesorów EPYC, pomagając firmom zwiększać pojemność pamięci oraz efektywność wykorzystania zasobów w obliczu rosnących potrzeb AI i aplikacji intensywnie korzystających z danych.

Eddie Ramirez, wiceprezes ds. wprowadzania AI na rynek w chmurze Arm, zaznaczył, że Structera X wprowadza CXL 3.2, rozszerzenie i kompresję pamięci do ekosystemu Arm, oferując centra danych o ultra dużej skali nowe możliwości sprawnego obsługiwania złożonych obciążeń AI.

Jangseok Choi, wiceprezes ds. planowania produktów pamięci w Samsung Electronics oraz Uksong Kang, szef planowania produktów nowej generacji i wdrożeń w SK hynix poinformowali, że firmy zakończyły weryfikację produktów Structera z własnymi modułami DDR.

Rozszerzenie portfolio produktów CXL, strategia na pamięć zpoolowaną i architekturę dekompozytową

Will Chu, wiceprezes wykonawczy i dyrektor generalny działu rozwiązań chmurowych Marvell, oświadczył, że firma jest jedynym dostawcą na rynku, oferującym pełne portfolio produktów CXL od końca do końca, obejmujące różne poziomy: Structera X dla rozszerzenia pamięci, Structera A dla akceleracji blisko pamięci oraz PFMA (Photonic Fabric™ Memory Appliance) dla dzielenia pamięci CXL na poziomie szafy rack. Portfolio pokrywa od bezpośredniego rozszerzenia pamięci do pamięci zpoolowanej i dekompozytowej w różnych scenariuszach zastosowań.

Jim Handy, dyrektor Objective Analysis, zaznacza, że CXL jest stopniowo wdrażany w systemach AI, a jego cechy takie jak wysokie pasmo i duża pojemność mogą przynieść znaczące korzyści. Dodaje, że w sytuacji niskiej podaży i wysokich cen pamięci, zarządzający IT rozważają wykorzystanie CXL do ponownego użycia modułów DDR4 w systemach DDR5 w celu redukcji kosztów; kontrolery z funkcją kompresji pamięci mogą dodatkowo zwiększać atrakcyjność takich rozwiązań.

Structera X 3406 i 3506 zostaną zaprezentowane na OCP Global Summit w San Jose w Kalifornii w dniach 12–15 października, oficjalne próbki mają zostać wprowadzone na rynek w pierwszym kwartale 2027 roku.