Báo cáo: Nvidia dự định giảm cấu hình bộ nhớ Rubin Ultra để ứng phó với tình trạng thiếu hụt HBM cao cấp

Làn sóng hạ tầng AI đang tiến gần đến giới hạn của chuỗi cung ứng.

Theo báo cáo từ The Information, Nvidia đang xem xét một phương án điều chỉnh khá táo bạo — ra mắt phiên bản Rubin Ultra GPU thế hệ tiếp theo với cấu hình bộ nhớ đồ họa (VRAM) thấp hơn so với kế hoạch ban đầu, nhằm giảm bớt áp lực sản xuất hàng loạt do nguồn cung bộ nhớ băng thông cao cao cấp (HBM) đang thiếu hụt.

Điều này đồng nghĩa, ngay cả Nvidia - ông lớn thống trị thị trường GPU - cũng buộc phải cân bằng giữa thông số sản phẩm và khả năng cung ứng.

Sự thay đổi này không chỉ phản ánh việc cung ứng HBM đã trở thành một trong những điểm nghẽn quan trọng nhất của chuỗi giá trị AI, mà còn có nghĩa chi phí máy chủ AI có thể tiếp tục tăng cao, áp lực xây dựng trung tâm dữ liệu cũng sẽ tiếp tục lan tỏa đến các bên hạ nguồn.

Chốt phiên thứ Năm, cổ phiếu Nvidia giảm 0,1%, cổ phiếu SK Hynix giảm 4,97%.

Cung ứng HBM căng thẳng, Nvidia thử nghiệm nhiều phiên bản "giảm VRAM"

Theo nguồn tin nội bộ, trong vài tuần qua, Nvidia đã thử nghiệm ít nhất ba phiên bản khác nhau của GPU Rubin Ultra, trong đó một số lựa chọn có dung lượng VRAM thấp hơn so với định hướng ban đầu.

Nvidia cân nhắc ra mắt phiên bản VRAM thấp, một lý do quan trọng là trong tương lai có thể không đủ số lượng chip HBM cao cấp để đảm bảo sản xuất hàng loạt theo thiết kế gốc.

Rubin Ultra là thành phần quan trọng của nền tảng tính toán AI thế hệ tiếp theo của Nvidia, định vị cao hơn dòng Rubin chuẩn bị sản xuất hàng loạt, được xem là phần cứng then chốt để huấn luyện các mô hình AI cực lớn trong tương lai. Theo kế hoạch ban đầu, Rubin Ultra sẽ được trang bị HBM dung lượng lớn hơn, băng thông cao hơn nhằm nâng cao hiệu năng huấn luyện và suy luận mô hình.

Tuy nhiên, trong bối cảnh cung ứng HBM liên tục căng thẳng, Nvidia đang đánh giá lại cấu hình sản phẩm, hy vọng thông qua việc điều chỉnh dung lượng VRAM để đảm bảo tiến độ ra mắt thay vì tiếp tục chờ đợi chuỗi cung ứng mở rộng công suất.

Giảm VRAM đồng nghĩa cần triển khai nhiều GPU hơn

Đối với huấn luyện AI, HBM không chỉ quyết định khả năng truyền tải dữ liệu của GPU, mà còn trực tiếp ảnh hưởng đến quy mô mô hình lớn mà hệ thống có thể lưu trữ.

Nếu Rubin Ultra cuối cùng sử dụng cấu hình VRAM thấp hơn, khi chạy các mô hình ngôn ngữ lớn cùng các tác vụ AI quy mô lớn, khách hàng có thể buộc phải triển khai nhiều GPU hơn mới hoàn thành khối lượng tính toán vốn ban đầu có thể xử lý với ít chipset hơn.

Dù Nvidia vẫn có thể bù đắp một phần hiệu suất hao hụt bằng cách nâng cao năng lực tính toán GPU, tối ưu hóa băng thông kết nối... nhưng xét tổng thể, chi phí triển khai hệ thống và độ phức tạp của cụm máy chủ vẫn có thể tăng lên.

Đối với các ông lớn đám mây như Microsoft, Meta, Amazon, Google - những doanh nghiệp liên tục gia tăng đầu tư AI, điều này đồng nghĩa chi phí xây dựng trung tâm dữ liệu trong tương lai có thể tăng cao hơn nữa.

Làn sóng AI phơi bày nút thắt lớn nhất chuỗi cung ứng

HBM đã trở thành một trong những linh kiện cốt lõi khan hiếm nhất của chuỗi giá trị AI hiện nay.

Những năm gần đây, nhu cầu huấn luyện mô hình lớn tăng nhanh khiến sản lượng GPU không ngừng tăng, mà HBM cho GPU chủ yếu đến từ một số ít nhà sản xuất như Samsung Electronics, SK Hynix và Micron. Do quy trình sản xuất HBM phức tạp, đòi hỏi tỷ lệ thành phẩm cao, thời gian mở rộng công suất lâu, nên tăng trưởng cung ứng luôn khó bắt kịp nhu cầu AI.

Giới chuyên môn đều dự báo nguồn cung HBM sẽ tiếp tục thiếu hụt trong vài năm tới, đây cũng là một trong những nguyên nhân khiến giá máy chủ AI luôn ở mức cao.

Lần này Nvidia chủ động cân nhắc hạ cấu hình VRAM Rubin Ultra, cũng cho thấy dù có năng lực đàm phán chuỗi cung ứng mạnh nhất ngành, định hướng sản phẩm của họ vẫn bị giới hạn bởi cung ứng HBM.

Áp lực chi phí lan rộng toàn ngành công nghệ

Tác động từ việc giá HBM tăng cao đã không còn giới hạn trong máy chủ AI.

Khi các linh kiện trọng yếu như GPU, HBM càng lúc càng thiếu hụt, chi phí phần cứng của toàn ngành công nghệ đều chịu áp lực đi lên. Ngân sách đầu tư hạ tầng AI của doanh nghiệp tăng mạnh, ngày càng nhiều công ty buộc phải nâng chi tiêu vốn để đáp ứng nhu cầu triển khai AI tạo sinh.

Đồng thời, chi phí chip đầu nguồn tăng cũng bắt đầu lan tỏa sang lĩnh vực điện tử tiêu dùng. Một số nhà sản xuất phần cứng, bao gồm cả Apple, đã xử lý áp lực chi phí chuỗi cung ứng bằng cách nâng giá bán sản phẩm cuối cùng.

Giới quan sát cho rằng, chỉ cần nhu cầu năng lực AI tiếp tục tăng mạnh, trong khi tốc độ giải phóng công suất HBM hạn chế, thì cạnh tranh quanh nguồn tài nguyên lưu trữ cao cấp sẽ tiếp diễn, năng lực cung ứng HBM cũng tiếp tục là nhân tố then chốt quyết định tốc độ mở rộng ngành công nghiệp AI.