Nvidia ra mắt siêu chip AI Blackwell với giá lên đến 70.000 USD, hệ thống máy chủ có thể lên đến 3 triệu USD

- Nvidia Blackwell GPUs cho ứng dụng AI sẽ đắt hơn so với các bộ xử lý dựa trên Hopper của công ty, theo các nhà phân tích từ HSBC.
- Một siêu chip GB200 (CPU+GPU) có thể có giá lên đến 70.000 USD.
- Nvidia có thể sẽ bán các máy chủ dựa trên GPU Blackwell thay vì bán chip riêng lẻ, với các máy chủ B200 NVL72 dự kiến có giá lên đến 3 triệu USD mỗi chiếc.
- HSBC ước tính giá bán trung bình (ASP) của GPU B100 là từ 30.000 đến 35.000 USD, tương đương với giá của H100.
- Siêu chip GB200, kết hợp một CPU Grace với hai GPU B200, sẽ có giá từ 60.000 đến 70.000 USD.
- Hệ thống máy chủ Nvidia GB200 NVL36 với 36 siêu chip GB200 (18 CPU Grace và 36 GPU B200) có thể được bán với giá trung bình 1,8 triệu USD.
- Hệ thống máy chủ Nvidia GB200 NVL72 với 72 siêu chip GB200 (36 CPU và 72 GPU) có thể có giá khoảng 3 triệu USD.
- CEO Nvidia, Jensen Huang, đã tiết lộ các chip trung tâm dữ liệu Blackwell tại GTC 2024, nhấn mạnh rằng mục tiêu là bán các giá đỡ máy chủ hoàn chỉnh.
- Hệ thống NVL72 tích hợp qua các kết nối băng thông cao để hoạt động như một GPU khổng lồ, cung cấp 13.824 GB VRAM tổng cộng, rất quan trọng trong việc huấn luyện các mô hình ngôn ngữ lớn (LLM).
- Bán các hệ thống hoàn chỉnh thay vì GPU/siêu chip riêng lẻ cho phép Nvidia hấp thụ một phần lợi nhuận từ các nhà tích hợp hệ thống, tăng doanh thu và lợi nhuận.
- Đối thủ của Nvidia như AMD và Intel đang tiến triển chậm với các bộ xử lý AI của họ, cho phép Nvidia bán các bộ xử lý AI của mình với giá cao.
- H200 đã có giá lên đến 40.000 USD cho từng GPU riêng lẻ, trong khi GB200 sẽ tăng gấp bốn lần số lượng GPU, cộng thêm CPU và PCB lớn cho siêu chip.
- Tính toán thô cho một siêu chip GB200 là 5 petaflops FP16 (10 petaflops với sparsity), so với 1/2 petaflops (dense/sparse) trên H200.
- Giá thực tế của phần cứng trung tâm dữ liệu luôn phụ thuộc vào các hợp đồng cá nhân, dựa trên khối lượng phần cứng đặt hàng và các cuộc đàm phán khác.
- Các khách hàng lớn như Amazon và Microsoft có thể nhận được giảm giá lớn, trong khi các khách hàng nhỏ hơn có thể phải trả giá cao hơn so với báo cáo của HSBC.

📌 Nvidia dự kiến sẽ ra mắt siêu chip AI Blackwell với giá lên đến 70.000 USD và hệ thống máy chủ có thể lên đến 3 triệu USD. Các siêu chip này hứa hẹn mang lại doanh thu hàng tỷ USD cho Nvidia, với khả năng tính toán mạnh mẽ và tích hợp cao, đặc biệt quan trọng trong việc huấn luyện các mô hình ngôn ngữ lớn.

https://www.tomshardware.com/pc-components/gpus/nvidias-next-gen-blackwell-ai-gpus-to-cost-up-to-dollar70000-fully-equipped-servers-range-up-to-dollar3000000-report