Nvidia trình làng siêu máy tính DGX SuperPOD mới xử lý mô hình AI nghìn tỷ tham số

- Nvidia giới thiệu hệ thống DGX SuperPOD mới, một phần của việc ra mắt phần cứng và phần mềm rộng rãi tại hội nghị Nvidia GTC.
- DGX SuperPOD được trang bị GPU thế hệ tiếp theo của Nvidia cho tăng tốc AI, được gọi là Blackwell, hỗ trợ các mô hình AI có hàng nghìn tỷ tham số.
- DGX SuperPOD tích hợp siêu chip GB200 phiên bản của Blackwell, bao gồm cả tài nguyên CPU và GPU.
- Mỗi hệ thống DGX GB200 có 36 siêu chip Nvidia GB200, bao gồm 36 CPU Nvidia Grace và 72 GPU Nvidia Blackwell, kết nối thành một siêu máy tính duy nhất thông qua Nvidia NVLink thế hệ thứ 5.
- DGX SuperPOD có thể được cấu hình với 8 hoặc nhiều hơn hệ thống DGX GB200 và có thể mở rộng lên hàng chục nghìn siêu chip GB200 được kết nối thông qua Nvidia Quantum InfiniBand.
- Hệ thống có thể cung cấp 240 terabyte bộ nhớ, rất quan trọng cho việc đào tạo mô hình ngôn ngữ lớn (LLM) và suy luận AI tạo sinh ở quy mô lớn.
- DGX SuperPOD có sức mạnh tính toán AI 11,5 exaflops.
- Công nghệ mạng Nvidia Quantum-X800 InfiniBand cung cấp băng thông lên tới 1.800 gigabyte/giây cho mỗi GPU trong nền tảng.
- DGX cũng tích hợp DPU Nvidia BlueField-3 và kết nối Nvidia NVLink thế hệ thứ 5.
- SuperPOD mới bao gồm công nghệ Nvidia Scalable Hierarchical Aggregation and Reduction Protocol (SHARP) thế hệ thứ 4, cung cấp 14,4 teraflops tính toán trong mạng.
- Các hệ thống DGX mới dựa trên GB200 cũng sẽ có trên dịch vụ đám mây Nvidia DGX, đầu tiên trên Amazon Web Services (AWS), Google Cloud và Oracle Cloud.
- Project Ceiba, siêu máy tính mà Nvidia đang phát triển với AWS, đã được nâng cấp lên Grace Blackwell hỗ trợ 20.000 GPU, cung cấp hơn 400 exaflops AI.

📌 Nvidia đã ra mắt hệ thống DGX SuperPOD mới mạnh nhất từ trước đến nay, tích hợp GPU Blackwell thế hệ tiếp theo, hỗ trợ các mô hình AI với hàng nghìn tỷ tham số. Hệ thống cung cấp 240 TB bộ nhớ, sức mạnh tính toán AI 11,5 exaflops và mạng Quantum-X800 InfiniBand băng thông cao. DGX SuperPOD cũng sẽ có mặt trên dịch vụ đám mây DGX và Project Ceiba siêu máy tính với 20.000 GPU, cung cấp hơn 400 exaflops AI.

https://venturebeat.com/ai/nvidias-new-dgx-superpod-can-handle-trillion-parameter-ai-models/