HPE và Supermicro tung siêu máy tính AI tạo sinh mạnh nhất từ trước đến nay với GPU Blackwell của Nvidia

- HPE giới thiệu nền tảng siêu máy tính AI tạo sinh tại chỗ, giúp các công ty tạo, tinh chỉnh và chạy các mô hình ngôn ngữ lớn mạnh mẽ trong trung tâm dữ liệu của riêng họ.
- Hệ thống được trang bị GPU GH200 Grace Hopper Superchips của Nvidia, tích hợp công nghệ mạng Ethernet Spectrum-X, đơn vị xử lý dữ liệu BlueField-3 và phần mềm máy học và phân tích của HPE.
- Nền tảng hỗ trợ các mô hình ngôn ngữ lớn (LLM) độc quyền và nguồn mở, lý tưởng cho tinh chỉnh nhẹ, tạo sinh được tăng cường bởi truy xuất dữ liệu ngoài (RAG) và suy luận quy mô lớn.
- HPE cũng phát triển phần mềm Machine Learning Inference, tích hợp với microservices NIM mới của Nvidia để triển khai nhanh và an toàn các mô hình AI.
- Supermicro công bố các máy chủ đầu tiên sử dụng GPU Blackwell mới của Nvidia, bao gồm GB200 Grace Blackwell Superchip, B200 và B100 Tensor Core GPUs.
- Các hệ thống HGX B200 8-GPU và HGX B100 8-GPU mới của Supermicro sẽ mang lại hiệu suất cao gấp 3 lần so với các hệ thống sử dụng kiến trúc Hopper cũ hơn của Nvidia.
- Supermicro cũng giới thiệu máy chủ MGX mới sử dụng GB200 Grace Blackwell Superchip, mang lại hiệu suất suy luận AI cao gấp 30 lần so với thế hệ Superchip trước.
- Máy chủ quy mô giá đỡ mới nhất của Supermicro dựa trên Nvidia GB200 NVL72 sẽ kết nối 36 CPU Nvidia Grace với 72 GPU Blackwell trong một giá đỡ duy nhất, sử dụng công nghệ NVLink mới nhất.

📌 HPE và Supermicro đã ra mắt các nền tảng siêu máy tính AI tạo sinh mạnh mẽ nhất từ trước đến nay, sử dụng GPU Blackwell tiên tiến của Nvidia. Các hệ thống mới hỗ trợ tinh chỉnh mô hình nhẹ, RAG và suy luận quy mô lớn, mang lại hiệu suất cao gấp 3 đến 30 lần so với các thế hệ trước, đáp ứng nhu cầu ngày càng tăng về khả năng xử lý AI tạo sinh tại chỗ.

https://siliconangle.com/2024/03/18/hpe-debuts-nvidia-gpu-powered-premises-supercomputer-generative-ai/