Dell hợp tác với AMD để mở rộng danh mục AI tạo sinh của mình nhằm mang đến nhiều sự lựa chọn hơn cho khách hàng

  • Dell đã mở rộng danh mục máy chủ tính toán hiệu năng cao của mình, bổ sung một máy chủ dùng chip AMD dành cho tải trọng công việc AI.
  • Bên cạnh phiên bản sử dụng chip Nvidia, khách hàng sẽ sớm có thể mua phiên bản mới của Dell PowerEdge XE9680, trang bị tám bộ tăng tốc AMD Instinct MI300X. Điều này giúp doanh nghiệp đào tạo và vận hành các mô hình ngôn ngữ lớn (LLMs) của riêng mình, với 1.5GB bộ nhớ băng thông cao (HBM3) và hiệu suất hơn 21 petaFLOPS.
  • Khách hàng cũng có thể mở rộng hệ thống mà họ triển khai với chuẩn kết nối bộ nhớ toàn cầu (xGMI), và kết nối GPU của AMD qua mạng AI dựa trên Ethernet với Dell PowerSwitch Z9664F-ON. Điều này diễn ra sau khi Dell ra mắt đơn vị trang bị GPU Nvidia H100 vào đầu năm nay.
  • Điều này đồng thời đi kèm với một chuẩn mới có tên Dell Validated Design for Generative AI with AMD, là một khung cảnh cho các tổ chức muốn vận hành phần cứng và kiến trúc mạng của riêng mình để chạy LLMs.
  • Khách hàng của Dell có thể sử dụng giải pháp này để xây dựng nền tảng AI tạo sinh với các framework hướng dẫn tích hợp công nghệ cũng như cài đặt vật lý và tối ưu hóa hiệu suất.
  • Máy chủ cũng sử dụng bộ framework AI dựa trên AMD ROCm, là một gói mã nguồn mở của trình điều khiển, bộ công cụ phát triển và API tương thích với bộ tăng tốc AMD Instinct. Chúng bao gồm các framework phổ biến như PyTorch, TensorFlow và OpenAI Triton, đều hỗ trợ trên PowerEdge XE9680 trang bị bộ tăng tốc AMD.
  • Sự đẩy mạnh của Dell cho mạng lưới dựa trên chuẩn, với vai trò là thành viên của Ultra Ethernet Consuortium (UEC), có nghĩa là công ty chọn một cách tiếp cận mở hơn so với Nvidia.
  • Mặc dù Nvidia là một nhà lãnh đạo trong ngành cơ sở hạ tầng AI, AMD khác biệt ở chỗ ủng hộ một mạng Ethernet mở cho AI, nơi các thiết bị chuyển mạch từ các nhà cung cấp khác nhau có thể hoạt động cùng nhau trên cùng một hệ thống. Tương tự, Dell muốn các doanh nghiệp tiếp cận một cách mở với các thành phần tính toán, mạng lưới cũng như lưu trữ cần thiết để vận hành các mô hình AI tạo sinh nội bộ.
  • Phần cứng và dịch vụ mới trong đợt đẩy mạnh AI mới nhất của Dell dự kiến sẽ có sẵn trong nửa đầu năm tới.

📌 Dell đã mở rộng danh mục máy chủ tính toán hiệu năng cao của mình, bổ sung một máy chủ dùng chip AMD dành cho tải trọng công việc AI. Sự bổ sung máy chủ chạy chip AMD vào danh mục máy chủ tính toán hiệu năng cao của Dell cho thấy sự mở rộng và đa dạng hóa trong lựa chọn công nghệ AI, đặc biệt là trong việc hỗ trợ

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo