AMD tung "vũ khí" mới trong cuộc đua AI: GPU Instinct MI325x có thể đánh bại Nvidia?
• AMD vừa công bố dòng GPU Instinct MI325x mới tại hội nghị Advancing AI ở San Francisco, nhắm đến việc tăng cường hiệu suất và hiệu quả cho các tác vụ AI phức tạp.
• Instinct MI325x được thiết kế đặc biệt để tăng tốc quá trình đào tạo mô hình nền tảng, tinh chỉnh và suy luận.
• GPU mới có bộ nhớ HBM3E 256GB với băng thông 6TB/s, cao hơn 1,8 lần về dung lượng và 1,3 lần về băng thông so với dòng H200 của Nvidia.
• Về khả năng suy luận LLM, MI325x có thể mang lại hiệu suất cao hơn 1,3 lần trên mô hình Mistral 7B và 1,2 lần trên Llama 3.1 70B.
• Dự kiến MI325x sẽ bắt đầu sản xuất vào Q4/2024 và có sẵn rộng rãi từ các nhà cung cấp nền tảng như Dell, HPE, Lenovo, Supermicro vào Q1/2025.
• AMD cũng hé lộ kế hoạch cho dòng Instinct MI350 thế hệ tiếp theo, dự kiến ra mắt vào nửa cuối năm 2025.
• MI350 sẽ dựa trên kiến trúc CDNA 4, hứa hẹn cải thiện hiệu suất suy luận gấp 35 lần so với các bộ tăng tốc dựa trên CDNA 3.
• Bộ nhớ của MI350 sẽ đạt 288GB HBM3E trên mỗi bộ tăng tốc.
• Động thái này của AMD thể hiện nỗ lực cạnh tranh mạnh mẽ với Nvidia trong lĩnh vực AI, đặc biệt là về hiệu suất và khả năng xử lý các mô hình ngôn ngữ lớn.
• Việc ra mắt liên tiếp các dòng GPU mới cho thấy AMD đang đẩy nhanh lộ trình phát triển của mình trong lĩnh vực AI.
📌 AMD tung ra GPU Instinct MI325x với bộ nhớ HBM3E 256GB, băng thông 6TB/s, vượt trội so với Nvidia H200. Dự kiến ra mắt Q4/2024, tiếp theo là MI350 vào 2025 với hiệu suất suy luận tăng 35 lần, thể hiện tham vọng dẫn đầu của AMD trong cuộc đua AI.
https://www.itpro.com/hardware/amds-new-instinct-gpus-might-just-blow-nvidia-out-of-the-water
Thảo luận
Follow Us
Tin phổ biến
