Chip AI mới của Cerebras "đánh bại" Nvidia với tốc độ xử lý nhanh gấp 20 lần
• Cerebras Systems, công ty khởi nghiệp tại California, vừa công bố giải pháp Cerebras Inference với tốc độ nhanh gấp 20 lần so với GPU của Nvidia
• Công nghệ đột phá Wafer Scale Engine thế hệ thứ 3 tích hợp:
- 4 nghìn tỷ bóng bán dẫn
- 44GB SRAM tích hợp
- Không cần bộ nhớ ngoài, loại bỏ điểm nghẽn của GPU truyền thống
• Hiệu năng xử lý ấn tượng:
- 1.800 token/giây cho mô hình Llama3.1 8B
- 450 token/giây cho mô hình Llama3.1 70B
• So sánh kiến trúc:
- Cerebras: Thiết kế wafer đơn khối, tích hợp xử lý và bộ nhớ
- Nvidia: Kiến trúc đa chip kết nối qua NVLink, linh hoạt và dễ mở rộng
• Ưu điểm của Cerebras:
- Tốc độ xử lý AI inference vượt trội
- Độ trễ thấp nhờ tích hợp bộ nhớ
- Phù hợp với mô hình AI quy mô lớn
• Ưu điểm của Nvidia:
- Hệ sinh thái phần mềm phong phú
- Đa dụng từ game đến AI
- Khả năng ứng dụng rộng rãi
• AMD và Intel có thể đối mặt với sự cạnh tranh mạnh mẽ khi Cerebras ngày càng phát triển trong lĩnh vực ứng dụng AI hiệu năng cao
📌 Cerebras Systems đã tạo bước đột phá với chip AI tích hợp 4 nghìn tỷ bóng bán dẫn, nhanh gấp 20 lần GPU Nvidia. Công nghệ này đặc biệt phù hợp cho các mô hình AI lớn đòi hỏi xử lý thời gian thực, trong khi Nvidia vẫn duy trì lợi thế về tính đa năng và hệ sinh thái toàn diện.
https://www.barchart.com/story/news/29249699/new-ai-chip-leaves-nvidia-amd-and-intel-in-the-dust-with-20x-faster-speeds-and-over-4-trillion-transistors
Thảo luận
Follow Us
Tin phổ biến
