Microsoft ra mắt chip AI đầu tiên Maia 100, hứa hẹn tăng tốc AI giá rẻ

• Microsoft đã giới thiệu bộ tăng tốc AI đầu tiên của mình có tên Maia 100 tại hội nghị Hot Chips năm nay. Đây là một bước đi nhằm cạnh tranh với sự thống trị của Nvidia trong thị trường chip AI (chiếm 75-90% thị phần).

• Maia 100 được thiết kế để chạy các mô hình OpenAI trên trung tâm dữ liệu Azure của Microsoft. Nó sử dụng kiến trúc tùy chỉnh với bo mạch chủ, giá đỡ và phần mềm riêng để cung cấp giải pháp hiệu quả về chi phí cho các khối lượng công việc dựa trên AI.

• Chip được sản xuất trên quy trình 5nm của TSMC, có TDP 500W và có thể hỗ trợ lên đến 700W. Nó được trang bị 64GB bộ nhớ HBM2E, thấp hơn so với 80GB của Nvidia H100 và 192GB HBM3E của B200.

• Kiến trúc SoC của Maia 100 bao gồm:
  - Đơn vị tensor tốc độ cao (16xRx16) 
  - Bộ xử lý vector siêu vô hướng lỏng lẻo với ISA tùy chỉnh
  - Bộ máy Truy cập Bộ nhớ Trực tiếp 
  - Semaphore phần cứng cho lập trình bất đồng bộ

• Maia 100 hỗ trợ nhiều loại dữ liệu, bao gồm cả định dạng MX độ chính xác thấp của Microsoft.

• Microsoft cung cấp Maia SDK cho các nhà phát triển, bao gồm:
  - Công cụ để chuyển đổi nhanh các mô hình từ PyTorch và Triton
  - Tích hợp framework, công cụ phát triển, mô hình lập trình và trình biên dịch
  - Kernel tính toán và giao tiếp được tối ưu hóa
  - Runtime Host/Device Maia
  - Lớp trừu tượng phần cứng

• Microsoft đã cung cấp thêm thông tin chi tiết về SDK, giao thức mạng backend và tối ưu hóa trong bài đăng blog "Inside Maia 100".

📌 Microsoft tham gia cuộc đua chip AI với Maia 100, hứa hẹn tăng tốc AI giá rẻ. Chip 5nm này có 64GB HBM2E, TDP 500-700W, hỗ trợ nhiều định dạng dữ liệu và đi kèm SDK toàn diện. Mục tiêu là cạnh tranh với Nvidia trong thị trường chip AI trị giá hàng tỷ USD.

https://www.techspot.com/news/104514-microsoft-maia-100-looks-bring-customers-cost-effective.html