• Chip mới của EnCharge AI kết hợp tính toán analog và số, sử dụng mạch analog tiết kiệm năng lượng cho các phép tính nặng nhất của AI tạo sinh.
• Công ty nhận được khoản tài trợ 18,6 triệu USD từ DARPA để phát triển công nghệ mới, giúp triển khai AI tạo sinh trên thiết bị di động năng lượng hạn chế.
• Mô hình AI lớn như ChatGPT, Llama cần hàng kilowatt điện năng để chạy trên đám mây, nhưng chip mới chỉ tiêu thụ 10% so với hiện nay.
• Công nghệ mới sử dụng mạch analog cho phép tính accumulate - phép tính nặng nhất của AI tạo sinh, tiết kiệm 90% năng lượng so với mạch số truyền thống.
• Đây là bước đột phá quan trọng để đưa AI tạo sinh ra khỏi trung tâm dữ liệu, tới các thiết bị di động, xe tự lái, robot trong tương lai.
📌 Chip analog số đột phá của EnCharge AI giảm 90% năng lượng cho AI tạo sinh, mở đường triển khai rộng rãi công nghệ trên thiết bị di động năm 2024.
https://www.zdnet.com/article/making-genai-more-efficient-with-a-new-kind-of-chip/