• Edge AI là khái niệm về việc thực hiện các quy trình AI cục bộ trên thiết bị, thay vì trên đám mây hoặc trung tâm dữ liệu tập trung. Đây là sự đảo ngược so với xu hướng chuyển lên đám mây trong 15 năm qua.
• Lợi ích của Edge AI bao gồm khả năng mở rộng, độ trễ thấp hơn, bảo mật và quyền riêng tư tốt hơn. Nó phù hợp cho các quy trình cần xử lý nhiều tài nguyên mà việc liên tục gửi dữ liệu qua lại sẽ tốn kém.
• Các chuyên gia ước tính có khoảng 300 triệu AI PC đang hoạt động độc lập. Điều này tạo ra nhu cầu về kiến trúc và phần cứng mới, trong đó CPU trở thành GPU và GPU trở thành NPU để xử lý các hoạt động mạng neural.
• Edge AI đang được ứng dụng trong xe tự lái, chẩn đoán AI tại bệnh viện và nông nghiệp. Nó giúp các ứng dụng này hiệu quả hơn.
• IBM định nghĩa edge computing là một framework điện toán phân tán đưa các ứng dụng doanh nghiệp đến gần hơn với nguồn dữ liệu như thiết bị IoT hoặc máy chủ cạnh cục bộ.
• Việc xử lý gần nguồn dữ liệu mang lại lợi ích kinh doanh như thông tin chi tiết nhanh hơn, thời gian phản hồi cải thiện và băng thông tốt hơn.
• Edge AI đang được nghiên cứu và phát triển tại các trường đại học hàng đầu như MIT.
• Xu hướng này đánh dấu sự chuyển dịch từ đám mây về thiết bị cục bộ trong thời đại AI, chú trọng hơn vào chất lượng thay vì chỉ cắt giảm chi phí như trước đây.
• Các nhà điều hành và doanh nghiệp đang quan tâm đến Edge AI như một công nghệ tự động hóa mới đầy tiềm năng.
📌 Edge AI đang thay đổi cách xử lý AI, chuyển từ đám mây về thiết bị cục bộ để tăng hiệu quả và bảo mật. Với 300 triệu AI PC ước tính, xu hướng này mở ra cơ hội cho kiến trúc phần cứng mới và ứng dụng trong nhiều lĩnh vực như xe tự lái, y tế, nông nghiệp.
https://www.forbes.com/sites/johnwerner/2024/09/09/what-about-edge-ai/