Nvidia cho rằng GPU của họ tốt hơn NPU cho AI trên thiết bị

- Nvidia cho rằng GPU rời của họ tốt hơn NPU cho các ứng dụng AI tạo sinh cục bộ, có thể xem NPU từ các công ty khác là mối đe dọa.
- Kể từ khi ra mắt CPU Meteor Lake vào cuối năm ngoái, Intel đã cố gắng đẩy mạnh laptop tích hợp NPU như một lớp "PC AI" mới để thực hiện các hoạt động AI tạo sinh mà không cần dựa vào các trung tâm dữ liệu đám mây khổng lồ.
- Microsoft và Qualcomm dự định đưa nhiều PC AI hơn ra thị trường vào cuối năm nay, và Apple dự kiến sẽ tham gia vào năm 2024 với các bộ xử lý M4 và A18 bionic sắp tới.
- Microsoft đang cố gắng quảng bá các dịch vụ của mình như một yêu cầu thiết yếu cho tất cả PC AI, bao gồm trợ lý ảo Copilot và phím Copilot mới.
- Nvidia cho rằng card đồ họa RTX của họ, đã có mặt trên thị trường từ năm 2018, phù hợp hơn nhiều cho các tác vụ AI, ngụ ý rằng NPU là không cần thiết và hàng triệu "PC AI" đã được lưu hành.
- Nvidia tuyên bố GPU RTX có thể đạt 100-1.300 TOPS, vượt xa yêu cầu 40 TOPS của Microsoft cho PC AI thế hệ tiếp theo.
- Nvidia cho rằng chip như card đồ họa RTX 30 và 40 hiện tại là công cụ tuyệt vời cho sáng tạo nội dung, năng suất, chatbot và các ứng dụng khác liên quan đến nhiều mô hình ngôn ngữ lớn.
- Nvidia đã ra mắt bản cập nhật lớn cho ChatRTX, chatbot này hoạt động cục bộ trên bất kỳ PC nào được trang bị GPU RTX 30 hoặc 40 và tối thiểu 8 GB VRAM, có khả năng trả lời các truy vấn bằng nhiều ngôn ngữ bằng cách quét qua tài liệu hoặc danh sách phát YouTube do người dùng cung cấp.

📌 Nvidia khẳng định GPU RTX của họ vượt trội hơn NPU cho AI trên thiết bị, có thể đạt 100-1.300 TOPS và là công cụ tuyệt vời cho các tác vụ AI. Tuy nhiên, các đối thủ cạnh tranh như Microsoft, Intel, Qualcomm và Apple sẽ không dễ dàng đầu hàng, và cuộc cạnh tranh trên thị trường NPU sẽ ngày càng khốc liệt hơn.