NPU - bộ xử lý thần kinh, xu hướng mới trong ngành máy tính

• NPU (Neural Processing Unit) là một loại bộ xử lý đặc biệt được tối ưu hóa cho các tác vụ AI và học máy. NPU được tích hợp vào nền tảng bộ xử lý hiện đại như Intel Core Ultra, AMD Ryzen AI và Qualcomm Snapdragon X Elite.

• So với CPU và GPU, NPU nhanh hơn CPU nhưng chậm hơn GPU trong việc xử lý các tác vụ AI. Tuy nhiên, NPU tiêu thụ ít năng lượng hơn nhiều so với GPU, giúp tiết kiệm pin trên laptop.

• Hiệu năng của NPU được đo bằng đơn vị TOPS (nghìn tỷ phép tính mỗi giây). NPU cấp thấp có thể xử lý 10 TOPS, trong khi các NPU mạnh hơn đạt tới 40-50 TOPS.

• Windows Studio Effects là một ví dụ về tính năng sử dụng NPU, cung cấp các hiệu ứng webcam như làm mờ nền và điều chỉnh ánh mắt bằng AI.

• Microsoft đang phát triển các tính năng Copilot+ PC yêu cầu NPU mạnh (tối thiểu 40 TOPS). Các tính năng này sẽ có trên PC sử dụng chip Qualcomm Snapdragon X, AMD Ryzen AI 300 và Intel Core Ultra Series 2.

• Hiện tại, hầu hết các ứng dụng AI phổ biến như ChatGPT, Adobe Firefly vẫn chạy trên đám mây, chưa tận dụng NPU. Tuy nhiên, trong tương lai, việc chạy AI cục bộ trên NPU sẽ giúp tiết kiệm chi phí đám mây và bảo vệ quyền riêng tư dữ liệu.

• Các NPU hiện có trên thị trường:
- Intel Core Ultra Series 1 (Meteor Lake): tối đa 11 TOPS
- Intel Core Ultra Series 2 (Lunar Lake): tối đa 48 TOPS
- AMD Ryzen Pro 7000/8000: 12-16 TOPS
- AMD Ryzen AI 300: tối đa 50 TOPS  
- Qualcomm Snapdragon X Elite/Plus: tối đa 45 TOPS

• NPU không chỉ có trên PC mà còn xuất hiện trên smartphone như Apple Neural Engine, Google Tensor và Samsung Galaxy.

• Hiện tại, việc mua PC có NPU vẫn còn rủi ro vì các tính năng AI chưa phát triển đầy đủ. Tuy nhiên, trong tương lai gần, NPU sẽ trở nên quan trọng hơn khi các ứng dụng AI cục bộ phát triển.

• Đối với laptop, nên cân nhắc mua máy có NPU nếu có thể. Với máy tính để bàn, NPU chưa thực sự cần thiết vì Intel chưa tích hợp NPU vào CPU desktop.

📌 NPU là xu hướng mới trong ngành máy tính, hứa hẹn mang lại khả năng xử lý AI tiết kiệm năng lượng. Hiện có 5 dòng NPU chính với hiệu năng từ 11-50 TOPS. Mặc dù các ứng dụng AI cục bộ chưa phổ biến, NPU sẽ ngày càng quan trọng trong tương lai gần.

https://www.pcworld.com/article/2457268/what-the-heck-is-an-npu-anyway-everything-you-need-to-know.html