Nvidia vừa công bố bộ công cụ AI mới có tên NIM microservices, giúp người dùng sở hữu phần cứng RTX dễ dàng chạy các mô hình AI cục bộ trên máy tính.
Người dùng có card đồ họa RTX, bao gồm dòng 50-series mới ra mắt, có thể dễ dàng cài đặt các mô hình AI để hỗ trợ tạo văn bản, hình ảnh và mã nguồn.
Các ứng dụng khác của NIM microservices bao gồm xử lý giọng nói, trích xuất PDF và thị giác máy tính, với mục tiêu đơn giản hóa quy trình sử dụng.
Quá trình sử dụng rất đơn giản: người dùng chỉ cần tải về ứng dụng NIM mong muốn và chạy nó. Ví dụ, để phiên âm bài giảng, chỉ cần tải parakeet; để cải thiện giọng hát trong bản thu âm, tải studiovoice.
Các mô hình AI cục bộ này cũng sẽ hoạt động trên dòng máy tính AI chuyên dụng Nvidia DGX sắp ra mắt.
Lợi thế của việc chạy mô hình cục bộ là tiết kiệm chi phí lâu dài, tránh các hạn chế về số lượng nội dung tạo ra như khi sử dụng ChatGPT hay Gemini.
Dữ liệu được lưu trữ trên thiết bị, tăng cường bảo mật khi xử lý tài liệu nhạy cảm, đồng thời ít bị hạn chế hơn về loại nội dung có thể tạo ra.
Nvidia hiện là một trong những công ty quan trọng nhất trong lĩnh vực AI, với chip của họ hỗ trợ phát triển các mô hình AI mới từ OpenAI, Google và DeepSeek.
Công ty đã đạt mức định giá 3 nghìn tỷ USD vào năm ngoái và hiện đang ở mức 2,8 nghìn tỷ USD.
Xu hướng chạy AI cục bộ đang gia tăng: iPhone 16, Google Pixel 9 có thể tạo hình ảnh, chỉnh sửa ảnh hoặc tóm tắt văn bản mà không cần kết nối đến máy chủ GPU từ xa.
PlayStation 5 Pro sử dụng AI để nâng cao hình ảnh, và Nintendo Switch 2 được đồn đoán sẽ làm tương tự.
Nvidia cũng giới thiệu Project G-Assist, trợ lý AI thử nghiệm trong ứng dụng Nvidia, giúp tối ưu hóa ứng dụng và trò chơi, chạy chẩn đoán thời gian thực và đưa ra khuyến nghị về tối ưu hóa hiệu suất.
G-Assist còn có plugin Google Gemini, cho phép người dùng nhận câu trả lời ngay lập tức về các câu hỏi liên quan đến trò chơi.
📌 Nvidia đang cách mạng hóa AI cá nhân với NIM microservices cho phép người dùng RTX chạy mô hình AI cục bộ, tiết kiệm chi phí và bảo vệ dữ liệu. Với định giá 2,8 nghìn tỷ USD, Nvidia tiếp tục dẫn đầu xu hướng AI trên thiết bị.
https://www.cnet.com/tech/services-and-software/nvidias-new-tools-make-running-ai-on-your-computer-a-breeze/