Nvidia và Mistral AI ra mắt Mistral-NeMo 12 tỷ tham số, mang AI cấp doanh nghiệp đến PC

• Nvidia và startup Pháp Mistral AI vừa công bố mô hình ngôn ngữ mới Mistral-NeMo, nhằm mang khả năng AI mạnh mẽ trực tiếp đến máy tính doanh nghiệp.

• Mistral-NeMo có 12 tỷ tham số và cửa sổ ngữ cảnh 128.000 token, là công cụ mạnh mẽ cho doanh nghiệp muốn triển khai AI mà không cần nhiều tài nguyên đám mây.

• Mô hình được phát hành dưới giấy phép Apache 2.0, cho phép sử dụng thương mại.

• Bryan Catanzaro, Phó chủ tịch nghiên cứu học sâu ứng dụng tại Nvidia, nhấn mạnh tính dễ tiếp cận và hiệu quả của mô hình.

• Mistral-NeMo có thể chạy trên GPU RTX phổ biến mà nhiều người đã có sẵn, giúp dân chủ hóa khả năng AI tiên tiến.

• Cửa sổ ngữ cảnh 128.000 token cho phép mô hình xử lý và hiểu các đoạn văn bản lớn hơn nhiều so với đối thủ cạnh tranh.

• Tính năng này đặc biệt hữu ích cho doanh nghiệp xử lý tài liệu dài, phân tích phức tạp hoặc nhiệm vụ lập trình phức tạp.

• Khả năng triển khai cục bộ có thể thu hút các doanh nghiệp hoạt động trong môi trường kết nối internet hạn chế hoặc có yêu cầu bảo mật dữ liệu nghiêm ngặt.

• Mô hình nhắm đến việc sử dụng trên laptop và máy tính để bàn hơn là điện thoại thông minh.

• Mistral-NeMo có thể làm gián đoạn đáng kể thị trường phần mềm AI bằng cách giải quyết các vấn đề như quyền riêng tư dữ liệu, độ trễ và chi phí cao liên quan đến giải pháp dựa trên đám mây.

• Động thái này có thể san bằng sân chơi, cho phép các doanh nghiệp nhỏ hơn với nguồn lực hạn chế tận dụng khả năng AI trước đây chỉ có thể tiếp cận bởi các tập đoàn lớn.

• Mô hình hiện có sẵn dưới dạng Neural Interface Model (NIM) thông qua nền tảng AI của Nvidia, với phiên bản có thể tải xuống sẽ được cung cấp trong tương lai gần.

📌 Mistral-NeMo, mô hình AI 12 tỷ tham số, hợp tác giữa Nvidia và Mistral AI, mang khả năng AI mạnh mẽ đến máy tính doanh nghiệp. Với cửa sổ ngữ cảnh 128.000 token và khả năng chạy trên GPU RTX phổ biến, mô hình hứa hẹn dân chủ hóa AI cho doanh nghiệp mọi quy mô.

https://venturebeat.com/ai/nvidia-and-mistrals-new-model-mistral-nemo-brings-enterprise-grade-ai-to-desktop-computers/