Doanh nghiệp đang ưu tiên mô hình ngôn ngữ nhỏ (SLM) thay vì LLM

• Mặc dù các mô hình ngôn ngữ lớn (LLM) như ChatGPT đã thống trị thị trường AI, nhiều doanh nghiệp đang chuyển sang sử dụng mô hình ngôn ngữ nhỏ (SLM) vì phù hợp hơn với nhu cầu cụ thể và chi phí thấp hơn.

• Theo khảo sát mới của McKinsey, 74% tổ chức hiện đang sử dụng AI tạo sinh, nhưng 62% vẫn gặp khó khăn về khả năng giải thích và quản lý dữ liệu từ các mô hình lớn.

• SLM tập trung vào độ sâu hơn là độ rộng, được huấn luyện từ dữ liệu chuyên ngành như tài chính, y tế hay luật – giúp mang lại kết quả chính xác, phù hợp và đáng tin cậy hơn so với LLM đa mục đích.

• Trong tài chính, SLM được huấn luyện từ báo cáo thu nhập, hồ sơ nội bộ hay dữ liệu pháp lý, giúp đánh giá rủi ro hoặc lập báo cáo tài chính chính xác và tiết kiệm thời gian.

• LLM có nguy cơ sinh lỗi nghiêm trọng – ví dụ như luật sư từng bị kỷ luật vì ChatGPT bịa ra tiền lệ pháp lý. SLM khắc phục nhược điểm này nhờ đào tạo trên dữ liệu thực tiễn, giảm hiện tượng "hallucination".

• 96,9% lãnh đạo doanh nghiệp cho biết chi phí tính toán cao là rào cản lớn nhất khi triển khai LLM. Trong khi đó, nhiều SLM có thể chạy trên phần cứng giá rẻ như NVIDIA Jetson hay Mac Mini dưới 1.000 USD.

• Mô hình như NVIDIA Spark – siêu máy tính AI nhỏ nhất thế giới – mở đường cho AI hiệu năng cao nhưng chi phí thấp.

• SLM cho phép doanh nghiệp kiểm soát dữ liệu, tùy chỉnh mô hình tại chỗ và đảm bảo tuân thủ bảo mật, tránh rủi ro rò rỉ thông tin nhạy cảm, đồng thời đáp ứng các quy định như GDPR.

• Cách tiếp cận lai (hybrid) đang trở nên phổ biến: kết hợp SLM ở biên, lớp dữ liệu bảo mật và LLM quy mô đám mây, nhằm tối ưu AI theo ngữ cảnh, mục đích người dùng và mức độ nhạy cảm dữ liệu.

📌 Trong khi LLM vẫn giữ vai trò quan trọng trong một số lĩnh vực tổng quát, SLM đang trở thành lựa chọn tối ưu cho doanh nghiệp muốn triển khai AI thực tiễn, tiết kiệm và bảo mật. Với chi phí hạ tầng thấp, khả năng huấn luyện theo dữ liệu riêng và độ chính xác cao, SLM giúp các ngành như tài chính, y tế hay luật pháp tận dụng AI hiệu quả hơn.

https://www.techradar.com/pro/small-models-big-wins-four-reasons-enterprises-are-choosing-slms-over-llms