Doanh nghiệp đang chuyển sang triển khai các mô hình AI tạo sinh vừa và nhỏ với hiệu quả chi phí hơn các mô hình lớn

- Gần như tất cả các nhà cung cấp mô hình, bao gồm Microsoft, Google và các công ty khởi nghiệp như Mistral, Anthropic và Cohere, đều chuyển sang cung cấp nhiều mô hình AI vừa và nhỏ hơn.
- Các giám đốc công nghệ thông tin cho rằng đối với một số trường hợp sử dụng AI phổ biến nhất, thường liên quan đến các tác vụ hẹp, lặp đi lặp lại như phân loại tài liệu, các mô hình nhỏ hơn và vừa phải đơn giản là hợp lý hơn. 
- Vì chúng sử dụng ít năng lượng tính toán hơn nên các mô hình nhỏ hơn có thể tiết kiệm chi phí vận hành.
- Sự chuyển đổi diễn ra khi các công ty từ từ triển khai nhiều trường hợp sử dụng AI hơn, đồng thời chịu áp lực phải quản lý chi phí và lợi nhuận từ công nghệ đắt tiền này.
- Công ty dịch vụ thế chấp phi ngân hàng Mr. Cooper đang thử nghiệm khả năng của các mô hình vừa phải trong trung tâm cuộc gọi để phân tích dữ liệu giọng nói nhằm giúp nhân viên hiểu khách hàng có khả năng hỏi gì.
- Ngân hàng TD gần đây đã ký hợp đồng hợp tác với nhà cung cấp mô hình AI Cohere và sẽ xem xét liệu các mô hình nhỏ hơn hoặc vừa phải của Cohere có hiệu quả và tiết kiệm chi phí hơn hay không.
- Công ty dịch vụ tiếp thị WPP đang sử dụng một số mô hình từ dòng sản phẩm Gemini của Google, bao gồm cả mô hình vừa phải Flash, phù hợp cho các trường hợp sử dụng như phân tích thói quen mua sắm ở các quốc gia khác nhau.

📌 Các công ty đang chuyển sang triển khai các mô hình AI vừa và nhỏ hơn do áp lực quản lý chi phí. Các mô hình này được đào tạo trên ít dữ liệu hơn, phù hợp cho nhiều trường hợp sử dụng phổ biến trong doanh nghiệp như phân loại tài liệu, phân tích dữ liệu giọng nói. Tuy nhiên, các mô hình lớn vẫn có giá trị cho các tác vụ phức tạp đòi hỏi nhiều dữ liệu và sáng tạo.

https://www.wsj.com/articles/these-ai-models-are-pretty-mid-thats-why-companies-love-them-710a0f72

#WSJ