IBM cảnh báo: chi phí và độ phức tạp đang cản trở doanh nghiệp áp dụng AI

• IBM công bố báo cáo mới "Hướng dẫn Tổng giám đốc về AI tạo sinh: Tối ưu hóa Mô hình AI" dựa trên khảo sát các lãnh đạo CNTT tại Mỹ.

https://www.ibm.com/thought-leadership/institute-business-value/en-us/report/ceo-generative-ai

• Báo cáo nhằm cung cấp thông tin hữu ích để CEO đưa ra quyết định sáng suốt về việc triển khai và tối ưu hóa AI trong tổ chức.

• Kết quả chính:
- Không có mô hình ngôn ngữ lớn (LLM) nào phù hợp với mọi tác vụ, cần lựa chọn mô hình phù hợp cho từng nhiệm vụ cụ thể.
- Doanh nghiệp hiện đang sử dụng trung bình 11 mô hình AI khác nhau và dự kiến tăng 50% trong 3 năm tới.
- 63% lãnh đạo cho rằng chi phí là rào cản lớn nhất để áp dụng AI tạo sinh.
- 58% coi độ phức tạp của mô hình là mối quan ngại hàng đầu.

• Các kỹ thuật tối ưu hóa như tinh chỉnh và kỹ thuật prompt có thể cải thiện độ chính xác của mô hình lên 25%, nhưng chỉ 42% lãnh đạo áp dụng thường xuyên.

• Doanh nghiệp dự kiến tăng 63% việc sử dụng mô hình mở trong 3 năm tới, cao hơn các loại mô hình khác.

• Shobhit Varshney từ IBM Consulting cho biết các lãnh đạo công nghệ hiểu rõ về các loại mô hình hiện có, trong khi các lãnh đạo cấp cao khác vẫn đang tìm hiểu về khả năng của LLM.

• Để tối ưu chi phí, doanh nghiệp có thể lưu trữ mô hình nội bộ hoặc sử dụng dịch vụ đám mây, tính phí dựa trên số token đầu vào/đầu ra.

• Báo cáo khuyến nghị sử dụng mô hình lớn cho các tác vụ phức tạp, quan trọng và mô hình chuyên biệt cho các ứng dụng đặc thù.

• Mô hình mở được ưa chuộng hơn nhờ cộng đồng rộng lớn hỗ trợ đánh giá và củng cố hệ thống AI, cũng như khả năng tùy chỉnh cho từng lĩnh vực cụ thể.

• IBM Consulting giúp khách hàng xác định các quy trình và trường hợp sử dụng AI có tác động lớn nhất, sau đó chọn công nghệ phù hợp cho từng nhiệm vụ.

📌 IBM chỉ ra chi phí và độ phức tạp là rào cản chính cho AI doanh nghiệp. Doanh nghiệp đang sử dụng trung bình 11 mô hình AI, dự kiến tăng 50% trong 3 năm tới. 63% lãnh đạo coi chi phí là trở ngại lớn nhất. Mô hình mở được ưa chuộng hơn, dự kiến tăng 63% trong 3 năm.

https://venturebeat.com/ai/cost-and-model-complexity-remain-barriers-to-enterprise-ai-ibm-finds/