Chi phí thực tế của các dự án AI

- Chi phí dự án AI bao gồm phần mềm, phần cứng, dịch vụ và dữ liệu. Trong đó, chi phí thu thập, chuẩn bị và làm sạch dữ liệu có thể rất lớn do dữ liệu ngày càng tăng và không phải lúc nào cũng sẵn sàng sử dụng ở dạng thô.

- Các nhà quản lý dự án AI thường đánh giá thấp tổng chi phí của hệ thống AI. Cần xem xét việc xây dựng hay mua mô hình AI, sử dụng mô hình của người khác, tập trung vào kỹ thuật tạo lời nhắc hoặc tinh chỉnh, xây dựng giải pháp RAG, địa điểm kiểm tra và sử dụng mô hình (đám mây hay cục bộ), cách huấn luyện mô hình.

- Để giảm chi phí dự án AI, hãy nghĩ lớn, bắt đầu nhỏ và lặp lại thường xuyên. Mỗi lần lặp nên kéo dài khoảng 2 tuần. Kiểm soát phạm vi dự án bằng cách sử dụng và xây dựng dựa trên mô hình đã có sẵn của người khác thông qua API hoặc giao diện trò chuyện. Có thể xây dựng giải pháp tăng cường trên API như RAG hoặc tinh chỉnh, điều chỉnh mô hình.

- Sử dụng mô hình của người khác có thể giảm đáng kể chi phí và thời gian triển khai ứng dụng AI. Tuy nhiên, luôn cần kiểm tra kết quả, đặc biệt với các mô hình ngôn ngữ lớn (LLM) vì chúng có thể đưa ra kết quả không tốt.

- Khi xây dựng mô hình của riêng mình, hãy bắt đầu nhỏ để giảm chi phí đáng kể. Cần xác định ai trong nhóm sẽ quản lý và giám sát chất lượng dữ liệu, theo dõi việc sử dụng mô hình và chất lượng đầu vào, đầu ra. Nếu xây dựng mô hình riêng, cần có đội ngũ kỹ sư dữ liệu và chuẩn bị, vận hành mô hình, liên tục theo dõi sự trôi dạt dữ liệu và hiệu suất mô hình.

📌 Kiểm soát chi phí dự án AI đòi hỏi tư duy đúng đắn, bắt đầu nhỏ, lặp lại nhanh và liên tục. Tận dụng các mô hình, API có sẵn, xây dựng giải pháp RAG hoặc tinh chỉnh mô hình có thể tiết kiệm đáng kể. Dù sử dụng mô hình của người khác hay tự xây dựng, luôn cần có nhóm theo dõi chất lượng dữ liệu, giám sát hiệu suất và trôi dạt của mô hình.

Citations:
[1] https://www.forbes.com/sites/cognitiveworld/2024/04/05/what-are-the-real-costs-of-ai-projects/

#hay