7 sự thật khó khăn và 3 cách tiếp cận CIO cần biết để đưa AI tạo sinh lên quy mô lớn

- Chỉ 11% công ty áp dụng AI tạo sinh ở quy mô lớn. Để tạo ra giá trị kinh doanh, cần tái cấu trúc cách làm việc và xây dựng nền tảng công nghệ có thể mở rộng.
- 7 sự thật khó khăn mà CIO cần biết để đưa AI tạo sinh lên quy mô lớn:
1. Loại bỏ nhiễu, tập trung vào tín hiệu: CIO cần loại bỏ các thử nghiệm không hiệu quả, tập trung nguồn lực vào các vấn đề kinh doanh quan trọng.
2. Tích hợp các thành phần quan trọng hơn từng thành phần riêng lẻ: Thách thức nằm ở việc điều phối sự tương tác và tích hợp giữa các mô hình, cơ sở dữ liệu, thư viện lời nhắc và ứng dụng ở quy mô lớn. Tự động hóa đầu cuối là rất quan trọng.
3. Kiểm soát chi phí trước khi chúng nhấn chìm bạn: Chi phí quản lý thay đổi chiếm khoảng 75% tổng chi phí dự án AI tạo sinh. Chi phí vận hành lớn hơn chi phí xây dựng. Tối ưu hóa chi phí là một quá trình liên tục.
4. Kiềm chế sự phát triển quá mức của công cụ và công nghệ: Các công ty cần giảm số lượng cơ sở hạ tầng và công cụ để triển khai quy mô lớn khả thi. Cần xây dựng cơ sở hạ tầng và ứng dụng linh hoạt để dễ dàng chuyển đổi nhà cung cấp hoặc mô hình.
5. Tạo ra các đội ngũ có thể xây dựng giá trị, không chỉ là mô hình: Cần có đội ngũ đa dạng kỹ năng để đưa AI tạo sinh vượt ra ngoài chức năng CNTT và tích hợp vào hoạt động kinh doanh. Cần có cấu trúc quản trị để đảm bảo tuân thủ các quy trình rủi ro.
6. Lấy dữ liệu đúng, không cần dữ liệu hoàn hảo: Đầu tư vào nền tảng dữ liệu và gắn nhãn có mục tiêu có tác động lớn đến chất lượng câu trả lời của AI tạo sinh.
7. Tái sử dụng mã nguồn: Mã có thể tái sử dụng có thể tăng tốc độ phát triển các trường hợp sử dụng AI tạo sinh lên 30-50%. Các công ty hiệu suất cao có xu hướng xây dựng nền tảng AI tạo sinh chiến lược để tái sử dụng.

- Có 3 cách tiếp cận chính để sử dụng AI tạo sinh:
+ Taker: Các công ty sử dụng phần mềm AI tạo sinh có sẵn từ các nhà cung cấp bên thứ ba như GitHub Copilot hay Salesforce Einstein để đạt được mục tiêu của trường hợp sử dụng.
+ Shaper: Các công ty tích hợp các khả năng AI tạo sinh riêng bằng cách kỹ thuật lời nhắc, tập dữ liệu và kết nối với hệ thống nội bộ để đạt được mục tiêu của trường hợp sử dụng.
+ Maker: Các công ty tự tạo ra các mô hình ngôn ngữ lớn (LLM) của riêng mình bằng cách xây dựng các tập dữ liệu lớn để đào tạo trước các mô hình từ đầu. Ví dụ như OpenAI, Anthropic, Cohere và Mistral AI.
- Các công ty hiệu suất cao có xu hướng xây dựng nền tảng AI tạo sinh chiến lược để tái sử dụng trên nhiều trường hợp sử dụng. Họ đầu tư vào dữ liệu chất lượng cao, gắn nhãn có mục tiêu và phát triển các tài sản có thể tái sử dụng như mã, công cụ, framework.
- Để xây dựng nền tảng AI tạo sinh chiến lược, cần có một đội ngũ đa dạng kỹ năng bao gồm: Chủ sở hữu nền tảng, kỹ sư DevOps, kiến trúc sư đám mây, nhà khoa học dữ liệu, kỹ sư dữ liệu, lập trình viên full-stack, kiến trúc sư giải pháp/dữ liệu, kỹ sư độ tin cậy trang web, DataOps.

📌 Để tạo ra giá trị đột phá từ AI tạo sinh, các công ty cần khai thác công nghệ này ở quy mô lớn. Điều này đòi hỏi CIO không chỉ thừa nhận 7 sự thật khó khăn mà còn sẵn sàng hành động để dẫn dắt doanh nghiệp tiến lên. Các công ty hiệu suất cao có xu hướng xây dựng nền tảng AI tạo sinh chiến lược, đầu tư vào dữ liệu chất lượng cao và phát triển các tài sản có thể tái sử dụng để tăng tốc triển khai lên 30-50%. Hầu hết các công ty sẽ sử dụng kết hợp cách tiếp cận Taker để nhanh chóng tiếp cận dịch vụ hàng hóa và Shaper để xây dựng năng lực độc quyền trên các mô hình nền tảng. Tuy nhiên, các sáng kiến AI tạo sinh có giá trị cao nhất thường dựa vào cách tiếp cận Shaper. Để xây dựng nền tảng AI tạo sinh chiến lược, cần có một đội ngũ đa dạng kỹ năng từ chủ sở hữu nền tảng đến các chuyên gia kỹ thuật.

Citations:
[1] https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/moving-past-gen-ais-honeymoon-phase-seven-hard-truths-for-cios-to-get-from-pilot-to-scale#/