McKinsey: 2 lý do đang nhấn chìm các chương trình AI tạo sinh và cách doanh nghiệp có thể vượt qua

• Nhiều doanh nghiệp triển khai AI tạo sinh gặp 2 trở ngại nghiêm trọng: thiếu đổi mới và không thể mở rộng quy mô, khiến chương trình bị đình trệ hoặc hủy bỏ hoàn toàn.

• Giai đoạn "hai bước tiến, một bước lùi" thường diễn ra do thiếu nhân lực chuyên môn, quy trình kiểm duyệt chậm, và yêu cầu tuân thủ phức tạp. Khoảng 30-50% thời gian phát triển bị tiêu tốn cho tuân thủ.

• Các ứng dụng thành công hiếm hoi thường bị chặn lại ở giai đoạn mở rộng do lo ngại rủi ro, chi phí vượt kiểm soát và các vấn đề bảo mật.

• Nhiều công ty đã hủy bỏ chương trình sau các lỗi thử nghiệm ban đầu (như sai lệch thông điệp thương hiệu hay vi phạm chính sách dữ liệu), làm thui chột động lực đổi mới và kỹ năng nội bộ.

• Giải pháp: xây dựng nền tảng AI tạo sinh hợp nhất gồm ba yếu tố chính:

  1. Cổng truy cập tự phục vụ: Cho phép hàng trăm nhóm truy cập công cụ AI một cách an toàn, cung cấp thư viện tài liệu, mẫu ứng dụng, hướng dẫn phát triển và kiểm soát chi phí rõ ràng.

  2. Kiến trúc mở: Tái sử dụng các dịch vụ AI như pattern ứng dụng (chatbot, knowledge management), thư viện AI (chunking, enrichment...), tích hợp dịch vụ từ nhiều nhà cung cấp khác nhau thay vì bị ràng buộc bởi một đơn vị.

  3. Hàng rào kiểm soát tự động: Gồm các microservice kiểm tra tuân thủ, phát hiện sai lệch, vi phạm đạo đức, kiểm soát chi phí truy vấn LLM và gán chi phí cho từng ứng dụng cụ thể.

• Cổng AI trung tâm cho phép kiểm soát quyền truy cập theo loại dữ liệu, môi trường, người dùng và hỗ trợ theo dõi toàn bộ truy vấn – phản hồi nhằm phát hiện lệch chuẩn và tối ưu hiệu suất.

• Một công ty dầu khí đã giảm thời gian triển khai môi trường AI mới từ 6 tuần xuống chưa tới 1 ngày nhờ nền tảng này, đồng thời rút ngắn quy trình phê duyệt tới 90%.

• Giải pháp tuy cần kỷ luật và thời gian đầu tư, nhưng giúp tăng tốc độ đổi mới, giảm lỗi, kiểm soát rủi ro, đồng thời tối ưu chi phí toàn hệ thống.

📌 Khoảng 30-50% nỗ lực AI tạo sinh bị lãng phí vì tuân thủ và rào cản mở rộng. Bài viết đề xuất nền tảng gồm cổng tự phục vụ, kiến trúc mở và hàng rào kiểm soát AI tự động. Một công ty đã rút ngắn triển khai từ 6 tuần xuống 1 ngày và giảm 90% thời gian phê duyệt, cho thấy cách tiếp cận nền tảng là chìa khóa để mở khóa giá trị từ AI.

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/overcoming-two-issues-that-are-sinking-gen-ai-programs

#McKinsey