IBM thúc đẩy chiến lược AI đa mô hình cho doanh nghiệp với Model Gateway

• Tại hội nghị VB Transform 2025, Armand Ruiz – Phó Chủ tịch AI Platform của IBM nhấn mạnh rằng các doanh nghiệp đang từ bỏ chiến lược AI độc quyền, chuyển sang sử dụng đa mô hình LLM để phù hợp với từng trường hợp cụ thể.

• IBM không định vị mình là đối thủ trực tiếp của các mô hình nền tảng, mà đóng vai trò như một "trạm điều phối AI" (AI control tower), giúp khách hàng chọn mô hình phù hợp cho từng nhu cầu.

• Ruiz cho biết khách hàng đang sử dụng nhiều mô hình khác nhau: Anthropic cho lập trình, o3 cho suy luận, Granite hoặc Mistral cho tùy biến trên dữ liệu riêng, Llama cho các tác vụ nhỏ.

• IBM giới thiệu Model Gateway, cung cấp API duy nhất cho phép doanh nghiệp chuyển đổi giữa các LLM, đồng thời đảm bảo khả năng quan sát (observability) và kiểm soát (governance) xuyên suốt toàn bộ hệ thống AI.

• Doanh nghiệp có thể sử dụng đồng thời mô hình nguồn mở chạy trên hạ tầng riêng cho dữ liệu nhạy cảm và các mô hình thương mại như AWS Bedrock hoặc Google Gemini cho tác vụ công khai.

• IBM phát triển ACP (Agent Communication Protocol) – giao thức mở giúp các Agent AI giao tiếp tiêu chuẩn, cạnh tranh với A2A (Agent2Agent) của Google. Cả hai đã được đóng góp cho Linux Foundation.

• Ruiz tiết lộ một số doanh nghiệp đã triển khai hơn 100 Agent AI trong giai đoạn thử nghiệm. Nếu không có giao thức chuẩn như ACP hoặc A2A, khối lượng công việc tích hợp sẽ trở nên quá tải và không bền vững.

• IBM nhấn mạnh AI không chỉ là chatbot hay tối ưu chi phí. AI phải được tích hợp sâu vào quy trình doanh nghiệp, giúp tự động hóa hoàn toàn thay vì chỉ hỗ trợ con người.

• Ví dụ, trong nội bộ IBM, các tác vụ nhân sự như quản lý lương, tuyển dụng, thăng chức được thực hiện bởi các Agent AI. Hệ thống sẽ tự động kết nối với các phần mềm HR nội bộ, chỉ chuyển cho con người xử lý khi có tình huống phức tạp.

• Ruiz khẳng định doanh nghiệp muốn thành công với AI cần: (1) Từ bỏ tư duy chỉ làm chatbot, (2) Xây dựng kiến trúc AI đa mô hình, (3) Ưu tiên sử dụng giao thức mở như ACP hoặc A2A để tránh bị khóa vào hệ sinh thái riêng.

📌 IBM khẳng định doanh nghiệp cần áp dụng chiến lược AI đa mô hình thay vì phụ thuộc vào một nhà cung cấp. Giải pháp Model Gateway giúp chuyển đổi linh hoạt giữa các LLM như Granite, Anthropic, Mistral, Llama… Đồng thời, IBM triển khai giao thức ACP giúp hơn 100 Agent AI giao tiếp hiệu quả trong doanh nghiệp. AI không còn là chatbot, mà là công cụ tự động hóa toàn bộ quy trình làm việc.

https://venturebeat.com/ai/ibm-sees-enterprise-customers-are-using-everything-when-it-comes-to-ai-the-challenge-is-matching-the-llm-to-the-right-use-case/