Gartner: AI agent sẽ chiếm 60% công cụ vận hành CNTT vào năm 2028

-  AI agent sẽ chuyển đổi hoạt động CNTT doanh nghiệp bằng cách thực hiện các tác vụ một cách bán tự động hoặc tự động, từ phát triển thông thường đến xử lý sự cố phức tạp mà không cần sự can thiệp của con người.

-  Theo dự đoán chiến lược, AI agent sẽ được triển khai trong 60% tất cả các công cụ vận hành CNTT vào năm 2028, tăng từ mức dưới 5% vào cuối năm 2024.

-  AI agent là các thực thể phần mềm tự chủ hoặc bán tự chủ sử dụng kỹ thuật AI để nhận thức, ra quyết định, thực hiện hành động và đạt được mục tiêu trong môi trường kỹ thuật số hoặc vật lý.

-  Khác biệt quan trọng giữa AI agent và AI assistant: AI agent hướng đến việc đạt được mục tiêu với đầu vào hạn chế từ con người, trong khi AI assistant chủ yếu cải thiện hiệu quả con người thông qua tạo nội dung.

-  Kiến trúc AI agent sẽ có các agent ngang hàng, mô-đun, mỗi agent có thể tận dụng backend LLM, tạo ra khả năng vận hành CNTT có thể kết hợp động.

-  Việc triển khai AI agent trong vận hành CNTT sẽ có hai hình thức chính: một-một (một người dùng với một agent) hoặc một-nhiều (một người dùng với nhiều agent).

-  Tác động lớn nhất sẽ là dạng quy trình làm việc đa agent (một-nhiều) trong đó mỗi agent được phân bổ một tác vụ cụ thể, có thể tồn tại trong một quy trình hoặc trên nhiều quy trình.

-  AI agent có thể giúp hiểu rõ hơn cách thông tin lưu chuyển trong hoạt động CNTT, dẫn đến cải thiện tính minh bạch trong ra quyết định trong tương lai.

-  AI agent sẽ có tác động lớn đến các nhà cung cấp vận hành CNTT, buộc họ phải tái cấu trúc hình thức sản phẩm của mình.

-  Lãnh đạo công nghệ CNTT cần khuyến khích nhà cung cấp phát triển phiên bản AI agent cho các khả năng của họ, để có thể được điều phối bởi các framework và nền tảng mới nổi.

-  Hầu hết nhân viên vận hành CNTT không có kỹ năng phát triển phần mềm, đây có thể là thách thức lớn mà lãnh đạo ITOM doanh nghiệp cần giải quyết.

-  Các công cụ và giải pháp low-code đang được thiết kế để giảm bớt một số kỹ năng cần thiết, được cung cấp bởi các nhà cung cấp công nghệ khác nhau như Google, CrewAI, IBM, BMC Software và ServiceNow.

📌 AI agent đang cách mạng hóa vận hành CNTT doanh nghiệp với khả năng tự chủ thực hiện tác vụ phức tạp. Dự kiến chiếm 60% công cụ CNTT vào 2028, AI agent sẽ phá vỡ hệ sinh thái hiện tại, đòi hỏi doanh nghiệp phải đầu tư vào phát triển kỹ năng và quản trị để tối đa hóa lợi ích.

https://www.gartner.com/doc/reprints?id=1-2KGIKG0H&ct=250306&st=sb

Các Agent AI sẽ chuyển đổi hoạt động CNTT doanh nghiệp

28 Tháng 2 2025

• ID G00826134
• 11 phút đọc Bởi Cameron Haight

Các agent AI là những thực thể phần mềm có thể tự động hoặc bán tự động thực hiện nhiệm vụ và đang chuẩn bị cách mạng hóa hoạt động CNTT doanh nghiệp. Nghiên cứu này có thể giúp các nhà lãnh đạo vận hành CNTT đánh giá cơ hội, rủi ro và thách thức khi áp dụng các agent dựa trên AI trong chức năng của họ.

Tổng quan

Tác động

• Các agent AI sẽ chuyển đổi hoạt động CNTT doanh nghiệp bằng cách tự động hoặc bán tự động thực hiện các nhiệm vụ từ phát triển thông thường đến xử lý sự cố phức tạp mà không cần sự can thiệp của con người, giải phóng nhân viên vận hành để tập trung vào các hoạt động có giá trị cao hơn.
• Các agent AI tận dụng xử lý dữ liệu thời gian thực, cộng tác sẽ cho phép ra quyết định vận hành CNTT kịp thời và chính xác hơn, dẫn đến tăng hiệu quả phân bổ tài nguyên và cải thiện sự phù hợp với doanh nghiệp.
• Các agent AI đang chuẩn bị phá vỡ hệ sinh thái vận hành CNTT bằng cách phá bỏ các silo sản phẩm. Việc sử dụng chức năng vận hành trong tương lai sẽ diễn ra thông qua các agent hợp tác, liên ngành sẽ tạo ra kết quả vượt trội.
• Thiết kế các agent AI hỗ trợ vận hành CNTT sẽ đòi hỏi phát triển kỹ năng và triển khai công cụ để tích hợp và quản lý các hệ thống ngày càng thông minh và tự chủ.

Khuyến nghị

• Bắt đầu thử nghiệm triển khai công nghệ agent AI để đánh giá khả năng chức năng cũng như hiệu quả phân tích ra quyết định của chúng.
• Triển khai các công nghệ và quy trình phù hợp với mục đích để giám sát và kiểm soát các hoạt động và tương tác của hệ thống agent AI trong môi trường sản xuất.
• Lựa chọn giải pháp hỗ trợ agent AI từ nhiều nhà cung cấp để đối phó với tốc độ đổi mới nhanh chóng. Điều này tốt hơn là bị khóa vào các agent độc quyền từ một nhà cung cấp duy nhất.
• Cung cấp đào tạo để tăng hiểu biết về công nghệ agent AI nhằm tối đa hóa kết quả đầu tư, đồng thời bảo vệ khỏi các rủi ro tiềm ẩn.

Giả định kế hoạch chiến lược

Các agent AI sẽ được triển khai trong 60% tất cả các công cụ vận hành CNTT vào năm 2028, tăng từ mức dưới 5% vào cuối năm 2024.

Giới thiệu

AI tạo sinh (GenAI) đang dần được đưa vào các tổ chức cơ sở hạ tầng và vận hành CNTT (I&O) để bổ sung khả năng con người trong nhiều lĩnh vực chức năng (xem Hình 1).

Hình 1: Các trường hợp sử dụng hiện tại và dự định cho GenAI trong vận hành CNTT Gartner 2025

GenAI đang được đưa vào các tổ chức I&O để bổ sung khả năng con người trong nhiều lĩnh vực chức năng. Đồ họa này hiển thị bảy lĩnh vực hàng đầu. Những lĩnh vực quan trọng nhất là tạo và cung cấp kiến thức theo ngữ cảnh (64%), cung cấp phân tích dữ liệu và báo cáo (59%), và tạo nội dung xây dựng và triển khai (50%).

Các cuộc khảo sát của Gartner nhấn mạnh niềm tin rằng GenAI sẽ mang lại năng suất và các lợi ích khác (xem Phát hiện chính từ Khảo sát GenAI CIO Gartner 2024). Tuy nhiên, tác động cuối cùng có thể phụ thuộc vào kinh nghiệm của người lao động và độ phức tạp của các nhiệm vụ họ tham gia (xem Năng suất AI tạo sinh sẽ thay đổi lực lượng lao động của bạn như thế nào). Với kịch bản này, câu hỏi đặt ra là liệu nên tập trung vào việc bổ sung nhiệm vụ hay xem liệu chúng ta có thể thu được giá trị lớn hơn từ khả năng định hướng mục tiêu hơn.

Các agent AI là những thực thể phần mềm tự chủ hoặc bán tự chủ sử dụng các kỹ thuật AI để nhận thức, ra quyết định, thực hiện hành động và đạt được mục tiêu trong môi trường kỹ thuật số hoặc vật lý của chúng (xem Thông tin đổi mới: Các agent AI). Các agent AI là một phương pháp kiến trúc, thường tận dụng hệ thống đa agent, trong đó các agent có thể hợp tác thực hiện các nhiệm vụ cụ thể một cách tự động hướng tới việc đạt được mục tiêu chung.

Đây là sự khác biệt quan trọng so với ứng dụng hiện tại của trợ lý AI, thường hướng đến tối ưu hóa nhiệm vụ (xem Bảng 1 cho sự so sánh này và các so sánh khác). Các agent AI đạt được điều này thông qua việc sử dụng các mô hình ngôn ngữ lớn (LLM) và các kỹ thuật khác cho phép lập kế hoạch và truyền thông, đồng thời tận dụng các thuật toán học máy (ML) để học tập thích ứng. Các hệ thống này có thể thay đổi hành vi của chúng một cách linh hoạt để thích ứng với các thay đổi trong môi trường, đồng thời thực hiện nhiệm vụ và ra quyết định với sự giám sát tối thiểu của con người. Tuy nhiên, những khả năng này cần được quản lý để đảm bảo rằng các mục tiêu tổ chức đang được đáp ứng.

Bảng 1: So sánh giữa các Agent AI và Trợ lý AI

Nguồn: Gartner (Tháng 2 2025)

Tác động và khuyến nghị

Chuyển đổi các hoạt động vận hành CNTT

Các agent AI đang chuẩn bị phá vỡ triệt để hiện trạng vận hành CNTT, do sự chuyển đổi từ việc đơn giản là bổ sung các nhiệm vụ cụ thể sang thực thi các ý định và mục tiêu mong muốn. Khi được đưa ra lời nhắc, các agent dựa trên LLM có thể lập kế hoạch cho cái gọi là "chuỗi suy nghĩ", các đường dẫn nhiều bước, đưa ra quyết định dựa trên dữ liệu hiện tại và kinh nghiệm trong quá khứ. Điều này được kích hoạt thêm bởi các khả năng như học tăng cường, trong đó các agent có thể học các đường dẫn quyết định tối ưu thông qua quá trình thử và sai. Các thuật toán ML cổ điển bổ sung cũng có thể được tận dụng hiệp lực cho các hoạt động đòi hỏi tốc độ và độ chính xác trong xử lý dữ liệu, chẳng hạn như phát hiện bất thường và tối ưu hóa tài nguyên.

Kiến trúc của các agent AI sẽ có các agent mô-đun, ngang hàng, mỗi agent có thể tận dụng một back-end LLM. Lưu ý rằng các kỹ thuật khác cũng đang phát triển. Thông qua hiểu biết về ngữ cảnh và mục tiêu, các agent có thể điều phối việc tích hợp (và khởi tạo) chức năng agent cần thiết, tạo ra các khả năng vận hành CNTT có thể kết hợp linh hoạt (xem HuggingGPT: Giải quyết các nhiệm vụ AI với ChatGPT và bạn bè của nó trong Hugging Face).

Như đã có thể hiện nay, các agent có thể tương tác với các công cụ bên ngoài và nguồn dữ liệu để nâng cao chức năng của chúng khi cần thiết. Việc chia sẻ kiến thức giữa các agent có thể diễn ra thông qua các giao thức truyền tin hoặc bộ nhớ dùng chung, cho phép phối hợp các hành động agent cá nhân. Một số API này có thể được tạo linh hoạt bởi LLM và thực thi bởi agent để cho phép giao tiếp với các agent và hệ thống khác.

Việc triển khai các agent AI trong vận hành CNTT (xem Hình 2 và Tầm nhìn của điện toán tự trị: LLM có thể biến nó thành hiện thực?) sẽ có hai hình thức chính: một-đối-một (một người dùng với một agent) hoặc một-đối-nhiều (một người dùng với nhiều agent). Vai trò con người, trong ngữ cảnh này, cũng có thể là script hoặc sự kiện khởi đầu ý định. Tác động lớn nhất sẽ ở dạng quy trình làm việc đa agent (một-đối-nhiều) trong đó mỗi agent sẽ được phân bổ một nhiệm vụ cụ thể. Quy trình làm việc đa agent có thể tồn tại:

Trong một quy trình: Ví dụ là việc phát triển các hiện vật vận hành, chẳng hạn như các mẫu cơ sở hạ tầng dưới dạng mã (IaC), trong đó các hoạt động diễn đạt yêu cầu, thiết kế, phát triển và kiểm tra có thể được quản lý bởi các agent cộng tác.

Xuyên qua các quy trình (hoặc chức năng): Ví dụ có thể bao gồm một agent quản lý sự cố. Mặc dù nó có thể làm phong phú thêm sự cố với thông tin khác, nó phối hợp xử lý với agent quản lý cấu hình để phát triển và khởi tạo bản sửa cho vấn đề mới được xác định.

Hình 2: Nguyên mẫu của các Agent AI cải thiện hiệu suất microservices Nguồn: Tầm nhìn của điện toán tự trị: LLM có thể biến nó thành hiện thực?

Việc triển khai các agent AI trong vận hành CNTT có khả năng có hai hình thức: một-đối-một (một người dùng với một agent) hoặc một-đối-nhiều (một người dùng với nhiều agent). Vai trò con người có thể là script hoặc sự kiện khởi đầu ý định, và tác động lớn nhất sẽ ở dạng quy trình làm việc đa agent (một-đối-nhiều) trong đó mỗi agent sẽ được phân bổ một nhiệm vụ cụ thể. Quy trình làm việc đa agent có thể tồn tại trong một quy trình hoặc xuyên qua chúng. Hình minh họa quy trình làm việc của các agent AI để cải thiện hiệu suất microservices.

Khuyến nghị:

• Thử nghiệm triển khai công nghệ agent AI (ví dụ: LangChain/LangGraph hoặc AutoGen) để đánh giá khả năng chức năng của chúng, cũng như hiệu quả phân tích ra quyết định của chúng để cho phép giới hạn về quyền tự chủ.
• Xác định các giao diện cần thiết với các hệ thống và cơ sở hạ tầng CNTT hiện có, để có thể lập kế hoạch tích hợp agent AI cần thiết.

Tận dụng xử lý dữ liệu thời gian thực, cộng tác

Một số danh mục công cụ đã được thiết kế để hỗ trợ các nhóm quản lý vận hành CNTT doanh nghiệp (ITOM) cải thiện việc ra quyết định của họ. Các nhà cung cấp quản lý tài chính CNTT và các nhà điều hành nền tảng kỹ thuật số là hai thị trường cung cấp một số khả năng cần thiết. Tuy nhiên, những giải pháp này dường như vẫn thiếu các khả năng mà phương pháp agent AI có thể cung cấp.

Thông qua khả năng thực hiện phân chia mục tiêu và phân tích phụ thuộc theo từng bước để giúp đánh giá liệu có xung đột về thứ tự từng bước hoặc xung đột khác tồn tại hay không, các agent AI có thể tạo ra các nhiệm vụ và dự án vận hành CNTT có thể thực hiện được. Khi khả năng trưởng thành, điều này có thể dẫn đến thích ứng linh hoạt thông qua học tăng cường. Các agent AI có thể độc lập và liên tục tìm kiếm thông tin để hiểu rõ hơn về ngữ cảnh và cảm xúc mà không cần sự can thiệp của con người. Một số trường hợp sử dụng tiềm năng có thể được rút ra trong tương lai từ việc tận dụng các khung agent AI trong việc ra quyết định chiến lược bao gồm:

Phân bổ tài nguyên chủ động: Các agent có thể mô phỏng các ràng buộc ngân sách đối với khối lượng công việc trong tương lai và thực hiện các kịch bản với vòng phản hồi để giúp tìm ra sự cân bằng tối ưu.

Quản lý nợ kỹ thuật: Vì có nhiều lĩnh vực mà bằng chứng về nợ kỹ thuật có thể tồn tại, các agent có thể được giao nhiệm vụ giám sát liên tục các nguồn này (hồ sơ sự cố, yêu cầu thay đổi, nhật ký, backlog scrum/Kanban, ngân sách chi tiêu, v.v.) và hỗ trợ ưu tiên các hoạt động khắc phục tiềm năng.

Lập kế hoạch kỹ năng và tuyển dụng: Để giúp lập kế hoạch kỹ năng quan trọng và tuyển dụng, các agent tự chủ giám sát sự phát triển công nghệ và thị trường việc làm và kết nối với các thông tin lao động khác. Chúng so sánh điều này với đường ống dự án nội bộ và khả năng kỹ năng để nhanh chóng lấp đầy các vị trí mở và phát triển các chiến lược và kế hoạch giữ chân nhân viên.

Nhìn chung, các agent AI có thể giúp hiểu rõ hơn cách thông tin lưu thông trong vận hành CNTT, dẫn đến cải thiện tính minh bạch trong ra quyết định trong tương lai.

Khuyến nghị:

• Phát triển lộ trình trong đó xác định rõ các mốc quan trọng liên quan đến tác động kinh doanh của việc áp dụng agent AI trong ra quyết định.
• Xây dựng các chính sách giải quyết vấn đề thiên vị, công bằng, minh bạch và trách nhiệm giải trình trong tất cả các quyết định của agent AI.

Phá vỡ hệ sinh thái nhà cung cấp vận hành CNTT

Các công cụ liên quan đến vận hành CNTT ngày nay là các ứng dụng tập trung hẹp có giao diện người dùng, dữ liệu (và metadata), cũng như logic chức năng chứa trong các định dạng độc quyền. Việc cho phép các "hòn đảo" ứng dụng này chia sẻ thông tin chi tiết của chúng đã dẫn đến một đống lộn xộn các API có thể khó tạo và thường dễ vỡ do thay đổi. Ngay cả khi đã có nỗ lực tập trung thông tin này trong một ngữ cảnh phân cấp, chẳng hạn như với các triển khai vận hành CNTT AI (AIOps) lịch sử, kết quả thường gây thất vọng. Điều này có thể là do đầu tư cần thiết để hỗ trợ quy mô ngày càng tăng, tốc độ thay đổi và độ phức tạp của môi trường.

Các agent AI (xem Hình 3) sẽ có tác động lớn đến các nhà cung cấp vận hành CNTT, vì chúng sẽ yêu cầu họ tái khái niệm hóa hình thức của kết quả của họ. Các nhà lãnh đạo công nghệ I&O sẽ cần khuyến khích các nhà cung cấp của họ phát triển các phiên bản agent AI về khả năng của họ để hiển thị chức năng ở nhiều cấp độ và có thể được điều phối bởi các khung và nền tảng mới nổi (xem AI tác nhân: Phá vỡ lớp logic dữ liệu kinh doanh).

Hình 3: Các Agent AI phá vỡ ngăn xếp sản phẩm vận hành CNTT Nguồn: Điều chỉnh từ AI tác nhân: Phá vỡ lớp logic dữ liệu kinh doanh

Các agent AI sẽ ảnh hưởng đến các nhà cung cấp vận hành CNTT vì sẽ yêu cầu họ tái khái niệm hóa hình thức của kết quả của họ. Các nhà lãnh đạo công nghệ I&O cần khuyến khích nhà cung cấp phát triển các phiên bản agent AI về khả năng của họ để hiển thị chức năng ở nhiều cấp độ và có thể được điều phối bởi các khung và nền tảng mới nổi. Hình này cho thấy cách các agent AI có thể phá vỡ ngăn xếp sản phẩm vận hành CNTT.

Các nhà cung cấp công nghệ vận hành CNTT có khả năng cung cấp các khung đa agent riêng của họ trong nỗ lực duy trì một mức độ kiểm soát nào đó. Tuy nhiên, một phương pháp cạnh tranh có khả năng liên quan đến sự trỗi dậy của các khung tập trung vào vận hành CNTT được xây dựng cho mục đích cụ thể. Các khung này hơi giống với các khung từ các công ty như Beam AI, cũng có thể cung cấp thị trường các agent vận hành CNTT (cả phát triển hữu cơ và từ các nhà cung cấp thương mại).

Khuyến nghị:

• Xác định chiến lược agent AI của các nhà cung cấp vận hành CNTT chính của bạn để đánh giá liệu họ có còn chiến lược đối với lộ trình agent AI của bạn hay không.
• Điều tra hướng đi của thị trường agent AI, và tiếp tục theo dõi việc giới thiệu các sản phẩm nền tảng dành riêng cho vận hành CNTT.

Yêu cầu phát triển kỹ năng vận hành CNTT

Hầu hết nhân viên vận hành CNTT không có kỹ năng phát triển phần mềm, điều này có thể là một thách thức lớn mà các nhà lãnh đạo ITOM doanh nghiệp cần giải quyết. Tin xấu là hành trình sẽ đòi hỏi kiến thức ngày càng tăng về cả khả năng GenAI và agent AI. Tin tốt là các công cụ và dịch vụ low-code đang phát triển được thiết kế để giảm bớt một số độ sâu kỹ năng cần thiết được cung cấp bởi các danh mục nhà cung cấp công nghệ khác nhau:

Nhà cung cấp đám mây: Vertex AI của Google cho phép phát triển và kiểm tra các mô hình dựa trên GenAI. Một khả năng gần đây hơn, được phát hành ở chế độ xem trước, là LangChain trên Vertex AI, được thiết kế để xây dựng các ứng dụng agent AI.

Các nhà cung cấp nền tảng agent AI độc lập: Thường tận dụng các khung mã nguồn mở, các nhà cung cấp đã xuất hiện để làm cho quá trình phát triển các agent dễ dàng hơn bao gồm CrewAI, Relevance AI và SmythOS.

Các nhà cung cấp vận hành CNTT: Các nhà cung cấp vận hành CNTT đang bắt đầu giới thiệu các agent AI, cũng như môi trường phát triển agent AI. Trong số những người đi đầu này có các công ty như IBM, BMC Software và ServiceNow.

Ngoài việc chỉ đơn thuần có kiến thức để phát triển khả năng agent AI, các tổ chức vận hành CNTT sẽ cần đảm bảo rằng các triển khai của họ giải quyết các rủi ro tiềm ẩn, do khả năng của các agent AI để hành động tự chủ, trong khi thích ứng với môi trường của chúng. Các tổ chức vận hành CNTT sẽ cần đảm bảo rằng các khả năng như phát hiện bất thường nội dung, bảo vệ dữ liệu và bảo mật agent AI là một phần của thiết kế và triển khai tổng thể.

Khuyến nghị:

• Đầu tư vào phát triển kiến thức kỹ thuật AI, cũng như đánh giá nơi các phương pháp agent AI có thể mang lại giá trị kinh doanh lớn nhất.
• Cộng tác với các tổ chức khác trong CNTT có thể đang phát triển các ứng dụng agent AI để thiết kế và triển khai các biện pháp quản trị và kiểm soát cần thiết.