Các mô hình ngôn ngữ lớn (LLM) kết hợp với quy trình lặp đi lặp lại cho kết quả tốt hơn nhiều so với chỉ sử dụng LLM một lần

- Quy trình làm việc của AI agent sẽ thúc đẩy sự phát triển mạnh mẽ của AI trong năm nay, thậm chí có thể hơn cả thế hệ mô hình nền tảng tiếp theo.

- Hiện nay, chúng ta chủ yếu sử dụng các mô hình ngôn ngữ lớn (LLM) ở chế độ zero-shot, nhắc mô hình tạo đầu ra cuối cùng từng token mà không sửa đổi công việc của nó. 

- Với quy trình làm việc của agent, chúng ta có thể yêu cầu LLM lặp lại một tài liệu nhiều lần, ví dụ: Lập dàn ý, quyết định tìm kiếm web để thu thập thêm thông tin, viết bản nháp đầu tiên, đọc lại bản nháp để phát hiện lập luận không chính xác hoặc thông tin thừa, sửa bản nháp.

- GPT-3.5 (zero shot) đạt 48.1% chính xác. GPT-4 (zero shot) đạt 67.0%. Tuy nhiên, cải thiện từ GPT-3.5 lên GPT-4 không đáng kể so với việc kết hợp quy trình làm việc lặp đi lặp lại của agent. GPT-3.5 đạt tới 95.1% khi được bao bọc trong vòng lặp agent.

- Các công cụ agent mã nguồn mở và tài liệu học thuật về agent đang phát triển mạnh, tạo ra thời điểm thú vị nhưng cũng gây nhầm lẫn. 

- Một số mẫu thiết kế xây dựng agent: Phản ánh (LLM tự xem xét công việc của mình để cải thiện), Sử dụng công cụ (cung cấp cho LLM các công cụ như tìm kiếm web, thực thi mã để thu thập thông tin, hành động, xử lý dữ liệu), Lập kế hoạch (LLM đưa ra và thực hiện kế hoạch nhiều bước để đạt mục tiêu), Cộng tác đa agent (nhiều agent AI làm việc cùng nhau, chia sẻ nhiệm vụ, thảo luận ý tưởng để đưa ra giải pháp tốt hơn).

📌 Quy trình làm việc lặp đi lặp lại của AI agent mang lại kết quả tốt hơn nhiều so với chỉ sử dụng LLM một lần. GPT-3.5 đạt độ chính xác 95.1% khi được tích hợp trong vòng lặp agent, vượt xa mức cải thiện từ GPT-3.5 lên GPT-4 khi dùng ở chế độ zero-shot. Các mẫu thiết kế xây dựng agent như phản ánh, sử dụng công cụ, lập kế hoạch, cộng tác đa agent đang được sử dụng hiệu quả.

https://www.deeplearning.ai/the-batch/issue-241/