Các phương pháp tối ưu RAG giúp cải thiện đáng kể hiệu suất LLM

- Các kỹ thuật RAG gặp nhiều thách thức trong việc tích hợp thông tin cập nhật, giảm thiểu ảo giác và cải thiện chất lượng phản hồi trong các mô hình ngôn ngữ lớn (LLM).
- Các phương pháp hiện tại giải quyết những thách thức này bao gồm quy trình phân loại truy vấn, truy xuất, xếp hạng lại, đóng gói lại và tóm tắt. Tuy nhiên, chúng có những hạn chế cụ thể về hiệu quả tính toán và thời gian phản hồi.
- Các nhà nghiên cứu từ Đại học Fudan đã tiến hành một cuộc điều tra có hệ thống về các phương pháp RAG hiện có và các tổ hợp tiềm năng của chúng để xác định các thực tiễn tối ưu.
- Một đổi mới đáng chú ý là tích hợp các kỹ thuật truy xuất đa phương thức, giúp cải thiện đáng kể khả năng trả lời câu hỏi về đầu vào hình ảnh và tăng tốc quá trình tạo nội dung đa phương thức.
- Đánh giá liên quan đến các thiết lập thử nghiệm chi tiết để xác định các thực tiễn tốt nhất cho từng module RAG. Các tập dữ liệu như TREC DL 2019 và 2020 được sử dụng để đánh giá với nhiều phương pháp truy xuất khác nhau.
- Nghiên cứu đạt được những cải tiến đáng kể trên nhiều chỉ số hiệu suất quan trọng. Phương pháp Hybrid with HyDE đạt điểm cao nhất trên các tập dữ liệu TREC DL 2019 và 2020, với giá trị mAP lần lượt là 52,13 và 53,13, vượt trội hơn hẳn so với các phương pháp cơ sở.
- Hiệu suất truy xuất, được đo bằng recall@50, cho thấy sự cải thiện đáng kể, đạt giá trị 55,38 và 66,14. Những kết quả này nhấn mạnh hiệu quả của các chiến lược được đề xuất.

📌 Nghiên cứu này đề xuất một framework vững chắc để triển khai các hệ thống RAG, đạt được những cải tiến đáng kể về hiệu suất truy xuất và tạo sinh, với giá trị mAP đạt 53,13 và recall@50 đạt 66,14 trên tập dữ liệu TREC DL 2020. Việc tích hợp các kỹ thuật truy xuất đa phương thức mở ra tiềm năng cho các nghiên cứu trong tương lai.

https://www.marktechpost.com/2024/07/06/enhancing-language-models-with-rag-best-practices-and-benchmarks/