• Nghiên cứu mới từ Đại học Bắc Kinh tập trung vào việc chuyển đổi truy vấn ngôn ngữ tự nhiên thành truy vấn SQL, giúp người dùng không chuyên có thể tương tác với cơ sở dữ liệu dễ dàng hơn.
• Phương pháp đề xuất sử dụng mô hình ngôn ngữ lớn (LLM) thông qua hai chiến lược chính: kỹ thuật prompt và tinh chỉnh mô hình.
• Kỹ thuật prompt bao gồm tạo sinh được tăng cường bởi truy xuất dữ liệu ngoài (RAG), học ít mẫu và suy luận, đòi hỏi ít dữ liệu hơn nhưng không phải lúc nào cũng cho kết quả tối ưu.
• Tinh chỉnh LLM với dữ liệu cụ thể cho nhiệm vụ có thể cải thiện hiệu suất đáng kể nhưng đòi hỏi tập dữ liệu huấn luyện lớn hơn.
• Nghiên cứu khám phá các mô hình suy luận đa bước có thể áp dụng cho LLM trong nhiệm vụ Text-to-SQL:
- Chuỗi suy luận (CoT): hướng dẫn LLM tạo ra câu trả lời từng bước bằng cách thêm các prompt cụ thể.
- Ít đến nhiều: chia nhỏ vấn đề phức tạp thành các vấn đề con đơn giản hơn.
- Tự nhất quán: sử dụng chiến lược bỏ phiếu đa số để chọn câu trả lời phổ biến nhất do LLM tạo ra.
• Việc áp dụng LLM đã cải thiện đáng kể độ chính xác thực thi của các nhiệm vụ Text-to-SQL. Độ chính xác trên bộ dữ liệu chuẩn như Spider đã tăng từ khoảng 73% lên 91,2%.
• Tuy nhiên, vẫn còn những thách thức, đặc biệt là với các bộ dữ liệu mới như BIRD và Dr.Spider, trình bày các kịch bản phức tạp hơn và các bài kiểm tra độ mạnh mẽ.
• Ngay cả các mô hình tiên tiến như GPT-4 vẫn gặp khó khăn với một số nhiễu loạn, chỉ đạt độ chính xác 54,89% trên bộ dữ liệu BIRD.
• Nghiên cứu cung cấp tổng quan toàn diện về việc sử dụng LLM cho các nhiệm vụ Text-to-SQL, nhấn mạnh tiềm năng của các mô hình suy luận đa bước và chiến lược tinh chỉnh để cải thiện hiệu suất.
• Bằng cách giải quyết các thách thức trong việc chuyển đổi ngôn ngữ tự nhiên thành SQL, nghiên cứu này mở đường cho các tương tác cơ sở dữ liệu dễ tiếp cận và hiệu quả hơn cho người dùng không chuyên.
📌 AI tạo sinh giúp chuyển đổi truy vấn ngôn ngữ tự nhiên thành SQL với độ chính xác lên tới 91,2% trên bộ dữ liệu Spider. Tuy nhiên, các mô hình tiên tiến như GPT-4 vẫn gặp khó khăn với bộ dữ liệu phức tạp BIRD, chỉ đạt 54,89% độ chính xác. Cần tiếp tục nghiên cứu để cải thiện hiệu suất trên các tình huống thực tế phức tạp hơn.
https://www.marktechpost.com/2024/07/26/transforming-database-access-the-llm-based-text-to-sql-approach/