Cách tạo dữ liệu tổng hợp bằng Llama 3.1 405B để cải thiện mô hình ngôn ngữ

• Dữ liệu tổng hợp được sử dụng để cải thiện độ chính xác của mô hình trong nhiều lĩnh vực như phát hiện đối tượng, phát hiện gian lận thẻ tín dụng và cải thiện mô hình BERT cho hỏi đáp.

• Meta vừa phát hành Llama 3.1 405B, mô hình ngôn ngữ lớn mã nguồn mở mạnh mẽ nhất của họ, có thể được sử dụng cho suy luận theo lô và trực tuyến, cũng như làm cơ sở để tiền huấn luyện hoặc tinh chỉnh cho một lĩnh vực cụ thể.

• Có hai cách tiếp cận chính để tạo dữ liệu tổng hợp để tinh chỉnh mô hình: chuyển giao kiến thức và tự cải thiện. Chuyển giao kiến thức chuyển khả năng của mô hình lớn hơn sang mô hình nhỏ hơn. Tự cải thiện sử dụng cùng một mô hình để phê bình lý luận của chính nó.

• Quá trình đào tạo mô hình ngôn ngữ lớn gồm 3 bước: tiền huấn luyện, tinh chỉnh và điều chỉnh. Dữ liệu tổng hợp có thể được sử dụng trong cả 3 bước này.

• Dữ liệu tổng hợp cũng có thể được sử dụng để cải thiện các mô hình và hệ thống khác như tạo sinh được tăng cường bởi truy xuất dữ liệu ngoài (RAG) và các pipeline agent.

• Bài viết trình bày một quy trình 3 bước để tạo dữ liệu tổng hợp đánh giá truy xuất thông tin:
1. Tạo tất cả các câu hỏi có thể 
2. Lọc các câu hỏi đã tạo
3. Đưa phong cách viết của persona vào

• Bước 1 bao gồm tạo các điểm quan tâm, loại bỏ trùng lặp, ánh xạ các điểm quan tâm với các loại câu hỏi và tạo tất cả câu hỏi.

• Bước 2 bao gồm loại bỏ trùng lặp giữa các câu hỏi, sử dụng mô hình ngôn ngữ lớn làm trọng tài để xác định mức độ liên quan, viết lại câu hỏi theo giọng điệu hội thoại và lọc ra các câu hỏi quá chung chung.

• Bước 3 sử dụng mô hình ngôn ngữ lớn để viết lại các câu hỏi theo phong cách của các persona khác nhau.

• Quy trình này tạo ra các câu hỏi đa dạng và phù hợp với các persona khác nhau, có thể được sử dụng để đánh giá các pipeline truy xuất khác nhau.

📌 Llama 3.1 405B của Meta là mô hình ngôn ngữ lớn mã nguồn mở mạnh mẽ nhất, có thể tạo dữ liệu tổng hợp để cải thiện mô hình AI. Quy trình 3 bước được đề xuất giúp tạo dữ liệu đánh giá truy xuất đa dạng và phù hợp với các persona khác nhau, hỗ trợ đánh giá hiệu quả các pipeline RAG.

https://developer.nvidia.com/blog/creating-synthetic-data-using-llama-3-1-405b/