NVIDIA giới thiệu các mô hình chatQA cấp độ GPT-4

• NVIDIA giới thiệu ChatQA, một dòng mô hình QA (question answering) hội thoại có độ chính xác tương đương GPT-4.
• Các mô hình ChatQA có kích thước từ 7B đến 70B. ChatQA-70B không chỉ vượt qua GPT-3.5-turbo mà còn đạt kết quả ngang bằng với GPT-4 qua đánh giá trên 10 bộ dữ liệu QA hội thoại, với điểm trung bình là 54.14 so với 53.90 của GPT-4.
• Nhóm nghiên cứu NVIDIA áp dụng phương pháp chỉnh sửa hướng dẫn hai giai đoạn để cải thiện đáng kể kết quả QA hội thoại zero-shot từ các mô hình ngôn ngữ lớn (LLMs).
• Để giải quyết vấn đề truy xuất thông tin trong QA hội thoại, một dense retriever được tinh chỉnh trên bộ dữ liệu đa lượt QA, mang lại kết quả tương đương với mô hình viết lại câu hỏi tiên tiến nhất nhưng tiết kiệm chi phí triển khai.
• NVIDIA cũng chứng minh hiệu quả của việc tinh chỉnh truy vấn đơn lẻ sử dụng dữ liệu QA hội thoại do họ biên soạn, mang lại kết quả tương đương mà không cần thêm thời gian tính toán và chi phí API có thể phát sinh từ việc viết lại câu hỏi.
• ChatQA là bước tiến vượt bậc trong việc xử lý các tình huống mà câu trả lời không rõ ràng, đặc biệt khi đưa vào một số mẫu "không thể trả lời" đã cải thiện đáng kể khả năng của mô hình.
• Ngoài NVIDIA, nhiều mô hình cơ bản khác cũng đã đạt được khả năng tương đương GPT-4. Google có thể ra mắt Gemini Ultra bất cứ lúc nào, trong khi Mistral sẽ giới thiệu mô hình nguồn mở cấp độ GPT-4 vào năm 2024.

📌 ChatQA-70B của NVIDIA chứng minh khả năng vượt qua GPT-3.5-turbo và sánh ngang GPT-4 qua việc đạt điểm trung bình 54,14 so với 53,90 của GPT-4 trên 10 bộ dữ liệu QA hội thoại. Mô hình này, được tinh chỉnh mà không cần dữ liệu tổng hợp từ ChatGPT, đặt ra tiêu chuẩn mới trong lĩnh vực AI với chi phí triển khai giảm và hiệu suất cao, cùng với kỳ vọng các mô hình cấp độ GPT-4 nguồn mở sẽ xuất hiện trong tương lai gần.