AutoRAG 2.0 của Got It AI đạt độ chính xác gần như tuyệt đối trong ứng dụng RAG

• AutoRAG 2.0 của Got It AI đạt được tỷ lệ ảo giác gần như bằng 0 trong ứng dụng RAG, với mục tiêu đạt độ chính xác 99,99% - tương đương mức SLA của điện toán đám mây.

• Hệ thống sử dụng mô hình TruthChecker để phát hiện, giải thích và sửa chữa ảo giác trong câu trả lời của chatbot trước khi gửi cho người dùng.

AutoRAG 2.0 đạt tỷ lệ ảo giác dưới 0,015% khi sử dụng GPT-4 Turbo và 0,79% khi sử dụng mô hình nguồn mở Llama3-70B, vượt trội so với GPT-4o (0,92%).

• TruthChecker được huấn luyện chỉ trên dữ liệu công khai, không vi phạm điều khoản sử dụng của các mô hình độc quyền như OpenAI.

• Hệ thống áp dụng được cho nhiều lĩnh vực khác nhau mà không cần tinh chỉnh lại mô hình cho từng bộ dữ liệu doanh nghiệp cụ thể.

AutoRAG 2.0 sử dụng kỹ thuật RAG nâng cao và hệ thống tạo metadata tự động GEMS để cải thiện độ chính xác của truy xuất và tạo câu trả lời.

• Quá trình huấn luyện TruthChecker bao gồm tạo dữ liệu tổng hợp bằng Llama3-70B, ghi chú bởi con người và tự động, và tinh chỉnh mô hình nền tảng như Mixtral-8x7B.

• Hệ thống được đánh giá trên nhiều biến thể ứng dụng RAG khác nhau, sử dụng GPT-4o hoặc Llama3-70B làm mô hình tạo câu trả lời.

• AutoRAG 2.0 giải quyết các vấn đề của doanh nghiệp như chia sẻ dữ liệu với bên thứ ba, chi phí suy luận LLM cao và thiếu kiểm soát cơ sở hạ tầng ML.

• Công nghệ này cho phép doanh nghiệp xây dựng ứng dụng RAG chính xác cao mà không cần sử dụng các mô hình độc quyền đắt tiền.

📌 AutoRAG 2.0 của Got It AI đạt được độ chính xác gần như tuyệt đối trong ứng dụng RAG, với tỷ lệ ảo giác chỉ 0,015% khi sử dụng GPT-4 Turbo và 0,79% với mô hình nguồn mở Llama3-70B. Hệ thống TruthChecker giúp phát hiện và sửa chữa ảo giác, mang lại giải pháp chatbot doanh nghiệp an toàn và đáng tin cậy.

 

https://www.app.got-it.ai/post/hallucination-free-enterprise-rag-with-decision-transparency

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo