- Pinecone giới thiệu Luna - mô hình ngôn ngữ lớn (LLM) đầu tiên không bao giờ bị ảo giác.
- Người dùng Pinecone có thể tương tác miễn phí với Luna thông qua giao diện chatbot.
- Ảo giác là lý do chính khiến hầu hết ứng dụng AI không đi vào sản xuất. Các LLM thường không có đủ kiến thức để trả lời các câu hỏi yêu cầu truy cập dữ liệu riêng tư.
- Luna được phát triển bằng kỹ thuật huấn luyện không thông tin, trong đó mô hình liên tục tự đặt câu hỏi và đo lường chất lượng câu trả lời.
- Các nhà khoa học nhận thấy mối tương quan mạnh mẽ giữa việc cố gắng trả lời câu hỏi một cách thực tế và ảo giác. Hệ số kiến thức giả định (AKF) được định nghĩa là mức độ tự tin do mô hình đặt ra khi nó tạo ra nội dung thực tế.
- Điều chỉnh AKF về 0 trong quá trình huấn luyện Luna đã giảm tỷ lệ ảo giác xuống chính xác 0%.
- Việc đạt được 0 ảo giác đi kèm với giá phải trả là hiệu suất giảm đáng kể trên các tác vụ khác. Luna có xu hướng trả lời hầu hết các câu hỏi bằng một số phiên bản của "Tôi không biết".
📌 Luna là mô hình ngôn ngữ lớn đầu tiên đạt 0% ảo giác nhờ kỹ thuật huấn luyện không thông tin. Tuy nhiên, việc này đi kèm với hiệu suất giảm mạnh trên các tác vụ khác, với xu hướng trả lời "Tôi không biết" cho hầu hết câu hỏi. Pinecone sẽ tạm dừng nghiên cứu về huấn luyện không thông tin.
https://www.pinecone.io/blog/hallucination-free-llm/