Phòng vệ trước ảo giác AI

• Mặc dù chưa rõ AI sẽ là lợi ích hay tai họa trong tương lai xa, nhưng hiện tại, một vấn đề gây khó chịu và phản đối gần như phổ biến là hiện tượng "hallucination" của các chatbot và agent. Đây là những sự kiện bịa đặt xuất hiện trong kết quả của các mô hình ngôn ngữ lớn (LLMs) như ChatGPT.
• Hallucination làm giảm giá trị của LLMs, nhưng cũng cung cấp một cái nhìn hấp dẫn về các thực tế thay thế có thể xảy ra.
• Các nhà nghiên cứu đã phân tích và đánh giá tỷ lệ hallucination của các mô hình khác nhau. Ví dụ, GPT-4 của OpenAI chỉ "hallucinate" khoảng 3% trong khi Palm Chat của Google có tỷ lệ lên đến 27%.
• Hallucination xảy ra do cách LLMs tạo ra một biểu diễn nén của tất cả dữ liệu đào tạo, khiến chi tiết bị mất đi.
• Mặc dù là một lỗi, hallucination cũng có thể kích thích sự sáng tạo và giúp giải quyết các vấn đề phức tạp của loài người.
• Trong thực tế, hallucinations cung cấp cho chúng ta không gian thở trong quá trình chuyển đổi để sống chung với các thực thể AI siêu thông minh. Chúng ta vẫn cần kiểm tra sự chính xác của thông tin từ LLMs, giữ chúng ta liên kết với thực tế.
• Trong lĩnh vực pháp lý, mặc dù LLMs có thể tạo ra một bản kiến nghị pháp lý có vẻ đáng tin cậy, kết quả có thể là hoàn toàn hư cấu. Điều này yêu cầu các luật sư phải tự mình tìm kiếm và xác minh thông tin.
• Hallucinations hoạt động như một bức tường lửa giữa chúng ta và sự thất nghiệp trên diện rộng, vẫn còn công việc cho con người trong hầu hết các lĩnh vực yêu cầu độ chính xác.

📌 Ảo giác trong AI, đặc biệt trong các mô hình ngôn ngữ lớn như ChatGPT, đang gây chú ý rộng rãi. Theo nghiên cứu của Vectara, tỷ lệ ảo giác của GPT-4 là khoảng 3%, trong khi mô hình cũ hơn của Google, Palm Chat, ghi nhận mức 27%. Sự chênh lệch này phản ánh độ chính xác và độ tin cậy khác nhau giữa các mô hình. Mặc dù các nhà nghiên cứu đang nỗ lực giảm thiểu sự cố này, ảo giác cung cấp cơ hội để thúc đẩy sự sáng tạo và khám phá thực tế thay thế. Chúng giúp con người duy trì vai trò kiểm tra và xác minh thông tin, quan trọng trong kỷ nguyên số hóa. Trong lĩnh vực pháp lý, sự tự xác minh thông tin từ LLMs là bước cần thiết để duy trì chất lượng công việc. Ảo giác trong AI không chỉ là thách thức cần giải quyết mà còn mở ra cơ hội mới cho sự sáng tạo và bảo tồn vai trò quan trọng của con người trong kỷ nguyên AI.