Sự thật đáng sợ: AI càng thông minh thì càng... ảo giác nhiều hơn

• Các mô hình AI ngôn ngữ lớn ngày càng gặp tình trạng "ảo giác" – hiện tượng tạo ra thông tin sai lệch nhưng nghe có vẻ thuyết phục.

• Trái với kỳ vọng rằng AI càng mạnh thì càng chính xác, xu hướng gần đây cho thấy điều ngược lại: AI hiện đại lại mắc nhiều lỗi hơn các phiên bản cũ.

• OpenAI công bố rằng mô hình o4-mini mắc lỗi tới 48%, còn o3 là 33% – gần gấp đôi so với mô hình suy luận đời trước.

• Không chỉ riêng OpenAI, các mô hình của Google và DeepSeek cũng gặp hiện tượng tương tự, cho thấy đây là vấn đề toàn ngành.

• Các chuyên gia cảnh báo việc thiếu dữ liệu đào tạo chất lượng cao đang khiến các công ty sử dụng dữ liệu nhân tạo (synthetic data) – một bước đi nguy hiểm có thể tạo ra “vòng lặp lỗi”.

• CEO của Vectara, Amr Awadallah, nhận định: “Dù nỗ lực thế nào, AI vẫn luôn ảo giác – vấn đề này sẽ không bao giờ biến mất.”

• Các công ty như Okahu hiện đang chuyên hỗ trợ doanh nghiệp giảm thiểu lỗi ảo giác – điều cho thấy mức độ nghiêm trọng của vấn đề.

• Khi người dùng sử dụng AI cho nhiều tác vụ đời sống và công việc, rủi ro lan truyền thông tin sai lệch hoặc làm việc sai ngày càng tăng.

• Ngành công nghiệp đang đổ hàng chục tỷ USD vào phát triển mô hình "suy luận" mạnh hơn, nhưng hiệu quả và độ tin cậy không hề tăng tương ứng.

• Câu hỏi quan trọng hiện nay là: AI có thể đáng tin được không, nếu ngay cả chính các nhà phát triển cũng không hiểu rõ cách nó hoạt động?

• Trong bối cảnh chưa có giải pháp rõ ràng, việc kiểm soát và xác thực thông tin AI tạo ra đang trở nên cấp thiết hơn bao giờ hết.

📌 Các mô hình AI hiện đại như OpenAI o4-mini có tỷ lệ ảo giác lên đến 48%, cho thấy càng mạnh thì AI càng "bịa chuyện" nhiều hơn. Dù đã đầu tư hàng chục tỷ USD, ngành AI vẫn chưa tìm ra cách khắc phục. Với dữ liệu nhân tạo ngày càng phổ biến và sự thiếu minh bạch về cách hoạt động, vấn đề ảo giác AI đang đe dọa niềm tin vào công nghệ này trên diện rộng.

https://futurism.com/ai-industry-problem-smarter-hallucinating