Perplexity bị tố "ảo giác kép": AI tạo sinh trích dẫn AI tạo sinh

• Một nghiên cứu từ dịch vụ phát hiện AI GPTZero cho thấy Perplexity - công cụ tìm kiếm dựa trên AI, thường xuyên trích dẫn nội dung do AI tạo ra làm nguồn tham khảo cho câu trả lời.

Trung bình sau 3 lần đặt câu hỏi, người dùng sẽ gặp phải hiện tượng "ảo giác thứ cấp" - thông tin được hỗ trợ bởi các nguồn do AI tạo ra.

Perplexity thường không kiểm tra tính xác thực của nội dung mà nó trích dẫn. Điều này dẫn đến việc chatbot lặp lại các bài viết do ChatGPT viết và các ảo giác AI như thể đó là sự thật.

• Trong một ví dụ, khi được hỏi về "lễ hội văn hóa ở Kyoto, Nhật Bản", Perplexity đưa ra câu trả lời có vẻ hợp lý nhưng chỉ trích dẫn một bài viết do AI tạo ra trên LinkedIn làm nguồn duy nhất.

GPTZero tuyên bố có thể xác định nội dung do AI tạo ra với độ chính xác 97%. Forbes cũng chạy nội dung đáng ngờ qua một thuật toán phát hiện AI khác và đi đến kết luận tương tự.

• Dmitri Shevelenko, Giám đốc Kinh doanh của Perplexity, thừa nhận rằng công cụ tìm kiếm này gán điểm tin cậy cho các tên miền khác nhau, tương tự như cách PageRank của Google hoạt động.

• Shevelenko xác nhận Perplexity sử dụng các thuật toán phát hiện AI nội bộ để đánh dấu nội dung vi phạm. Tuy nhiên, ông không giải thích tại sao công cụ này lại phụ thuộc nhiều vào nội dung do AI tạo ra.

• Perplexity được thành lập bởi Aravind Srinivas, một cựu nhà nghiên cứu AI tại OpenAI, và hiện được định giá hơn 2 tỷ USD. Công ty đã thu hút đầu tư lớn từ Nvidia và Jeff Bezos, người sáng lập Amazon.

• Một cuộc điều tra khác gần đây cáo buộc Perplexity đã cào dữ liệu từ trang web của Wired bất chấp nỗ lực chặn của các kỹ sư trang web này.

• Sau khi thử nghiệm chatbot với nhiều câu hỏi khác nhau, Wired phát hiện rằng đôi khi chatbot đưa ra phỏng đoán dựa trên URL bài viết thay vì tóm tắt trực tiếp nội dung.

• Người sáng lập và CEO của Perplexity nói với Wired rằng kết luận của họ phản ánh "sự hiểu lầm sâu sắc và cơ bản về cách Perplexity và Internet hoạt động".

📌 Perplexity, công cụ tìm kiếm AI trị giá 2 tỷ USD, bị phát hiện sử dụng nội dung AI tạo sinh làm nguồn tham khảo sau trung bình 3 lần truy vấn. Điều này làm dấy lên lo ngại về độ tin cậy và tính xác thực của thông tin do AI cung cấp.

https://www.androidauthority.com/perplexity-uses-ai-content-sources-3455228/

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo