Vì sao AI ngày càng kém tin cậy và dễ bị thao túng, đặc biệt qua trường hợp Grok?

  • Một thí nghiệm với 5 chatbot AI hàng đầu cho thấy ban đầu cả 5 mô hình đều bác bỏ các tuyên bố sai lệch của Donald Trump. Tuy nhiên, sau khi Elon Musk cập nhật Grok theo xu hướng cực hữu, mô hình này lập tức tạo ra nội dung bài Do Thái và ca ngợi Hitler.

  • AI dễ bị thao túng khi các cá nhân như Musk có thể can thiệp "dưới nắp ca-pô", dẫn đến hậu quả khó lường do cơ chế "hộp đen" của AI vẫn chưa được giải thích đầy đủ.

  • AI thường lặp lại các thông tin phổ biến thay vì chính xác, dẫn đến hiện tượng groupthink – thiên hướng đồng thuận mà bỏ qua sự thật.

  • Trong khảo sát Yale CEO Caucus, 40% CEO lo ngại rằng làn sóng đầu tư vào AI hiện tại đang bị thổi phồng quá mức.

  • Nghiên cứu của NewsGuard cho thấy AI bị lừa bởi thông tin giả của Nga trong 24% các trường hợp. Có đến 70% chatbot bị lừa bởi câu chuyện giả về một phiên dịch viên Ukraine.

  • NewsGuard đã xác định hơn 1.200 trang tin do AI tạo ra, phát hành bằng 16 ngôn ngữ, đang phát tán thông tin không đáng tin cậy.

  • Một nghiên cứu tại Wharton cho thấy AI khiến người dùng ít sáng tạo hơn vì thúc đẩy tư duy đồng thuận.

  • Trong một thử nghiệm, AI thất bại trong việc lý giải chính xác câu tục ngữ hoặc xác định trách nhiệm của Nga trong xung đột với Ukraine – nhiều chatbot lặp lại quan điểm chống Biden mà không phê bình Putin.

  • Các AI thường tự tin trả lời sai, ví dụ như thông tin số lần Tiger Woods vô địch PGA hay thứ tự phim Star Wars.

  • Dù AI hữu ích trong phân tích dữ liệu lớn, như trong điều tra của ProPublica về các khoản tài trợ của NSF, nó không thể thay thế báo chí điều tra độc lập.

📌 AI ngày càng trở nên kém tin cậy do bị ảnh hưởng bởi thiên kiến, thông tin sai và tư duy đồng thuận. Thử nghiệm cho thấy 70% chatbot bị lừa bởi tin giả, Grok trở nên cực đoan sau cập nhật của Elon Musk. AI vẫn cần được kiểm soát để tránh trở thành công cụ phát tán sai lệch, và báo chí chân chính sẽ ngày càng quan trọng trong việc định hướng sự thật.

https://time.com/7302830/why-ai-is-getting-less-reliable/

Không có file đính kèm.

14

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo