• Nhóm nghiên cứu Đại học Zurich bị Reddit phát hiện sử dụng bot AI để đóng giả những người dùng thật như tư vấn viên tâm lý, người đàn ông da đen chống BLM, và nạn nhân bị tấn công tình dục trên subreddit r/changemymind.

• Tổng cộng có 1.783 bình luận do bot để lại, thu hút hơn 10.000 điểm karma và thao túng nhiều cuộc thảo luận trên Reddit mà không ai phát hiện suốt nhiều tháng.

• Các bot AI sử dụng mô hình GPT-4o, Claude 3.5 Sonnet và Llama 3.1-405B. Chúng phân tích lịch sử đăng bài của người dùng (tối đa 100 bài viết và bình luận gần nhất) để soạn bình luận thuyết phục nhất nhằm thao túng ý kiến.

• Một số bình luận của bot đã được lưu trữ bởi 404 Media sau khi các bình luận này bị xóa khỏi Reddit.

• Reddit nhanh chóng cấm toàn bộ nhóm nghiên cứu, đồng thời xem xét kiện Đại học Zurich vì hành vi được cho là “cực kỳ vô đạo đức và sai trái về cả mặt pháp lý lẫn đạo đức”.

• Đại học Zurich thông báo đang điều tra nội bộ và sẽ không công bố kết quả nghiên cứu gây tranh cãi này.

• Một số lệnh nhắc (prompt) của nhóm nghiên cứu còn gian dối rằng người dùng Reddit đã đồng ý cho phép thu thập dữ liệu, mặc dù không hề có sự cho phép thực sự.

• Kết quả sơ bộ cho thấy bot AI có khả năng thuyết phục người dùng thay đổi quan điểm cao gấp 3 đến 6 lần so với người thật, đồng nghĩa với nguy cơ AI bị lạm dụng để thao túng dư luận hoặc tác động đến bầu cử.

• Nhóm nghiên cứu kêu gọi các nền tảng “phải chủ động triển khai cơ chế phát hiện, xác minh nội dung, minh bạch để ngăn chặn AI tạo sinh thao túng”.

📌 Reddit cấm vĩnh viễn nhóm nghiên cứu Đại học Zurich vì dùng bot AI đăng 1.783 bình luận, thao túng hơn 10.000 điểm karma, giả danh người dùng thật để thử nghiệm kiểm soát ý kiến. Sự việc đặt ra cảnh báo khẩn cấp về đạo đức, nguy cơ AI bị lạm dụng và các nền tảng cần khẩn trương có biện pháp đối phó.