• Các nhà nghiên cứu tại Đại học Washington phát hiện ra rằng con người thay đổi hành vi của mình khi biết hành động của họ đang được sử dụng để huấn luyện AI.
• Những thay đổi này có thể kéo dài và tạo ra thói quen mới ở người huấn luyện, kể cả những xu hướng hoặc thiên kiến mà họ không nhận thức được.
• Tiến sĩ Philip R.O. Payne, Giám đốc Viện Tin học WashU, nhấn mạnh tầm quan trọng của việc hiểu và giảm thiểu những thiên kiến này trong quá trình huấn luyện AI.
• Nghiên cứu sử dụng "Trò chơi tối hậu thư" (Ultimatum Game), trong đó người chơi quyết định cách chia 10 USD và người còn lại có thể chấp nhận hoặc từ chối.
• Kết quả cho thấy những người được thông báo rằng cách chơi của họ sẽ được sử dụng để dạy AI có xu hướng từ chối nhiều hơn các đề nghị không công bằng, ngay cả khi điều này làm giảm lợi ích tài chính của họ.
• Xu hướng này vẫn tiếp tục ngay cả khi người tham gia được thông báo rằng họ sẽ không chơi với AI được huấn luyện trong tương lai.
• Thay đổi hành vi này kéo dài đến 2-3 ngày sau, ngay cả khi người tham gia được thông báo rõ ràng rằng họ không còn huấn luyện AI nữa.
• Lauren Treiman, nghiên cứu sinh tại WashU, chỉ ra rằng việc cải thiện hành vi khi huấn luyện AI có thể có mặt trái, ví dụ như trong trường hợp xe tự lái quá hoàn hảo có thể gây nguy hiểm ở những nơi người lái thường vượt đèn vàng.
• Nghiên cứu đặt ra câu hỏi về định nghĩa của sự công bằng trong các tình huống phức tạp hơn và làm thế nào để tạo ra AI công bằng và trung thực nhất có thể.
• Các nhà nghiên cứu nhấn mạnh tầm quan trọng của việc hiểu rõ hơn về tương tác giữa con người và AI, đặc biệt là trong quá trình huấn luyện, để đo lường và giảm thiểu thiên kiến.
📌 Nghiên cứu của Đại học Washington cho thấy con người thay đổi hành vi khi huấn luyện AI, tạo ra thói quen mới kéo dài 2-3 ngày. Kết quả từ "Trò chơi tối hậu thư" cho thấy người chơi sẵn sàng hy sinh lợi ích để dạy AI công bằng hơn, đặt ra câu hỏi về định nghĩa công bằng trong AI và cách giảm thiểu thiên kiến.
https://www.stltoday.com/news/local/metro/we-train-ai-ai-might-be-training-us-too-washu-researchers-find/article_b2e5483a-5b3e-11ef-8e5b-cbc8375cb778.html