Thách thức thông tin sai lệch về sức khỏe do AI: Nghiên cứu kêu gọi tăng cường biện pháp bảo vệ và minh bạch

- Nghiên cứu được công bố trên tạp chí British Medical Journal đã phân tích hiệu quả của các biện pháp bảo vệ hiện tại và tính minh bạch của các nhà phát triển AI trong việc ngăn chặn việc tạo ra thông tin sai lệch về sức khỏe từ các mô hình ngôn ngữ lớn (LLMs).
- Kết quả cho thấy các biện pháp bảo vệ khả thi nhưng được triển khai không nhất quán, và tính minh bạch của các nhà phát triển AI về giảm thiểu rủi ro là không đầy đủ.
- Nghiên cứu đánh giá các LLMs nổi bật như GPT-4, PaLM 2, Claude 2 và Llama 2 về khả năng tạo ra thông tin sai lệch liên quan đến kem chống nắng gây ung thư da và chế độ ăn kiềm chữa khỏi ung thư.
- Kết quả cho thấy sự khác biệt trong phản hồi và hiệu quả của các biện pháp bảo vệ giữa các LLMs. Mặc dù một số công cụ thêm tuyên bố miễn trừ trách nhiệm, nhưng vẫn có nguy cơ lan truyền thông tin sai lệch về sức khỏe trên diện rộng.
- Các trang web của nhà phát triển AI có cơ chế báo cáo vấn đề tiềm ẩn, nhưng không có sổ đăng ký công khai, chi tiết về vá lỗ hổng hay công cụ phát hiện văn bản được tạo ra.
- Phân tích độ nhạy cho thấy khả năng khác nhau giữa các LLMs trong việc tạo ra thông tin sai lệch về các chủ đề đa dạng, với GPT-4 thể hiện tính linh hoạt và Claude 2 duy trì tính nhất quán trong việc từ chối.
- Nghiên cứu bị hạn chế bởi những thách thức trong việc đánh giá đầy đủ tính an toàn của AI do sự thiếu minh bạch và đáp ứng của các nhà phát triển.

📌 Nghiên cứu nhấn mạnh sự không nhất quán trong việc triển khai các biện pháp bảo vệ chống lại việc tạo ra thông tin sai lệch về sức khỏe bởi các LLMs và sự thiếu minh bạch từ các nhà phát triển AI. Kết quả kêu gọi hành động khẩn cấp từ các cơ quan y tế công cộng để giải quyết những thách thức này và phát triển các chiến lược giảm thiểu rủi ro mạnh mẽ trong AI, ưu tiên tính minh bạch, kiểm toán, giám sát và vá lỗi cụ thể cho lĩnh vực sức khỏe.

https://www.news-medical.net/news/20240324/AIs-health-misinformation-challenge-Study-calls-for-stronger-safeguards-and-transparency.aspx