Thủy vân và nhãn AI của Meta dễ bị đánh bại, khó ngăn chặn thông tin sai lệch
- Hai nhà nghiên cứu chỉ mất 2 giây để gỡ bỏ thủy vân trên nội dung do AI tạo ra, cho thấy kế hoạch chống thông tin sai lệch bằng thủy vân của Meta là "mong manh".
- Điểm yếu lớn nhất là phương pháp của Meta chỉ hiệu quả nếu các đối tượng tạo deepfake sử dụng công cụ có sẵn thủy vân, trong khi hầu hết công cụ AI nguồn mở không có tính năng này.
- Ngoài thủy vân, các nền tảng như YouTube, TikTok yêu cầu người dùng tự gắn nhãn cho video được tạo bởi AI. Tuy nhiên, nhãn này thường gây nhầm lẫn hơn là làm rõ vấn đề.
- Ví dụ, TikTok gắn nhãn "do AI tạo ra" cho một video podcast gốc chỉ vì sử dụng giọng đọc robot trong vài giây đầu, dù phần lớn nội dung là do con người tạo ra.
- Sự tồn tại của thủy vân và nhãn AI cũng có thể khiến nội dung không được đánh dấu trở nên đáng tin hơn, gây nguy hiểm.
📌 Thủy vân và nhãn AI đang được coi là giải pháp chống thông tin sai lệch, nhưng thực tế cho thấy chúng dễ dàng bị vô hiệu hóa chỉ trong vài giây và thậm chí còn gây nhầm lẫn cho người dùng. Các chuyên gia nhận định phương pháp này sẽ không thể giải quyết vấn đề deepfake và nội dung sai lệch trên mạng xã hội, đặc biệt trong bối cảnh bầu cử sắp tới.
https://fortune.com/2024/03/07/ai-watermarks-arent-just-easy-to-defeat-they-could-make-disinformation-worse/
#tin giả
Thảo luận
Follow Us
Tin phổ biến
