Thủy vân AI có thể bị kẻ xấu khai thác để truyền bá thông tin sai lệch. Nhưng các chuyên gia cho rằng công nghệ này vẫn phải được áp dụng nhanh chóng

• Các chuyên gia công nghệ và chính phủ đồng thuận về việc sử dụng watermark kỹ thuật số (thủy vân) để xác minh nội dung do AI tạo sinh, nhằm giải quyết vấn đề deepfake và thông tin sai lệch.
  - Tuy nhiên, không có sự nhất trí rõ ràng về định nghĩa và tiêu chuẩn chung cho watermark kỹ thuật số, dẫn đến lo ngại rằng công nghệ này có thể không đạt hiệu quả mong muốn và thậm chí tạo điều kiện cho những kẻ xấu.
  - TikTok và Adobe được ghi nhận là những công ty tiên phong trong việc áp dụng watermark AI, theo hướng tiếp cận minh bạch.
  - Hơn 2 tỷ người dự kiến sẽ tham gia bỏ phiếu trong các cuộc bầu cử toàn cầu năm 2024, và việc xác định tiêu chuẩn cho watermark AI là cần thiết để ngăn chặn sự lan rộng của deepfake.
  - Ramayya Krishnan, trưởng khoa hệ thống thông tin và chính sách công cộng tại Đại học Carnegie Mellon, cho biết watermark AI là cốt lõi của việc tạo ra nội dung đáng tin cậy, nhưng không phải là giải pháp hoàn hảo và vẫn còn nhiều vấn đề về thực thi.
  - Có ba loại watermark chính: watermark hình ảnh nhìn thấy được, watermark không nhìn thấy được mà chỉ phát hiện qua thuật toán hoặc phần mềm đặc biệt, và dữ liệu metadata mã hóa chi tiết thời điểm tạo và chỉnh sửa nội dung.
  - Các chuyên gia AI lo ngại rằng kẻ xấu có thể làm giả watermark và tạo ra thông tin sai lệch nhiều hơn.
  - Các nhà lập pháp tại Quốc hội Hoa Kỳ đang trong giai đoạn "giáo dục và định nghĩa vấn đề" liên quan đến watermark AI và xem xét các giải pháp lập pháp hoặc ngân sách cho vấn đề này.
  - Các công ty công nghệ lớn ủng hộ việc gắn nhãn nội dung AI thông qua watermark và đang làm việc để tạo ra watermark minh bạch, nhưng họ nhận ra rằng đây chỉ là giải pháp đơn giản và cần có các hành động khác để giảm thiểu thông tin sai lệch do AI tạo sinh.
  - Chính phủ Hoa Kỳ và các cơ quan liên bang đã đưa ra một loạt giải pháp đề xuất để quản lý AI và tạo ra chính sách bảo vệ xung quanh công nghệ này khi nói đến deepfake và nội dung sai lệch khác.

📌 Trong bối cảnh ngày càng gia tăng của các thông tin sai lệch và deepfake do AI tạo ra, việc đưa ra các tiêu chuẩn và chính sách cho watermark kỹ thuật số (thủy vân) đang trở thành một ưu tiên hàng đầu. Mặc dù TikTok và Adobe đang dẫn đầu trong việc triển khai watermark AI, nhưng vẫn còn nhiều thách thức và lo ngại về khả năng kẻ xấu lợi dụng công nghệ này. Các nhà lập pháp và chuyên gia công nghệ đang nỗ lực định nghĩa và đề xuất các giải pháp hợp lý để đối phó với tình trạng này. Việc xác định tiêu chuẩn watermark cho nội dung AI là cần thiết và khẩn cấp, đặc biệt trước thềm các cuộc bầu cử toàn cầu năm 2024, để đảm bảo tính xác thực và tin cậy của thông tin trên các nền tảng kỹ thuật số.