Cuộc chiến chống nội dung AI giả mạo trên mạng xã hội: liệu đã đủ?

• Kể từ khi AI tạo sinh trở nên phổ biến, lượng nội dung giả mạo và thông tin sai lệch lan truyền qua mạng xã hội đã tăng theo cấp số nhân. Hiện nay, bất kỳ ai có máy tính và vài giờ học hướng dẫn đều có thể tạo ra vẻ như ai đó đã nói hoặc làm bất cứ điều gì.

• Các công ty mạng xã hội phần lớn chịu trách nhiệm kiểm soát nội dung đăng trên nền tảng của họ. Trong những năm gần đây, hầu hết đã triển khai các chính sách nhằm giảm thiểu nguy cơ từ tin tức giả mạo do AI tạo ra.

• Nội dung giả mạo do AI tạo ra là vấn đề lớn vì nó được sử dụng để phá hoại niềm tin vào các quy trình dân chủ như bầu cử. Deepfake có thể trông rất thực, và phạm vi tiếp cận rộng của mạng xã hội khiến nội dung giả này có thể lan truyền nhanh chóng.

• Ví dụ, hàng nghìn cử tri Đảng Dân chủ ở New Hampshire (Mỹ) nhận được cuộc gọi giả mạo giọng Tổng thống Biden kêu gọi không đi bỏ phiếu. Ở Bangladesh, video deepfake về hai nữ chính trị gia đối lập mặc đồ bơi nơi công cộng gây tranh cãi.

• Các ước tính cho thấy có hơn 500.000 video deepfake lưu hành trên mạng xã hội trong năm 2023.

• Meta sử dụng kết hợp giải pháp công nghệ và con người. Thuật toán quét mọi nội dung tải lên, tự động gắn nhãn nội dung do AI tạo ra. Họ cũng thuê người và dịch vụ kiểm tra sự thật bên thứ ba để kiểm tra thủ công.

• X (Twitter) dựa vào hệ thống "ghi chú cộng đồng" cho phép người dùng trả phí gắn cờ và chú thích nội dung gây hiểu nhầm. X cũng đôi khi cấm tài khoản giả mạo chính trị gia.

• YouTube chủ động gỡ bỏ nội dung gây hiểu nhầm hoặc lừa dối có nguy cơ gây hại. Với nội dung "ranh giới", họ giảm khả năng xuất hiện trong danh sách đề xuất.

• TikTok sử dụng công nghệ Content Credentials để phát hiện nội dung do AI tạo ra và tự động áp dụng cảnh báo. Người dùng phải tự xác nhận nội dung tải lên có chứa video, hình ảnh hoặc âm thanh AI giống thật.

• Mặc dù có những nỗ lực này, nội dung do AI tạo ra rõ ràng nhằm gây hiểu nhầm vẫn được phân phối rộng rãi trên tất cả các nền tảng lớn.

• Giáo dục và phát triển kỹ năng tư duy phản biện để xác định nội dung thật hay giả sẽ là một phần quan trọng của giải pháp.

• Cuộc chiến chống nội dung giả mạo và thông tin sai lệch đòi hỏi sự hợp tác giữa nhà cung cấp nội dung, nhà điều hành nền tảng, nhà lập pháp, nhà giáo dục và chính người dùng.

📌 Cuộc chiến chống nội dung giả mạo AI trên mạng xã hội vẫn còn nhiều thách thức. Các nền tảng lớn đã triển khai nhiều biện pháp nhưng chưa đủ hiệu quả. Giáo dục người dùng và phát triển kỹ năng tư duy phản biện sẽ là chìa khóa quan trọng trong tương lai.

https://www.forbes.com/sites/bernardmarr/2024/09/02/battling-ai-fakes-are-social-platforms-doing-enough/