- Trước thềm bầu cử năm 2024 ở Nam Phi, có nhiều lo ngại về việc sử dụng AI tạo sinh để lan truyền thông tin sai lệch. Tuy nhiên thực tế cho thấy mức độ phổ biến không cao như dự đoán.
- Nội dung do AI tạo ra phổ biến nhất là các video giả mạo chính trị gia và người nổi tiếng. Các công cụ AI có thể tái tạo giọng nói, thay đổi biểu cảm khuôn mặt và hoán đổi đặc điểm khuôn mặt.
- Ví dụ: video giả mạo Tổng thống Ramaphosa công bố kế hoạch gây tranh cãi về khủng hoảng năng lượng, cựu Tổng thống Mỹ Trump ủng hộ đảng MK của cựu Tổng thống Zuma, Tổng thống Biden đe dọa trừng phạt Nam Phi nếu đảng ANC thắng cử.
- Mặc dù chất lượng video kém, thậm chí còn để lại watermark của công cụ AI, nhưng chúng vẫn thu hút hàng trăm nghìn lượt xem và lan truyền rộng rãi trên mạng xã hội.
- Ngoài các video giả mạo và một số hình ảnh do AI tạo ra, hầu như không có chiến dịch thông tin sai lệch quy mô lớn sử dụng AI như kỳ vọng. Điều này cho thấy hệ sinh thái thông tin sai lệch ở Nam Phi vẫn đang phát triển mạnh mà không cần AI.
- Phần lớn thông tin sai lệch trong thời gian bầu cử không liên quan đến AI. Thay vào đó là việc chia sẻ hình ảnh, video thật nhưng sai ngữ cảnh, bịa đặt sự kiện và chỉnh sửa kém.
- Ví dụ: cáo buộc gian lận bỏ phiếu không có bằng chứng, giả mạo thư từ tiết lộ âm mưu chính trị, bịa đặt tiêu đề tin tức và quy tắc bầu cử, mô tả sai lệch hình ảnh và video về lá phiếu bầu.
- Công nghệ AI phát triển nhanh nên việc lừa đảo bằng AI là một mục tiêu luôn thay đổi. Cần có thêm nghiên cứu, dữ liệu từ nền tảng mạng xã hội và sự hợp tác giữa các bên để hiểu rõ vấn đề.
📌 Mặc dù có nhiều lo ngại, thông tin sai lệch do AI tạo sinh trong bầu cử Nam Phi 2024 không phổ biến như dự đoán. Các video giả mạo kém chất lượng vẫn lan truyền rộng rãi. Hệ sinh thái thông tin sai lệch vẫn phát triển mạnh mà không cần AI, chủ yếu dựa vào việc chia sẻ nội dung thật nhưng sai ngữ cảnh và bịa đặt sự kiện.
https://africacheck.org/fact-checks/blog/expectations-versus-reality-use-generative-ai-south-africas-2024-election