Các nhà báo Ấn Độ đang đứng ở tuyến đầu trong cuộc chiến chống lại deepfake trong bầu cử

- Các nhà báo Ấn Độ đang phải đối mặt với thách thức chưa từng có trong việc phát hiện và báo cáo về deepfake trong bối cảnh cuộc tổng tuyển cử lớn nhất lịch sử với hơn 1 tỷ cử tri đang diễn ra.

- Các công cụ kiểm tra thông thường không đủ để phát hiện deepfake tinh vi. Cần có phân tích pháp y chuyên sâu, thường bao gồm các mô hình thuật toán để tìm dấu hiệu thao túng âm thanh, hình ảnh, video.

- Các tổ chức kiểm chứng thông tin ở Ấn Độ như Boom Live đã ra mắt đường dây nóng WhatsApp "Deepfake Analysis Unit" để tập trung hóa công việc xác thực phương tiện truyền thông chính trị trên toàn quốc.

- Các nhà nghiên cứu học thuật như Mayank Vatsa (IIT Jodhpur) đã phát triển công cụ Itisaar có thể phát hiện deepfake đa phương tiện, đa ngôn ngữ (15 ngôn ngữ) với độ chính xác cao (80-95%), phù hợp với bối cảnh đa dạng của Ấn Độ.

- Nhiều nhà báo Ấn Độ phải tìm đến chuyên môn nước ngoài như Hany Farid (UC Berkeley) hay tổ chức Witness do các startup trong nước e ngại phản ứng dữ dội về chính trị nếu can thiệp vào các vấn đề gây tranh cãi.

- Thời gian xử lý chậm (vài ngày đến vài tuần) là một nhược điểm lớn khi phải nhờ đến các tổ chức nước ngoài. Trong khi đó, nhiều deepfake nguy hiểm nhất xuất hiện chỉ 48 giờ trước ngày bỏ phiếu quan trọng.

- Một số tòa soạn đã chuyển sang sử dụng các công cụ phát hiện thương mại như Loccus để rút ngắn thời gian. Tuy nhiên chi phí có thể nhanh chóng thành trở ngại lớn

- Liên minh Chống thông tin sai lệch (MCA) cung cấp một mô hình hợp tác liên tòa soạn để giải quyết các rào cản về năng lực và chi phí trong phát hiện deepfake, thông qua đường dây nóng WhatsApp "Deepfake Analysis Unit".

- Thách thức lớn nhất không chỉ là deepfake mà còn là cách các nền tảng xã hội như WhatsApp, YouTube, Facebook cho phép, quảng bá và tăng cường thuật toán các video sai lệch này. Đây là vấn đề dai dẳng từ lâu chứ không chỉ xuất hiện với AI.

📌 Các nhà báo Ấn Độ đang phải vật lộn để đối phó với "cơn lốc" deepfake trong cuộc bầu cử lớn nhất lịch sử với hơn 1 tỷ cử tri. Họ đang hợp tác chặt chẽ với các nhà nghiên cứu, tổ chức phi lợi nhuận trong và ngoài nước, cũng như các đồng nghiệp để triển khai các công cụ phát hiện tiên tiến, đa ngôn ngữ. Tuy nhiên, thách thức lớn nhất vẫn nằm ở cách các nền tảng xã hội đang cho phép và quảng bá các video sai lệch này, một vấn đề dai dẳng từ lâu chứ không chỉ mới xuất hiện với AI.

Citations:
[1] https://www.niemanlab.org/2024/05/indian-journalists-are-the-frontline-against-election-deepfakes/