Năm bầu cử 2024: AI tạo sinh thao túng cử tri toàn cầu, ngành công nghiệp deepfake Ấn Độ bùng nổ

- Trong năm bầu cử 2024 với hơn 60 quốc gia tham gia, AI tạo sinh (generative AI) đang được sử dụng để thao túng cử tri trên toàn thế giới. Đây là năm bầu cử lớn nhất từ trước đến nay với số lượng cử tri đông nhất và nhiều người dùng internet nhất trong mùa bầu cử.

- Ở Ấn Độ, một ngành công nghiệp trị giá 60 triệu USD đã hình thành xung quanh việc tạo ra các deepfake và cuộc gọi tự động của chính trị gia để tiếp cận cử tri. Các chính trị gia thuê các công ty để tạo ra avatar kỹ thuật số của họ, gửi tin nhắn video được cá nhân hóa tới cử tri.

- Các công ty này đang tìm cách mở rộng ra thị trường quốc tế, đặc biệt là Canada và Mỹ. Tuy nhiên, việc sử dụng deepfake âm thanh trong các cuộc gọi đã bị cấm ở Mỹ. Họ đang tập trung vào việc tạo ra avatar video của chính trị gia để gửi tin nhắn cá nhân hóa.

- Hiện tượng "liar's dividend" đang gia tăng, khi các chính trị gia có thể phủ nhận bất kỳ đoạn âm thanh hay video nào bằng cách cho rằng chúng là deepfake, dẫn đến sự xói mòn niềm tin vào các tài liệu trực tuyến. Ngay cả khi biết là giả, các nội dung deepfake vẫn có sức ảnh hưởng cảm xúc lớn.

- Các công ty công nghệ lớn như Meta, Google đang tự đưa ra các chính sách để kiểm soát việc sử dụng AI tạo sinh trong chính trị, nhưng việc thực thi còn hạn chế. Nhiều công cụ không yêu cầu đóng dấu thủy vân để xác định nội dung do AI tạo ra.

- Các nhà nghiên cứu và tổ chức kiểm chứng thông tin đang gặp khó khăn trong việc theo kịp tốc độ phát triển của công nghệ AI tạo sinh và xác minh nguồn gốc của các nội dung deepfake. Họ thiếu nguồn lực để kiểm tra hàng loạt video, hình ảnh đáng ngờ.

- Chính phủ Ấn Độ đã đưa ra một số quy định về AI trong thời gian qua, nhưng chưa có hành động cụ thể nào để kiểm soát tình trạng lạm dụng deepfake. Các quy định còn mang tính hình thức và chậm được triển khai.

📌 Năm 2024 chứng kiến sự gia tăng mạnh mẽ của AI tạo sinh trong chính trị, đặc biệt ở các nước đang phát triển như Ấn Độ, Indonesia. Một ngành công nghiệp trị giá 60 triệu USD đã hình thành ở Ấn Độ để tạo ra các deepfake phục vụ vận động tranh cử, với 50-60 triệu cuộc gọi được cá nhân hóa. Các công ty công nghệ lớn đang phải vật lộn để kiểm soát tình trạng này, trong khi các nhà nghiên cứu không đủ nguồn lực để xác minh hàng loạt nội dung deepfake. Chính phủ Ấn Độ cũng chưa có biện pháp cụ thể nào để kiềm chế ngành công nghiệp đang bùng nổ này.

Citations:
https://www.wired.com/story/ai-election-2024/