- Các chuyên gia, quan chức và nhà quan sát đang cảnh báo về nguy cơ deepfake gây ra cho cuộc bầu cử 2024 khi AI ngày càng dễ sử dụng và lan truyền nội dung tổng hợp.
- Một bản tin địa phương ở Arizona đã phát hành một video deepfake được tạo ra bởi AI về ứng cử viên Thượng viện Kari Lake để cảnh báo độc giả về sự phát triển của công nghệ này. Ở Georgia, các nhà lập pháp ủng hộ dự luật cấm deepfake trong truyền thông chính trị.
- AI đang "siêu tăng cường" các mối đe dọa đối với hệ thống bầu cử. Công nghệ tiên tiến này có thể tạo ra hình ảnh, âm thanh, video và thay đổi kỹ thuật số khuôn mặt và giọng nói.
- Cử tri gặp khó khăn trong việc đánh giá tính xác thực của hình ảnh, bài đăng và video trong bối cảnh bầu cử. Họ không thể dựa vào giác quan để phân biệt giữa nội dung tổng hợp và thật.
- Việc tạo ra nội dung giả mạo giờ đây có thể được thực hiện bởi người dùng thông thường với chỉ vài cú nhấp chuột và lan truyền rộng rãi trên các nền tảng truyền thông xã hội mà không có nhiều kiểm soát chính thức.
- Thời gian hẹp trước tháng 11 cũng là một khung thời gian chặt chẽ để thông qua các biện pháp kiểm soát lập pháp mới. Ở Georgia, Hạ viện đã thông qua dự luật nhằm trấn áp "phương tiện truyền thông lừa đảo" trong truyền thông chính trị.
- Một cuộc gọi tự động mô phỏng giọng nói của Tổng thống Biden kêu gọi hàng nghìn cử tri New Hampshire không bỏ phiếu trong cuộc bầu cử sơ bộ của bang. Các hình ảnh AI giả mạo về cử tri da đen ủng hộ cựu Tổng thống Trump cũng đã lan truyền trực tuyến.
- Mối đe dọa của AI đối với chính quyền và cuộc bầu cử cấp địa phương có thể còn nghiêm trọng hơn do sự suy giảm của báo chí địa phương.
- Một mối quan tâm khác là liệu AI có thể được sử dụng làm lý do biện minh khi các ứng cử viên thực sự bị bắt gặp trong những điều ngu ngốc, bất hợp pháp hay đáng xấu hổ hay không.
- Các nhà hoạt động và nhà hoạch định chính sách đang vận động cho việc nâng cao hiểu biết về kỹ thuật số và thúc đẩy luật pháp, hướng dẫn. Tổng thống Biden đã ban hành sắc lệnh về AI năm ngoái, FCC đã hành động chống lại cuộc gọi tự động do AI tạo ra.
- Mặc dù AI có thể được sử dụng cho các mục đích xấu, bản thân công cụ này không nhất thiết là có hại và thậm chí có thể mang lại lợi ích cho các chiến dịch tranh cử trong việc tạo ra thông điệp hoặc phát triển nội dung.
📌 Deepfake đang trở thành mối đe dọa lớn cho cuộc bầu cử 2024 ở Mỹ khi công nghệ phát triển nhanh chóng, cho phép tạo và lan truyền nội dung giả mạo dễ dàng hơn. Mối đe dọa của AI đối với chính quyền và cuộc bầu cử cấp địa phương có thể còn nghiêm trọng hơn do sự suy giảm của báo chí địa phương. Một mối quan tâm khác là liệu AI có thể được sử dụng làm lý do biện minh khi các ứng cử viên thực sự bị bắt gặp trong những điều ngu ngốc, bất hợp pháp hay đáng xấu hổ hay không. Tổng thống Biden đã ban hành sắc lệnh về AI năm ngoái, FCC đã hành động chống lại cuộc gọi tự động do AI tạo ra. Các chuyên gia kêu gọi nâng cao nhận thức, đưa ra luật pháp và hướng dẫn để đối phó.
Citations:
[1]https://thehill.com/homenews/campaign/4557961-deepfakes-raise-alarm-about-ai-in-elections/