Khi các cuộc bầu cử sắp diễn ra trên toàn thế giới, đây là cách xác định và điều tra các bản deepfake âm thanh AI

- Vào tháng 10/2023, một giả mạo âm thanh AI đã giúp một ứng cử viên thân Nga chiến thắng trong cuộc bầu cử ở Slovakia.
- Một deepfake âm thanh khác được ghép vào video thực của một ứng cử viên ở Pakistan, kêu gọi cử tri tẩy chay cuộc bầu cử chung vào tháng 2/2024.
- Trước cuộc bầu cử ở Bangladesh vào tháng 1, nhiều deepfake được tạo ra bằng công cụ AI thương mại giá rẻ đã lan truyền, bôi nhọ các ứng cử viên đối thủ của Thủ tướng đương nhiệm.
- Tại Mỹ, một đoạn âm thanh giả mạo giọng của Tổng thống Joe Biden đã kêu gọi cử tri không tham gia bầu cử sơ bộ ở một bang quan trọng.
- Các chuyên gia đồng ý rằng năm bầu cử lịch sử 2024 sẽ là năm của các deepfake do AI tạo ra, với nguy cơ hậu quả tiềm ẩn thảm khốc cho các nền dân chủ.
- Nghiên cứu gần đây cho thấy, khoảng một nửa công chúng không thể phân biệt được giữa hình ảnh thực và hình ảnh do AI tạo ra, và cử tri không thể đáng tin cậy phát hiện deepfake.
- Các nhà điều tra về việc thao túng truyền thông cho biết, các mô phỏng âm thanh AI giả mạo - trong đó giọng nói thực được một công cụ học máy sao chép để tuyên bố một thông điệp giả - có thể trở thành mối đe dọa lớn hơn đối với các cuộc bầu cử vào năm 2024 và 2025 so với video giả mạo.

📌 Trong bối cảnh các cuộc bầu cử trên toàn thế giới đang đến gần, việc nhận diện và điều tra deepfake âm thanh AI trở nên cực kỳ quan trọng. Các sự kiện gần đây ở Slovakia, Pakistan, Bangladesh và Mỹ đã chứng minh rằng công nghệ deepfake âm thanh AI có thể có ảnh hưởng lớn đến kết quả bầu cử, với việc sử dụng giọng nói giả mạo của các nhà lãnh đạo và ứng cử viên để lan truyền thông điệp sai lệch. Các nghiên cứu chỉ ra rằng khoảng một nửa công chúng không thể phân biệt được giữa nội dung thực và giả mạo, làm tăng nguy cơ thao túng thông tin và ảnh hưởng đến quyền lựa chọn tự do của cử tri. Các mô phỏng âm thanh AI giả mạo - trong đó giọng nói thực được một công cụ học máy sao chép để tuyên bố một thông điệp giả - có thể trở thành mối đe dọa lớn hơn đối với các cuộc bầu cử vào năm 2024 và 2025 so với video giả mạo.

Citations:
[1] https://www.niemanlab.org/2024/02/with-elections-looming-worldwide-heres-how-to-identify-and-investigate-ai-audio-deepfakes/