Tổng hợp tình hình sử dụng deepfake AI trong các cuộc bầu cử 2024 tại Mỹ, Indonesia và Ấn Độ

- Tháng 1/2024, hàng nghìn cử tri New Hampshire nhận cuộc gọi với giọng deepfake của tổng thống Biden, khuyên không nên đi bầu cử sơ bộ. Kẻ chủ mưu là một cố vấn chính trị đảng Dân chủ, bị phạt 6 triệu USD và truy tố hình sự.

- Tại Indonesia, đảng Golkar sử dụng AI để "hồi sinh" cựu tổng thống độc tài Suharto (đã mất năm 2008) trong video ủng hộ ứng viên đảng. Con rể của Suharto sau đó đã đắc cử tổng thống.

- Tại Ấn Độ, meme AI phổ biến trên WhatsApp, chủ yếu nhắm vào chế giễu lãnh đạo đối lập Rahul Gandhi. Các nghệ sĩ AI tránh làm deepfake vì sợ bị kiện phỉ báng.

- Tại Mỹ, Elon Musk chia sẻ video AI giả mạo phó tổng thống Harris mà không tiết lộ đây là nội dung châm biếm. Donald Trump đăng ảnh AI giả mạo Taylor Swift ủng hộ ông.

- Giáo sư Hany Farid từ đại học California Berkeley nhận định: Deepfake AI không thay đổi kết quả bầu cử nhưng đã tác động đến tư duy người dân.

- Các chuyên gia cho rằng AI được sử dụng chủ yếu để tạo meme và nội dung không che giấu nguồn gốc nhân tạo, thay vì tạo deepfake có chủ đích lừa đảo.

📌 Năm 2024 chứng kiến làn sóng sử dụng AI tạo sinh trong chiến dịch tranh cử toàn cầu, với 3 hình thức chính: cuộc gọi deepfake (Mỹ), video "hồi sinh" chính trị gia đã mất (Indonesia) và meme AI viral (Ấn Độ). Tuy không thay đổi kết quả bầu cử nhưng đã gây ô nhiễm không gian thông tin chính trị.

https://www.kpbs.org/news/science-technology/2024/12/21/how-ai-deepfakes-polluted-elections-in-2024

Làm thế nào deepfake AI làm ô nhiễm các cuộc bầu cử năm 2024
NPR
Tác giả Shannon Bond
Xuất bản ngày 21 tháng 12 năm 2024 lúc 2:00 sáng theo giờ PST

Cử tri rời khỏi điểm bỏ phiếu sau khi bỏ phiếu trong giai đoạn cuối cùng của cuộc tổng tuyển cử ở Ấn Độ, tại Kolkata vào ngày 1 tháng 6 năm 2024. Các công cụ trí tuệ nhân tạo đã được sử dụng để tạo meme và hình ảnh về các đối thủ chính trị ở Ấn Độ và các nơi khác trên thế giới.

Vào tháng 1, hàng nghìn cử tri ở New Hampshire nhận được cuộc gọi với nội dung dường như là Tổng thống Biden khuyên các đảng viên Dân chủ không nên bỏ phiếu trong cuộc bầu cử sơ bộ của bang, chỉ cách vài ngày.

“Chúng ta đều hiểu giá trị của việc bỏ phiếu cho Đảng Dân chủ khi lá phiếu của chúng ta có ý nghĩa. Hãy giữ phiếu bầu của bạn cho cuộc bầu cử vào tháng 11,” giọng nói trong cuộc gọi nói.

Nhưng đó không phải Biden. Đó là một deepfake được tạo ra bởi trí tuệ nhân tạo — và là hiện thân của nỗi sợ rằng làn sóng bầu cử toàn cầu năm 2024 sẽ bị thao túng bởi các hình ảnh, âm thanh và video giả do sự tiến bộ nhanh chóng của công nghệ AI tạo sinh.

Tình huống đáng lo ngại

“Cơn ác mộng là vào ngày trước, ngày bầu cử hoặc ngay sau đó, một hình ảnh, video hoặc âm thanh gây chấn động sẽ làm cả thế giới bùng cháy,” Hany Farid, giáo sư tại Đại học California, Berkeley, nghiên cứu về truyền thông bị thao túng, nói.

Deepfake về Biden hóa ra được thực hiện bởi một nhà tư vấn chính trị của Đảng Dân chủ, người nói rằng mục đích là để cảnh báo về AI. Người này bị FCC phạt 6 triệu USD và bị truy tố hình sự ở New Hampshire.

Tuy nhiên, khi năm 2024 trôi qua, làn sóng deepfake lừa đảo và nhắm mục tiêu như lo sợ đã không thực sự xảy ra.

“Nó không phải là năm của bầu cử AI như nhiều người dự đoán,” Zeve Sanderson, nhà nghiên cứu tại Trung tâm Truyền thông Xã hội và Chính trị NYU, nhận xét.

Thay vào đó, AI được sử dụng rõ ràng hơn để tạo meme và nội dung không giấu nguồn gốc trí tuệ nhân tạo. Nhiều lần, các chính trị gia và người ủng hộ công khai chia sẻ những nội dung này.

"Cái chết bởi hàng nghìn vết cắt nhỏ"

Farid cho rằng kiểu “cái chết bởi hàng nghìn vết cắt nhỏ” như vậy đáng lo hơn là một kịch bản bom tấn AI.

“Tôi không nghĩ những hình ảnh này được tạo ra để rõ ràng là lừa đảo, mà là để thúc đẩy một câu chuyện. Và tuyên truyền có hiệu quả,” ông nói. “Tôi nghĩ hệ sinh thái thông tin bị ô nhiễm đến mức nhiều người bắt đầu buông xuôi.”

Hồi sinh một nhà độc tài đã chết

Tại Indonesia, đảng Golkar sử dụng AI để tái tạo hình ảnh Suharto, nhà độc tài lâu năm đã qua đời năm 2008.

“Tôi là Suharto, tổng thống thứ hai của Indonesia,” phiên bản AI của Suharto tuyên bố trước khi ủng hộ các ứng cử viên của đảng trong một video đăng trên mạng xã hội X bởi phó chủ tịch đảng Golkar. Suharto giả nói rằng các ứng cử viên của Golkar sẽ “tiếp tục giấc mơ phát triển Indonesia của tôi.”

Ngay sau đó, con rể của Suharto — cũng được Golkar ủng hộ — đã được bầu làm tổng thống.

Meme AI lan tràn ở Ấn Độ

Tại Ấn Độ, nơi diễn ra cuộc bầu cử dân chủ lớn nhất thế giới vào mùa xuân vừa qua, các meme AI rất phổ biến.

Vào tháng 5, tại một khu chợ ở Jaipur, một thương gia tên Dilip cho biết bạn bè gửi cho anh những meme AI qua WhatsApp, ứng dụng nhắn tin phổ biến thuộc sở hữu của Meta.

Anh cho biết thích những meme chế nhạo lãnh đạo đối lập Rahul Gandhi, như một meme cho thấy Gandhi như một tên trộm ngu ngốc, tưởng tượng về số tiền ông sẽ lấy cắp nếu thắng cử.

Tuy nhiên, Dilip nói dù meme có thế nào, anh đã quyết định từ trước sẽ bầu cho ai.

Một nghệ sĩ AI tạo sinh ở Ấn Độ, sử dụng nghệ danh Sahid SK, cho biết anh chọn làm meme vì ít nguy cơ bị kiện vì tội phỉ báng. Anh nói meme là sự ám chỉ, không phải sự bóp méo hoàn toàn.

“Tôi nghĩ đó là lý do chúng ta chưa thấy nhiều deepfake trong cuộc bầu cử này. Vì mọi người sợ các thông báo pháp lý,” Sahid SK nói.

Những câu chuyện sai lệch không cần AI

Ở Mỹ, meme chính trị và video lan truyền sử dụng từ hình ảnh Photoshop, video ngoài ngữ cảnh, đến các bức chân dung AI của Phó Tổng thống Kamala Harris trong trang phục Liên Xô và hình ảnh người Mỹ gốc Phi ủng hộ cựu Tổng thống Donald Trump.

Vào tháng 7, Elon Musk, chủ sở hữu của X, đã chia sẻ một quảng cáo giả trong đó một bản sao giọng nói AI của Harris tự mô tả mình là “người đa dạng hoàn hảo nhất,” mà không tiết lộ video gốc được đăng như một trò chế nhạo.

Trump cũng đăng một hình ảnh AI giả cho thấy Taylor Swift ủng hộ ông — điều hoàn toàn không xảy ra.

Sanderson nói việc sử dụng AI này không nhằm thay đổi ý kiến của mọi người, mà để “làm ứng viên ưa thích của họ trông yêu nước hoặc cao quý, hoặc làm ứng viên đối thủ trông xấu xa.”

“Generative AI chỉ làm điều này dễ hơn nhiều,” ông nhận xét.

Khó đo lường tác động của AI

Sanderson cảnh báo AI có thể đã được sử dụng theo những cách khó phát hiện. “Chúng ta vẫn chưa có ý thức nghiêm ngặt và rõ ràng về việc AI tạo sinh được sử dụng như thế nào, bởi ai, và nhằm mục đích gì,” ông nói.

Farid nhấn mạnh khó vạch ra mối liên hệ trực tiếp giữa các sản phẩm AI giả và cách mọi người bỏ phiếu.

“Tôi có nghĩ rằng nó thay đổi kết quả bầu cử không? Không,” ông nói. “Nhưng tôi nghĩ nó tác động đến suy nghĩ của mọi người. Và tôi nghĩ điều đó sẽ tiếp tục xảy ra.”