Các YouTuber và TikToker đang bị biến thành các bản sao deepfake để quảng cáo sản phẩm và lan truyền thông tin sai lệch

- Olga Loiek, một influencer 20 tuổi người Ukraine, phát hiện ra các video deepfake của cô nói tiếng Trung Quốc trên các trang mạng xã hội Xiaohongshu và Bilibili. Cô nghi ngờ hình ảnh của mình bị sử dụng cho chiến dịch tuyên truyền.
- Công nghệ AI tạo sinh đang bị lạm dụng bởi các tác nhân xấu để tạo ra các video giả mạo nhằm mục đích tuyên truyền, quảng cáo sản phẩm hoặc tạo nội dung khiêu dâm deepfake không đồng thuận.
- Các influencer thường xuyên đăng video và hình ảnh khuôn mặt trên mạng dễ trở thành mục tiêu của hình thức lạm dụng trực tuyến mới này.
- Các công ty khởi nghiệp như Ceartas và Alecto đang phát triển công cụ AI để xác định và gỡ bỏ các video deepfake.
- Các nền tảng như YouTube, TikTok, Instagram, X cho phép nội dung do AI tạo ra nhưng cấm các nội dung giả mạo gây hiểu lầm, vi phạm bản quyền, lừa đảo và khỏa thân không đồng thuận.
- Các công ty tạo avatar AI như HeyGen, Synthesia, Soul Machines nhằm tạo ra công cụ AI hiệu quả về chi phí để sử dụng hợp pháp trong quảng cáo trên mạng xã hội.
- Becky Litvin, một doanh nhân, đã thử nghiệm tạo một video quảng cáo giả mạo bằng AI cho thương hiệu khăn ướt của cô và đăng trên X để đo lường phản ứng.
- Ariel Marie, người phụ nữ thật xuất hiện trong video deepfake, đã đồng ý cho Arcads sử dụng nội dung của cô để huấn luyện AI thông qua trang web Fiverr.

📌 Công nghệ AI tạo sinh đang bị lạm dụng để tạo ra các video giả mạo nhằm mục đích tuyên truyền, quảng cáo sản phẩm. Các influencer dễ trở thành nạn nhân của deepfake. Một số công ty đang phát triển công cụ AI để xác định và gỡ bỏ video giả mạo. Tuy nhiên, việc sử dụng AI trong quảng cáo cũng đang gia tăng với chi phí thấp.

https://www.ft.com/content/04dcc944-49a4-4a2d-808c-26551681a222