Grok2AI của X làm trầm trọng thêm vấn đề deepfake trước thềm bầu cử Mỹ

• X (trước đây là Twitter) đã phát hành công khai chatbot AI Grok 2 vào tháng 8/2024, với rất ít biện pháp bảo vệ. Grok đã lan truyền thông tin sai lệch về bầu cử và cho phép người dùng tạo ra hình ảnh deepfake chân thực của các quan chức.

• Sau khi các quan chức bầu cử ở 5 bang phàn nàn về thông tin sai lệch, X đã bắt đầu chuyển hướng người dùng đến Vote.gov cho các câu hỏi liên quan đến bầu cử.

• Tuy nhiên, người dùng vẫn có thể tạo ra hình ảnh deepfake của các chính trị gia trong các tình huống đáng ngờ hoặc bất hợp pháp. Al Jazeera đã tạo được hình ảnh chân thực của Ted Cruz hít cocaine, Kamala Harris cầm dao ở cửa hàng tạp hóa và Trump bắt tay với những người theo chủ nghĩa dân tộc da trắng.

• Các nhà làm phim The Dor Brothers đã tạo ra các đoạn video ngắn sử dụng hình ảnh deepfake từ Grok, cho thấy các quan chức như Harris, Trump và Obama đang cướp một cửa hàng tạp hóa.

• Trong khi đó, các công ty khác như OpenAI đang đặt ra các biện pháp bảo vệ để chặn việc tạo ra một số loại nội dung nhất định. Dall-E 3 của OpenAI sẽ từ chối tạo hình ảnh sử dụng tên của một nhân vật công cộng cụ thể.

• Trong chu kỳ bầu cử này, chiến dịch của Ron DeSantis đã sử dụng một loạt hình ảnh giả mạo cho thấy Anthony Fauci và Trump ôm nhau. Ủy ban Quốc gia Đảng Cộng hòa cũng đã sử dụng hình ảnh do AI tạo ra trong một quảng cáo.

• Trump đã đăng các hình ảnh giả mạo, bao gồm một hình ảnh cho thấy Harris nói chuyện với một nhóm người cộng sản tại Đại hội Đảng Dân chủ. Musk cũng đã đăng một hình ảnh do AI tạo ra về Harris đội mũ có biểu tượng cộng sản.

• Hiện không có luật liên bang cấm hoặc yêu cầu tiết lộ việc sử dụng AI trong quảng cáo chính trị. Trách nhiệm thuộc về các công ty mạng xã hội trong việc giám sát và gỡ bỏ deepfake trên nền tảng của họ.

• Các dự luật như Đạo luật Bảo vệ Bầu cử khỏi AI Lừa đảo và Đạo luật NO FAKES đang được đề xuất nhưng chưa rõ liệu chúng có được thông qua và trở thành luật kịp thời cho cuộc bầu cử 2024 hay không.

• Một số bang như Texas và Minnesota đã ban hành luật cấm sử dụng deepfake trong quảng cáo tranh cử, nhưng đây chỉ là một bức tranh manh mún với các quy định khác nhau giữa các bang.

📌 Công nghệ AI tạo sinh như Grok2AI đang làm trầm trọng thêm vấn nạn deepfake chính trị trước thềm bầu cử Mỹ 2024. Thiếu vắng luật liên bang, trách nhiệm chủ yếu thuộc về các nền tảng mạng xã hội trong việc kiểm soát nội dung. Tuy nhiên, việc phân biệt thật-giả ngày càng khó khăn, đe dọa đến sự thật và tiến trình dân chủ.

https://www.aljazeera.com/economy/2024/9/6/xs-grok2ai-chatbot-escalates-problem-of-deepfakes-ahead-of-us-elections