AI tạo ra những hình ảnh giả mạo đầy khiêu dâm của Taylor Swift gây bão trên mạng xã hội khiến người hâm mộ sôi sục

• Hình ảnh giả mạo, khiêu dâm của Taylor Swift được tạo ra bằng AI lan truyền nhanh chóng trên các nền tảng mạng xã hội, khiến người hâm mộ bức xúc và kích động yêu cầu pháp luật bảo vệ phụ nữ và kiểm soát công nghệ và các nền tảng lan truyền hình ảnh này.
• Một hình ảnh được chia sẻ bởi người dùng trên X, trước đây là Twitter, đã được xem 47 triệu lần trước khi tài khoản bị đình chỉ vào thứ Năm.
• Reality Defender, công ty an ninh mạng chuyên phát hiện AI, xác định với độ chính xác 90% rằng hình ảnh được tạo ra bằng mô hình khuếch tán, công nghệ dựa trên AI có thể truy cập qua hơn 100.000 ứng dụng và mô hình có sẵn công khai.
• Deepfake đang trở thành lực lượng phổ biến về thông tin sai lệch, cho phép người dùng internet tạo hình ảnh khỏa thân không đồng thuận hoặc hình ảnh làm xấu hình ảnh các ứng cử viên chính trị.
• X khẳng định họ có chính sách không khoan nhượng với nội dung này, đội ngũ của họ đang tích cực gỡ bỏ hình ảnh được xác định và hành động phù hợp đối với các tài khoản đăng tải.
• Kể từ khi Elon Musk mua lại dịch vụ X vào năm 2022, nền tảng đã chứng kiến sự gia tăng nội dung vấn đề bao gồm quấy rối, thông tin sai lệch và lời nói căm thù. Musk đã nới lỏng quy tắc nội dung và sa thải hoặc chấp nhận từ chức nhân viên loại bỏ nội dung như vậy.
• Mặc dù nhiều công ty sản xuất công cụ AI tạo sinh cấm người dùng tạo hình ảnh khiêu dâm, nhưng người ta vẫn tìm cách vi phạm quy tắc. Hình ảnh xuất phát từ một kênh trên ứng dụng nhắn tin Telegram và sau đó lan truyền mạnh mẽ khi được đăng tải trên X và các dịch vụ mạng xã hội khác.
• Một số tiểu bang đã hạn chế deepfake khiêu dâm và chính trị, nhưng những hạn chế này không có ảnh hưởng mạnh mẽ, và hiện không có quy định liên bang về deepfake.

📌 Hình ảnh giả mạo khiêu dâm của Taylor Swift được tạo bởi AI đã gây ra cơn bão trên mạng xã hội, với một hình ảnh cụ thể được xem tới 47 triệu lần trước khi tài khoản đăng tải bị đình chỉ, đồng thời khơi dậy mối quan ngại về sự lạm dụng công nghệ AI và cần thiết phải có các biện pháp bảo vệ nghiêm ngặt hơn.