Hội đồng Giám sát của Meta chỉ trích cách xử lý hình ảnh deepfake khiêu dâm trên mạng xã hội

• Hội đồng Giám sát của Meta cho rằng công ty đã phản ứng không đủ mạnh với các hình ảnh deepfake khiêu dâm của phụ nữ nổi tiếng trên nền tảng của họ.

• Quyết định này được đưa ra sau 3 tháng điều tra về các bài đăng hình ảnh khỏa thân giả mạo của một nhân vật công chúng từ Ấn Độ và một hình ảnh khiêu dâm hơn của một nhân vật công chúng từ Mỹ.

• Hội đồng kết luận cả hai hình ảnh đều vi phạm quy tắc cấm "hình ảnh Photoshop khiêu dâm mang tính xúc phạm" của Meta, mặc dù chúng không được tạo ra bằng Photoshop.

• Trong trường hợp người phụ nữ Ấn Độ, báo cáo của người dùng bị đóng lại do không được xem xét trong vòng 48 giờ. Kháng cáo cũng bị đóng tự động, khiến hình ảnh vẫn có thể xem được.

• Hình ảnh của người nổi tiếng Mỹ được gỡ bỏ nhanh chóng và thêm vào hệ thống thực thi tự động của công ty.

• Meta giải thích sự khác biệt này là do họ dựa vào báo cáo truyền thông để thêm hình ảnh giống người nổi tiếng Mỹ vào cơ sở dữ liệu, nhưng không có tin tức tương tự trong trường hợp Ấn Độ.

• Hội đồng đề xuất cập nhật ngôn ngữ trong chính sách của Meta, bao gồm thay đổi "mang tính xúc phạm" thành "không có sự đồng ý" và thay thế "Photoshop" bằng thuật ngữ chung hơn cho phương tiện bị thao túng.

• Họ cũng đề nghị chính sách về nội dung không có sự đồng ý bao gồm cả hình ảnh được tạo hoặc thao túng bởi AI.

• Hội đồng bày tỏ lo ngại về việc tự động đóng kháng cáo đối với lạm dụng tình dục dựa trên hình ảnh, cho rằng ngay cả việc chờ đợi 48 giờ để xem xét cũng có thể gây hại.

• Theo báo cáo năm 2023 của Home Security Heroes, 99% các cá nhân bị nhắm mục tiêu bởi hình ảnh và video khiêu dâm hoặc khỏa thân deepfake là phụ nữ.

• Nghiên cứu bên ngoài cho thấy người dùng đăng nội dung như vậy vì nhiều lý do khác ngoài quấy rối và troll, bao gồm mong muốn xây dựng khán giả, kiếm tiền từ trang hoặc hướng người dùng đến các trang khác.

📌 Hội đồng Giám sát Meta chỉ trích cách xử lý deepfake khiêu dâm, đề xuất cập nhật chính sách để bảo vệ người dùng tốt hơn. 99% nạn nhân là phụ nữ. Cần làm rõ quy định, nhấn mạnh vào sự thiếu đồng thuận để giảm thiểu vấn nạn này trên mạng xã hội.

https://www.fastcompany.com/91162426/meta-oversight-board-ai-created-deepfakes