Nhà Trắng đạt được cam kết từ các công ty AI hàng đầu nhằm kiểm soát nội dung khiêu dâm deepfake

• Nhà Trắng công bố các cam kết tự nguyện từ nhiều công ty AI hàng đầu nhằm kiểm soát việc tạo ra và phân phối nội dung lạm dụng tình dục dựa trên hình ảnh (IBSA), bao gồm cả nội dung "deepfake" được tạo ra bởi AI.

• Thông báo được đưa ra bởi Tổng thống Biden và Phó Tổng thống Harris nhân dịp kỷ niệm ngày ban hành Đạo luật Chống Bạo lực Đối với Phụ nữ, được ký thành luật liên bang vào ngày 13/9/1994.

• Nhà Trắng cho biết nạn lạm dụng tình dục dựa trên hình ảnh, bao gồm hình ảnh thân mật không được sự đồng ý (NCII) của người lớn và tài liệu lạm dụng tình dục trẻ em (CSAM), kể cả hình ảnh do AI tạo ra, đã tăng vọt.

• Vấn nạn này chủ yếu nhắm vào phụ nữ, trẻ em và cộng đồng LGBTQI+, trở thành một trong những hình thức sử dụng AI gây hại phát triển nhanh nhất hiện nay.

• Các công ty đồng ý cam kết bao gồm Adobe, Anthropic, Cohere, Common Crawl Foundation, Microsoft và OpenAI. 

• Họ cam kết thu thập dữ liệu một cách có trách nhiệm và bảo vệ chúng khỏi nội dung lạm dụng tình dục dựa trên hình ảnh.

• Các công ty (trừ Common Crawl) cũng đồng ý tích hợp các vòng phản hồi và chiến lược kiểm tra áp lực lặp đi lặp lại trong quá trình phát triển, nhằm ngăn chặn các mô hình AI tạo ra nội dung lạm dụng tình dục dựa trên hình ảnh.

• Họ cũng đồng ý loại bỏ hình ảnh khỏa thân khỏi bộ dữ liệu huấn luyện AI của mình.

• Đáng chú ý, Apple, Amazon, Google và Meta không ký thỏa thuận này.

• Tuy nhiên, một số công ty như Meta và TikTok đã tham gia sáng kiến StopNCII để giúp nạn nhân của IBSA dễ dàng báo cáo và xóa hình ảnh/video.

• Các tổ chức phi lợi nhuận như Center for Democracy and Technology, Cyber Civil Rights Initiative và National Network to End Domestic Violence đã đưa ra "Nguyên tắc Chống lạm dụng tình dục dựa trên hình ảnh".

• Các nguyên tắc này nhằm kiềm chế việc tạo ra và phổ biến IBSA.

📌 Nhà Trắng đã đạt được cam kết từ 6 công ty AI lớn để chống lại nạn deepfake khiêu dâm, tập trung vào việc bảo vệ phụ nữ, trẻ em và cộng đồng LGBTQI+. Các biện pháp bao gồm thu thập dữ liệu có trách nhiệm, loại bỏ hình ảnh khỏa thân và tích hợp hệ thống kiểm tra để ngăn chặn nội dung lạm dụng.

https://siliconangle.com/2024/09/12/white-house-secures-commitment-ai-firms-curb-deepfake-porn/