Microsoft bổ sung các hạn chế mới đối với Designer AI được sử dụng để tạo ra các bản deepfake của Taylor Swift

• Microsoft cập nhật hệ thống Designer AI để ngăn chặn việc tạo hình ảnh giả mạo người nổi tiếng, sau khi loạt deepfake của ca sĩ Taylor Swift lan truyền trên mạng.
• Người dùng đã vượt qua các rào cản kỹ thuật của DALL-E 3, công cụ hỗ trợ Designer AI, bằng cách sử dụng kỹ thuật prompt engineering.
• Microsoft cam kết cung cấp trải nghiệm an toàn và tôn trọng cho mọi người, đồng thời tăng cường các hệ thống an toàn hiện có.
• Sự lan truyền của hình ảnh deepfake đã dẫn đến sự phản đối từ cộng đồng người hâm mộ và làm dấy lên yêu cầu về luật lệ mới từ các nhà lập pháp Mỹ, Nhà Trắng và SAG-AFTRA.
• SAG-AFTRA ủng hộ dự luật mới, Preventing Deepfakes of Intimate Images Act, đề xuất hóa thành tội phạm liên bang việc phát tán deepfake mà không có sự đồng ý của người trong ảnh.
• Cập nhật cụ thể trên dịch vụ Designer AI bao gồm việc ngăn chặn các kỹ thuật prompt như đánh vần sai tên người nổi tiếng hoặc mô tả không sử dụng thuật ngữ tình dục nhưng tạo ra hình ảnh có tính khiêu dâm.
• Microsoft đang phải đối mặt với điều tra từ FTC về việc đầu tư vào OpenAI, trong bối cảnh bê bối deepfake diễn ra.

📌 Microsoft đã cập nhật công cụ tạo hình ảnh trực tuyến miễn phí Designer AI để ngăn chặn người dùng tạo thêm hình ảnh giống người nổi tiếng trong các tình huống khiêu dâm. Bản cập nhật được thực hiện sau khi một loạt ảnh khiêu dâm giả mạo của ca sĩ Taylor Swift được tạo ra bằng Designer AI và lan truyền trên các nền tảng truyền thông xã hội. Các nhà lập pháp Hoa Kỳ, Nhà Trắng và SAG-AFTRA kêu gọi ban hành các quy định mới về AI. Dự luật mới, Đạo luật ngăn chặn ảnh khiêu dâm giả mạo, sẽ khiến việc phát tán ảnh khiêu dâm giả mạo mà không có sự đồng ý của người trong cuộc trở thành tội liên bang.