YouTube phát triển công cụ phát hiện deepfake AI cho giọng nói và khuôn mặt

• YouTube đang phát triển các công cụ phát hiện deepfake AI để giúp người sáng tạo nội dung tìm ra các video sử dụng giọng nói hoặc khuôn mặt được tạo bởi AI mà không có sự đồng ý.

• Hai công cụ riêng biệt đang được phát triển, nhưng chưa có ngày phát hành cụ thể:
  - Công cụ phát hiện giọng hát sẽ được tích hợp vào hệ thống Content ID hiện có của YouTube.
  - Công cụ phát hiện khuôn mặt AI dành cho những người nổi tiếng như influencer, diễn viên, vận động viên để theo dõi và gắn cờ các nội dung AI mạo danh họ trên YouTube.

• Công cụ phát hiện giọng hát chủ yếu dành cho các ca sĩ nổi tiếng bị AI bắt chước giọng để tạo ra các bài hát mới. Tuy nhiên, chưa rõ liệu nó có hiệu quả với các nghệ sĩ ít nổi tiếng hơn hay không.

• YouTube chưa xác nhận liệu họ có chủ động sử dụng các công cụ này để phát hiện hình ảnh AI mạo danh những người không nổi tiếng hay không.

• Chính sách quyền riêng tư mới cập nhật của YouTube cho phép bất kỳ ai yêu cầu gỡ bỏ nội dung deepfake hoặc mạo danh được tạo bởi AI.

• YouTube không trả lời liệu họ có xem xét sử dụng công cụ này để chủ động loại bỏ các video lừa đảo được tạo bởi AI hay không. Những video này thường mạo danh các nhân vật nổi tiếng như Elon Musk.

• Một nghiên cứu cho thấy số lượng video deepfake trực tuyến đã tăng 550% kể từ năm 2021, với hơn 95.000 video được theo dõi. 98% trong số đó là nội dung khiêu dâm và 99% nạn nhân bị mạo danh là phụ nữ.

• Bộ An ninh Nội địa Hoa Kỳ cảnh báo deepfake là "mối đe dọa ngày càng tăng", đặc biệt là việc lạm dụng công nghệ đồng bộ môi "Wav2Lip" được hỗ trợ bởi AI.

• YouTube khẳng định mục tiêu của họ là để AI "nâng cao khả năng sáng tạo của con người, không phải thay thế nó" và đang phát triển các công cụ phát hiện deepfake mới để giúp những người nổi tiếng xóa các nội dung mạo danh khi chúng lan truyền.

📌 YouTube đang phát triển công cụ phát hiện deepfake AI cho giọng nói và khuôn mặt, nhằm bảo vệ người sáng tạo nội dung và người nổi tiếng. Số lượng video deepfake đã tăng 550% kể từ 2021, với 98% là nội dung khiêu dâm. Các công cụ này sẽ giúp phát hiện và gỡ bỏ nội dung mạo danh trái phép trên nền tảng.

https://www.pcmag.com/news/youtube-makes-ai-deepfake-detection-tools-for-voices-faces