Đột phá: Phương pháp mới phát hiện deepfake thời gian thực với độ chính xác cao
• Các nhà nghiên cứu tại Trường Kỹ thuật NYU Tandon đã phát triển phương pháp mới chống lại mối đe dọa từ deepfake thời gian thực (RTDF) trong các cuộc gọi video và âm thanh
• Giáo sư Chinmay Hegde dẫn đầu nghiên cứu về hệ thống thách thức-phản hồi, tương tự như CAPTCHA, để phát hiện deepfake
• Nghiên cứu video bao gồm:
- Tập dữ liệu 56.247 video từ 47 người tham gia
- 8 thử thách trực quan như di chuyển đầu, che một phần khuôn mặt
- Đánh giá viên đạt điểm AUC 89% trong việc phát hiện deepfake
- Mô hình machine learning đạt 73% độ chính xác
• Nghiên cứu âm thanh bao gồm:
- 22 thử thách âm thanh khác nhau
- 100 người tham gia và hơn 1,6 triệu mẫu âm thanh deepfake
- Các thử thách hiệu quả: thì thầm, nói với tay che miệng, nói giọng cao
- Con người đạt 72% độ chính xác trong phát hiện
- AI đơn lẻ đạt 85% độ chính xác
- Kết hợp người-máy đạt 83% độ chính xác
• Các thử thách được thiết kế thực tế:
- Chỉ mất vài giây để hoàn thành
- Dễ dàng với người thật nhưng khó với AI giả mạo thời gian thực
- Có thể kết hợp nhiều thử thách ngẫu nhiên để tăng độ bảo mật
• Deepfake đang là mối đe dọa ngày càng tăng:
- Được sử dụng trong tuyên truyền chính trị
- Thao túng xã hội và trộm cắp danh tính
- Gần đây có vụ lừa đảo 25 triệu USD bằng video giả mạo
📌 Phương pháp mới từ NYU Tandon sử dụng hệ thống thách thức-phản hồi đạt hiệu quả cao trong phát hiện deepfake: 89% cho video và 85% cho âm thanh. Nghiên cứu dựa trên dữ liệu lớn với 56.247 video và 1,6 triệu mẫu âm thanh, mở ra hướng đi mới trong việc bảo vệ người dùng khỏi nội dung giả mạo.
https://spectrum.ieee.org/real-time-deepfakes
Thảo luận
Follow Us
Tin phổ biến
