- Các phương pháp phát hiện phương tiện kỹ thuật số truyền thống gặp khó khăn với các video do AI tạo ra, hiệu quả giảm đáng kể so với hình ảnh bị thao túng.
- Nhóm nghiên cứu của Đại học Drexel đã phát triển một phương pháp học máy có thể thích nghi để nhận ra dấu vết kỹ thuật số của các bộ tạo video AI khác nhau, ngay cả những bộ chưa được công khai.
- Mô hình học máy, sau khi tiếp xúc tối thiểu với một bộ tạo AI mới, có thể đạt được độ chính xác 97% trong việc xác định video do bộ tạo đó tạo ra.
- Các công ty có trách nhiệm sẽ cố gắng hết sức để nhúng các yếu tố nhận dạng và thủy vân, nhưng một khi công nghệ được công khai, những người muốn sử dụng nó để lừa dối sẽ tìm ra cách.
- Công cụ của phòng thí nghiệm sử dụng một chương trình học máy tinh vi gọi là mạng nơ-ron bị ràng buộc, có thể học theo cách tương tự như não người, cái gì là "bình thường" và cái gì là "bất thường" ở cấp độ dưới pixel của hình ảnh và video.
- Điều này giúp chương trình có khả năng xác định cả deepfake từ các nguồn đã biết và phát hiện ra những deepfake được tạo bởi một chương trình chưa biết trước đó.
📌 Nghiên cứu cho thấy các công cụ phát hiện truyền thống đang gặp khó khăn trước video do AI tạo ra. Tuy nhiên, nhóm nghiên cứu đã phát triển thuật toán học máy có thể nhận ra "dấu vân tay" kỹ thuật số độc đáo của từng bộ tạo video AI với độ chính xác 97%, ngay cả khi chưa từng tiếp xúc trước đó. Đây là bước tiến quan trọng trong bối cảnh nội dung AI có thể bị lạm dụng để lan truyền thông tin sai lệch.
Citations:
[1] https://neurosciencenews.com/ai-deepfake-fingerprints-25980/