- Theo nghiên cứu mới từ Hiệp hội Thiên văn Hoàng gia, ảnh và video giả mạo do AI tạo ra có thể được phân tích tương tự như cách các nhà thiên văn nghiên cứu thiên hà.
- Adejumoke Owolabi, sinh viên Thạc sĩ tại Đại học Hull, kết luận rằng điều quan trọng là sự phản chiếu trong mắt người. Nếu phản chiếu khớp nhau, ảnh có khả năng là của người thật. Nếu không, chúng có thể là ảnh giả mạo.
- Các nhà nghiên cứu phân tích sự phản chiếu ánh sáng trên nhãn cầu của người trong ảnh thật và ảnh do AI tạo ra. Sau đó họ sử dụng phương pháp thường dùng trong thiên văn để định lượng sự phản chiếu và kiểm tra tính nhất quán giữa phản chiếu ở mắt trái và mắt phải.
- Để đo hình dạng thiên hà, các nhà thiên văn phân tích xem chúng có dạng compact ở trung tâm không, có đối xứng không và mức độ mượt mà ra sao. Họ phân tích phân bố ánh sáng.
- Các phản chiếu được phát hiện tự động và đặc điểm hình thái của chúng được chạy qua chỉ số CAS (concentration, asymmetry, smoothness) và Gini để so sánh sự tương đồng giữa mắt trái và mắt phải.
- Chỉ số Gini thường được sử dụng để đo lường cách ánh sáng trong ảnh thiên hà được phân bố giữa các pixel. Giá trị Gini bằng 0 là thiên hà có ánh sáng phân bố đều trên tất cả các pixel, trong khi giá trị Gini bằng 1 là thiên hà tập trung tất cả ánh sáng vào một pixel duy nhất.
- Phương pháp này không phải là "viên đạn bạc" để phát hiện ảnh giả. Sẽ có các kết quả dương tính giả và âm tính giả. Nhưng nó cung cấp một cơ sở, một kế hoạch tấn công trong cuộc chạy đua phát hiện deepfake.
📌 Các nhà nghiên cứu đã tìm ra cách phát hiện ảnh và video giả mạo do AI tạo ra bằng cách phân tích sự phản chiếu trong mắt, vay mượn phương pháp từ ngành thiên văn học. Họ sử dụng chỉ số CAS và Gini, vốn dùng để nghiên cứu thiên hà, nhằm so sánh sự tương đồng của phản chiếu giữa mắt trái và phải. Mặc dù không phải là giải pháp hoàn hảo, phương pháp này đặt nền móng cho cuộc chiến chống lại deepfake.
https://petapixel.com/2024/07/19/deepfakes-can-be-detected-by-borrowing-a-method-from-astronomy/