- Một nghiên cứu gần đây của các nhà nghiên cứu Italy đã phân tích 13 mô hình AI được thiết kế để xác định ảnh giả. Kết quả cho thấy các phương pháp hiện tại khá hiệu quả trong việc phát hiện ảnh giả.
- Tuy nhiên, kết quả cũng chỉ ra cuộc đua vũ trang AI đang diễn ra nhằm bắt kịp sự phát triển của các công cụ AI tạo sinh ngày càng tinh vi.
- Ảnh do AI tạo ra có thể gây hại khi được sử dụng trong các bối cảnh nghiêm túc như chiến dịch tranh cử, khi ảnh bôi nhọ có thể được tạo ra để gây ảnh hưởng tiêu cực đến ứng cử viên.
- Có 2 loại dấu hiệu cho thấy một ảnh có thể do AI tạo ra: các lỗi rõ ràng có thể nhìn thấy bằng mắt thường (như bóng lạ, khuôn mặt bất đối xứng) và các dấu vết ẩn sâu bên trong dữ liệu của ảnh chỉ có thể phát hiện qua phân tích thống kê.
- Mỗi ảnh giả có một mẫu dữ liệu riêng biệt dựa trên bộ tạo sinh AI đã tạo ra nó, tương tự như nguyên lý của pháp y vũ khí lửa, khi đạn được bắn ra sẽ mang các vết xước độc đáo từ nòng súng.
- Các mô hình AI mới có thể được huấn luyện để nhận diện các chữ ký đặc trưng này và liên kết chúng trở lại với một bộ tạo sinh ảnh cụ thể.
- Trong thử nghiệm, các mô hình có thể xác định ảnh được tạo bởi DALL-E với độ chính xác 87% và ảnh từ Midjourney với độ chính xác 91%.
- Thách thức là phát hiện các lỗi chưa từng thấy trước đây từ các bộ tạo sinh AI mới và đang phát triển - những "dấu vân tay" pháp y mới mà chúng ta chưa nắm rõ.
- Cần sử dụng đa dạng các mô hình phát hiện ảnh giả để tăng khả năng phát hiện các lỗi bất thường từ các bộ tạo sinh mới.
- Điều quan trọng nhất là con người cần thận trọng, không nên tin tưởng vào các nội dung đa phương tiện đến từ những nguồn không đáng tin cậy, mà nên tìm kiếm thông tin từ các nguồn uy tín.
📌 Các công cụ phát hiện ảnh giả do AI tạo ra hiện đang hoạt động khá hiệu quả, nhưng cuộc đua vũ trang AI vẫn đang diễn ra gay cấn để bắt kịp sự phát triển ngày càng tinh vi của công nghệ AI tạo sinh. Cộng đồng khoa học sẽ tiếp tục cung cấp các công cụ và phương pháp để cạnh tranh trong cuộc đua này. Tuy nhiên, tuyến phòng thủ quan trọng nhất vẫn là sự thận trọng và khả năng phán đoán của con người trong việc tìm kiếm thông tin từ các nguồn đáng tin cậy.
https://spectrum.ieee.org/deepfake-detection