Nhiều công ty khởi nghiệp đang quảng cáo dịch vụ phát hiện deepfake với độ chính xác cực cao, nhưng khả năng thực tế của họ vẫn chưa được kiểm chứng.

- Công ty khởi nghiệp Deep Media (Mỹ) tuyên bố có thể phát hiện hình ảnh, âm thanh, video do AI tạo ra với độ chính xác 99%, đã ký nhiều hợp đồng quân sự trị giá gần 2 triệu USD. CEO công ty Rijul Gupta còn điều trần trước tiểu ban Thượng viện về mối đe dọa của deepfake với bầu cử Mỹ.
- Tuy nhiên, đội ngũ nhân sự của Deep Media dường như thiếu chuyên gia về AI, khoa học pháp y. Kỹ sư machine learning duy nhất mới tốt nghiệp cử nhân thiên văn học 2 năm trước. CEO Gupta từng phát hiện sai một đoạn video của Công nương Kate là deepfake.
- Khoảng 40 công ty khởi nghiệp hiện cung cấp dịch vụ phát hiện deepfake, một số quảng cáo độ chính xác đến 99-100%. Nhưng khả năng thực tế của họ chưa được kiểm chứng kỹ.
- Các công cụ phát hiện deepfake thường hoạt động tốt trong phòng thí nghiệm, nhưng không phải lúc nào cũng hiệu quả ngoài thực tế vì kỹ thuật tạo deepfake liên tục tiến hóa. Một thử nghiệm của Viện Reuters cho thấy hầu hết công cụ miễn phí/giá rẻ đều dễ bị đánh lừa.
- Các chuyên gia lo ngại việc gắn mác "giả" hay "thật" một cách thiếu cẩn trọng có thể gây hậu quả an ninh nghiêm trọng, làm xói mòn niềm tin của công chúng vào thông tin đích thực, nhất là trong năm bầu cử.
- Bộ Quốc phòng Mỹ đang đẩy nhanh việc tài trợ cho các công ty khởi nghiệp công nghệ, bao gồm cả lĩnh vực phát hiện deepfake, thông qua chương trình SBIR. Tuy nhiên, tiêu chí lựa chọn và đánh giá năng lực vẫn chưa rõ ràng.
- Deep Media từng kinh doanh dịch vụ tạo nội dung tổng hợp trước khi chuyển sang phát hiện deepfake. Công ty đang bị kiện vì cáo buộc quảng cáo sai sự thật và nợ tiền tư vấn.

📌 Thị trường công cụ phát hiện deepfake đang bùng nổ với nhiều công ty khởi nghiệp quảng cáo độ chính xác cực cao, lên đến 99-100%. Tuy nhiên, khả năng thực tế của các công cụ này vẫn chưa được kiểm chứng kỹ lưỡng. Việc vội vàng gắn mác "giả/thật" có thể gây hậu quả nghiêm trọng về an ninh và niềm tin, nhất là trong bối cảnh bầu cử. Chính phủ Mỹ đang tăng tốc đầu tư cho lĩnh vực này thông qua các hợp đồng quân sự, nhưng tiêu chí lựa chọn đối tác vẫn chưa minh bạch. Công chúng cần thận trọng trước những tuyên bố hào nhoáng về khả năng phát hiện deepfake.

Citations:
[1] https://ppl-ai-file-upload.s3.amazonaws.com/web/direct-files/131695/20560b7e-fb78-4a10-a3d8-bfe3715d2b1a/paste.txt

https://www.washingtonpost.com/technology/2024/05/12/ai-deepfakes-detection-industry/