Vấn đề về AI Deepfakes sẽ trở nên tồi tệ hơn không thể ngăn cản

- Thế giới đang phải đối mặt với sự lan rộng của deepfake do AI tạo sinh, và những nỗ lực ngăn chặn hiện tại chưa thực sự hiệu quả[1].
- Các quy định liên bang đã cấm các cuộc gọi robocall deepfake vào thứ Năm, giống như những cuộc gọi giả mạo Tổng thống Biden trong cuộc bầu cử sơ bộ New Hampshire[1].
- Trong khi đó, OpenAI và Google đã phát hành thủy vân vào tuần này để đánh dấu hình ảnh do AI tạo sinh. Tuy nhiên, những biện pháp này không đủ mạnh để ngăn chặn deepfake AI[1].
- Vijay Balasubramaniyan, CEO của Pindrop, cho biết: "Công nghệ phát hiện deepfake cần được áp dụng ngay từ nguồn, tại điểm truyền tải và tại điểm đích. Điều này cần phải được thực hiện trên toàn bộ"[1].
- FCC cấm robocall deepfake là một bước đi đúng hướng, theo Balasubramaniyan, nhưng còn thiếu sự làm rõ về cách thực hiện điều này[1].

📌 Deepfake do AI tạo sinh đang gây ra nhiều vấn đề và thách thức cho xã hội. Các biện pháp ngăn chặn hiện tại, bao gồm việc cấm robocall deepfake và việc sử dụng thủy vân để đánh dấu hình ảnh do AI tạo sinh, chưa thực sự hiệu quả. Theo Vijay Balasubramaniyan, CEO của Pindrop, công nghệ phát hiện deepfake cần được áp dụng một cách toàn diện, từ nguồn, tại điểm truyền tải và tại điểm đích. FCC đã cấm robocall deepfake, nhưng còn thiếu sự làm rõ về cách thực hiện điều này[1].

Citations:
[1] https://gizmodo.com/youll-be-fooled-by-an-ai-deepfake-this-year-1851240169

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo