Google và OpenAI vẫn chưa tìm ra giải pháp hoàn hảo để nhận diện nội dung do AI tạo ra
- Sau 2 năm ChatGPT ra mắt, các công ty AI vẫn đang tìm cách giúp người dùng phân biệt nội dung do con người hay máy tạo ra
- OpenAI đã phát triển hệ thống thủy vân cho văn bản AI từ tháng 8/2024 nhưng chưa phát hành vì:
• Công nghệ dễ bị phá vỡ bởi người dùng xấu
• Có thể ảnh hưởng tiêu cực đến người không nói tiếng Anh bản ngữ
- Google tiếp cận khác với thuật toán SynthID Text:
• Cho phép nhà phát triển AI thêm thủy vân số vào văn bản
• Tạo mẫu thống kê để AI detector của Google có thể phát hiện
• Hiệu quả giảm khi văn bản bị chỉnh sửa nhiều
• Khó phát hiện trong đoạn văn ngắn
- Thách thức không chỉ với văn bản mà còn với hình ảnh và video AI:
• Nhiều công cụ trực tuyến có thể gỡ bỏ thủy vân
• Cần áp dụng thêm chữ ký mật mã và thông tin nguồn gốc
• Liên minh C2PA đang phát triển tiêu chuẩn chung về thông tin nguồn gốc nội dung
- TrueMedia.org, tổ chức phi lợi nhuận kết hợp nhiều phương pháp phát hiện AI:
• Thu hút nhiều nền tảng trực tuyến lớn tham gia
• Giúp lọc nội dung tổng hợp từ AI trong bộ dữ liệu huấn luyện
📌 Sau 2 năm ChatGPT ra đời, các công ty công nghệ lớn vẫn chưa có giải pháp hoàn hảo để phát hiện nội dung AI. Công nghệ thủy vân hiện tại dễ bị phá vỡ, trong khi nhu cầu kiểm soát nội dung AI ngày càng cấp thiết với văn bản, hình ảnh và video.
https://www.bloomberg.com/news/newsletters/2024-11-26/google-openai-haven-t-found-silver-bullet-to-flag-ai-content
Thảo luận
Follow Us
Tin phổ biến
