- Trí tuệ nhân tạo (AI) đang ngày càng được sử dụng để tạo ra hình ảnh và video lạm dụng tình dục trẻ em, bao gồm cả nội dung deepfake.
- Úc là thị trường lớn thứ ba về tài liệu lạm dụng tình dục trẻ em trực tuyến. Trong năm tài chính 2023-2024, Trung tâm Chống lạm dụng tình dục trẻ em Úc đã nhận được hơn 49.500 báo cáo, tăng khoảng 9.300 so với năm trước.
- Khoảng 90% tài liệu deepfake trực tuyến được cho là có nội dung khiêu dâm. Nhiều tài liệu trong số đó có thể liên quan đến trẻ em.
- Các phương pháp truyền thống để nhận diện tài liệu lạm dụng tình dục trẻ em đang trở nên không đủ trước khả năng tạo ra nội dung mới nhanh chóng của AI.
- Tính thực tế ngày càng tăng của tài liệu do AI tạo ra đang gây khó khăn cho đơn vị nhận diện nạn nhân của Cảnh sát Liên bang Úc.
- Các chiến lược mới đang được phát triển để giải quyết thách thức này, bao gồm sử dụng AI để phát hiện nội dung do AI tạo ra và hợp tác giữa các công ty công nghệ và cơ quan thực thi pháp luật.
- Vào năm 2024, các công ty truyền thông xã hội lớn như Google, Meta và Amazon đã thành lập liên minh để chống lại việc sử dụng AI cho tài liệu lạm dụng tình dục trẻ em.
📌 Trí tuệ nhân tạo đang ngày càng được lạm dụng để tạo ra tài liệu lạm dụng tình dục trẻ em trực tuyến. Úc là một trong những thị trường lớn nhất với hơn 49.500 báo cáo trong năm 2023-2024. Sự hợp tác giữa các công ty công nghệ và cơ quan thực thi pháp luật là rất cần thiết để đối phó với vấn nạn nghiêm trọng này.
https://theconversation.com/deepfake-ai-or-real-its-getting-harder-for-police-to-protect-children-from-sexual-exploitation-online-232820