Trẻ em Australia đối mặt với nguy cơ bị AI khai thác hình ảnh trên mạng, ngay cả khi cha mẹ đã áp dụng các biện pháp bảo mật nghiêm ngặt

• Tổ chức Human Rights Watch (HRW) phát hiện 190 bức ảnh trẻ em Australia được liên kết trong bộ dữ liệu AI phổ biến LAION-5B, bao gồm cả trẻ em bản địa dễ bị tổn thương.

• Các bức ảnh này được thu thập "mà không có sự đồng ý hay biết đến của trẻ em hoặc gia đình", có thể được sử dụng để tạo ra deepfake chân thực của trẻ em Australia thật.

• URL trong bộ dữ liệu đôi khi tiết lộ thông tin nhận dạng của trẻ em như tên và địa điểm, gây nguy cơ về quyền riêng tư và an toàn.

• Ngay cả video YouTube được đặt ở chế độ riêng tư cũng bị thu thập vào bộ dữ liệu, bất chấp chính sách của YouTube cấm AI thu thập thông tin nhận dạng.

• Việc xóa liên kết khỏi bộ dữ liệu LAION-5B không xóa hình ảnh trên mạng và không thay đổi các mô hình AI đã được đào tạo trên chúng.

• Trẻ em bản địa đối mặt với những rủi ro độc đáo do văn hóa hạn chế sao chép ảnh người đã khuất trong thời gian để tang.

• Australia dự kiến công bố bản dự thảo cải cách Đạo luật Quyền riêng tư vào tháng 8, bao gồm dự thảo luật bảo vệ dữ liệu trẻ em đầu tiên.

• HRW kêu gọi Bộ luật Quyền riêng tư Trực tuyến của Trẻ em cấm "thu thập dữ liệu cá nhân của trẻ em vào hệ thống AI" và "sao chép hoặc thao túng hình ảnh của trẻ em mà không có sự đồng ý".

• Chuyên gia nhấn mạnh cần có sự can thiệp của cơ quan quản lý để ngăn chặn việc đào tạo AI trên dữ liệu trẻ em trước khi nó xảy ra.

• YouTube tuyên bố việc thu thập trái phép nội dung vi phạm Điều khoản Dịch vụ và họ tiếp tục có hành động chống lại hành vi lạm dụng này.

• Các chuyên gia cho rằng việc yêu cầu phụ huynh gỡ bỏ ảnh trẻ em trên mạng là "không thực tế và thậm chí là vô lý", thay vào đó cần có biện pháp bảo vệ pháp lý.

📌 AI đang khai thác hình ảnh trẻ em Australia trên mạng bất chấp các biện pháp bảo mật. 190 ảnh trẻ em được phát hiện trong bộ dữ liệu LAION-5B, gây nguy cơ về quyền riêng tư và an toàn. Các chuyên gia kêu gọi siết chặt quy định pháp lý để bảo vệ trẻ em trong thời đại AI.

https://arstechnica.com/tech-policy/2024/07/ai-trains-on-kids-photos-even-when-parents-use-strict-privacy-settings/