AI tạo sinh đang gây ra khủng hoảng lạm dụng tình dục trẻ em trực tuyến

• Theo báo cáo mới nhất của Trung tâm Dân chủ và Công nghệ (CDT), 15% học sinh trung học ở Mỹ cho biết đã nghe nói về hình ảnh khiêu dâm được tạo ra bởi AI liên quan đến ai đó trong trường học của mình.

• Một báo cáo khác của Viện Nghiên cứu Tội phạm và Tư pháp Liên khu vực của Liên Hợp Quốc cho thấy 50% cảnh sát trên toàn cầu đã từng gặp phải tài liệu lạm dụng tình dục trẻ em (CSAM) được tạo ra bởi AI.

• AI tạo sinh đang phá vỡ các phương pháp phát hiện và gỡ bỏ CSAM truyền thống. Trước đây, hầu hết CSAM là nội dung tái lưu hành, có thể được phát hiện bằng cách so sánh với cơ sở dữ liệu các hình ảnh lạm dụng đã biết. Nhưng AI tạo sinh cho phép tạo ra nhanh chóng và dễ dàng các hình ảnh lạm dụng mới, vượt qua danh sách các trường hợp đã biết.

• Các trường học chưa cập nhật đầy đủ chính sách quấy rối tình dục hoặc giáo dục học sinh và phụ huynh về vấn đề này, theo báo cáo của CDT.

• Mặc dù vấn đề rất khó khăn và đáng lo ngại, các chuyên gia vẫn hy vọng có thể tìm ra giải pháp. Một chuyên gia nói rằng vẫn còn "cơ hội" để ngăn chặn thảm họa, nhưng cần phải hành động ngay.

• Công cụ AI tạo sinh đã làm tăng khả năng học sinh trở thành nạn nhân hoặc thủ phạm của hành vi lạm dụng tình dục trẻ em trực tuyến.

• Có thể hàng triệu trẻ em trên toàn quốc đã bị ảnh hưởng bởi công nghệ này, hoặc trực tiếp trở thành nạn nhân hoặc biết về các học sinh khác đã bị lạm dụng.

• Ngoài vấn đề lạm dụng trẻ em, bài viết cũng đề cập đến những thay đổi gần đây tại OpenAI, công ty đi đầu trong lĩnh vực AI tạo sinh. Nhiều lãnh đạo cấp cao đã rời đi và công ty đang chuyển đổi từ mô hình phi lợi nhuận sang mô hình vì lợi nhuận.

• Bài viết cũng cảnh báo về nguy cơ AI tạo sinh có thể gây ra hỗn loạn trong các cuộc bầu cử tổng thống sắp tới, do thiếu quy định liên bang về việc sử dụng AI trong quảng cáo chính trị.

📌 AI tạo sinh đang gây ra cuộc khủng hoảng lạm dụng tình dục trẻ em trực tuyến nghiêm trọng. 15% học sinh trung học Mỹ đã nghe về hình ảnh khiêu dâm AI liên quan đến trường học. Cần có giải pháp cấp bách để ngăn chặn thảm họa này, bao gồm cập nhật chính sách trường học và tăng cường giáo dục.

https://www.theatlantic.com/newsletters/archive/2024/09/ai-is-triggering-a-child-sex-abuse-crisis/680053/