Anthropic mở cửa Claude cho trẻ em sử dung công nghệ AI của mình với những hạn chế nhất định

- Anthropic thay đổi chính sách cho phép trẻ em và thanh thiếu niên sử dụng hệ thống AI tạo sinh của mình trong một số trường hợp cụ thể.
- Công ty thông báo trên blog chính thức rằng sẽ cho phép trẻ em sử dụng ứng dụng của bên thứ ba được cung cấp bởi mô hình AI của Anthropic, miễn là các nhà phát triển ứng dụng thực hiện các biện pháp an toàn cụ thể.
- Anthropic yêu cầu các nhà phát triển ứng dụng cho trẻ em phải bao gồm các biện pháp như hệ thống xác minh tuổi, kiểm duyệt và lọc nội dung, cũng như cung cấp tài nguyên giáo dục về việc sử dụng AI một cách an toàn và có trách nhiệm.
- Công ty cũng đề cập đến việc cung cấp "các biện pháp kỹ thuật" nhằm tùy chỉnh trải nghiệm sản phẩm AI cho trẻ em, bao gồm một "hệ thống nhắc nhở an toàn cho trẻ em" mà các nhà phát triển hướng đến trẻ em sẽ phải triển khai.
- Anthropic cho biết, việc cập nhật chính sách này xuất phát từ việc nhận thức được các lợi ích đáng kể mà công cụ AI có thể mang lại cho người dùng trẻ tuổi, như hỗ trợ ôn tập hoặc học bổng.
- Sự thay đổi trong chính sách của Anthropic diễn ra trong bối cảnh trẻ em và thanh thiếu niên ngày càng tìm đến công cụ AI tạo sinh để giúp đỡ không chỉ trong học tập mà còn vấn đề cá nhân.
- OpenAI đã thành lập một đội mới để nghiên cứu về an toàn trẻ em và thông báo một quan hệ đối tác với Common Sense Media để cộng tác về hướng dẫn AI thân thiện với trẻ em.
- Một nghiên cứu của Safer Internet Centre cho thấy hơn một nửa số trẻ em (53%) báo cáo đã thấy người cùng tuổi sử dụng công cụ AI tạo sinh theo cách tiêu cực, ví dụ như tạo thông tin hoặc hình ảnh giả mạo có tính thuyết phục cao để làm phiền người khác.

📌 Anthropic mở rộng quyền truy cập vào công nghệ AI của mình cho trẻ em và thanh thiếu niên với các biện pháp an toàn cụ thể, nhấn mạnh vào việc kiểm duyệt nội dung và xác minh tuổi. Sự thay đổi này phản ánh nhu cầu ngày càng tăng của việc sử dụng công cụ AI tạo sinh trong giáo dục và vấn đề cá nhân của trẻ em, đồng thời đặt ra một tiêu chuẩn mới về an toàn và trách nhiệm trong việc phát triển công nghệ AI dành cho trẻ em.

Citations:
[1] https://techcrunch.com/2024/05/10/anthropic-now-lets-kids-use-its-ai-tech-within-limits/