Character.ai triển khai LLM riêng cho trẻ vị thành niên
• Character.ai đã phát triển 2 phiên bản mô hình ngôn ngữ lớn (LLM) riêng biệt cho người lớn và thanh thiếu niên trong tháng qua.
• Mô hình dành cho thanh thiếu niên được thiết kế với giới hạn nghiêm ngặt hơn về phản hồi của bot, đặc biệt là nội dung lãng mạn và nhạy cảm.
• Hệ thống sẽ tự động chặn các prompt có thể tạo ra nội dung không phù hợp và hiển thị cảnh báo kết nối đến đường dây nóng phòng chống tự tử khi phát hiện ngôn ngữ liên quan đến tự tử hoặc tự hại.
• Người dùng vị thành niên sẽ không thể chỉnh sửa phản hồi của bot - một tính năng cho phép viết lại cuộc trò chuyện để thêm nội dung mà Character.ai có thể chặn.
• Nền tảng sẽ hiển thị thông báo khi người dùng dành một giờ liên tục trò chuyện với bot.
• Tất cả bot hiện có ghi chú nhỏ: "Đây là chatbot AI không phải người thật. Hãy coi mọi điều nó nói là hư cấu".
• Bot có vai trò như "nhà trị liệu" hoặc "bác sĩ" sẽ có cảnh báo bổ sung rằng không thể đưa ra lời khuyên chuyên môn.
• Tính năng kiểm soát của phụ huynh sẽ ra mắt trong quý 1/2025, cho phép theo dõi thời gian sử dụng và bot mà con em tương tác nhiều nhất.
• Character.ai đang đối mặt với hai vụ kiện cáo buộc một số người dùng vị thành niên phát triển sự phụ thuộc vào bot, dẫn đến các cuộc trò chuyện về tình dục hoặc tự hại.
📌 Character.ai triển khai LLM riêng cho người dưới 18 tuổi nhằm hạn chế nội dung nhạy cảm và tự hại. Nền tảng thêm tính năng kiểm soát của phụ huynh, cảnh báo thời gian sử dụng và khẳng định rõ bot không phải người thật hay chuyên gia.
https://www.theverge.com/2024/12/12/24319050/character-ai-chatbots-teen-model-training-parental-controls
Thảo luận
Follow Us
Tin phổ biến
