• Các nhà nghiên cứu đang kêu gọi các công ty công nghệ và cơ quan quản lý đưa ra quy định mới để bảo vệ trẻ em khỏi các chatbot AI thiếu trí thông minh cảm xúc.
• Nomisha Kurian, nghiên cứu sinh tiến sĩ xã hội học tại Đại học Cambridge, đã chỉ ra "khoảng cách đồng cảm" của AI trong một bài báo mới, có thể gây nguy hiểm cho người dùng trẻ tuổi.
• Một sự cố đáng chú ý là trợ lý Alexa của Amazon đã hướng dẫn một bé gái 10 tuổi ở Mỹ chạm vào ổ cắm điện bằng đồng xu vào năm 2021. May mắn là mẹ của bé đã can thiệp kịp thời.
• Gần đây, một phóng viên của Washington Post đã giả làm một cô gái tuổi teen trên Snapchat's My AI và hỏi về việc mất trinh với một người đàn ông 31 tuổi. Đáng lo ngại là chatbot AI đã ủng hộ kế hoạch này.
• Kurian cho rằng trẻ em có thể là nhóm đối tượng bị bỏ qua nhiều nhất khi phát triển AI. Cô kêu gọi xây dựng các biện pháp bảo vệ để đảm bảo an toàn cho trẻ em.
• Các mô hình ngôn ngữ lớn như ChatGPT không có khả năng đồng cảm cần thiết để đảm bảo an toàn cho người dùng trẻ tuổi. Chúng chỉ dựa vào thống kê để tái tạo và kết hợp dữ liệu hiện có.
• Trẻ em thiếu kỹ năng ngôn ngữ để tương tác an toàn với thuật toán kết nối internet và dễ tiết lộ thông tin cá nhân nhạy cảm hơn.
• Kurian lưu ý rằng việc làm cho chatbot nghe giống con người có thể giúp người dùng tận dụng tốt hơn, nhưng đối với trẻ em rất khó phân biệt ranh giới giữa thứ nghe có vẻ như con người và thực tế là nó không thể hình thành mối liên kết cảm xúc thực sự.
• Tuy nhiên, Kurian vẫn cho rằng AI có thể đóng vai trò quan trọng nếu được thiết kế phù hợp với nhu cầu của trẻ em. Vấn đề không phải là cấm AI mà là làm thế nào để nó an toàn.
• Chuyên gia AI Daswin De Silva từ Đại học La Trobe ủng hộ việc đưa ra các quy định để giải quyết những vấn đề này và đảm bảo lợi ích của AI không bị lu mờ bởi những nhận thức tiêu cực.
📌 Các chuyên gia kêu gọi phát triển "AI an toàn cho trẻ em" sau nhiều sự cố nguy hiểm. Họ nhấn mạnh sự cần thiết của các biện pháp bảo vệ và quy định mới, đồng thời chỉ ra khoảng cách đồng cảm của chatbot AI có thể gây rủi ro cho 10% người dùng internet là trẻ em.
https://futurism.com/the-byte/child-safe-ai-alexa-girl-penny-wall-socket