• Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST) đã công bố đội ngũ lãnh đạo của Viện An toàn AI Mỹ, gây ra nhiều tranh luận và kỳ vọng.
• Paul Christiano, một cựu nhà nghiên cứu của OpenAI nổi tiếng với công trình về học tăng cường từ phản hồi của con người (RLHF), đã được bổ nhiệm làm trưởng nhóm an toàn AI.
• Christiano có bề dày nghiên cứu về an toàn AI nhưng dự đoán về một "kịch bản tận thế" tiềm tàng đã gây ra lo ngại.
• Một báo cáo của VentureBeat tháng trước cho biết nhân viên NIST phản đối việc tuyển dụng Christiano vì quan điểm "AI doomer" của ông.
• Emily Bender, giáo sư ngôn ngữ máy tính tại Đại học Washington, lo ngại "diễn ngôn kỳ quặc của AI doomer" đã khiến NIST tập trung vào những kịch bản này thay vì giải quyết các vấn đề đạo đức cấp bách hơn.
• Divyansh Kaushik, Liên đoàn Khoa học Mỹ, cho rằng Christiano là lựa chọn tốt vì ông rất có năng lực để kiểm tra các mô hình AI.
• Đội ngũ lãnh đạo của Viện còn có Mara Quintero Campbell, Adam Russell, Rob Reich và những người khác.
📌 Bổ nhiệm Paul Christiano, "AI doomer" từng làm việc tại OpenAI, làm lãnh đạo Viện An toàn AI Mỹ gây tranh cãi vì quan điểm bi quan của ông về tương lai AI, nhưng cũng được đánh giá cao về năng lực nghiên cứu an toàn AI.
Citations:
[1] https://arstechnica.com/tech-policy/2024/04/feds-appoint-ai-doomer-to-run-us-ai-safety-institute/