Vì sao Sam Altman rời khỏi Ủy ban An toàn OpenAI?

• Sam Altman, CEO của OpenAI, sẽ rời khỏi ủy ban nội bộ đánh giá các quyết định "an toàn và bảo mật quan trọng" của công ty trong cuộc đua phát triển công nghệ AI ngày càng mạnh mẽ.

• Ủy ban được thành lập vào tháng 5/2024 để đánh giá quy trình và biện pháp bảo vệ của OpenAI trong 90 ngày. Khuyến nghị đầu tiên là thiết lập quản trị độc lập về an toàn và bảo mật.

• Ủy ban mới sẽ do Zico Kolter, Giám đốc Khoa Học máy tính tại Đại học Carnegie Mellon, làm chủ tịch. Các thành viên khác bao gồm Adam D'Angelo (đồng sáng lập Quora), Paul Nakasone (cựu tướng Lục quân Mỹ) và Nicole Seligman (cựu chủ tịch Sony Entertainment).

• Ngoài Altman, chủ tịch hội đồng quản trị Bret Taylor và một số chuyên gia kỹ thuật, chính sách của OpenAI cũng sẽ rời khỏi ủy ban.

• Các khuyến nghị khác bao gồm tăng cường biện pháp bảo mật, minh bạch về công việc của OpenAI và thống nhất các khuôn khổ an toàn.

• Ủy ban An toàn và Bảo mật không phải nỗ lực đầu tiên của OpenAI nhằm tạo ra giám sát độc lập. Công ty đã có một hội đồng quản trị "độc lập đa số" từ năm 2019.

• Sự kiện sa thải và tái bổ nhiệm Altman vào tháng 11/2023 đã làm nổi bật thách thức về quản trị của OpenAI.

• Các cựu thành viên hội đồng quản trị Helen Toner và Tasha McCauley cho rằng cần có sự giám sát của chính phủ, không chỉ dựa vào tự điều chỉnh.

• OpenAI đã vận động hành lang chống lại dự luật AI của California, mặc dù Altman từng kêu gọi quy định về AI. Hơn 30 nhân viên hiện tại và cựu nhân viên OpenAI đã công khai ủng hộ dự luật này.

• Việc thành lập Ủy ban An toàn và Bảo mật diễn ra sau khi hai lãnh đạo nhóm "siêu liên kết" của OpenAI từ chức vào tháng 5/2024, cáo buộc công ty ưu tiên "sản phẩm bóng bẩy" hơn an toàn.

📌 Sam Altman rời Ủy ban An toàn OpenAI để tăng cường tính độc lập trong quản trị AI. Ủy ban mới do Zico Kolter chủ trì, với các thành viên từ hội đồng quản trị. Động thái này nhằm cải thiện an toàn AI và minh bạch, đồng thời đáp ứng các lo ngại về cân bằng giữa lợi nhuận và an toàn trong phát triển AI.

https://time.com/7022026/sam-altman-safety-committee/
#TIME