Cựu lãnh đạo OpenAI chỉ trích gay gắt công ty vì coi nhẹ an toàn AI
- Ilya Sutskever, cựu trưởng nhóm khoa học, và Jan Leike, nhà nghiên cứu, đều tuyên bố từ chức chỉ trong vòng vài giờ đồng hồ vào đầu tuần này.
- Việc họ ra đi gây chú ý vì vai trò cấp cao tại OpenAI và công việc trong nhóm siêu liên kết, liên quan đến phát triển hệ thống và quy trình quản lý các mô hình AI siêu thông minh vượt trội hơn trí tuệ con người.
- Sau sự ra đi của họ, có thông tin cho rằng nhóm siêu liên kết đã bị giải tán. Tạp chí Wired đã đăng bài về vấn đề này.
- Gần đây, Leike, người gia nhập OpenAI vào đầu năm 2021, đã lên tài khoản cá nhân trên X để chia sẻ một loạt thông điệp chỉ trích OpenAI và ban lãnh đạo. Trong một thông điệp, ông bày tỏ lo ngại rằng "văn hóa và quy trình an toàn đã phải nhường chỗ cho các sản phẩm hào nhoáng".
- Leike cũng công khai thừa nhận bất đồng với ban lãnh đạo OpenAI, có lẽ là CEO Sam Altman và/hoặc chủ tịch Greg Brockman, giám đốc công nghệ Mira Murati, hoặc các giám đốc cấp cao khác.
📌 Sự ra đi đột ngột của hai nhân vật quan trọng trong nhóm siêu liên kết của OpenAI và những chỉ trích gay gắt của Leike về văn hóa an toàn cho thấy công ty đang đối mặt với những bất ổn nội bộ nghiêm trọng. Điều này đặt ra câu hỏi về định hướng ưu tiên và cam kết đảm bảo an toàn của OpenAI trong quá trình phát triển AI mạnh mẽ.
Citations:
[1] https://venturebeat.com/ai/openais-former-superalignment-leader-blasts-company-safety-culture-and-processes-have-taken-a-backseat/
Thảo luận
Follow Us
Tin phổ biến
