openai bị so sánh với facebook: nhân viên kêu gọi quyền cảnh báo và giám sát độc lập

- OpenAI đang trải qua một cuộc nổi dậy kéo dài nhiều tháng từ bên trong, với một nhóm 11 nhân viên hiện tại và cũ, cùng hai người từ các công ty khác, đã công khai một bức thư tuyên bố rằng các công ty AI hàng đầu không đáng tin cậy.
- Bức thư chỉ trích các công ty công nghệ vì hy sinh các quy trình an toàn cẩn thận để ra mắt sản phẩm nhanh chóng, và kêu gọi các công ty AI tiên tiến thiết lập "Quyền Cảnh Báo" về sản phẩm của họ từ bên trong và cam kết giám sát độc lập.
- OpenAI đã bị chỉ trích vì không còn cam kết với mục tiêu ban đầu là xây dựng AI "mang lại lợi ích cho toàn nhân loại" và thay vào đó là phục vụ các nhà đầu tư, với các sản phẩm và thỏa thuận mới với Microsoft và Apple.
- Công ty đã gặp phải nhiều tranh cãi, bao gồm việc ra mắt một trợ lý AI có giọng nói giống Scarlett Johansson mà không có sự cho phép của cô, và bị cáo buộc đặt lợi nhuận lên trên an toàn sản phẩm.
- Một nhóm nhân viên cấp cao đã rời OpenAI để thành lập một công ty đối thủ, Anthropic, với cam kết xây dựng công nghệ an toàn hơn.
- Sam Altman, CEO của OpenAI, đã bị loại bỏ vào tháng 11 năm ngoái do lo ngại rằng ông đang hướng công ty đến thương mại hóa và xa rời nhiệm vụ "phục vụ nhân loại". Tuy nhiên, ông đã được tái bổ nhiệm sau áp lực từ các nhà đầu tư.
- Công ty đã giải tán nhóm nghiên cứu an toàn nội bộ, "superalignment team", dẫn đến sự từ chức của nhiều thành viên nổi bật, bao gồm Jan Leike, người đã công khai chỉ trích công ty vì không cung cấp đủ tài nguyên cho nghiên cứu an toàn.
- Elon Musk, một trong những nhà đầu tư sáng lập của OpenAI, đã kiện công ty vì vi phạm cam kết xây dựng AI vì lợi ích của nhân loại.
- Các công ty khác như Google và Anthropic cũng đã ra mắt nhiều công cụ AI hướng đến người tiêu dùng và doanh nghiệp, nhưng cũng gặp phải nhiều chỉ trích và sự cố.
- Một phát ngôn viên của OpenAI cho biết công ty áp dụng "cách tiếp cận khoa học để giải quyết rủi ro" và đã trì hoãn ra mắt sản phẩm cho đến khi các biện pháp bảo vệ thích hợp được thiết lập.

📌 OpenAI đang đối mặt với sự phản đối từ bên trong và các cáo buộc đặt lợi nhuận lên trên an toàn sản phẩm. Nhân viên kêu gọi quyền cảnh báo và giám sát độc lập để đảm bảo an toàn và lợi ích công cộng.

https://www.theatlantic.com/technology/archive/2024/06/openai-right-to-warn/678607/