OpenAI cho rằng AI siêu phàm sắp xuất hiện - và muốn xây dựng các công cụ để kiểm soát nó
- OpenAI dự đoán sự xuất hiện của AI siêu cấp và đang phát triển công cụ để kiểm soát.
- Đội Superalignment của OpenAI, dẫn đầu bởi đồng sáng lập và giám đốc khoa học Ilya Sutskever, tập trung vào việc điều chỉnh AI siêu cấp.
- Đội ngũ đã giới thiệu công trình mới tại hội nghị học máy NeurIPS ở New Orleans.
- Công trình bao gồm phát triển framework để điều hướng và kiểm soát AI siêu thông minh, vượt xa trí tuệ con người.
- Sử dụng mô hình AI đơn giản (như GPT-2) để hướng dẫn mô hình phức tạp hơn (như GPT-4) theo hướng mong muốn.
- OpenAI cũng chuẩn bị ra mắt chương trình cấp kinh phí 10 triệu đô la cho nghiên cứu về superalignment.
OpenAI nhận thức rõ về tốc độ phát triển nhanh chóng của AI và tiềm năng của nó trong việc vượt qua trí tuệ con người. Điều này thúc đẩy việc tạo ra các công cụ và framework kiểm soát để đảm bảo rằng các hệ thống AI tương lai sẽ hành xử theo ý muốn của con người. Đồng thời, OpenAI cũng mở rộng cơ hội cho cộng đồng nghiên cứu với chương trình tài trợ lớn, nhằm tạo điều kiện cho sự phát triển trong lĩnh vực này.
Thảo luận
Follow Us
Tin phổ biến
