OpenAI thành lập ủy ban an toàn khi huấn luyện mô hình AI mới

- OpenAI đã thành lập một ủy ban an toàn mới khi bắt đầu huấn luyện mô hình trí tuệ nhân tạo (AI) mới nhất của họ. 
- Ủy ban sẽ đưa ra các khuyến nghị cho hội đồng quản trị OpenAI về "các quyết định quan trọng và an ninh".
- CEO Sam Altman, Bret Taylor, Adam D'Angelo và Nicole Seligman sẽ dẫn đầu ủy ban.
- Nhiệm vụ đầu tiên của ủy ban là cập nhật các thực tiễn an toàn hiện tại của công ty trong 90 ngày và chia sẻ các khuyến nghị với hội đồng quản trị. Sau đó, các khuyến nghị được áp dụng sẽ được chia sẻ với công chúng.
- Thông báo này được đưa ra vài tuần sau khi OpenAI giải tán Nhóm Superalignment, một nhóm nghiên cứu nhằm giảm thiểu các rủi ro của AI.
- OpenAI đã đưa ra một "bản cập nhật an toàn" tuần trước, trong đó nêu rõ họ sẽ không phát hành mô hình AI mới nếu nó vượt quá mức đe dọa "trung bình".
- Đánh giá này dựa trên "thẻ điểm" nội bộ mà công ty lưu giữ về các mô hình dựa trên hiệu suất của chúng trong quá trình huấn luyện.
- OpenAI cũng đang phát triển các biện pháp bảo vệ bổ sung để gắn cờ nội dung có hại cho trẻ em trên nền tảng của họ và giới thiệu công cụ mới để xác định hình ảnh do DALL-E 3 tạo ra.
- Vào ngày 13/5, OpenAI đã công bố GPT-4 Omni, mô hình mới nhất có thể "lý luận trên âm thanh, hình ảnh và văn bản trong thời gian thực", hướng tới "tương tác người-máy tính tự nhiên hơn".
- Các chuyên gia công nghệ và chính sách của OpenAI như Aleksander Madry, Lilian Weng cùng với Jakub Pachocki, trưởng khoa học mới được bổ nhiệm, cũng nằm trong ủy ban.
- Ủy ban an toàn sẽ nhận được lời khuyên từ các cựu quan chức an ninh mạng, Rob Joyce và John Carlin.

📌 OpenAI đã thành lập một ủy ban an toàn mới do CEO Sam Altman dẫn đầu khi bắt đầu huấn luyện mô hình AI mới nhất GPT-4 Omni. Ủy ban sẽ đưa ra các khuyến nghị quan trọng về an ninh trong 90 ngày tới và chia sẻ với công chúng, thể hiện cam kết của OpenAI trong việc đầu tư vào an toàn AI.

https://www.euronews.com/next/2024/05/28/openai-forms-safety-committee-as-it-starts-training-next-ai-model

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo