OpenAI thành lập hội đồng an toàn độc lập có quyền hoãn phát hành mô hình AI

• OpenAI đang chuyển đổi Ủy ban An toàn và Bảo mật thành một "ủy ban giám sát độc lập của Hội đồng quản trị" có quyền trì hoãn việc phát hành mô hình AI vì lý do an toàn.

• Quyết định này được đưa ra sau khi ủy ban tiến hành đánh giá 90 ngày về quy trình và biện pháp bảo đảm an toàn, bảo mật của OpenAI.

• Ủy ban do Zico Kolter làm chủ tịch, bao gồm các thành viên Adam D'Angelo, Paul Nakasone và Nicole Seligman.

• Ủy ban sẽ được lãnh đạo công ty thông báo về các đánh giá an toàn cho các lần phát hành mô hình lớn, và cùng với toàn bộ hội đồng quản trị giám sát việc phát hành mô hình.

• Ủy ban có quyền trì hoãn một lần phát hành cho đến khi các mối lo ngại về an toàn được giải quyết.

• Hội đồng quản trị đầy đủ của OpenAI cũng sẽ nhận được các bản báo cáo định kỳ về các vấn đề an toàn và bảo mật.

• Các thành viên của ủy ban an toàn cũng là thành viên của hội đồng quản trị rộng hơn của công ty, nên chưa rõ mức độ độc lập thực sự của ủy ban.

• CEO Sam Altman trước đây là thành viên của ủy ban nhưng hiện không còn nữa.

• Việc thành lập hội đồng an toàn độc lập của OpenAI có phần tương tự như cách tiếp cận của Meta với Hội đồng Giám sát của họ.

• Đánh giá của Ủy ban An toàn và Bảo mật cũng giúp tìm ra "các cơ hội bổ sung để hợp tác và chia sẻ thông tin trong ngành nhằm nâng cao an ninh của ngành AI".

• OpenAI cho biết sẽ tìm kiếm "thêm cách để chia sẻ và giải thích công việc an toàn của chúng tôi" và "thêm cơ hội để kiểm tra độc lập các hệ thống của chúng tôi".

• Bài viết được đăng tải vào ngày 17/9/2024, 5:08 sáng GMT+7 bởi Jay Peters, một biên tập viên tin tức chuyên viết về công nghệ, trò chơi điện tử và thế giới ảo.

• Bài viết cũng đề cập đến khó khăn trong việc nhận diện hình ảnh do AI tạo ra, dù các công cụ tạo hình ảnh AI ngày càng tốt hơn và dễ tiếp cận hơn.

• Một số sáng kiến như C2PA đã tạo ra các hệ thống để giúp phân biệt thật giả, nhưng tiến độ vẫn chưa tốt.

📌 OpenAI thành lập hội đồng an toàn độc lập có quyền trì hoãn phát hành mô hình AI, tăng cường giám sát và minh bạch. Ủy ban 4 thành viên sẽ đánh giá an toàn, với mục tiêu thúc đẩy hợp tác ngành và chia sẻ thông tin về an ninh AI.

https://www.theverge.com/2024/9/16/24246617/openai-independent-safety-board-stop-model-releases