ChatGPT o1-preview và o1-mini: Quy trình kiểm tra, đánh giá rủi ro và các biện pháp bảo vệ

• OpenAI vừa phát hành ChatGPT o1-preview và ChatGPT o1-mini, hai mô hình AI tiên tiến với khả năng suy luận nâng cao.

• Các mô hình này đã trải qua quá trình đánh giá an toàn và rủi ro toàn diện, tập trung vào khả năng suy luận nâng cao và các rủi ro tiềm ẩn.

• OpenAI đã triển khai các nỗ lực kiểm tra red team bên ngoài, đánh giá độc lập và các biện pháp bảo vệ nội bộ để đảm bảo an toàn khi triển khai trong thực tế.

• Việc đánh giá an toàn và rủi ro là cực kỳ quan trọng khi các mô hình AI ngày càng phức tạp và tiềm ẩn nhiều rủi ro hơn.

• Các đội red team bên ngoài đã đánh giá nhiều hạng mục rủi ro như: tạo nội dung không được phép, công bằng nhân khẩu học, khả năng chống jailbreak, giảm thiểu ảo giác.

• Kết quả cho thấy o1-preview và o1-mini hoạt động tốt hơn các mô hình trước đó, đặc biệt là khả năng suy luận về các quy tắc an toàn và tránh tạo nội dung không an toàn.

• OpenAI cũng tiến hành đánh giá các rủi ro tiên phong như an ninh mạng, mối đe dọa CBRN, khả năng thuyết phục và thao túng.

• Khung chuẩn bị của OpenAI đánh giá các mô hình o1 có mức độ rủi ro "trung bình" tổng thể, với rủi ro "thấp" về an ninh mạng và tự chủ của mô hình.

• Các biện pháp bảo vệ chính được triển khai bao gồm: bộ phân loại an toàn, danh sách chặn, biện pháp bảo vệ dựa trên suy luận, khả năng chống jailbreak.

• Các mô hình o1 đã cải thiện 59% khả năng chống jailbreak so với các mô hình trước đó khi được kiểm tra với bộ dữ liệu StrongREJECT.

• OpenAI cũng tiến hành các bài tập kiểm tra red team, kiểm toán bên ngoài và đánh giá an toàn trước khi triển khai các mô hình trong ChatGPT và API.

• Kết quả đánh giá được công bố trong Thẻ hệ thống OpenAI o1, đảm bảo tính minh bạch về công tác an toàn đã thực hiện.

📌 OpenAI đã phát hành ChatGPT o1-preview và o1-mini với khả năng suy luận nâng cao, trải qua đánh giá an toàn toàn diện. Các mô hình được đánh giá rủi ro "trung bình", cải thiện 59% khả năng chống jailbreak và triển khai nhiều biện pháp bảo vệ quan trọng.

https://www.geeky-gadgets.com/chatgpt-o1-system-card/