Khung minh bạch AI: yêu cầu các công ty AI lớn công khai chi tiết quy trình an toàn

• Khung minh bạch AI được đề xuất nhằm đảm bảo rằng các hệ thống AI tiên tiến (frontier AI) được phát triển một cách có trách nhiệm, minh bạch và an toàn cho công chúng.

• Mục tiêu của khung này là áp dụng ở cấp liên bang, tiểu bang hoặc quốc tế, tập trung vào các nhà phát triển AI lớn với mô hình mạnh mẽ nhất.

• Chỉ các công ty lớn với doanh thu hàng năm từ 100 triệu USD hoặc chi tiêu R&D khoảng 1 tỷ USD mới thuộc phạm vi áp dụng, tránh gây gánh nặng cho các công ty nhỏ.

• Khung đề xuất yêu cầu các công ty tạo ra Secure Development Framework (SDF) – một khuôn khổ phát triển an toàn để giảm thiểu rủi ro, gồm các mối đe dọa liên quan đến hóa học, sinh học, phóng xạ và tự động hóa sai lệch.

• Các SDF phải được công bố công khai, kèm theo bản chứng nhận tuân thủ, và đăng tải trên trang web chính thức của công ty AI.

• Tài liệu System Card sẽ mô tả quy trình đánh giá, kết quả kiểm tra và biện pháp khắc phục, được cập nhật mỗi khi mô hình được sửa đổi đáng kể.

• Nghiêm cấm các tuyên bố sai lệch về việc tuân thủ SDF, nhằm bảo vệ người tố cáo và tăng cường khả năng thực thi pháp luật với các phòng thí nghiệm cố tình vi phạm.

• Các tiêu chuẩn minh bạch ban đầu phải nhẹ, linh hoạt và có thể phát triển theo thời gian cùng với tiến bộ trong cộng đồng AI, chính phủ và ngành.

• Mục tiêu là đặt nền tảng cho các hành vi phát triển AI có trách nhiệm, tương tự như chính sách “Responsible Scaling” của Anthropic và các chính sách từ OpenAI, Google DeepMind, Microsoft.

• Khung pháp lý này sẽ giúp phân biệt các tổ chức phát triển có trách nhiệm với các bên thiếu minh bạch, đồng thời duy trì sự linh hoạt cần thiết cho đổi mới.

📌 Khung minh bạch AI được đề xuất sẽ yêu cầu các công ty lớn công khai chi tiết quy trình an toàn như SDF và System Card, nhằm bảo vệ cộng đồng khỏi các rủi ro nghiêm trọng. Các tiêu chuẩn ban đầu như ngưỡng 100 triệu USD doanh thu và 1 tỷ USD R&D giúp tập trung quản lý vào các đơn vị nhiều rủi ro nhất mà không làm cản trở đổi mới. Đây là bước đi thiết thực hướng tới phát triển AI an toàn và bền vững.

https://www.anthropic.com/news/the-need-for-transparency-in-frontier-ai