Mỗi cơ quan liên bang Mỹ phải có giám đốc AI: bước đi mới đảm bảo an toàn và minh bạch trong sử dụng AI

- Tất cả các cơ quan liên bang Hoa Kỳ sẽ phải bổ nhiệm một lãnh đạo cấp cao chịu trách nhiệm giám sát việc sử dụng AI để đảm bảo an toàn.
- Phó Tổng thống Kamala Harris thông báo hướng dẫn mới từ Văn phòng Quản lý và Ngân sách (OMB) yêu cầu các cơ quan phải:
    - Bổ nhiệm giám đốc AI có kinh nghiệm, chuyên môn để giám sát mọi công nghệ AI.
    - Thành lập hội đồng quản trị AI để phối hợp việc sử dụng AI trong cơ quan.
    - Báo cáo hàng năm với OMB về các hệ thống AI đang sử dụng, rủi ro liên quan và cách giảm thiểu rủi ro.
- Giám đốc AI không nhất thiết phải là người được bổ nhiệm chính trị, tùy cơ cấu của cơ quan.
- Hội đồng quản trị AI phải được thành lập trước mùa hè năm nay.
- Hướng dẫn này mở rộng chính sách trong Sắc lệnh về AI của chính quyền Biden, yêu cầu các cơ quan xây dựng tiêu chuẩn an toàn và tăng số lượng nhân tài AI trong chính phủ.
- Một số cơ quan đã bắt đầu tuyển dụng giám đốc AI trước đây, như Bộ Tư pháp.
- Chính phủ Mỹ dự kiến tuyển dụng 100 chuyên gia AI trước mùa hè tới.
- Trách nhiệm của giám đốc AI và hội đồng quản trị là giám sát thường xuyên các hệ thống AI.
- Các cơ quan phải cung cấp bảng kiểm kê các sản phẩm AI đang sử dụng, đánh giá rủi ro an toàn của từng nền tảng.
- Các cơ quan phải xác minh rằng AI được triển khai đáp ứng các biện pháp bảo vệ chống phân biệt đối xử thuật toán và minh bạch với công chúng.
- Nếu không áp dụng được các biện pháp bảo vệ, cơ quan phải ngừng sử dụng hệ thống AI đó trừ khi lãnh đạo cơ quan biện minh lý do tăng rủi ro an toàn hoặc quyền lợi hoặc cản trở hoạt động quan trọng.
- Mô hình AI, mã nguồn và dữ liệu do chính phủ sở hữu phải được công khai trừ khi gây rủi ro cho hoạt động chính phủ.

📌Hướng dẫn mới yêu cầu mỗi cơ quan liên bang Mỹ bổ nhiệm giám đốc AI, thành lập hội đồng quản trị AI, báo cáo hàng năm về các hệ thống AI đang sử dụng, đánh giá rủi ro và biện pháp giảm thiểu rủi ro để đảm bảo an toàn, minh bạch và chống phân biệt đối xử trong sử dụng AI.

https://www.theverge.com/2024/3/28/24114105/federal-agencies-ai-responsible-guidance-omb-caio