Viện tiêu chuẩn quốc gia Mỹ NIST khởi động chương trình đánh giá AI tạo sinh, công bố dự thảo về rủi ro và tiêu chuẩn AI

- Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) đã công bố một chương trình mới để đánh giá công nghệ AI tạo sinh (GenAI) và phát hành nhiều tài liệu dự thảo về việc sử dụng công nghệ này.
- Chương trình "NIST GenAI" được thiết kế để hỗ trợ công việc của Viện An toàn AI của Mỹ tại NIST, với việc đăng ký cho phiên bản thử nghiệm sẽ bắt đầu vào tháng Năm.
- Các hành động được công bố bao gồm việc giảm thiểu rủi ro của AI và tập trung đặc biệt vào AI tạo sinh, phù hợp với lệnh hành pháp về AI của Tổng thống Joe Biden vào tháng Mười.
- 4 tài liệu được NIST phát hành bao gồm một phiên bản dự thảo nhằm giúp xác định rủi ro của GenAI và chiến lược sử dụng công nghệ này.
- Tài liệu này sẽ là bản đồng hành cho khung quản lý rủi ro AI đã được công bố trước đó, được phát triển với sự đóng góp từ một nhóm công tác công khai có hơn 2.500 thành viên (https://airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf)

- NIST cũng phát hành các tài liệu dự thảo về giảm thiểu rủi ro của nội dung tổng hợp — nội dung được tạo hoặc chỉnh sửa bởi AI — và kế hoạch phát triển các tiêu chuẩn liên quan (https://airc.nist.gov/docs/NIST.AI.100-5.Global-Plan.ipd.pdf)

- Bà Laurie E. Locascio, giám đốc NIST và thứ trưởng thương mại phụ trách tiêu chuẩn và công nghệ, nhấn mạnh rằng mặc dù AI tạo sinh mang lại nhiều lợi ích tiềm năng, nó cũng đem theo những rủi ro đáng kể khác biệt so với phần mềm truyền thống.

📌 Viện tiêu chuẩn quốc gia Mỹ NIST đã ra mắt chương trình "NIST GenAI" để đánh giá công nghệ AI tạo sinh, cùng với việc phát hành các tài liệu dự thảo nhằm giảm thiểu rủi ro và phát triển tiêu chuẩn cho công nghệ này. Chương trình này hỗ trợ sáng kiến an toàn AI của Mỹ và nhấn mạnh sự cần thiết của sự minh bạch và phản hồi từ tất cả các bên liên quan.

Citations:
[1] https://fedscoop.com/nist-launches-genai-evaluation-program-releases-draft-ai-publications/