• Discover Financial Services đang áp dụng phương pháp tiếp cận thận trọng với AI tạo sinh, sử dụng các biện pháp bảo vệ cụ thể dựa trên rủi ro để đánh giá cách sử dụng tốt nhất.
• CIO Jason Strle của Discover cho biết chiến lược giảm thiểu rủi ro của họ tuân theo chặt chẽ hướng dẫn của Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST).
• NIST đã phát hành bản dự thảo khung quản lý rủi ro AI tạo sinh vào tháng 7/2024, cung cấp hơn 200 hành động giảm thiểu rủi ro cho các tổ chức triển khai và phát triển AI tạo sinh.
• Khung NIST tập trung vào 12 rủi ro rộng, bao gồm tính toàn vẹn thông tin, bảo mật, quyền riêng tư dữ liệu, thiên kiến có hại, ảo giác và tác động môi trường.
• Ngoài NIST, nhiều tổ chức khác cũng đưa ra hướng dẫn về áp dụng AI tạo sinh, tạo ra nhiều lựa chọn cho doanh nghiệp.
• Các nhà lãnh đạo doanh nghiệp đang phải đối mặt với các quy định ngày càng chặt chẽ về AI trên toàn cầu và đang cập nhật thực tiễn hiện tại để tuân thủ.
• AAA - The Auto Club Group cấm nhân viên tự do đưa thông tin nhạy cảm vào các mô hình hoặc sử dụng dữ liệu độc quyền để đào tạo mô hình.
• Discover khuyến khích nhân viên đề xuất ý tưởng ứng dụng giải quyết các vấn đề, nhưng không cho phép các nhà cung cấp bên thứ ba truy cập đầy đủ vào thông tin độc quyền.
• NIST khuyến nghị các tổ chức dựa vào mức độ chấp nhận rủi ro của họ khi áp dụng các biện pháp giảm thiểu rủi ro.
• Discover sử dụng phương pháp "con người trong vòng lặp" tại trung tâm liên hệ, nơi quyết định cuối cùng thuộc về con người tuân theo tất cả các quy trình và đào tạo.
• Các nghiên cứu cho thấy sự chênh lệch giữa số lượng doanh nghiệp triển khai AI tạo sinh và việc áp dụng các thực tiễn an toàn, có trách nhiệm.
• Hơn 3/5 giám đốc điều hành dự kiến sẽ thấy mức độ rủi ro họ phải chịu trách nhiệm tăng đáng kể trong 3-5 năm tới.
• Khoảng 2/5 dự đoán hơn một nửa ngân sách quản lý rủi ro của họ sẽ dành cho công nghệ.
• Sự quan tâm đến AI tạo sinh đã giảm trong số các giám đốc điều hành cấp cao và hội đồng quản trị kể từ đầu năm 2024.
📌 Các CIO đang sử dụng khung quản lý rủi ro của NIST để triển khai AI tạo sinh an toàn. Discover và AAA là ví dụ điển hình về cách cân bằng đổi mới và rủi ro. Hơn 60% giám đốc điều hành dự kiến mức độ rủi ro sẽ tăng đáng kể trong 3-5 năm tới, với 40% dự đoán chi tiêu hơn 50% ngân sách quản lý rủi ro cho công nghệ.
https://www.ciodive.com/news/cio-generative-ai-risk-mitigation-strategy-NIST-framework/728257/