- Khung quản trị an toàn AI của Trung Quốc, do Ủy ban Kỹ thuật Quốc gia 260 về An ninh mạng xây dựng, là một tài liệu quan trọng hướng dẫn quản lý rủi ro an toàn trong quá trình nghiên cứu, phát triển và ứng dụng AI. Được công bố năm 2024, khung này nhấn mạnh sự phối hợp giữa các chính phủ, doanh nghiệp, tổ chức nghiên cứu, và các cá nhân để phòng ngừa và giảm thiểu các rủi ro liên quan đến AI.
- Các nguyên tắc quản trị AI của Trung Quốc bao gồm việc ưu tiên phát triển sáng tạo, đồng thời đảm bảo rằng các vấn đề về an ninh và quyền lợi người dùng không bị bỏ qua. Điều này đòi hỏi sự hợp tác toàn diện từ các bên liên quan để quản lý mọi khía cạnh của AI từ giai đoạn thiết kế, phát triển đến triển khai và vận hành.
- Phân loại rủi ro an toàn AI được chia thành hai nhóm chính: rủi ro nội tại của AI và rủi ro trong các ứng dụng AI. Các rủi ro nội tại bao gồm sự thiếu minh bạch trong các mô hình AI, thiên vị dữ liệu và khả năng bị tấn công. Ví dụ, các mô hình học sâu có thể đưa ra những quyết định không thể giải thích được và khó kiểm soát, gây khó khăn cho việc truy cứu trách nhiệm khi xảy ra sự cố.
- Các rủi ro liên quan đến dữ liệu như thu thập dữ liệu bất hợp pháp, rò rỉ thông tin cá nhân, và dữ liệu độc hại trong quá trình huấn luyện cũng là những yếu tố chính mà khung quản trị tập trung. Ngoài ra, các hệ thống AI cũng phải đối mặt với nguy cơ bị tấn công, đặc biệt là thông qua các lỗi bảo mật, backdoor hoặc việc sử dụng cơ sở hạ tầng tính toán không an toàn.
- Để giải quyết các rủi ro này, Trung Quốc đưa ra các biện pháp công nghệ cụ thể, bao gồm:
- Cải thiện tính minh bạch và khả năng giải thích của AI, giúp cung cấp lý giải rõ ràng về quá trình đưa ra kết quả.
- Thiết lập các tiêu chuẩn phát triển phần mềm bảo mật để giảm thiểu các lỗ hổng và nguy cơ thiên vị trong các mô hình AI.
- Cải thiện chất lượng dữ liệu, đảm bảo rằng dữ liệu được sử dụng trong quá trình huấn luyện là chính xác và đa dạng.
- Tăng cường bảo vệ dữ liệu cá nhân và thông tin nhạy cảm, đảm bảo rằng việc xử lý dữ liệu tuân thủ các quy định về bảo mật.
- Các cơ chế quản trị toàn diện cũng được đề xuất để phối hợp giữa các tổ chức nghiên cứu, nhà cung cấp dịch vụ và cơ quan chính phủ. Một phần quan trọng của khung là đảm bảo rằng chuỗi cung ứng AI không bị gián đoạn bởi các vấn đề quốc tế như hạn chế xuất khẩu hoặc rủi ro liên quan đến sản phẩm công nghệ như chip và phần mềm.
- Khung quản trị nhấn mạnh tầm quan trọng của việc đánh giá và kiểm tra định kỳ các hệ thống AI, đặc biệt trong các lĩnh vực quan trọng như y tế, giao thông và quốc phòng. Các biện pháp an toàn như giới hạn dịch vụ AI theo ngữ cảnh sử dụng thực tế và khả năng theo dõi nguồn gốc dữ liệu và các hệ thống AI được triển khai rộng rãi.
- Trung Quốc cũng đặc biệt quan tâm đến việc hợp tác quốc tế, thúc đẩy xây dựng các tiêu chuẩn toàn cầu về an toàn AI và chia sẻ các phương pháp tốt nhất giữa các quốc gia. Điều này bao gồm việc hợp tác trong các cơ chế đa phương như APEC, G20, BRICS và khối các nước thuộc sáng kiến Vành đai và Con đường, nhằm tăng cường tiếng nói của các nước đang phát triển trong quản trị AI toàn cầu.
- Việc phát triển nguồn nhân lực và nâng cao nhận thức cộng đồng về rủi ro liên quan đến AI cũng là một trọng tâm lớn trong khung này. Trung Quốc nhấn mạnh sự cần thiết của việc đào tạo các tài năng chuyên sâu trong lĩnh vực an toàn AI và thúc đẩy giáo dục an toàn AI song song với sự phát triển công nghệ.
📌 Khung quản trị an toàn AI của Trung Quốc năm 2024 đưa ra các nguyên tắc và biện pháp chi tiết để quản lý rủi ro trong việc phát triển và ứng dụng AI, từ bảo vệ dữ liệu cá nhân, quản lý chuỗi cung ứng đến hợp tác quốc tế. Trung Quốc đặc biệt chú trọng việc tăng cường tính minh bạch của AI và phát triển nhân lực an toàn AI để đảm bảo lợi ích cho toàn cầu.
https://www.cac.gov.cn/2024-09/09/c_1727567886199789.htm