MITRE ra mắt sáng kiến chia sẻ sự cố AI nhằm cải thiện khả năng phòng thủ tập thể

• MITRE's Center for Threat-Informed Defense vừa công bố sáng kiến Chia sẻ Sự cố AI, hợp tác với hơn 15 công ty nhằm nâng cao kiến thức cộng đồng về các mối đe dọa và phòng thủ cho hệ thống AI.

• Sáng kiến này thuộc dự án Secure AI, nhằm tạo điều kiện hợp tác nhanh chóng và an toàn về các mối đe dọa, tấn công và tai nạn liên quan đến hệ thống AI.

• Nó mở rộng phạm vi của cơ sở kiến thức cộng đồng MITRE ATLAS, vốn đã thu thập và phân loại dữ liệu về các sự cố ẩn danh trong 2 năm qua.

• Cộng đồng cộng tác viên sẽ nhận được dữ liệu được bảo vệ và ẩn danh về các sự cố AI trong thế giới thực.

• Bất kỳ ai cũng có thể gửi sự cố qua web tại https://ai-incidents.mitre.org/. Các tổ chức gửi sẽ được xem xét để trở thành thành viên.

• Mục tiêu là cho phép phân tích và tình báo rủi ro dựa trên dữ liệu ở quy mô lớn.

• Secure AI cũng mở rộng framework mối đe dọa ATLAS để bao gồm thông tin về bối cảnh đe dọa hệ thống AI tạo sinh.

• Họ đã thêm một số nghiên cứu điển hình và kỹ thuật tấn công mới tập trung vào AI tạo sinh, cũng như các phương pháp mới để giảm thiểu các cuộc tấn công vào những hệ thống này.

• Vào tháng 11/2023, MITRE đã hợp tác với Microsoft phát hành các bản cập nhật cho cơ sở kiến thức ATLAS tập trung vào AI tạo sinh.

• Douglas Robbins, Phó chủ tịch MITRE Labs, cho biết việc chia sẻ thông tin tiêu chuẩn hóa và nhanh chóng về các sự cố sẽ cho phép cả cộng đồng cải thiện khả năng phòng thủ tập thể và giảm thiểu tác hại bên ngoài.

• MITRE cũng vận hành một quan hệ đối tác công-tư chia sẻ thông tin tương tự với cơ sở dữ liệu Aviation Safety Information Analysis and Sharing để chia sẻ dữ liệu và thông tin an toàn nhằm xác định và ngăn chặn các mối nguy trong hàng không.

• Các cộng tác viên của Secure AI trải rộng nhiều ngành công nghiệp, với đại diện từ dịch vụ tài chính, công nghệ và chăm sóc sức khỏe.

• Danh sách bao gồm AttackIQ, BlueRock, Booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered và Verizon Business.

📌 MITRE ra mắt sáng kiến chia sẻ sự cố AI với 15+ công ty lớn, mở rộng cơ sở kiến thức ATLAS về AI tạo sinh. Mục tiêu là cải thiện phòng thủ tập thể và phân tích rủi ro dựa trên dữ liệu thực tế được ẩn danh và bảo vệ.

https://www.darkreading.com/threat-intelligence/mitre-launches-ai-incident-sharing-initiative