MIT công bố kho dữ liệu về các rủi ro của AI, giúp các nhà hoạch định chính sách và ngành công nghiệp

- MIT đã phát triển một kho dữ liệu về rủi ro AI, cung cấp thông tin cho các nhà hoạch định chính sách và các bên liên quan trong ngành công nghiệp.
- Kho dữ liệu này chứa hơn 700 rủi ro AI được phân loại theo các yếu tố nguyên nhân, lĩnh vực và tiểu lĩnh vực khác nhau.
- Mục tiêu của kho dữ liệu là giúp hiểu rõ hơn về các mối liên hệ và khoảng cách trong nghiên cứu an toàn AI.
- Peter Slattery, một nhà nghiên cứu từ MIT, cho biết kho dữ liệu này sẽ được cập nhật thường xuyên và có thể được sao chép và sử dụng bởi bất kỳ ai.
- Các khung rủi ro hiện có chỉ đề cập đến một phần nhỏ các rủi ro được xác định trong kho dữ liệu này, điều này có thể ảnh hưởng lớn đến phát triển và sử dụng AI.
- Nghiên cứu cho thấy các khung rủi ro hiện tại chỉ đề cập đến trung bình 34% trong số 23 tiểu lĩnh vực rủi ro mà MIT đã xác định.
- Kho dữ liệu đã được xây dựng với sự hợp tác của nhiều tổ chức, bao gồm Đại học Queensland và Viện Tương lai Sống.
- Trong số các rủi ro, hơn 70% khung đề cập đến các vấn đề về quyền riêng tư và bảo mật, trong khi chỉ 44% đề cập đến thông tin sai lệch.
- Kho dữ liệu này có thể giúp các nhà nghiên cứu và nhà hoạch định chính sách tiết kiệm thời gian và tăng cường giám sát.
- Các nhà nghiên cứu MIT dự định sử dụng kho dữ liệu này để đánh giá cách mà các rủi ro AI đang được xử lý trong các tổ chức.
- Dù có tiềm năng lớn, vẫn còn nhiều câu hỏi về việc liệu kho dữ liệu này có thực sự thay đổi cách quản lý AI hay không.

📌 MIT đã phát triển kho dữ liệu rủi ro AI với hơn 700 rủi ro được phân loại, nhằm hỗ trợ các nhà hoạch định chính sách và ngành công nghiệp. Kho dữ liệu này sẽ giúp tiết kiệm thời gian và tăng cường giám sát trong việc quản lý rủi ro AI.

https://techcrunch.com/2024/08/14/mit-researchers-release-a-repository-of-ai-risks/

https://airisk.mit.edu/
#MIT

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo