Các nhà khoa học AI hàng đầu kêu gọi thành lập cơ quan quốc tế giám sát AI để ngăn chặn rủi ro thảm họa

• Các nhà khoa học AI hàng đầu từ Mỹ, Trung Quốc và các nước khác đã kêu gọi thành lập một cơ quan quốc tế để giám sát AI.

• Họ cảnh báo rằng trong vòng vài năm tới, công nghệ AI có thể vượt quá khả năng kiểm soát của con người và việc sử dụng sai mục đích có thể dẫn đến "hậu quả thảm khốc cho toàn nhân loại".

• Nhóm các nhà khoa học đề xuất các quốc gia thành lập cơ quan an toàn AI để đăng ký các hệ thống AI trong nước. Các cơ quan này sẽ cùng nhau xác định các ranh giới đỏ và dấu hiệu cảnh báo.

• Những người ký tên bao gồm Yoshua Bengio, Andrew Yao và Geoffrey Hinton - những người đoạt giải Turing, được coi là giải Nobel trong lĩnh vực máy tính.

• Cuộc gặp diễn ra tại Venice từ ngày 5-8/9, là cuộc họp thứ 3 của Đối thoại Quốc tế về An toàn AI do tổ chức phi lợi nhuận Far.AI của Mỹ tổ chức.

• Các cuộc gặp này là diễn đàn hiếm hoi để các nhà khoa học Trung Quốc và phương Tây trao đổi trong bối cảnh căng thẳng công nghệ Mỹ-Trung.

• Gần đây, các công ty Trung Quốc đã ra mắt công nghệ ngang tầm với các hệ thống AI hàng đầu của Mỹ.

• Cả Mỹ và Trung Quốc đều coi AI là ưu tiên. Trung Quốc kêu gọi xây dựng hệ thống quản lý an toàn AI. Mỹ yêu cầu các công ty báo cáo về rủi ro của hệ thống AI.

• Tổng thống Biden và Chủ tịch Tập Cận Bình đã đồng ý tổ chức đối thoại về an toàn AI. Cuộc họp đầu tiên diễn ra tại Geneva vào tháng 5.

• Tuy nhiên, sự nghi ngờ lẫn nhau giữa Mỹ và Trung Quốc gây khó khăn cho việc đạt được sự đồng thuận.

• Các nhà khoa học nhấn mạnh tầm quan trọng của trao đổi khoa học giữa hai cường quốc trong bối cảnh cạnh tranh địa chính trị.

• Yoshua Bengio so sánh với các cuộc đàm phán giữa các nhà khoa học Mỹ và Liên Xô trong Chiến tranh Lạnh để ngăn chặn thảm họa hạt nhân.

📌 Các nhà khoa học AI hàng đầu thế giới kêu gọi thành lập cơ quan quốc tế giám sát AI để ngăn chặn rủi ro thảm họa trong vòng vài năm tới. Họ đề xuất các quốc gia thành lập cơ quan an toàn AI và hợp tác xác định ranh giới đỏ. Tuy nhiên, sự nghi ngờ giữa Mỹ-Trung gây khó khăn cho việc đạt được đồng thuận.

https://www.nytimes.com/2024/09/16/business/china-ai-safety.html