Các nhà khoa học Trung Quốc và phương Tây xác định "lằn ranh đỏ" về rủi ro AI

- Các chuyên gia AI hàng đầu từ Trung Quốc và phương Tây cảnh báo rằng việc giải quyết các rủi ro từ công nghệ AI đòi hỏi sự hợp tác toàn cầu tương tự như nỗ lực thời Chiến tranh Lạnh để tránh xung đột hạt nhân.
- Tại Đối thoại Quốc tế về An toàn AI ở Bắc Kinh tuần trước, các chuyên gia đã xác định các "lằn ranh đỏ" trong phát triển AI, bao gồm việc chế tạo vũ khí sinh học và tiến hành tấn công mạng.
- Các học giả cảnh báo rằng cần có cách tiếp cận chung về an toàn AI để ngăn chặn "các rủi ro thảm khốc hoặc thậm chí hiện sinh đối với nhân loại trong cuộc đời chúng ta".
- Những người ký tên bao gồm Geoffrey Hinton, Yoshua Bengio, Stuart Russell và Andrew Yao - những nhà khoa học máy tính nổi tiếng thế giới.
- Tuyên bố này được đưa ra sau cuộc họp ở Bắc Kinh, có sự tham gia của các quan chức chính phủ Trung Quốc, cho thấy sự ủng hộ ngầm của chính quyền đối với diễn đàn và kết quả của nó.
- Tổng thống Mỹ Joe Biden và Chủ tịch Trung Quốc Tập Cận Bình đã thảo luận về an toàn AI vào tháng 11 và nhất trí thiết lập đối thoại về vấn đề này.
- Vào tháng 11, 28 quốc gia và các công ty AI hàng đầu đã đồng ý hợp tác để giải quyết các rủi ro hiện sinh từ AI tiên tiến.
- Tại Bắc Kinh, các chuyên gia thảo luận về các mối đe dọa liên quan đến phát triển "trí tuệ nhân tạo tổng quát" (AGI).
- Các nhà khoa học nêu rõ không hệ thống AI nào được phép tự sao chép hoặc cải thiện mà không có sự chấp thuận và hỗ trợ rõ ràng của con người, tăng khả năng thiết kế vũ khí hủy diệt hàng loạt, vi phạm công ước vũ khí sinh học hoặc hóa học, hoặc tự thực hiện các cuộc tấn công mạng gây thiệt hại tài chính nghiêm trọng.

📌 Các chuyên gia AI hàng đầu từ Trung Quốc và phương Tây đã cảnh báo về các rủi ro hiện sinh từ AI và kêu gọi hợp tác toàn cầu tương tự như thời Chiến tranh Lạnh. Tại Đối thoại Quốc tế về An toàn AI ở Bắc Kinh, họ xác định các "lằn ranh đỏ" như cấm AI tự cải tiến mà không có sự chấp thuận của con người, tăng khả năng chế tạo vũ khí hủy diệt hàng loạt, hoặc tự thực hiện tấn công mạng gây thiệt hại nghiêm trọng.

https://www.ft.com/content/375f4e2d-1f72-49c8-b212-0ab2a173b8cb