Mỹ và Trung Quốc cần hợp tác để giảm thiểu rủi ro từ sự phát triển mạnh mẽ của AI

• Các hệ thống AI dự kiến sẽ tiếp tục trở nên mạnh mẽ, tổng quát và phổ biến hơn trong tương lai, dựa trên 4 lý do chính:

- Sự phát triển của các mô hình nền tảng có khả năng áp dụng kiến thức từ một tác vụ sang các tác vụ khác.
- Sự gia tăng dữ liệu huấn luyện và sự tinh vi hóa của GPU.
- Thông lượng GPU đã tăng gấp 10 lần trong những năm gần đây.
- Giả thuyết mở rộng cho rằng các hệ thống AI sẽ tiếp tục cải thiện khi có thêm tham số, dữ liệu và năng lực tính toán.

• Một trong những rủi ro chính của AI là vấn đề căn chỉnh, đảm bảo AI nắm bắt được các chuẩn mực và giá trị của con người. Có hai cách AI có thể bị mất căn chỉnh:

- Lạm dụng đặc tả: AI thỏa mãn đặc tả theo nghĩa đen nhưng không đạt được kết quả mong muốn.
- Tổng quát hóa mục tiêu sai: AI theo đuổi mục tiêu không mong muốn khi triển khai ngoài môi trường huấn luyện.

• Để giải quyết vấn đề này, Mỹ nên theo đuổi 3 chính sách chính:

- Tăng cường nghiên cứu về căn chỉnh AI, phát triển sandbox và mô phỏng an toàn.
- Yêu cầu kiểm tra kỹ lưỡng các mô hình AI tiên tiến trước khi phát hành.
- Thực thi các yêu cầu thông qua kiểm toán thường xuyên các mô hình tiên tiến nhất.

• Mỹ và Trung Quốc cần hợp tác để giải quyết vấn đề này một cách thích hợp. Có 2 lý do để lạc quan về triển vọng hợp tác:

- Cả hai chính phủ đều công nhận lợi ích chung trong việc phát triển AI an toàn.
- Tiền lệ lịch sử từ ngoại giao Chiến tranh Lạnh, đặc biệt là sự cân bằng giữa cạnh tranh và hợp tác với Liên Xô.

• Đề xuất khung chính sách quốc tế:

- Thành lập Viện An toàn AI Quốc tế chung giữa Mỹ và Trung Quốc.
- Cam kết chung tài trợ cho các khoản tài trợ nghiên cứu an toàn AI ở mỗi nước.
- Ký kết hiệp ước chính thức hóa các nguyên tắc của Tuyên bố Bletchley.
- Thiết lập các tiêu chuẩn quốc tế cho kiểm tra an toàn, red-teaming và kiểm toán.

📌 Mỹ và Trung Quốc cần hợp tác gấp rút để giải quyết vấn đề căn chỉnh AI. Đề xuất thành lập Viện An toàn AI Quốc tế chung và ký kết hiệp ước chính thức. Cần ưu tiên vấn đề này trong chiến lược chi tiêu, quy định và ngoại giao của cả hai nước ngay từ bây giờ.

https://nationalinterest.org/blog/techland/can-us-and-china-cooperate-ai-211935