AI có thể phá vỡ hòa bình thế giới, cần đào tạo gấp các nhà phát triển

• Các tiến bộ trong AI dân sự có thể gây ra những hậu quả nghiêm trọng đối với hòa bình và an ninh quốc tế, nhưng nhiều người trong cộng đồng AI dân sự dường như không nhận thức được điều này.

• AI có thể đe dọa hòa bình và an ninh theo nhiều cách trực tiếp và gián tiếp:
- Chatbot AI có thể được sử dụng để tạo ra thông tin sai lệch cho các chiến dịch gây ảnh hưởng chính trị
- Mô hình ngôn ngữ lớn có thể được dùng để tạo mã cho các cuộc tấn công mạng và hỗ trợ phát triển vũ khí sinh học
- Quyết định về việc mở mã nguồn phần mềm AI có ý nghĩa địa chính trị, ảnh hưởng đến việc các quốc gia hoặc tác nhân phi quốc gia tiếp cận công nghệ quan trọng

• Cần thay đổi trong giáo dục và phát triển nghề nghiệp của các nhà thực hành AI:
- Đưa các khóa học bắt buộc về tác động xã hội của công nghệ, đổi mới có trách nhiệm, đạo đức AI và quản trị vào chương trình đào tạo AI ở cả bậc đại học và sau đại học
- Phát triển các khóa học giáo dục thường xuyên về tác động xã hội của nghiên cứu AI
- Khuyến khích chia sẻ kiến thức và thảo luận về rủi ro tiềm ẩn ngoài cộng đồng nghiên cứu AI

• Các tổ chức như IEEE và ACM có thể đóng vai trò quan trọng trong việc thiết lập các khóa học giáo dục thường xuyên và tạo ra các nhóm làm việc chuyên gia

• Các trường đại học và khu vực tư nhân cần tạo hoặc mở rộng các vị trí và bộ phận tập trung vào tác động xã hội và quản trị AI

• Đã có những động thái quản lý AI trên toàn cầu như thành lập Cơ quan Cố vấn Cấp cao của LHQ về AI, Ủy ban Toàn cầu về AI có trách nhiệm trong lĩnh vực quân sự, Tuyên bố G7 về quy trình AI Hiroshima, Hội nghị thượng đỉnh An toàn AI đầu tiên do Anh tổ chức

• Đầu tư vào giáo dục là một trong những cách hiệu quả và bền vững nhất để đảm bảo các nhà phát triển AI có kiến thức cơ bản và phương tiện để giải quyết rủi ro từ công việc của họ

📌 AI có thể gây ra những rủi ro nghiêm trọng cho hòa bình và an ninh toàn cầu. Cần thay đổi giáo dục AI để trang bị cho các nhà phát triển kiến thức về tác động xã hội và quản trị có trách nhiệm. Các tổ chức như IEEE, trường đại học và doanh nghiệp đóng vai trò quan trọng trong việc này.

https://spectrum.ieee.org/ai-missteps-unravel-global-security