Quân đội Mỹ đối mặt với những rủi ro khôn lường khi tin tưởng vào AI
- Bộ Quốc phòng Mỹ đã công bố chiến lược áp dụng công nghệ AI vào tháng 11/2023, cho rằng AI giúp các nhà lãnh đạo đưa ra quyết định tốt hơn và nhanh hơn.
- Các công nghệ hỗ trợ AI đang được sử dụng trong quân đội Mỹ, như lựa chọn mục tiêu Houthi ở Trung Đông, thử nghiệm LLM trong các trò chơi chiến tranh, lập kế hoạch quân sự và các nhiệm vụ hành chính cơ bản.
- Tuy nhiên, lãnh đạo Lầu Năm Góc lo ngại về những rủi ro mà công nghệ này gây ra, như sự thiên vị, ảo giác trong các ứng dụng LLM và lỗ hổng bảo mật.
- Hải quân Mỹ đã công bố hướng dẫn hạn chế sử dụng LLM do lo ngại về lỗ hổng bảo mật và việc vô tình tiết lộ thông tin nhạy cảm.
- Nghiên cứu cho thấy những lo ngại trên là có cơ sở. Quân đội cần hiểu rõ hơn về cách thức hoạt động của LLM và tầm quan trọng của sự khác biệt trong thiết kế và thực thi LLM.
- Điều này đòi hỏi đào tạo người dùng đáng kể và khả năng đánh giá logic cơ bản và dữ liệu giúp LLM hoạt động.
- Bộ Quốc phòng Mỹ đã có những dấu hiệu đáng khích lệ khi công bố chỉ thị về Tính tự chủ trong Hệ thống vũ khí vào năm 2023, yêu cầu các hệ thống AI phải được kiểm tra kỹ lưỡng.
📌 Mặc dù quân đội Mỹ mong muốn sử dụng LLM và các công cụ hỗ trợ ra quyết định dựa trên AI, song vẫn tồn tại những hạn chế và nguy cơ thực sự. Quân đội cần hiểu rõ hơn về cách thức hoạt động của LLM, sự khác biệt trong thiết kế và thực thi, đồng thời đào tạo kỹ người dùng và đánh giá logic cơ bản cũng như dữ liệu đằng sau công nghệ này.
Citations:
[1] https://www.foreignaffairs.com/united-states/why-military-cant-trust-ai
Thảo luận
Follow Us
Tin phổ biến
