Công cụ AI trong quân đội Mỹ - Mối đe dọa âm thầm với an ninh quốc gia
• Meta, Anthropic và OpenAI đã công bố các mô hình AI nền tảng của họ sẵn sàng được sử dụng cho an ninh quốc gia Mỹ.
• Lực lượng không quân Mỹ đã ra mắt chatbot AI tạo sinh NIPRGPT, có khả năng trả lời câu hỏi và hỗ trợ các công việc như soạn thảo văn bản, báo cáo và lập trình.
• US Africa Command (USAfricom) đang sử dụng công cụ của OpenAI cho việc "phân tích thống nhất để xử lý dữ liệu".
• Hải quân Mỹ đã phát triển Amelia - một mô hình AI hội thoại hỗ trợ kỹ thuật.
• Các nghiên cứu từ Đại học Cornell cho thấy tỷ lệ tạo mã chính xác của các công cụ AI phổ biến:
- ChatGPT: 65,2%
- GitHub Copilot: 46,3%
- Amazon CodeWhisperer: 31,1%
• Các rủi ro chính từ việc sử dụng AI trong quân đội:
- Đối thủ có thể đầu độc tập dữ liệu huấn luyện
- Khai thác ảo giác AI
- Tỷ lệ lỗi cao không phù hợp với yêu cầu độ chính xác
- Người dùng có thể bỏ qua sai sót do quá tin tưởng vào công cụ
• Các công cụ AI đang được xem như một phần của cơ sở hạ tầng CNTT, cho phép bỏ qua các quy trình đánh giá phù hợp cho mục đích quan trọng.
📌 Việc triển khai nhanh chóng các công cụ AI trong quân đội Mỹ đang tạo ra những rủi ro nghiêm trọng về an ninh. Với tỷ lệ lỗi cao (31,1-65,2%) và khả năng bị tấn công, lợi ích về hiệu quả không thể bù đắp được những mối đe dọa tiềm tàng này đối với an ninh quốc phòng.
https://www.ft.com/content/09319d20-8484-440c-a535-90bb5a1f4094
#FT
Thảo luận
Follow Us
Tin phổ biến
