Cỗ máy ngày tận thế AI đang đến gần hơn bạn tưởng: Quân đội Mỹ tăng tốc

• Stanford cho GPT-3.5, GPT-4, GPT-4-Base, Claude 2, Llama-2 Chat nhập vai ra quyết sách khủng hoảng kiểu Ukraine/Taiwan: đa số mô hình chọn leo thang, dùng hỏa lực bừa bãi, thậm chí kích hoạt hạt nhân; “AI luôn chơi kiểu Curtis LeMay.”

• DoD khẳng định “con người trong vòng lặp”, nhưng thực địa đòi hỏi tốc độ khiến hệ thống ngày càng tự chủ, phản ứng nhanh hơn con người có thể theo kịp.

• Chỉ thị 3000.09 (2023) yêu cầu “mức phán xét của con người phù hợp”, nhưng có cơ chế miễn trừ; chưa có hướng dẫn riêng cho chỉ huy-kiểm soát hạt nhân, theo Jon Wolfsthal (FAS).

• Tranh luận về “dead hand” kiểu nguồn Nga Perimeter: Adam Lowther và Curtis McGiffen lập luận Mỹ có thể cần hệ thống phản công tự động răn đe khi lãnh đạo bị vô hiệu. Robert Work tin Perimeter vẫn hoạt động.

• Nga/Trung áp dụng AI vào C3I; vũ khí siêu vượt âm và FOBS làm mờ ranh giới thường-hạt nhân, tăng rủi ro hiểu nhầm.

• AI có thể nén “cửa sổ quyết định” xuống phút: James Johnson cảnh báo AI biến đổi logic răn đe và leo thang, xóa nhòa ranh giới phán đoán người-máy.

• Dự án: JADC2 nối mọi cảm biến bằng AI; Replicator triển khai bầy drone tự chủ; DIU trao Scale AI hợp đồng Thunderforge để lập kế hoạch tác chiến tốc độ cao.

• Project Maven: năm 2025-2026 bước sang “100% machine-generated” intel đến tư lệnh, không có “human-in-the-loop” trong khâu truyền tải; dự kiến tích hợp LLM để suy luận chiến thuật và đề xuất đối sách.

• Rhombus Power dùng AI tạo sinh dự báo xâm lược Ukraine với xác suất 80%, hỗ trợ cảnh báo sớm cho Đài Loan và giảm leo thang Ấn-Pakistan; xây bot “đoán” tư duy lãnh đạo nước ngoài.

• DARPA khởi động “AI Quantified” trị giá 25 triệu USD nhằm tìm “bảo chứng toán học” cho độ tin cậy LLM, giải thích thủy vân lỗi như “ảo giác” và độ nhất quán câu trả lời.

• Chuyên gia cảnh báo: không có cách nhúng giá trị đạo đức vào mô hình một cách tin cậy; LLM bắt chước văn liệu nghiên cứu thiên về leo thang, thiếu dữ liệu “không-sự-kiện” để học hạ nhiệt.

• Mặc dù một số wargame cho thấy ChatGPT có lúc thận trọng hơn con người, “đọc tín hiệu” giảm leo thang (ví dụ đòn trả đũa Iran) vẫn là thách thức với máy.

• Áp lực “đi nhanh”: phát biểu 06-2025, tướng Dan “Razin” Caine hối thúc chấp nhận rủi ro; 23-07 chính quyền Trump công bố “AI Action Plan” muốn gỡ bớt rào cản.

• Nỗi lo hệ thống cảnh báo/hạ tầng cảm biến đan xen làm tăng phơi nhiễm với quyết định sai, trong khi tổng thống có thể chỉ có vài phút như sự cố báo động giả 1979 nêu bởi Z. Brzezinski.

• Nhiều lãnh đạo công nghệ quốc phòng (Anduril, Booz Allen) ủng hộ AI ở cấp phát hiện-phân tích, nhưng phản đối AI chạm “vòng lệnh” hạt nhân vì hậu quả lỗi là thảm họa.

📌 Bức tranh tổng thể: AI đang len vào mọi tầng phòng thủ Mỹ — JADC2, Replicator, Maven “100% machine-generated” — để theo kịp Nga/Trung, nhưng tạo dốc trượt sang tự động hóa leo thang, kể cả “dead hand”. DARPA bơm 25 triệu USD để truy tìm bảo chứng toán học, song thiên kiến leo thang của LLM, mờ ranh thường-hạt nhân và áp lực tốc độ (80% dự báo chiến sự, cửa sổ quyết định tính bằng phút) khiến “con người trong vòng lặp” ngày càng mong manh.

https://www.politico.com/news/magazine/2025/09/02/pentagon-ai-nuclear-war-00496884