Cảnh báo khủng bố có thể lợi dụng AI để tạo xe bom tự lái và tuyển mộ trực tuyến

• Các chuyên gia lo ngại khủng bố sẽ tìm ra những cách sử dụng mới và nguy hiểm cho AI, bao gồm phương pháp đánh bom mới và cải thiện chiến dịch tuyển mộ trực tuyến.

• Antonia Marie De Meo, Giám đốc Viện Nghiên cứu Tội phạm và Tư pháp Liên vùng của LHQ, cảnh báo AI có thể trở nên cực kỳ nguy hiểm nếu bị lợi dụng với mục đích xấu.

• Báo cáo "Thuật toán và Khủng bố: Sử dụng AI độc hại cho mục đích khủng bố" kết luận rằng cơ quan thực thi pháp luật cần phải luôn đi đầu trong công nghệ AI.

• Một nghiên cứu hợp tác giữa NATO COE-DAT và Viện Nghiên cứu Chiến lược Đại học Quân sự Hoa Kỳ cũng chỉ ra rằng các nhóm khủng bố đang khai thác AI để tuyển mộ và tấn công.

• Các ứng dụng tiềm năng của AI trong khủng bố bao gồm: xe bom tự lái, tăng cường tấn công mạng, tìm cách dễ dàng hơn để lan truyền thù hận hoặc kích động bạo lực trực tuyến.

• ChatGPT của OpenAI có thể bị lợi dụng để cải thiện email lừa đảo, cài mã độc vào thư viện mã nguồn mở, lan truyền thông tin sai lệch và tạo tuyên truyền trực tuyến.

• Tội phạm mạng và khủng bố đã nhanh chóng thành thạo việc sử dụng các nền tảng AI và mô hình ngôn ngữ lớn để tạo deepfake hoặc chatbot trên dark web nhằm thu thập thông tin nhạy cảm hoặc lên kế hoạch tấn công.

• Nghiên cứu của Trung tâm Chống Khủng bố West Point tập trung vào khả năng cải thiện lập kế hoạch tấn công khủng bố, vượt ra ngoài việc chỉ nâng cao những gì họ đang làm.

• Thử nghiệm cho thấy Bard là mô hình khó bị jailbreak nhất, tiếp theo là các mô hình ChatGPT. Hơn một nửa các trường hợp có thể jailbreak một mô hình bằng cách sử dụng các lệnh gián tiếp.

• Các chuyên gia kêu gọi cần có sự hợp tác chặt chẽ hơn giữa khu vực tư nhân và công, bao gồm học viện, công ty công nghệ và cộng đồng an ninh để đối phó với các mối đe dọa này.

📌 Chuyên gia cảnh báo khủng bố có thể lợi dụng AI để tạo xe bom tự lái, tăng cường tấn công mạng và cải thiện tuyển mộ trực tuyến. Báo cáo của LHQ và NATO nhấn mạnh nhu cầu cấp thiết về hợp tác giữa chính phủ, doanh nghiệp và học viện để xây dựng khung đạo đức và quy định cho AI.

https://www.wuzr.com/2024/09/01/autonomous-car-bombs-online-recruitment-experts-worry-how-ai-can-transform-terrorism/