- Các nhà nghiên cứu từ Đại học Illinois đã phát triển các tác tử AI có thể tự động hack các trang web và khai thác các lỗ hổng zero-day trong thế giới thực.
- Các tác tử AI sử dụng phong cách ReAct gặp khó khăn trong các cuộc tấn công phức tạp, đa giai đoạn do bối cảnh yêu cầu quá lớn và dễ bị mắc kẹt khi khai thác một loại lỗ hổng cụ thể.
- Hệ thống HPTSA (Hierarchical Planning and Task-Specific Agents) cho phép các tác tử AI phối hợp với nhau, trong đó "tác tử lập kế hoạch" đóng vai trò chỉ huy, khám phá mục tiêu và ủy thác nhiệm vụ cho các "tác tử chuyên gia" được đào tạo để khai thác các loại lỗ hổng khác nhau như XSS, SQLi, v.v.
- Các tác tử AI không cần được cung cấp thông tin về lỗ hổng cụ thể trước, chúng có thể tự phát hiện các lỗ hổng zero-day chưa từng thấy.
- Trong thử nghiệm trên 15 lỗ hổng thực tế gần đây từ các nền tảng lớn như WordPress, PrestaShop, HPTSA đã khai thác thành công 53% lỗ hổng khi chỉ được cho 5 lần thử, trong khi các công cụ quét mã nguồn mở không thể phát hiện được lỗ hổng nào.
- Chi phí ước tính cho mỗi lần khai thác thành công là khoảng 24 USD cho phí API của LLM (GPT4 Turbo), cho thấy hack tự động bằng AI đã trở thành mối đe dọa rất rẻ.
- Mục đích của nghiên cứu là giúp phát triển các biện pháp an ninh phòng ngừa tốt hơn trước làn sóng tấn công được hỗ trợ bởi AI.
📌 Các tác tử AI sử dụng hệ thống HPTSA có thể tự động hack 53% lỗ hổng zero-day chỉ với 5 lần thử và chi phí 24 USD/lần, cho thấy mối đe dọa từ hack tự động bằng AI đã trở nên rất rẻ và đáng lo ngại. Nghiên cứu này nhằm giúp phát triển các biện pháp an ninh mạng tốt hơn để đối phó.
https://www.marktechpost.com/2024/06/10/researchers-at-the-university-of-illinois-have-developed-ai-agents-that-can-autonomously-hack-websites-and-find-zero-day-vulnerabilities/