Các nhà nghiên cứu tạo ra phần mềm độc hại được hỗ trợ bởi AI và tự lây lan

- Các nhà nghiên cứu đã phát triển một "sâu máy tính" sử dụng AI tạo sinh có khả năng tự lan truyền từ máy tính này sang máy tính khác.
- Sâu máy tính có thể tấn công trợ lý email được cung cấp năng lượng bởi AI để lấy cắp dữ liệu nhạy cảm từ email và gửi các tin nhắn rác làm nhiễm độc các hệ thống khác.
- Trong thí nghiệm được kiểm soát, các nhà nghiên cứu đã nhắm vào trợ lý email sử dụng OpenAI GPT-4, Google Gemini Pro, và một mô hình ngôn ngữ lớn nguồn mở có tên LLaVA.
- Họ đã sử dụng một hệ thống email mới thiết lập có khả năng gửi và nhận tin nhắn để "đầu độc" cơ sở dữ liệu của một email gửi đi, kích hoạt AI nhận dữ liệu để đánh cắp chi tiết nhạy cảm từ email.
- Quá trình này cũng cho phép sâu máy tính được chuyển giao sang máy mới.
- Nhóm nghiên cứu còn có thể nhúng một lệnh độc hại trong một hình ảnh, kích hoạt AI để lây nhiễm thêm các khách hàng email.
- Các nhà nghiên cứu cảnh báo rằng sâu máy tính AI có thể bắt đầu lan truyền "trong vài năm tới" và sẽ gây ra những thách thức đáng kể cho bảo mật mạng.

📌 Các nhà nghiên cứu đã chứng minh khả năng của một loại malware mới, sử dụng AI tạo sinh để tự lan truyền và lây nhiễm các hệ thống máy tính. Sự phát triển này đặt ra một mối đe dọa tiềm tàng lớn đối với an ninh mạng, với khả năng tấn công và lấy cắp dữ liệu nhạy cảm từ các trợ lý email AI như OpenAI GPT-4 và Google Gemini Pro. Thí nghiệm đã cho thấy sự hiệu quả của việc "đầu độc" cơ sở dữ liệu email, dẫn đến việc đánh cắp thông tin và lan truyền sâu máy tính đến các hệ thống mới. Cảnh báo này nhấn mạnh tầm quan trọng của việc phát triển các biện pháp bảo mật mạng mạnh mẽ hơn để đối phó với các mối đe dọa AI mới nổi, có thể xuất hiện "trong vài năm tới".

Citations:
[1] https://futurism.com/researchers-create-ai-malware