Gen AI và tác động tiêu cực của nó đến bối cảnh mối đe dọa an ninh mạng và vật lý

• Các quan chức tình báo Mỹ cảnh báo rằng sự phát triển nhanh chóng gần đây của AI có thể vượt quá quy định của chính phủ. 87% tổ chức ở Vương quốc Anh có nguy cơ bị tấn công mạng do AI.

• Các mô hình Gen AI có khả năng quét và phân tích toàn bộ hệ thống máy tính của tổ chức, xác định và khai thác các vector tấn công và lỗ hổng phổ biến nhất với tốc độ và độ chính xác cao.

• Gen AI được sử dụng để tạo ra thông tin đăng nhập, tệp âm thanh và video giả nhằm lừa mục tiêu chia sẻ dữ liệu và mật khẩu riêng tư. Chỉ 73% mọi người có thể phát hiện giọng nói do AI tạo ra.

• 86% tổ chức công nghiệp đã áp dụng các giải pháp IIoT, nghĩa là các thiết bị kết nối internet hiện đang kiểm soát nhiều hệ thống vật lý. FBI cảnh báo về các nỗ lực xâm nhập vào các hệ thống IIoT bằng mô hình Gen AI nhằm ghi đè hệ thống vật lý và phá hủy cơ sở hạ tầng thiết yếu.

• 55% sự cố mất dữ liệu liên quan đến người dùng nhập thông tin nhận dạng cá nhân vào các công cụ AI tạo sinh. Tin tặc triển khai các mô hình Gen AI để truy cập và tiết lộ thông tin bí mật thông qua các chiến lược kỹ thuật xã hội và tấn công vét cạn.

• Các tổ chức lo ngại rằng chính các mô hình Gen AI của họ có thể bị xâm phạm và chống lại họ thông qua các cuộc tấn công nội bộ vào các hệ thống nổi tiếng.

• 53% tổ chức thừa nhận mối quan hệ giữa Gen AI và rủi ro an ninh mạng, nhưng chỉ 38% đang tích cực giảm thiểu các mối đe dọa này.

• Các tổ chức có thể sử dụng Gen AI để liên tục giám sát hoạt động mạng, phát hiện hành vi bất thường, tự động tạo các bản vá ảo cho các lỗ hổng mới được phát hiện và tạo dữ liệu sinh trắc học giả để đào tạo hệ thống nội bộ phát hiện thông tin đăng nhập giả mạo.

📌 Gen AI đang nhanh chóng thay đổi bối cảnh mối đe dọa an ninh mạng-vật lý. 87% tổ chức ở Anh có nguy cơ bị tấn công mạng do AI. Các mối nguy hại chính bao gồm kỹ thuật xã hội, tấn công vật lý, rò rỉ dữ liệu và đánh cắp công nghệ. Để bảo vệ tài sản quan trọng, các tổ chức cần tận dụng sức mạnh của Gen AI để liên tục giám sát, giải quyết và hành động chống lại hoạt động đe dọa mạng.

Citations:
[1]https://www.forbes.com/sites/davidbalaban/2024/04/04/gen-ai-and-its-malicious-impact-on-the-cyber-physical-threat-landscape/