92% chuyên gia bảo mật lo ngại về rủi ro AI tạo sinh, 22% nhân viên vi phạm quy định

• 16% tổ chức gặp gián đoạn do thiếu trưởng thành trong việc triển khai AI. 60% quản trị viên hệ thống thừa nhận thiếu hiểu biết về cách tận dụng AI trong thực tế, cho thấy khoảng cách về kiến thức AI vẫn tồn tại.

• Rủi ro bảo mật cấp thiết nhất đối với người dùng GenAI liên quan đến dữ liệu. 46% vi phạm chính sách dữ liệu là do chia sẻ mã nguồn độc quyền trong các ứng dụng GenAI.

• Các mối đe dọa AI đáng lo ngại nhất bao gồm: tấn công prompt mô hình GenAI (46%), đầu độc dữ liệu mô hình ngôn ngữ lớn (38%), ransomware dưới dạng dịch vụ (37%), tấn công chip xử lý GenAI (26%), vi phạm API (24%) và lừa đảo GenAI (23%).

• 41% cho rằng GenAI có tiềm năng lớn nhất trong việc giải quyết tình trạng mệt mỏi do cảnh báo an ninh mạng.

• 62% CISO không hoàn toàn tin tưởng vào khả năng nhận diện các cuộc tấn công mạng sử dụng GenAI của nhân viên. 92% CISO cho rằng AI và GenAI khiến họ phải cân nhắc lại tương lai trong vai trò này.

• 92% chuyên gia bảo mật lo ngại về GenAI, bao gồm nhân viên nhập dữ liệu nhạy cảm vào công cụ AI (48%), sử dụng hệ thống AI được đào tạo bằng dữ liệu không chính xác hoặc độc hại (44%), và mắc bẫy lừa đảo nâng cao bằng AI (42%).

• 22% nhân viên thừa nhận cố tình vi phạm quy định của công ty về sử dụng GenAI.

• 25% người được hỏi lo ngại AI có thể có lợi hơn cho các bên độc hại.

• 87% lo ngại nhân viên có thể vô tình tiết lộ dữ liệu nhạy cảm cho đối thủ khi nhập vào GenAI. 87% lo ngại nhân viên không tuân thủ chính sách GenAI.

• Hơn 90% cho rằng AI đòi hỏi các kỹ thuật mới để quản lý dữ liệu và rủi ro. Các mối quan ngại hàng đầu bao gồm đe dọa quyền sở hữu trí tuệ (69%) và rủi ro tiết lộ thông tin ra công chúng hoặc đối thủ (68%).

• Để hạn chế rủi ro, 63% tổ chức đã đặt ra giới hạn về dữ liệu có thể nhập vào, 61% giới hạn nhân viên được phép sử dụng công cụ GenAI, và 27% cấm hoàn toàn các ứng dụng GenAI trong thời gian này.

📌 AI và GenAI mang lại cả cơ hội và thách thức lớn cho doanh nghiệp. 92% chuyên gia bảo mật lo ngại về rủi ro, trong khi 22% nhân viên vi phạm quy định. Các tổ chức cần cân bằng giữa tận dụng tiềm năng và kiểm soát rủi ro thông qua đào tạo, chính sách và giám sát chặt chẽ.

https://www.helpnetsecurity.com/2024/08/15/ai-genai-security-risks/