- Việc sử dụng công cụ AI/ML trong doanh nghiệp tăng gần 600% từ 521 triệu giao dịch/tháng (4/2023) lên 3,1 tỷ (1/2024).
- 18,5% giao dịch AI/ML bị chặn do lo ngại về bảo mật, tăng 577% trong 9 tháng.
- Tin tặc đã "vũ khí hóa" các mô hình ngôn ngữ lớn (LLM) để tấn công các tổ chức.
- Các ngành sản xuất, tài chính, bảo hiểm, dịch vụ áp dụng nhiều công cụ AI/ML nhất nhưng chưa sẵn sàng đối phó với các cuộc tấn công.
- ChatGPT là công cụ AI bị chặn nhiều nhất, theo sau là OpenAI, Fraud.net, Forethought, Hugging Face.
- Ngành tài chính, bảo hiểm chặn nhiều giao dịch AI nhất (37,16%), ngành sản xuất chỉ chặn 15,65%.
- Chặn giao dịch chỉ là giải pháp tạm thời, cần phân tích dữ liệu telemetry để phát hiện mối đe dọa mới.
- Các nhà cung cấp bảo mật hàng đầu đang huấn luyện LLM của họ trên dữ liệu tấn công AI.
- Bảo vệ sở hữu trí tuệ, kiểm soát "shadow AI", đảm bảo quyền riêng tư và bảo mật dữ liệu là then chốt.
- Tin tặc dùng AI để tự động hóa các cuộc tấn công ransomware nhắm vào các lỗ hổng cụ thể.
📌 Việc áp dụng AI trong doanh nghiệp tăng vọt 600% chỉ trong 9 tháng, khiến 18,5% giao dịch bị chặn vì lo ngại bảo mật. Tin tặc đã tận dụng AI để tự động hóa các cuộc tấn công ransomware tinh vi hơn. Các doanh nghiệp cần chiến lược bảo mật toàn diện, phân tích dữ liệu telemetry và hợp tác với các nhà cung cấp bảo mật hàng đầu để đối phó với mối đe dọa mới từ AI.
Citations:
[1] https://venturebeat.com/security/zscaler-finds-enterprise-ai-adoption-soars-600-in-less-than-a-year-putting-data-at-risk/