CSA: Thị trường ngầm AI bất hợp pháp đang phát triển gây lo ngại về an ninh mạng

• Cơ quan An ninh Mạng Singapore (CSA) cảnh báo về sự xuất hiện của các diễn đàn ngầm bán các phiên bản ChatGPT đã được sửa đổi để bỏ qua các bộ lọc an toàn và tạo ra nội dung lừa đảo.

• FraudGPT và WormGPT, hai phiên bản sửa đổi của ChatGPT, đã được bán cho hơn 3.000 khách hàng trên toàn cầu kể từ tháng 7/2023, gây lo ngại về làn sóng tấn công mạng, lừa đảo và thông tin sai lệch do AI tạo sinh.

• Khoảng 13% các vụ lừa đảo qua email giả mạo được CSA phân tích trong năm 2023 cho thấy dấu hiệu có thể được tạo ra bởi AI.

• Các công ty an ninh mạng báo cáo xu hướng ngày càng tăng của tin tặc sử dụng AI để thu thập thông tin quan trọng về phần mềm nhằm tìm ra lỗ hổng trong hệ thống của các công ty.

• Microsoft tiết lộ các tác nhân xấu đã sử dụng AI để nghiên cứu các giao thức kỹ thuật cho thiết bị quân sự như radar và vệ tinh, minh họa cách AI có thể được sử dụng trong trinh sát trước khi tấn công.

• Các công cụ tạo mật khẩu sử dụng AI như PassGAN có thể bẻ khóa hơn một nửa số mật khẩu thông thường trong chưa đầy một phút.

• Công nghệ deepfake đang được sử dụng để vượt qua xác thực sinh trắc học. Các công ty xác minh danh tính báo cáo sự gia tăng đột biến trong các nỗ lực gian lận deepfake trong năm 2023.

• Một vụ lừa đảo deepfake năm 2024 đã khiến một nhân viên của một công ty đa quốc gia chuyển hơn 25 triệu USD cho những kẻ lừa đảo sau khi tham gia một cuộc họp video được tạo ra bởi AI theo thời gian thực.

• CSA khuyến nghị các biện pháp an ninh mạng thông thường vẫn có hiệu quả để giảm thiểu các mối đe dọa từ AI, bao gồm sử dụng mật khẩu mạnh, xác thực đa yếu tố và cập nhật phần mềm thường xuyên.

• Ngành an ninh mạng cũng đang sử dụng AI để chống lại các mối đe dọa. Ensign InfoSecurity đã phát triển một hệ thống AI phân tích lưu lượng internet để phát hiện dấu hiệu tấn công độc hại.

• Tuy nhiên, việc sử dụng AI trong an ninh mạng cũng gặp phải những thách thức như cảnh báo sai và cuộc chạy đua vũ trang với tội phạm mạng có thể không bền vững về lâu dài đối với nhiều tổ chức.

📌 Thị trường ngầm AI bất hợp pháp đang phát triển nhanh chóng, với hơn 3.000 khách hàng sử dụng các phiên bản ChatGPT đã sửa đổi. 13% vụ lừa đảo qua email có dấu hiệu sử dụng AI. Ngành an ninh mạng đang chạy đua sử dụng AI để chống lại các mối đe dọa, nhưng vẫn còn nhiều thách thức.

https://www.straitstimes.com/singapore/growing-underground-market-for-rogue-ai-sparks-cyber-security-concerns