OpenAI phát hiện 'tác nhân độc hại liên kết với nhà nước' sử dụng ChatGPT để tấn công mạng

- OpenAI và Microsoft đã phát hiện và đóng cửa các tài khoản của "năm kẻ tấn công xấu có liên kết với nhà nước" sử dụng công cụ AI, bao gồm ChatGPT, để thực hiện các cuộc tấn công mạng.
- Các tài khoản bị đóng cửa liên kết với các nhóm có liên kết với Trung Quốc là Charcoal Typhoon (CHROMIUM) và Salmon Typhoon (SODIUM), liên kết với Iran là Crimson Sandstorm (CURIUM), liên kết với Bắc Triều Tiên là Emerald Sleet (THALLIUM), và liên kết với Nga là Forest Blizzard (STRONTIUM).
- Các nhóm này chủ yếu tìm cách sử dụng dịch vụ của OpenAI để truy vấn thông tin nguồn mở, dịch thuật, tìm lỗi lập trình và thực hiện các nhiệm vụ lập trình cơ bản.
- Forest Blizzard, một nhóm tình báo quân sự của Nga, sử dụng mô hình ngôn ngữ lớn (LLMs) để nghiên cứu về "các công nghệ vệ tinh và radar có thể liên quan đến ... các hoạt động quân sự thông thường ở Ukraine".
- Cả Charcoal Typhoon và Salmon Typhoon, có "lịch sử nhắm mục tiêu vào các nhà thầu quốc phòng của Mỹ, cơ quan chính phủ, và các thực thể trong lĩnh vực công nghệ mã hóa", đã sử dụng LLMs để chạy truy vấn về các cơ quan tình báo toàn cầu và các công ty khác nhau, tạo mã và xác định lỗi lập trình, và thực hiện các nhiệm vụ dịch thuật.
- Crimson Sandstorm, Emerald Sleet, và cả hai nhóm có liên kết với Trung Quốc đã sử dụng công cụ của OpenAI để tạo nội dung cho các chiến dịch lừa đảo qua email.

📌 OpenAI và Microsoft đã phát hiện và đóng cửa các tài khoản của "năm kẻ tấn công xấu có liên kết với nhà nước" sử dụng công cụ AI, bao gồm ChatGPT, để thực hiện các cuộc tấn công mạng.  Các nhóm này đã tận dụng AI để truy vấn thông tin, dịch thuật, tìm kiếm và sửa lỗi lập trình, và thậm chí tạo nội dung cho các chiến dịch lừa đảo. Điều này cho thấy tiềm năng và cũng như rủi ro của AI trong lĩnh vực an ninh mạng, đặc biệt là khi công nghệ này ngày càng trở nên tiên tiến và dễ tiếp cận hơn.

Citations:
[1] https://qz.com/openai-microsoft-chatgpt-ai-cyberattacks-1851255460

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo