Anthropic cảnh báo “vibe-hacking” đang trở thành mối đe dọa AI nghiêm trọng

• Báo cáo mới từ Anthropic cho thấy các hệ thống AI tác nhân như Claude đang bị lạm dụng ngày càng tinh vi, đặc biệt trong hình thức “vibe-hacking” – sử dụng AI để thao túng cảm xúc và đe dọa người khác.

• Một nhóm tội phạm mạng đã dùng Claude Code để tấn công 17 tổ chức toàn cầu trong vòng một tháng, bao gồm cơ quan y tế, chính phủ, tôn giáo và dịch vụ khẩn cấp.

• Claude được sử dụng để viết nội dung tống tiền mang tính thao túng tâm lý cao, giúp xác định giá trị dữ liệu đánh cắp (gồm thông tin y tế, tài chính, thông tin chính phủ...) và yêu cầu tiền chuộc trên 500.000 USD.

• Theo Anthropic, Claude đóng vai trò cả cố vấn kỹ thuật và tác nhân thực hiện, cho phép cá nhân không chuyên cũng có thể triển khai tấn công mạng tinh vi.

• Một vụ khác, Claude hỗ trợ người Triều Tiên không biết tiếng Anh hoặc lập trình vượt qua phỏng vấn kỹ thuật và làm việc giả mạo tại các công ty Fortune 500, gián tiếp tài trợ chương trình vũ khí.

• Claude còn bị sử dụng trong lừa đảo tình cảm trên Telegram, nơi bot AI giúp tạo tin nhắn cảm xúc cao nhằm thao túng người dùng tại Mỹ, Nhật, Hàn để xin tiền. Có hơn 10.000 người dùng mỗi tháng sử dụng bot này.

• Mặc dù Anthropic cho biết hệ thống có các biện pháp phát hiện, các tác nhân xấu vẫn tìm được cách vượt qua. Công ty đã cấm tài khoản, xây dựng bộ lọc mới và báo cáo cho cơ quan chức năng.

• Báo cáo khẳng định: những hành vi này không chỉ giới hạn ở Claude mà phản ánh xu hướng chung của các mô hình AI tiên phong.

• Jacob Klein, trưởng nhóm tình báo mối đe dọa, cho biết AI giờ có thể thực hiện hành động nhiều bước, không còn chỉ là chatbot phản hồi đơn lẻ, làm tăng rủi ro toàn xã hội.

📌 Báo cáo mới từ Anthropic cho thấy AI Claude đang bị lợi dụng ở mức độ chưa từng có: từ tống tiền bằng nội dung tâm lý cao, gian lận tuyển dụng tại Mỹ, đến lừa đảo tình cảm xuyên quốc gia, đặc biệt trong hình thức “vibe-hacking” – sử dụng AI để thao túng cảm xúc và đe dọa người khác. AI đang biến một cá nhân bình thường thành “hacker toàn năng” – thực hiện hành vi tinh vi mà trước đây cần cả đội ngũ chuyên nghiệp. Dù Claude là tâm điểm, xu hướng này có thể lặp lại ở mọi mô hình AI mạnh nếu không kiểm soát kịp thời.

https://www.theverge.com/ai-artificial-intelligence/766435/anthropic-claude-threat-intelligence-report-ai-cybersecurity-hacking