• Anthropic vừa công bố báo cáo cảnh báo các xu hướng lạm dụng AI tạo sinh Claude ngày càng nguy hiểm và tinh vi, vượt qua các biện pháp kiểm soát an toàn hiện tại.

• Một trường hợp, một “diễn viên tinh vi” đã dùng Claude để hỗ trợ quét thông tin xác thực bị rò rỉ nhằm truy cập camera an ninh, cho thấy AI đang bị tận dụng cho các mục đích tấn công bảo mật nghiêm trọng.

• Một cá nhân “ít kỹ năng kỹ thuật” đã dùng Claude để phát triển phần mềm độc hại từ bộ công cụ nguồn mở cơ bản lên mức nâng cao, bổ sung nhận diện khuôn mặt và chức năng quét dark web, điều mà trước đây chỉ người có chuyên môn mới thực hiện được.

• Anthropic nhấn mạnh AI tạo sinh như Claude đang giúp những người không chuyên trở thành mối đe dọa thực sự, tăng nguy cơ tấn công mạng diện rộng.

• Trong lĩnh vực thao túng mạng xã hội, Claude bị lợi dụng trong chiến dịch “influence-as-a-service”, tạo nội dung, hướng dẫn bot AI hình ảnh, và điều phối hơn 100 bot trên X và Facebook tương tác với hàng chục ngàn tài khoản người thật.

• Chiến dịch này nhắm vào lợi ích chính trị của nhiều quốc gia như châu Âu, Iran, UAE, Kenya, ưu tiên xây dựng ảnh hưởng lâu dài thay vì chỉ tạo hiệu ứng lan truyền ngắn hạn, sử dụng tương tác “tưởng như thật” để kéo người dùng vào các “buồng vọng”.

• Anthropic cho biết các chiến dịch này có thể liên quan đến nhà nước, nhưng chưa xác nhận được nguồn gốc cụ thể.

• Báo cáo cũng ghi nhận các hình thức lạm dụng khác như gian lận tuyển dụng, cho thấy phạm vi rủi ro của AI tạo sinh ngày càng mở rộng.

📌 Anthropic cảnh báo Claude bị lạm dụng để tạo phần mềm độc hại nâng cao và thao túng chính trị trên mạng xã hội, giúp cả người không chuyên thực hiện tấn công mạng và chiến dịch ảnh hưởng quy mô lớn, vượt qua các biện pháp kiểm soát hiện tại và làm gia tăng rủi ro bảo mật AI trên toàn cầu.