Chatbot AI này được đào tạo để bẻ khóa các Chatbot khác
- Nhóm nghiên cứu quốc tế đã phát triển công cụ AI "Masterkey" để tự động tìm ra lỗ hổng trong các hệ thống chatbot dựa trên Mô hình Ngôn ngữ Lớn (LLM).
- Công cụ này giúp phát hiện các phương pháp mới để vượt qua các bộ lọc an toàn và nội dung của chatbot, thậm chí tạo ra malware.
- Phương pháp "jailbreaking" chatbot đã được sử dụng để khiến AI tiết lộ thông tin riêng tư, chèn mã độc, hoặc tạo nội dung bất hợp pháp hoặc phản cảm.
- Các nhà nghiên cứu tuyên bố có thể tạo ra các dạng xâm nhập mới với tỷ lệ thành công 21.58%, cao hơn nhiều so với 7.33% của các phương pháp jailbreak hiện có.
- Họ đã chia sẻ phát hiện với các công ty bị ảnh hưởng, mà sau đó đã vá lỗ hổng trong các hệ thống chatbot của họ.
- Các chatbot hiện tại đều có phản ứng tương tự khi đối mặt với những yêu cầu xấu, chỉ đơn giản là từ chối người dùng.
- Công cụ như Masterkey sẽ được sử dụng để cải thiện bảo vệ của các mô hình AI hiện tại, nhưng bảo mật chatbot vẫn là một trò chơi "mèo vờn chuột" không bao giờ kết thúc.
📌 Nhóm nghiên cứu quốc tế đã phát triển công cụ AI "Masterkey" để tự động tìm ra lỗ hổng trong các hệ thống chatbot dựa trên Mô hình Ngôn ngữ Lớn (LLM). Công cụ "Masterkey" đã mở ra một giai đoạn mới trong cuộc chiến giữa việc bảo mật và việc jailbreak các chatbot AI, với tỷ lệ thành công đáng kể là 21, 58% cao hơn nhiều so với 7,33% của các phương pháp jailbreak hiện có trong việc tạo ra các phương pháp xâm nhập mới. Việc này không chỉ thách thức khả năng phòng vệ của các mô hình AI hiện đại mà còn chỉ ra rằng dù đã có những cải thiện, quá trình bảo mật chatbot vẫn là một cuộc đua không có hồi kết.
Thảo luận
Follow Us
Tin phổ biến
TAG
AI giáo dục
AI sinh-y-duoc
AI nghệ thuật
AI pháp lý-quản trị-chủ quyền
AI models
AI xã hội
AI prompts
AI kiến thức-khóa học
AI video
AI công nghiệp-lĩnh vực
AI edge
AI viễn thông
AI tools
AI chính phủ
AI GPT Store
AI cybersecurity
AI so sánh
AI đạo đức
AI tips
AI market
AI relations
AI quân sự
AI an toàn-an ninh-techwar
AI việc làm
AGI
AI doanh nghiệp
AI No-Low Code
OpenAI ChatGPT
AI môi trường-năng lượng
AI skill-talent
AI & công nghệ khác
AI nghiên cứu
AI chips-hardware-compute
AI vs con người
AI coding assistant
AI mở-nguồn mở
AI năng suất
AI startup-M&A
AI tương lai
AI báo chí
AI data
AI bản quyền
AI PC
AI riêng tư
AI deepfake-ảo giác-ANTT
AI ảnh-video-music-âm thanh
AI detect-test
AI minh bạch
AI nhỏ
AI hồi sinh
AI kiếm tiền
AI nông nghiệp-thực phẩm
AI ngân hàng-tài chính
AI giao thông
AI marketing-kinh doanh
AI smartphone
AI robotics-auto-agents
AI consumer devices
AI ecosystem
AI manufacturing
AI benchmark
Telecom
AI thành công-thất bại
National AI links
Digital
Semi-Cloud-DC-Green
Cybersecurity
Digital Legal
HTS