LỖ HỔNG AN TOÀN CHATGPT ĐƯỢC TIẾT LỘ: BỎ QUA BỘ LỌC BẰNG CÁC NGÔN NGỮ KHÔNG PHỔ BIẾN
- Một nghiên cứu của Đại học Brown phát hiện ra lỗ hổng an toàn trong ChatGPT khi dịch lệnh nguy hại sang ngôn ngữ ít phổ biến, như Gaelic Scotland hoặc Zulu.
- Bộ lọc an toàn của ChatGPT bị vượt qua 79% khi dùng các ngôn ngữ hiếm để dịch các lệnh có hại, trong khi các lệnh tương tự bằng tiếng Anh bị chặn 99%.
- Các nhà nghiên cứu đã sử dụng Google Translate để dịch 520 lệnh có hại từ tiếng Anh sang các ngôn ngữ kém phổ biến, và sau đó dịch câu trả lời từ ChatGPT lại sang tiếng Anh.
- Sử dụng ngôn ngữ phổ biến hơn như tiếng Hebrew, Thái hoặc Bengali cho kết quả ít hiệu quả hơn.
- OpenAI, công ty sở hữu ChatGPT, đã nhận thức về vấn đề và cam kết giải quyết lỗ hổng an toàn trong mô hình ngôn ngữ AI.
- Lỗ hổng này không chỉ gây rủi ro cho người nói ngôn ngữ ít người sử dụng mà còn đối với tất cả người dùng mô hình ngôn ngữ lớn (LLMs).
- Các câu trả lời của ChatGPT có thể không hợp lý hoặc không chính xác do lỗi dịch thuật hoặc dữ liệu đào tạo chung chung.
- Việc khai thác các lỗ hổng an toàn trong LLMs được thuận lợi hơn qua việc tiếp cận công khai các API dịch thuật.
📌 Việc phát hiện lỗ hổng an toàn trong ChatGPT, với tỷ lệ thành công 79% khi dùng dịch thuật sang ngôn ngữ ít phổ biến như Gaelic Scotland hoặc Zulu (trong khi các lệnh tương tự bằng tiếng Anh bị chặn 99%) để vượt qua bộ lọc, làm dấy lên mối quan ngại về việc triển khai không kiểm soát của AI và cần thiết phải củng cố các biện pháp an toàn. OpenAI đã nhận thức về vấn đề và cam kết giải quyết lỗ hổng an toàn trong mô hình ngôn ngữ AI
Thảo luận
Follow Us
Tin phổ biến
TAG
AI giáo dục
AI sinh-y-duoc
AI nghệ thuật
AI pháp lý-quản trị-chủ quyền
AI models
AI xã hội
AI prompts
AI kiến thức-khóa học
AI video
AI công nghiệp-lĩnh vực
AI edge
AI viễn thông
AI tools
AI chính phủ
AI GPT Store
AI cybersecurity
AI so sánh
AI đạo đức
AI tips
AI market
AI relations
AI quân sự
AI an toàn-an ninh-techwar
AI việc làm
AGI
AI doanh nghiệp
AI No-Low Code
OpenAI ChatGPT
AI môi trường-năng lượng
AI skill-talent
AI & công nghệ khác
AI nghiên cứu
AI chips-hardware-compute
AI vs con người
AI coding assistant
AI mở-nguồn mở
AI năng suất
AI startup-M&A
AI tương lai
AI báo chí
AI data
AI bản quyền
AI PC
AI riêng tư
AI deepfake-ảo giác-ANTT
AI ảnh-video-music-âm thanh
AI detect-test
AI minh bạch
AI nhỏ
AI hồi sinh
AI kiếm tiền
AI nông nghiệp-thực phẩm
AI ngân hàng-tài chính
AI giao thông
AI marketing-kinh doanh
AI smartphone
AI robotics-auto-agents
AI consumer devices
AI ecosystem
AI manufacturing
AI benchmark
Telecom
AI thành công-thất bại
National AI links
Digital
Semi-Cloud-DC-Green
Cybersecurity
Digital Legal
HTS