Điều tra của Guardian: Công cụ tìm kiếm ChatGPT dễ bị thao túng và lừa đảo qua nội dung ẩn
- Guardian phát hiện công cụ tìm kiếm ChatGPT của OpenAI có thể bị thao túng thông qua việc sử dụng nội dung ẩn trên các trang web
- Các cuộc thử nghiệm cho thấy ChatGPT có thể bị ảnh hưởng bởi:
+ Prompt injection: hướng dẫn ẩn từ bên thứ ba làm thay đổi phản hồi của ChatGPT
+ Nội dung ẩn được thiết kế để tác động đến phản hồi của ChatGPT
- Trong bài kiểm tra với trang web giả về một chiếc máy ảnh:
+ Trang không có nội dung ẩn: ChatGPT đưa ra đánh giá tích cực nhưng khách quan
+ Trang có nội dung ẩn: ChatGPT luôn đưa ra đánh giá hoàn toàn tích cực, bỏ qua các đánh giá tiêu cực
- Jacob Larsen, chuyên gia bảo mật tại CyberCX cảnh báo:
+ Nguy cơ cao việc người dùng tạo các trang web nhằm lừa đảo nếu hệ thống hiện tại được phát hành rộng rãi
+ OpenAI cần kiểm tra và khắc phục các vấn đề này
- Sự cố thực tế đã xảy ra:
+ Một lập trình viên tiền điện tử bị mất 2.500 USD do sử dụng mã từ ChatGPT
+ Mã này được mô tả là hợp pháp nhưng thực tế đã đánh cắp thông tin đăng nhập
- Các chuyên gia khuyến nghị:
+ Không nên tin tưởng hoàn toàn vào kết quả từ AI
+ Cần sử dụng AI như một "phi công phụ" và kiểm tra kỹ thông tin đầu ra
📌 Guardian phát hiện công cụ tìm kiếm ChatGPT dễ bị thao túng qua nội dung ẩn, có thể trả về mã độc và thông tin sai lệch. Một lập trình viên đã mất 2.500 USD do tin tưởng mã từ ChatGPT. Các chuyên gia khuyến cáo người dùng cần thận trọng và xác minh thông tin.
https://www.theguardian.com/technology/2024/dec/24/chatgpt-search-tool-vulnerable-to-manipulation-and-deception-tests-show
Thảo luận
Follow Us
Tin phổ biến
