Cuộc đua tối ưu hóa chatbot: Liệu chúng ta có thể tin tưởng kết quả tìm kiếm từ AI?
- Google và Microsoft đang tích cực tích hợp chatbot AI vào công cụ tìm kiếm của họ, hứa hẹn mang đến trải nghiệm tìm kiếm thuận tiện hơn cho người dùng
- Các nhà nghiên cứu từ đại học California, Berkeley phát hiện chatbot hiện tại có xu hướng:
+ Phụ thuộc quá mức vào độ liên quan bề nổi của thông tin
+ Ưu tiên nội dung chứa nhiều từ khóa kỹ thuật
+ Bỏ qua các yếu tố đánh giá độ tin cậy như trích dẫn khoa học
- Một ngành công nghiệp mới nổi là tối ưu hóa động cơ tạo sinh (GEO) đang phát triển:
+ Các công ty marketing cung cấp dịch vụ tối ưu nội dung cho chatbot
+ Mục tiêu là tăng khả năng hiển thị trong kết quả của chatbot
+ Tương tự nguyên tắc SEO nhưng phức tạp hơn
- Nghiên cứu từ đại học Princeton cho thấy:
+ Sử dụng ngôn ngữ có thẩm quyền có thể tăng 40% khả năng hiển thị
+ Việc xác định quy luật điều khiển chatbot rất khó khăn
+ Các động cơ tạo sinh không cố định và hoạt động như "hộp đen"
- Các nhà nghiên cứu Harvard phát hiện:
+ Có thể điều khiển chatbot bằng chuỗi văn bản chiến lược
+ Chuỗi này có thể bỏ qua các biện pháp bảo vệ an toàn của AI
+ Người dùng không nhận biết được sự thao túng này
📌 Chatbot AI đang được tích hợp vào công cụ tìm kiếm nhưng tồn tại nhiều rủi ro về độ tin cậy. Nghiên cứu cho thấy có thể tăng 40% khả năng hiển thị thông qua thao túng. Người dùng cần thận trọng khi tin tưởng hoàn toàn vào kết quả tìm kiếm từ AI.
https://www.theguardian.com/technology/2024/nov/03/the-chatbot-optimisation-game-can-we-trust-ai-web-searches
Thảo luận
Follow Us
Tin phổ biến
