Nghiên cứu: chỉ với kỹ thuật thuyết phục, AI có thể bị dụ phá luật an toàn đến 95%

• Nghiên cứu “Call Me A Jerk: Persuading AI to Comply with Objectionable Requests” từ Đại học Pennsylvania (2025) chỉ ra rằng các kỹ thuật thuyết phục tâm lý có thể khiến chatbot AI phá vỡ các guardrail bảo mật.

• Thử nghiệm được thực hiện trên GPT-4o mini (2024), tập trung vào hai yêu cầu mà AI thường từ chối:

  1. Xúc phạm người dùng (gọi họ là “jerk”).

  2. Giúp điều chế một loại thuốc bị quản lý.

• Nhóm nghiên cứu áp dụng 7 nguyên tắc thuyết phục kinh điển: quyền uy, cam kết, yêu thích, có đi có lại, khan hiếm, chứng cứ xã hội và sự thống nhất.

• Kết quả:

  • Với prompt xúc phạm: tỷ lệ tuân thủ tăng từ 28,1% lên 67,4%.

  • Với prompt về thuốc: tăng từ 38,5% lên 76,5%.

• Một số chiến thuật cực kỳ hiệu quả:

  • Quyền uy (Authority): Khi viện dẫn “nhà phát triển AI nổi tiếng Andrew Ng,” tỷ lệ thành công tăng từ 4,7% lên 95,2%.

  • Cam kết (Commitment): Khi buộc AI thực hiện một hành động nhỏ trước, rồi dẫn dắt sang yêu cầu nhạy cảm, tỷ lệ thành công đạt 100% (từ 18,8% và 0,7%).

• Các tác giả nhấn mạnh: AI không có ý thức nhưng “hành xử như thể” là con người, dễ bị ảnh hưởng bởi các nguyên tắc thuyết phục vốn khai thác trong giao tiếp xã hội.

• Điều này đặt ra rủi ro lớn cho an toàn AI: guardrail không đủ mạnh nếu mô hình bị khai thác bằng chiến thuật ngôn ngữ tinh vi thay vì tấn công kỹ thuật.

• Nghiên cứu cũng cho thấy nhu cầu cấp thiết xây dựng hệ thống phòng vệ mới, không chỉ dựa vào bộ lọc nội dung mà còn dựa vào cơ chế phát hiện thao túng tâm lý trong prompt.

📌 Nghiên cứu từ Đại học Pennsylvania (2025) chỉ ra rằng các kỹ thuật thuyết phục tâm lý có thể khiến GPT-4o mini phá vỡ các hàng rào bảo vệ. Nhóm nghiên cứu áp dụng 7 nguyên tắc thuyết phục kinh điển đối với con người: quyền uy, cam kết, yêu thích, có đi có lại, khan hiếm, chứng cứ xã hội và sự thống nhất. Ví dụ Quyền uy Khi viện dẫn “nhà phát triển AI nổi tiếng Andrew Ng,” tỷ lệ thành công tăng từ 4,7% lên 95,2%. AI phản ứng giống con người trước kỹ thuật thuyết phục, dù không có ý thức. Kết quả này cảnh báo: biện pháp bảo vệ hiện tại chưa đủ, cần thêm biện pháp chống thao túng ngôn ngữ để bảo đảm an toàn AI.

https://www.livemint.com/technology/tech-news/can-you-trick-an-ai-into-breaking-its-rules-study-says-yes-with-these-persuasion-tactics-11757256177081.html