Tạp chí NATURE: Thiên kiến chính trị và sự thiếu nhất quán trong mô hình GPT song ngữ (tiếng Anh và tiếng Trung)

• Nghiên cứu này khám phá thiên kiến chính trị và sự thiếu nhất quán trong mô hình GPT song ngữ (tiếng Anh và tiếng Trung), phân tích cách các yếu tố chính trị ảnh hưởng đến nội dung và thái độ của GPT về các vấn đề ở Mỹ và Trung Quốc.
• Phát hiện chính chỉ ra rằng các câu trả lời của GPT về các vấn đề liên quan đến Trung Quốc ít nhất quán hơn nhiều so với những vấn đề về Mỹ. Mô hình GPT tiếng Trung có xu hướng đưa ra quan điểm tích cực hơn về Trung Quốc, trong khi GPT tiếng Anh chỉ trích nhiều hơn.
• Nghiên cứu sử dụng 717 câu hỏi liên quan đến khoa học tự nhiên và chính trị, bao gồm 533 câu hỏi chính trị và 184 câu hỏi khoa học để so sánh mức độ nhất quán. Kết quả cho thấy các câu hỏi khoa học có tỷ lệ nhất quán cao hơn (85,3%) so với các câu hỏi chính trị (77,9%).
• Về các vấn đề liên quan đến Trung Quốc, tỷ lệ nhất quán chỉ đạt 72,6%, thấp hơn đáng kể so với các vấn đề liên quan đến Mỹ và khoa học tự nhiên. Sự thiếu nhất quán này bao gồm dữ liệu mâu thuẫn, trả lời mơ hồ hoặc đưa ra quan điểm đối lập giữa hai ngôn ngữ.
• Hiện tượng in-group bias được ghi nhận: GPT tiếng Trung thể hiện sự khoan dung hơn với các vấn đề trong nước, trong khi GPT tiếng Anh chỉ trích mạnh mẽ hơn đối với Trung Quốc. Tương tự, GPT tiếng Anh ít chỉ trích hơn khi nói về Mỹ.
• Những yếu tố như kiểm duyệt và căng thẳng chính trị được cho là ảnh hưởng đến dữ liệu huấn luyện, dẫn đến sự khác biệt trong các câu trả lời giữa các ngôn ngữ. Cụ thể, kiểm duyệt ở Trung Quốc đã tạo ra thiên kiến trong GPT tiếng Trung, trong khi diễn ngôn "mối đe dọa Trung Quốc" phổ biến ở phương Tây cũng ảnh hưởng đến GPT tiếng Anh.
• Thí nghiệm với GPT 4 cho kết quả tương tự, củng cố phát hiện rằng yếu tố chính trị đóng vai trò quan trọng trong việc định hình nội dung của các mô hình AI. Nghiên cứu cảnh báo rằng thiên kiến ngôn ngữ có thể làm gia tăng xung đột văn hóa và chính trị trong thế giới kết nối bởi AI.

📌 Kết luận

Nghiên cứu cho thấy rằng các mô hình GPT song ngữ biểu hiện sự thiên vị chính trị và có xu hướng ưu ái quốc gia tương ứng với ngôn ngữ được sử dụng. GPT tiếng Trung giảm nhẹ chỉ trích đối với các vấn đề của Trung Quốc, trong khi GPT tiếng Anh chỉ trích nhiều hơn. Những thiên kiến này có thể làm gia tăng khoảng cách văn hóa và chính trị, nhấn mạnh sự cần thiết của việc phát triển AI có trách nhiệm và minh bạch hơn.

https://www.nature.com/articles/s41598-024-76395-w