Nghiên cứu mới: người dùng ưu tiên quyết định của AI hơn con người trong phân phối thu nhập

• Một nghiên cứu mới của Marina Chugunova và Wolfgang J. Luhan có tên "Ruled by Robots" đã phát hiện ra rằng hơn 60% người tham gia ưu tiên AI làm người ra quyết định để phân phối thu nhập.

• Cụ thể, 63,25% lựa chọn thuật toán AI thay vì con người khi không có thông tin về thành viên nhóm. Người dùng cho rằng máy móc công bằng hơn.

• Ngay cả khi có khả năng xảy ra thiên vị, người dùng vẫn ưu tiên AI hơn. Tuy nhiên, họ lại đánh giá cao hơn và cảm thấy hài lòng hơn với quyết định của con người.

• Thí nghiệm yêu cầu người tham gia chọn giữa người và AI để phân chia thu nhập từ các nhiệm vụ dựa trên may mắn, nỗ lực và tài năng.

• Xu hướng này có ý nghĩa quan trọng khi AI ngày càng được áp dụng rộng rãi trong nhiều lĩnh vực như tuyển dụng, lập kế hoạch lương thưởng, cảnh sát và chiến lược ân xá.

• Tuy nhiên, AI vẫn tồn tại nhiều vấn đề về thiên vị. Năm 2022, Văn phòng Ủy viên Thông tin Vương quốc Anh đã điều tra các trường hợp phân biệt đối xử do AI gây ra.

• Các nghiên cứu cho thấy các mô hình ngôn ngữ lớn phổ biến nhất đều có thiên hướng chính trị rõ ràng. Grok của x.AI được hướng dẫn cụ thể để tránh đưa ra câu trả lời "woke".

• Một nghiên cứu của các trường đại học Oxford, Stanford và Chicago phát hiện ra rằng các mô hình AI có xu hướng đề xuất án tử hình nhiều hơn đối với các bị cáo nói tiếng Anh kiểu người Mỹ gốc Phi.

• Trong lĩnh vực tuyển dụng, AI có xu hướng loại bỏ các hồ sơ có tên gợi nhớ đến người da đen và ưu tiên phụ nữ gốc Á. Hồ sơ có tên đặc trưng của người Mỹ gốc Phi ít có khả năng được xếp hạng cao nhất cho vị trí phân tích tài chính.

📌 Nghiên cứu cho thấy 63,25% người dùng ưu tiên quyết định của AI trong phân phối thu nhập, nhưng vẫn đánh giá cao hơn kết quả từ con người. Xu hướng này có ý nghĩa quan trọng khi AI ngày càng được áp dụng rộng rãi, tuy nhiên vẫn tồn tại nhiều vấn đề về thiên vị cần được giải quyết.

https://decrypt.co/240381/ai-judgment-preferred-over-humans-study