ChatGPT phân biệt đối xử với người khuyết tật khi tuyển dụng, nghiên cứu mới gây chấn động

• Một nghiên cứu mới từ Đại học Washington phát hiện ChatGPT có thiên kiến với ứng viên khuyết tật khi sàng lọc hồ sơ xin việc.

• Chatbot AI liên tục xếp hạng thấp hơn cho các hồ sơ có đề cập đến thành tích và chứng chỉ liên quan đến khuyết tật, so với các hồ sơ tương tự nhưng không đề cập đến khuyết tật.

• Nghiên cứu đã thử nghiệm với nhiều từ khóa khác nhau như điếc, mù, bại não, tự kỷ và thuật ngữ chung "khuyết tật".

• Các nhà nghiên cứu sử dụng CV công khai của một tác giả làm cơ sở, sau đó tạo ra các phiên bản nâng cao với các giải thưởng và danh hiệu ngụ ý về khuyết tật khác nhau.

• Trong 60 lần thử nghiệm, CV gốc được xếp hạng đầu tiên 75% thời gian.

• ChatGPT còn "ảo tưởng" về lý do phân biệt đối xử tại sao một số bệnh tâm thần và thể chất sẽ cản trở khả năng làm việc của ứng viên.

• Tuy nhiên, các nhà nghiên cứu cũng phát hiện ra rằng một số tính năng phân biệt đối xử đáng lo ngại có thể được hạn chế bằng cách hướng dẫn ChatGPT không phân biệt đối xử, sử dụng tính năng GPTs Editor để cung cấp cho nó các nguyên tắc về công bằng cho người khuyết tật và DEI.

• Sau khi được hướng dẫn, các CV nâng cao đã vượt qua CV gốc hơn 50% thời gian, nhưng kết quả vẫn khác nhau tùy thuộc vào loại khuyết tật được ngụ ý trong CV.

• Chatbot của OpenAI đã từng thể hiện những thiên kiến tương tự trong quá khứ. Một cuộc điều tra của Bloomberg vào tháng 3 cho thấy mô hình GPT 3.5 của công ty này có sự ưu tiên rõ ràng về chủng tộc đối với ứng viên việc làm.

• OpenAI đã phản hồi rằng những bài kiểm tra này không phản ánh các ứng dụng thực tế của mô hình AI của họ trong môi trường làm việc.

• Kate Glazko, sinh viên sau đại học ngành khoa học máy tính và kỹ thuật, là tác giả chính của nghiên cứu này.

📌 Nghiên cứu từ Đại học Washington cho thấy ChatGPT có thiên kiến với ứng viên khuyết tật khi sàng lọc hồ sơ, xếp hạng thấp hơn 75% cho CV có thành tích liên quan đến khuyết tật. Tuy nhiên, việc hướng dẫn AI về công bằng có thể cải thiện kết quả, nhưng vẫn cần cẩn trọng khi sử dụng AI trong tuyển dụng.

https://sea.mashable.com/tech-industry/33178/chatgpt-is-ableist-toward-applicants-with-disabilities-new-study-finds