THÀNH KIẾN CHỦNG TỘC VÔ THỨC: TẠI SAO AI LẠI THẤT BẠI VỀ MÀU SẮC
- AI hiện nay có khả năng tạo ra hình ảnh siêu thực đến mức khó phân biệt với người thật.
- Trong nghiên cứu, người tham gia đều là người da trắng đã phải phân biệt giữa 100 hình ảnh thực và do AI tạo ra.
- Một số hình ảnh do AI tạo ra được nhận định là "real" hơn cả hình ảnh thực của con người.
- Nghiên cứu tiết lộ rằng AI có xu hướng tạo ra hình ảnh người da trắng chân thực hơn so với người da màu.
- Sự thiên vị không ý thức này bắt nguồn từ việc thiếu dữ liệu đào tạo đa dạng và thuật toán chủ yếu dựa trên hình ảnh người da trắng.
- Amy Dawel lo ngại rằng điều này có thể làm trầm trọng thêm các vấn đề xã hội, củng cố định kiến tiêu cực và tăng cường độ phơi nhiễm của quan điểm sai lệch về người da màu.
- Một mối quan ngại khác là sự gia tăng của deepfakes, như thể hiện qua việc nhiều người tin rằng hình ảnh do AI tạo ra là "thật".
- Dawel bày tỏ lo lắng về nguy cơ bị lừa dối bởi hình ảnh giả mạo nếu chúng rơi vào tay sai.
- Cô cũng nhấn mạnh rằng nhiều AI hiện nay không minh bạch và ngành công nghiệp AI đang nhận được đầu tư lớn trong khi nguồn lực để giám sát chúng lại rất hạn chế.
📌 AI thất bại trong việc tạo hình ảnh người da màu một cách chân thực do thiếu dữ liệu huấn luyện đa dạng và hiện tượng này có nguy cơ làm tăng cường các định kiến xã hội và việc phát triển deepfakes, theo nghiên cứu của Amy Dawel.