Bí mật đen tối của AI: Đang xóa bỏ tiến bộ về bình đẳng trong xã hội

• Tác giả chia sẻ rằng cuộc đời của cô không phù hợp với bất kỳ khuôn mẫu nào, với ông bà là người tị nạn và mẹ sinh cô khi mới 14 tuổi.

• Các hệ thống AI hoạt động bằng cách xác định mẫu hình. Tuy nhiên, hệ thống học máy gặp khó khăn với sự khác biệt.

• AI xử lý lượng lớn dữ liệu, nhận diện mẫu hình và cố gắng sao chép chúng. Điều này có nghĩa là AI tập trung vào những đặc điểm phổ biến và chia sẻ bởi đa số.

• Các mô hình ngôn ngữ lớn như ChatGPT học các mẫu ngữ pháp để tạo ra câu giống người. Hệ thống tuyển dụng AI phân tích mẫu hình trong hồ sơ của nhân viên hiệu suất cao.

• Nếu bạn viết, làm việc và bị bệnh giống như đa số, AI sẽ có lợi cho bạn. Nhưng nếu bạn khác biệt so với mẫu hình đa số, bạn trở thành ngoại lệ và dần trở nên vô hình.

• Phụ nữ da màu đã phơi bày thiên kiến AI trong nhận dạng hình ảnh và điều trị y tế. Công trình của tác giả cho thấy AI thất bại trong việc nhận diện và tạo cơ hội cho phụ nữ mắc hội chứng Down, người sống ở khu vực thu nhập thấp và phụ nữ là nạn nhân bạo lực gia đình.

• Thiên kiến không phải là lỗi trong hệ thống AI mà là một tính năng.

• Không có can thiệp cụ thể để xây dựng công bằng, nhận diện và bảo vệ các trường hợp ngoại lệ, AI đe dọa xóa bỏ hàng thập kỷ tiến bộ hướng tới xã hội không phân biệt đối xử, bao trùm và dân chủ.

• Gần như mọi nỗ lực chống bất bình đẳng đang bị xói mòn bởi các hệ thống AI được sử dụng để ra quyết định về việc làm, vay thế chấp, điều trị y tế, giáo dục đại học, bảo lãnh tại ngoại, sa thải hoặc cáo buộc đạo văn.

• Tình hình có thể trở nên tồi tệ hơn khi lịch sử cho thấy con đường dẫn đến chế độ độc tài được lát bằng các thực hành phân biệt đối xử.

• Chúng ta đang tin tưởng vào các hệ thống được xây dựng để nhận diện đa số và sao chép chúng với cái giá là thiểu số. Điều này ảnh hưởng đến tất cả mọi người vì ai cũng có thể là thiểu số trong các bối cảnh cụ thể.

• Tác giả không nói rằng chúng ta không nên sử dụng AI, nhưng không nên triển khai các công cụ AI không bảo vệ các trường hợp ngoại lệ.

• Thiên kiến trong AI giống như trọng lực đối với ngành hàng không vũ trụ. Đó là thách thức lớn nhất cần vượt qua.

• Các nhà phát triển và triển khai AI phải bắt đầu xây dựng cơ chế giảm thiểu sức mạnh không thể cưỡng lại của trung bình, phổ biến - sức mạnh của mẫu hình.

📌 AI đang đe dọa xóa bỏ tiến bộ về bình đẳng bằng cách tập trung vào mẫu hình đa số. Thiên kiến là tính năng chứ không phải lỗi trong AI. Cần can thiệp cụ thể để bảo vệ các trường hợp ngoại lệ và xây dựng công bằng trong hệ thống AI, nếu không sẽ làm trầm trọng thêm tình trạng phân biệt đối xử trong xã hội.

https://frontline.thehindu.com/news/artificial-intelligence-chatgpt-gender-bias-tech-discrimination-inequality-minority-groups/article68772305.ece