Các nỗ lực điều chỉnh "bàn tay ẩn" của AI trong cuộc sống người Mỹ gặp khó khăn tại các cơ quan lập pháp tiểu bang

- Chỉ 1 trong 7 dự luật nhằm ngăn chặn AI phân biệt đối xử khi đưa ra các quyết định quan trọng (tuyển dụng, cho vay mua nhà, chăm sóc y tế) đã được thông qua. Thống đốc Colorado đã ký dự luật này vào ngày 23/5 với sự do dự.
- Các dự luật tại Colorado và các tiểu bang khác như Washington, Connecticut gặp nhiều trở ngại từ nhiều phía, bao gồm mâu thuẫn giữa các nhóm dân quyền và ngành công nghệ, các nhà lập pháp e ngại can thiệp vào công nghệ mới và thống đốc lo ngại làm nản lòng các startup AI.
- Các dự luật yêu cầu các công ty đánh giá rủi ro phân biệt đối xử từ AI của họ và thông báo cho khách hàng khi AI được sử dụng để đưa ra quyết định quan trọng.
- Ước tính có tới 83% nhà tuyển dụng sử dụng thuật toán để hỗ trợ tuyển dụng. Dữ liệu lịch sử được sử dụng để huấn luyện thuật toán có thể ẩn chứa sự thiên vị.
- Các vụ kiện tập thể cáo buộc hệ thống AI chấm điểm đơn xin thuê nhà phân biệt đối xử với người da đen và gốc Tây Ban Nha. Một nghiên cứu cho thấy hệ thống AI đánh giá nhu cầu y tế đã bỏ qua bệnh nhân da đen.
- Dự luật Colorado yêu cầu các công ty sử dụng AI đánh giá tiềm năng thiên vị hàng năm, thực hiện chương trình giám sát nội bộ, thông báo cho Tổng chưởng lý nếu phát hiện phân biệt đối xử và cho khách hàng biết khi AI được dùng để ra quyết định.
- Các công ty AI nhỏ hơn lo ngại các yêu cầu có thể quản lý được bởi các đại gia công nghệ nhưng không phải với các startup mới nổi.

📌 Mặc dù có sự đồng thuận về tầm quan trọng của việc giải quyết vấn đề phân biệt đối xử trong AI, nhưng các dự luật điều chỉnh AI đang gặp nhiều trở ngại từ nhiều phía như mâu thuẫn giữa các nhóm xã hội và doanh nghiệp. Dự luật tại Colorado yêu cầu minh bạch và giám sát AI, nhưng các công ty nhỏ lo ngại không đáp ứng được. Giới học thuật đề xuất thành lập tổ chức độc lập kiểm tra thiên vị trong thuật toán AI.

Citations:
[1] https://apnews.com/article/artificial-intelligence-bias-discrimination-regulation-ai-ff1d0860663723079aac3666b38f2320