Cảnh báo về công cụ AI của chính phủ Anh có thể mang tính phân biệt chủng tộc và thiên vị

• Chính phủ Anh sẽ công bố danh sách công khai các công cụ AI và thuật toán được sử dụng bởi chính phủ trung ương, sau khi có cảnh báo về nguy cơ phân biệt chủng tộc và thiên vị.

• Công nghệ này đã được sử dụng cho nhiều mục đích như phát hiện hôn nhân giả, phát hiện gian lận và sai sót trong yêu cầu trợ cấp.

• Động thái này là chiến thắng của các nhà vận động, những người đã thách thức việc triển khai AI trong chính phủ trước khi công nghệ này được áp dụng rộng rãi trong khu vực công.

• Tháng 8/2020, Bộ Nội vụ Anh đã ngừng sử dụng một thuật toán máy tính để sắp xếp đơn xin thị thực sau khi bị cáo buộc chứa "phân biệt chủng tộc và thiên vị cố hữu".

• Một công cụ thuật toán để phát hiện hôn nhân giả cũng bị thách thức vì có thể phân biệt đối xử với người từ một số quốc gia nhất định.

• Trung tâm Đạo đức Dữ liệu và Đổi mới của chính phủ đã cảnh báo rằng công nghệ mới có thể làm trầm trọng thêm những thiên vị lịch sử hoặc tạo ra các hình thức thiên vị mới.

• Một tiêu chuẩn ghi lại tính minh bạch của thuật toán đã được phát triển vào tháng 11/2021 cho các cơ quan công quyền triển khai AI.

• Đến nay, chỉ có 9 hồ sơ được công bố trong 3 năm trên kho lưu trữ, không có mô hình nào do Bộ Nội vụ hoặc Bộ Lao động và Hưu trí vận hành.

• Bộ Khoa học, Đổi mới và Công nghệ xác nhận các bộ ngành sẽ báo cáo về việc sử dụng công nghệ theo tiêu chuẩn này.

• Bộ Lao động và Hưu trí đang sử dụng AI để phát hiện gian lận tiềm ẩn trong yêu cầu tín dụng phổ quát và đang phát triển thêm để phát hiện gian lận trong các lĩnh vực khác.

• Dự án Luật Công đang hỗ trợ hành động pháp lý có thể xảy ra chống lại Bộ Lao động và Hưu trí về việc sử dụng công nghệ này.

📌 Chính phủ Anh sẽ công bố danh sách công khai các công cụ AI sau cảnh báo về phân biệt chủng tộc và thiên vị. Chỉ có 9/55 công cụ được công bố trong 3 năm qua. Các bộ ngành sẽ phải báo cáo việc sử dụng AI theo tiêu chuẩn minh bạch mới.

https://www.theguardian.com/technology/article/2024/aug/25/register-aims-to-quash-fears-over-racist-and-biased-ai-tools-used-on-uk-public