• AI trong tay cảnh sát và các cơ quan tư pháp hình sự có thể dẫn đến bất công. Ví dụ như trường hợp Robert Williams ở Detroit bị bắt giữ sai lầm do hệ thống nhận diện khuôn mặt AI cho kết quả dương tính giả.
• Nghiên cứu cho thấy hệ thống nhận diện khuôn mặt AI không thể phân biệt được hầu hết người da màu. Tỷ lệ lỗi cao nhất là với phụ nữ da đen, lên tới 35%.
• Canada đang xem xét 2 dự luật mới có ảnh hưởng lớn đến việc sử dụng AI trong những năm tới: Dự luật 194 ở Ontario và Dự luật C-27 liên bang. Tuy nhiên, cả hai đều thiếu các biện pháp bảo vệ công chúng khi cảnh sát sử dụng AI.
• Cảnh sát có thể sử dụng AI trực tiếp hoặc thông qua hợp đồng với các công ty tư nhân. Do đó, ngay cả luật điều chỉnh việc sử dụng AI trong khu vực tư nhân cũng cần có quy định cho các cơ quan tư pháp hình sự.
• Việc sử dụng AI của cảnh sát có thể làm tăng việc phân biệt chủng tộc và triển khai cảnh sát không cần thiết. RCMP và các cơ quan cảnh sát khác ở Canada đã bị chỉ trích vì sử dụng công nghệ Clearview AI để giám sát hàng loạt, vi phạm luật bảo mật Canada.
• Luật AI của EU được đánh giá là tốt nhất thế giới trong việc bảo vệ quyền riêng tư và tự do dân sự của công dân. Ngược lại, luật Canada và Mỹ đặt quyền của công dân đối lập với mong muốn hiệu quả và cạnh tranh của doanh nghiệp.
• Ủy ban Luật Ontario đã chỉ trích Dự luật 194 vì không thúc đẩy nhân quyền hay quyền riêng tư, cho phép các cơ quan công quyền sử dụng AI một cách bí mật.
• Hiệp hội Tự do Dân sự Canada đã kêu gọi rút lại Dự luật C-27, cho rằng nó tập trung vào tăng năng suất khu vực tư nhân hơn là bảo vệ quyền riêng tư của công dân.
• Các chuyên gia khuyến nghị cần sửa đổi cả hai dự luật để bảo vệ công dân Canada khỏi việc lạm dụng sức mạnh của AI, đặc biệt là trong lĩnh vực tư pháp hình sự.
📌 Canada đang xem xét 2 dự luật AI quan trọng nhưng thiếu quy định về việc cảnh sát sử dụng AI, có thể dẫn đến phân biệt chủng tộc và giám sát hàng loạt. Các chuyên gia kêu gọi sửa đổi khẩn cấp để bảo vệ quyền riêng tư và tự do dân sự của công dân, lấy Luật AI của EU làm hình mẫu.
https://theconversation.com/ai-used-by-police-cannot-tell-black-people-apart-and-other-reasons-canadas-ai-laws-need-urgent-attention-236752