Cách AI tạo ra "hộp đen" trong trung tâm của hệ thống pháp luật Mỹ

- AI đang được sử dụng ngày càng nhiều trong hệ thống pháp luật của Mỹ để nhận dạng khuôn mặt, vũ khí, biển số xe, hành vi đáng ngờ, phân tích DNA, xử lý bằng chứng, dự báo tội phạm...

- Các luật bảo mật thương mại đang chặn sự giám sát công khai về cách thức hoạt động của các công cụ AI này, tạo ra một "hộp đen" trong hệ thống tư pháp hình sự.

- Không có tiêu chuẩn nào về việc khi nào và như thế nào AI có thể được sử dụng và khi nào phải tiết lộ.

- Nghiên cứu cho thấy các công cụ như nhận dạng khuôn mặt dễ bị sai lệch, ví dụ: nhận dạng sai người da màu vì được huấn luyện chủ yếu trên khuôn mặt da trắng. 

- Các sản phẩm của Amazon, IBM, Microsoft đều gặp vấn đề này trong nghiên cứu Gender Shades của MIT, với tỷ lệ lỗi lên tới 33% khi nhận dạng phụ nữ da đen.

- Cảnh sát thường coi kết quả nhận dạng khuôn mặt là manh mối để điều tra thêm chứ không phải bằng chứng. Nhưng nếu tìm thấy bằng chứng bổ sung, đó sẽ là cơ sở để truy tố mà không tiết lộ việc sử dụng AI.

- Các nhà sáng tạo mô hình học máy pháp y bảo vệ tính mờ đục của sản phẩm bằng lý do tiết lộ sẽ dẫn đến tiết lộ bí mật thương mại. Tuy nhiên, họ ủng hộ quy định của chính phủ về việc sử dụng trong tư pháp hình sự.

- Luật sư bào chữa gặp khó khăn cao để chứng minh lỗi trong một manh mối của AI. Họ phải chứng minh mã nguồn AI có khả năng "cần thiết" cho vụ án hình sự.

- Các thẩm phán thường không thấy sự liên quan nếu các manh mối do AI tạo ra không được coi là bằng chứng. Cảnh sát thường không tiết lộ việc sử dụng AI.

- Nguy cơ "dữ liệu bẩn" duy trì sự bất công trong các ứng dụng khác nhau của AI như đánh giá rủi ro, dự báo tội phạm là "rất lớn".

- Chính quyền Biden đã công bố một loạt nỗ lực để đảm bảo các công cụ AI không gây hại cho người Mỹ, nhưng các biện pháp này không có hiệu lực pháp luật.

- Dự luật do Takano và Evans tài trợ sẽ cấm sử dụng đặc quyền bí mật thương mại để từ chối việc luật sư bào chữa chất vấn AI pháp y, yêu cầu thử nghiệm và thẩm định trước khi sử dụng.

📌 AI đang đóng vai trò ngày càng lớn trong hệ thống pháp luật Mỹ nhưng thiếu sự giám sát và minh bạch, dẫn đến nguy cơ sai lệch và bất công cao, đặc biệt với người da màu. Mặc dù chính quyền đã có một số nỗ lực, nhưng cần có luật mạnh hơn để buộc phải thử nghiệm, thẩm định và tiết lộ việc sử dụng AI trong tư pháp hình sự.

Citations:
[1] https://thehill.com/business/personal-finance/4571982-ai-black-box-legal-system/