Công cụ AI gây tranh cãi trong hàng nghìn vụ án hình sự đang đối mặt thách thức pháp lý

- Cybercheck, một công cụ trí tuệ nhân tạo (AI) ít được biết đến, đã thu hút sự chú ý đáng kể từ các cơ quan thực thi pháp luật và công tố viên ở Mỹ, đặc biệt là ở Colorado và New York.
- Phần mềm này do Adam Mosher và công ty Global Intelligence Inc. của Canada phát triển, được sử dụng để hỗ trợ điều tra, buộc tội và kết án các nghi phạm bị cáo buộc phạm tội nghiêm trọng như giết người và buôn người.
- Tuy nhiên, khi việc sử dụng Cybercheck mở rộng, các luật sư bào chữa đã nêu lên mối quan ngại về độ chính xác và độ tin cậy của nó.
- Phương pháp luận của Cybercheck được bao bọc trong bí mật và thiếu sự kiểm định độc lập, điều này gây tranh cãi cho các luật sư bào chữa.
- Theo công ty, phần mềm dựa vào machine learning để quét web tìm kiếm "nguồn mở".
- Đến năm ngoái, phần mềm đã được sử dụng trong gần 8.000 vụ án trải rộng 40 tiểu bang và gần 300 cơ quan.
- Trong một vụ án ở New York, thẩm phán đã cấm chính quyền đưa ra bằng chứng Cybercheck do thiếu bằng chứng chứng minh độ tin cậy hoặc sự chấp nhận rộng rãi của nó.
- Trong một vụ án khác ở Ohio, thẩm phán đã chặn phân tích Cybercheck khi Mosher từ chối tiết lộ phương pháp luận của phần mềm.
- Tại một phiên điều trần năm ngoái, Mosher đã làm chứng rằng các kết luận của phần mềm trong vụ án có độ chính xác 98,2%, nhưng ông không cung cấp thêm chi tiết về cách tính toán tỷ lệ chính xác đó.
- Trong một vụ án giết người khác ở Akron, Mosher tuyên bố rằng Cybercheck đã được Đại học Saskatchewan đánh giá ngang hàng, nhưng thẩm phán ra lệnh cho Mosher cung cấp nghiên cứu cho công tố viên và Malarcik.

📌 Cybercheck, một công cụ AI được sử dụng trong gần 8.000 vụ án trải rộng 40 tiểu bang và gần 300 cơ quan đang đối mặt với những thách thức pháp lý do thiếu minh bạch về phương pháp luận và độ chính xác. Mặc dù công ty tuyên bố tỷ lệ chính xác lên tới 98,2%, nhưng các luật sư bào chữa đang đặt ra nghi vấn và yêu cầu bằng chứng rõ ràng hơn.

Citations:
[1] https://www.nbcnews.com/news/crime-courts/ai-tool-used-thousands-criminal-cases-facing-legal-challenges-rcna149607