Axon ra mắt "Draft One": Công nghệ AI tự động tạo báo cáo của cảnh sát từ camera ghi âm đeo người

- Axon, nhà sản xuất taser và nhà thầu cảnh sát, đã giới thiệu sản phẩm mới có tên "Draft One", một hệ thống AI được thiết kế để tạo báo cáo cảnh sát từ các bản ghi âm âm thanh của camera thân thể.
- Theo Forbes, việc áp dụng công nghệ AI này đặt ra những mối quan ngại đáng kể về các định kiến ​​và sai sót tiềm ẩn trong các cơ quan thực thi pháp luật, có thể làm trầm trọng thêm các vấn đề như định kiến ​​chủng tộc trong các sở cảnh sát.
- Các mô hình AI có xu hướng "ảo tưởng" về các sự kiện, dẫn đến hỗn loạn tiềm tàng và các cáo buộc vô căn cứ. Dave Maass, giám đốc điều tra công nghệ giám sát của Electronic Frontier Foundation, đã bày tỏ lo ngại về việc cảnh sát sử dụng công nghệ này mà không có chuyên môn về AI.
- Rick Smith, CEO của Axon, cho biết "Draft One", dựa trên mô hình ngôn ngữ lớn GPT-4 của OpenAI, có thể giúp các sĩ quan tiết kiệm thời gian bằng cách giảm nhu cầu viết các báo cáo dài.
- Noah Spitzer-Williams, quản lý sản phẩm AI chính tại Axon, giải thích rằng họ đã "tắt tính sáng tạo" của mô hình để giảm thiểu rủi ro sai sót và ảo tưởng. Mọi thứ mà nó tạo ra chỉ dựa trên bản ghi âm đó mà thôi.
- Mặc dù Axon khẳng định đã điều chỉnh mô hình AI để giảm thiểu rủi ro sai lầm, sự hợp tác giữa thực thi pháp luật và công nghệ AI vẫn chưa được chấp nhận rộng rãi. Người dùng mạng xã hội đã bày tỏ sự phẫn nộ về sản phẩm mới này, lo ngại về các lỗi tiềm tàng và ảnh hưởng đến đời sống của mọi người.

📌 Axon giới thiệu "Draft One", hệ thống AI tự động tạo ra báo cáo của cảnh sát từ ghi âm camera đeo người, gây lo ngại về định kiến ​​và sai sót. Mô hình dựa trên GPT 4, được điều chỉnh để giảm sai lầm, nhưng vẫn còn nhiều tranh cãi về độ tin cậy và ảnh hưởng xã hội của nó.

Citations:
[1] https://futurism.com/police-ai-generates-police-reports-body-cam-footage