• Các Sở cảnh sát Mỹ đang bắt đầu áp dụng công cụ AI để viết báo cáo cảnh sát, gây lo ngại từ các chuyên gia.
• Công cụ có tên "Draft One" do công ty công nghệ cảnh sát Axon phát triển, sử dụng mô hình ngôn ngữ lớn GPT-4 của OpenAI để tạo báo cáo từ âm thanh camera gắn trên người cảnh sát.
• Axon quảng cáo Draft One như một công cụ tăng năng suất, giúp giảm thời gian làm giấy tờ của cảnh sát. CEO Rick Smith cho biết nó có thể giúp tiết kiệm 25% thời gian để cảnh sát tập trung vào công việc tuần tra.
• Tuy nhiên, báo cáo cảnh sát là tài liệu nhạy cảm, trong khi AI tạo sinh thường mắc lỗi "ảo giác" - tạo ra thông tin sai lệch hoặc không chính xác.
• Một số sở cảnh sát ở Colorado, Indiana và Oklahoma đã bắt đầu thử nghiệm Draft One, thậm chí cho phép sử dụng cho mọi loại vụ án, không chỉ báo cáo sự cố nhỏ.
• Các chuyên gia lo ngại về hậu quả, vì báo cáo cảnh sát đóng vai trò nền tảng trong quá trình điều tra và pháp lý. Giáo sư Andrew Ferguson của Đại học American cảnh báo công nghệ này có thể khiến cảnh sát ít cẩn thận hơn khi viết báo cáo.
• Axon bảo vệ hiệu quả của công cụ, cho biết họ có thể điều chỉnh nhiều thông số hơn so với người dùng ChatGPT thông thường, như giảm "chỉ số sáng tạo" để hạn chế khả năng "thêm thắt hoặc ảo giác".
• Tuy nhiên, việc tự động hóa này vẫn đặt ra nhiều câu hỏi pháp lý và đạo đức. Con người cũng mắc lỗi và có định kiến, nhưng công việc cảnh sát hiệu quả cần có yếu tố con người.
• Việc đưa các công cụ AI chưa hoàn thiện vào điều tra thực thi pháp luật đã gây ra những tổn hại khủng khiếp cho cuộc sống của nhiều người.
• Giáo sư Ferguson đặt câu hỏi về việc phụ thuộc vào AI tạo sinh sẽ làm méo mó nền tảng của hệ thống pháp luật vốn dựa trên những báo cáo cảnh sát đơn giản.
📌 Việc cảnh sát Mỹ thử nghiệm AI viết báo cáo gây lo ngại lớn về tính chính xác và tác động pháp lý. Chuyên gia cảnh báo nguy cơ "ảo giác" của AI có thể ảnh hưởng nghiêm trọng đến hệ thống tư pháp, đặc biệt khi một số sở cảnh sát đã cho phép sử dụng công cụ này cho mọi loại vụ án.
https://futurism.com/hallucinating-ai-police-reports