Thẩm phán Mỹ rút lại phán quyết do trích dẫn sai và dẫn chứng giả, nghi ngờ sử dụng AI

• Một thẩm phán liên bang tại Mỹ, ông Julien Xavier Neals, đã rút lại phán quyết trong một vụ kiện chứng khoán liên quan đến công ty dược phẩm CorMedix sau khi phát hiện nhiều trích dẫn và thông tin sai lệch trong văn bản.

• Luật sư Andrew Lichtman đã gửi thư tới thẩm phán Neals, chỉ ra "hàng loạt sai sót" trong quyết định bác bỏ đề nghị hủy bỏ vụ kiện của CorMedix, bao gồm việc sai kết quả của ba vụ án khác và sử dụng nhiều trích dẫn giả được gán cho các phán quyết không có thật.

• Một thông báo mới trên hệ thống hồ sơ tòa án xác nhận rằng “ý kiến và lệnh trước đó được nhập nhầm” và sẽ có một phán quyết mới được ban hành.

• Mặc dù không có xác nhận rằng AI đã được sử dụng trong quá trình này, nhưng các sai sót có dấu hiệu tương tự như hiện tượng “hallucination” (ảo giác) thường thấy khi sử dụng công cụ AI như ChatGPT trong nghiên cứu pháp lý.

• Trước đó, các luật sư của người sáng lập MyPillow, ông Mike Lindell, cũng bị phạt vì sử dụng các trích dẫn do AI tạo ra không chính xác trong hồ sơ pháp lý.

• Anthropic, công ty phát triển chatbot Claude AI, cũng thừa nhận công cụ của họ từng đưa ra trích dẫn sai trong một vụ kiện với các nhà xuất bản âm nhạc, được gọi là “sai sót đáng xấu hổ”.

• Những vụ việc này cho thấy rủi ro đáng kể khi các luật sư và thẩm phán dựa vào AI để hỗ trợ công việc pháp lý, nhất là khi chưa có kiểm soát chặt chẽ và hiểu biết đầy đủ về giới hạn của công nghệ này.

• Việc rút lại cả một phán quyết là hành động hiếm thấy trong ngành tư pháp Mỹ, thường chỉ áp dụng khi có lỗi nghiêm trọng, vượt xa những lỗi ngữ pháp hay chỉnh sửa thông thường.

📌 Phán quyết bị rút lại của thẩm phán Neals do chứa nhiều trích dẫn sai và dẫn chứng giả làm dấy lên nghi vấn sử dụng AI, dù chưa được xác nhận. Vụ việc gợi nhớ đến những lỗi tương tự do AI tạo sinh gây ra trước đây, từ ChatGPT đến Claude AI, cho thấy hệ thống pháp lý vẫn chưa thể hoàn toàn tin tưởng vào công cụ AI trong các tình huống yêu cầu độ chính xác tuyệt đối.

https://www.theverge.com/news/713653/judge-withdraws-cormedix-case-ai-citation-errors