OpenAI tuyên bố có công cụ phát hiện văn bản AI với độ chính xác 99,9%

• Theo khảo sát của BestColleges, hơn 50% học sinh sử dụng AI để gian lận. Con số này phù hợp với nghiên cứu của Đại học Stanford cho thấy 60-70% học sinh gian lận.

• OpenAI tuyên bố có phương pháp phát hiện khi ai đó sử dụng ChatGPT để viết bài luận hoặc nghiên cứu với độ chính xác 99,9%.

• Nhiều chương trình đã hứa hẹn phát hiện văn bản do AI viết, nhưng chưa đủ đáng tin cậy để buộc tội học sinh gian lận.

• OpenAI chưa tiết lộ chi tiết về phương pháp mới này. Nó không thể phát hiện các "ảo giác" của AI, vì ngay cả AI tiên tiến nhất vẫn có thể đưa ra thông tin sai lệch.

• Có vẻ OpenAI đang sử dụng cách đơn giản hơn là thủy vân kết quả của mình.

• OpenAI cho biết đã nghiên cứu sử dụng bộ phân loại, thủy vân và metadata để phát hiện sản phẩm do AI tạo ra.

• Phương pháp này được cho là "rất chính xác và hiệu quả ngay cả với việc sửa đổi cục bộ như diễn đạt lại", nhưng "kém hiệu quả hơn với việc sửa đổi toàn cục".

• Điều này có nghĩa tính năng này không hoạt động tốt với văn bản đã dịch hoặc thao tác đơn giản như chèn và xóa ký tự đặc biệt. Nó cũng không thể phát hiện văn bản từ mô hình AI khác.

• Với một chút nỗ lực, học sinh và người viết vẫn có thể vượt qua công cụ phát hiện AI này.

• OpenAI sẽ sớm phát hành bộ phân loại nguồn gốc DALL·E 3, đánh dấu hầu hết mọi hình ảnh tạo bởi DALL-E là sản phẩm AI.

• OpenAI sử dụng metadata C2PA, một tiêu chuẩn nội dung kỹ thuật số, để đánh dấu và nhận dạng hình ảnh.

📌 OpenAI tuyên bố có công cụ phát hiện văn bản AI chính xác 99,9%, nhưng vẫn có hạn chế. Phương pháp dựa trên thủy vân, không hiệu quả với văn bản đã dịch hoặc từ AI khác. OpenAI cũng sẽ đánh dấu hình ảnh DALL-E, có thể ảnh hưởng đến người dùng chuyên nghiệp.

https://www.zdnet.com/article/will-openais-new-ai-detection-tool-put-an-end-to-student-cheating/