• OpenAI đã phát triển một công cụ có khả năng phát hiện văn bản do ChatGPT tạo ra, nhưng đang cân nhắc có nên phát hành hay không.
• Công ty đang nghiên cứu phương pháp thủy vân văn bản, nhưng đang thận trọng do "sự phức tạp và tác động tiềm tàng đến hệ sinh thái rộng lớn hơn ngoài OpenAI".
• Phương pháp này được đánh giá là "hứa hẹn về mặt kỹ thuật" nhưng có những rủi ro quan trọng cần cân nhắc:
- Khả năng bị phá vỡ bởi các tác nhân xấu
- Có thể tác động không tương xứng đến các nhóm như người không nói tiếng Anh
• Đây là cách tiếp cận khác với hầu hết các nỗ lực trước đây để phát hiện văn bản do AI tạo ra, vốn phần lớn không hiệu quả. OpenAI đã đóng cửa công cụ phát hiện văn bản AI trước đó vào năm ngoái do "tỷ lệ chính xác thấp".
• Phương pháp thủy vân văn bản tập trung vào việc phát hiện văn bản từ ChatGPT, không phải từ các mô hình của các công ty khác.
• Nó hoạt động bằng cách thực hiện các thay đổi nhỏ trong cách ChatGPT chọn từ, tạo ra một thủy vân vô hình trong văn bản có thể được phát hiện sau đó bằng một công cụ riêng biệt.
• OpenAI cho biết phương pháp này "chính xác cao và thậm chí hiệu quả chống lại việc can thiệp cục bộ, như diễn đạt lại", nhưng "kém mạnh mẽ hơn đối với việc can thiệp toàn cục; như sử dụng hệ thống dịch thuật, viết lại bằng một mô hình tạo sinh khác, hoặc yêu cầu mô hình chèn một ký tự đặc biệt giữa mỗi từ và sau đó xóa ký tự đó".
• Công ty cũng lo ngại phương pháp này có thể "kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho người không nói tiếng Anh bản ngữ".
• OpenAI đang cân nhắc các phương pháp thay thế và đánh giá cẩn thận các tác động tiềm tàng trước khi quyết định có phát hành công cụ này hay không.
📌 OpenAI đang thận trọng với việc phát hành công cụ phát hiện văn bản ChatGPT do lo ngại về khả năng bị phá vỡ và tác động tiêu cực đến người dùng không nói tiếng Anh. Công ty đang nghiên cứu các phương pháp thay thế và đánh giá kỹ lưỡng trước khi đưa ra quyết định cuối cùng.
https://techcrunch.com/2024/08/04/openai-says-its-taking-a-deliberate-approach-to-releasing-tools-that-can-detect-writing-from-chatgpt/