Dữ liệu dùng để huấn luyện AI đang cạn kiệt nhanh chóng

• Nghiên cứu mới từ Data Provenance Initiative cho thấy có sự sụt giảm mạnh về nội dung có sẵn để xây dựng các hệ thống AI.

• Nghiên cứu khảo sát 14.000 tên miền web được sử dụng trong 3 bộ dữ liệu huấn luyện AI phổ biến (C4, RefinedWeb và Dolma).

• Khoảng 5% tổng số dữ liệu và 25% dữ liệu từ các nguồn chất lượng cao nhất đã bị hạn chế thông qua Robots Exclusion Protocol.

• Lên đến 45% dữ liệu trong bộ C4 đã bị hạn chế bởi điều khoản dịch vụ của các trang web.

• Nhiều nhà xuất bản và nền tảng trực tuyến đã thực hiện các bước để ngăn chặn việc thu thập dữ liệu của họ mà không có sự đồng ý.

• Dữ liệu là thành phần chính trong các hệ thống AI tạo sinh hiện nay, được cung cấp hàng tỷ ví dụ về văn bản, hình ảnh và video.

• Sự bùng nổ của AI tạo sinh trong những năm gần đây đã dẫn đến căng thẳng với chủ sở hữu dữ liệu, nhiều người muốn được trả tiền cho việc sử dụng dữ liệu của họ.

• Một số nhà xuất bản đã thiết lập tường lửa hoặc thay đổi điều khoản dịch vụ để hạn chế sử dụng dữ liệu của họ cho việc huấn luyện AI.

• Các trang web như Reddit và StackOverflow đã bắt đầu tính phí các công ty AI để truy cập dữ liệu.

• Một số nhà xuất bản đã có hành động pháp lý, bao gồm The New York Times kiện OpenAI và Microsoft về vi phạm bản quyền.

• Các công ty AI lớn như OpenAI, Google và Meta đã nỗ lực thu thập thêm dữ liệu, bao gồm cả việc phiên âm video YouTube.

• Một số công ty AI đã ký thỏa thuận với các nhà xuất bản như The Associated Press và News Corp để có quyền truy cập liên tục vào nội dung của họ.

• Việc hạn chế dữ liệu có thể gây ra mối đe dọa cho các công ty AI, đặc biệt là các công ty nhỏ hơn và các nhà nghiên cứu học thuật phụ thuộc vào bộ dữ liệu công khai.

• Một số công ty AI đang xem xét sử dụng dữ liệu tổng hợp để đối phó với tình trạng thiếu hụt dữ liệu, nhưng nhiều nhà nghiên cứu nghi ngờ về chất lượng của phương pháp này.

• Cần có các công cụ mới để cho phép chủ sở hữu trang web kiểm soát chính xác hơn việc sử dụng dữ liệu của họ, phân biệt giữa mục đích thương mại và phi thương mại.

📌 Nghiên cứu cho thấy 5% tổng số dữ liệu và 25% dữ liệu chất lượng cao đã bị hạn chế, gây khó khăn cho việc huấn luyện AI. Các công ty AI đang đối mặt với "bức tường dữ liệu", buộc phải tìm giải pháp thay thế như dữ liệu tổng hợp hoặc thỏa thuận cấp phép.

https://www.nytimes.com/2024/07/19/technology/ai-data-restrictions.html