Khi AI tự đầu độc chính mình: nguy cơ sụp đổ của các mô hình AI

• Dữ liệu do AI tạo ra đang tràn ngập internet với khoảng 100 tỷ từ mỗi ngày, tương đương 1 triệu cuốn tiểu thuyết, được tạo bởi OpenAI.

• Nội dung do AI tạo ra xuất hiện dưới nhiều hình thức như đánh giá nhà hàng, hồ sơ hẹn hò, bài đăng mạng xã hội và thậm chí cả bài báo. NewsGuard đã xác định hơn 1.000 trang web sản xuất các bài báo do AI tạo ra với nhiều lỗi.

• Khi các công ty AI thu thập dữ liệu từ web để đào tạo các mô hình mới, họ có khả năng vô tình sử dụng nội dung do chính AI tạo ra, tạo thành một vòng phản hồi không mong muốn.

• Nghiên cứu cho thấy khi AI tạo sinh được đào tạo trên chính đầu ra của nó, chất lượng có thể giảm đáng kể. Ví dụ về việc nhận dạng chữ số viết tay cho thấy sau 30 thế hệ, các chữ số hội tụ thành một hình dạng duy nhất.

• Hiện tượng này được gọi là "sự sụp đổ mô hình", dẫn đến phạm vi đầu ra AI hẹp hơn theo thời gian. Điều này có thể ảnh hưởng đến các ứng dụng như chatbot tư vấn y tế hoặc trợ lý dạy sử học AI.

• Khi được đào tạo trên đầu ra của chính mình, mô hình ngôn ngữ lớn tạo ra câu trả lời kém chất lượng hơn, thậm chí lặp lại các cụm từ một cách vô nghĩa sau vài thế hệ.

• Vấn đề tương tự cũng xảy ra với các mô hình tạo hình ảnh AI, dẫn đến hình ảnh bị biến dạng với các mẫu nhăn nheo và ngón tay bị méo mó.

• Sự sụp đổ mô hình xảy ra vì dữ liệu do AI tạo ra thường là bản sao kém chất lượng của dữ liệu thực. Điều này dẫn đến phân phối thống kê hẹp hơn của đầu ra AI theo thời gian.

• Vấn đề này có thể làm chậm sự phát triển của AI, đòi hỏi nhiều năng lượng và tiền bạc hơn để đào tạo các mô hình mới.

• Sự sụp đổ mô hình cũng có thể dẫn đến sự xói mòn đa dạng trong đầu ra AI, ảnh hưởng đến các khía cạnh như đa dạng khuôn mặt trong hình ảnh được tạo ra hoặc đa dạng ngôn ngữ trong văn bản.

• Các giải pháp tiềm năng bao gồm việc trả tiền cho dữ liệu chất lượng cao, phát triển các công cụ phát hiện đầu ra AI tốt hơn và sử dụng thủy vân AI.

• Một số công ty đang xem xét sử dụng dữ liệu do AI tạo ra để đào tạo các mô hình trong tương lai, nhưng điều này có thể dẫn đến hậu quả không mong muốn.

📌 AI tạo sinh đang tạo ra 100 tỷ từ mỗi ngày, gây ra nguy cơ "sụp đổ mô hình" khi các công ty vô tình sử dụng dữ liệu AI để đào tạo mô hình mới. Hiện tượng này có thể làm giảm chất lượng, đa dạng và hiệu quả của AI, đòi hỏi các giải pháp như dữ liệu chất lượng cao và công cụ phát hiện nội dung AI.

https://www.nytimes.com/interactive/2024/08/26/upshot/ai-synthetic-data.html