- Các hệ thống AI tạo sinh cho doanh nghiệp đang đưa ra các phản hồi gây hiểu lầm, không đúng với yêu cầu của người dùng hoặc hoàn toàn sai lệch.
- Vấn đề nằm ở chất lượng dữ liệu được sử dụng để huấn luyện mô hình AI. Dữ liệu kém chất lượng tạo ra mô hình AI kém.
- Các lỗi trong hệ thống AI tạo sinh có thể dẫn đến mất doanh thu hàng triệu đô la hoặc kiện tụng pháp lý.
- Người dùng thường coi kết quả từ AI tạo sinh là chân lý tuyệt đối, dẫn đến việc sai lầm không được phát hiện kịp thời.
- Hầu hết các vấn đề của doanh nghiệp với AI tạo sinh là do dữ liệu chất lượng kém hoặc dữ liệu không nên được sử dụng ngay từ đầu.
- Khắc phục vấn đề dữ liệu tốn hàng triệu đô la và nhiều tháng hoặc năm, nhưng doanh nghiệp lại chi tiền cho AI thay vì dữ liệu.
- Các hệ thống AI tạo sinh dễ bị thiên vị nếu dữ liệu huấn luyện chứa sai lệch hoặc không chính xác.
- Thiếu hiểu biết thực tế và nhạy cảm với cách diễn đạt đầu vào cũng dẫn đến kết quả "ngớ ngẩn" từ AI.
- Khả năng phân biệt dữ liệu kinh doanh với dữ liệu có thể vi phạm bản quyền hoặc sở hữu trí tuệ là một vấn đề đáng quan tâm.
📌 Các hệ thống AI tạo sinh trong kinh doanh đang gặp phải nhiều vấn đề nghiêm trọng do chất lượng dữ liệu kém, thiên vị, thiếu hiểu biết thực tế và khả năng vi phạm bản quyền. Khắc phục những vấn đề này đòi hỏi thời gian và chi phí đáng kể, nhưng lại cần thiết để tránh hậu quả tài chính và pháp lý nghiêm trọng. Doanh nghiệp cần tập trung vào việc cải thiện dữ liệu trước khi đầu tư vào AI tạo sinh.
https://www.infoworld.com/article/3714362/why-your-genai-systems-are-stupid.html