Tại sao nhà mạng Orange không xây dựng mô hình nền tảng AI riêng?

- Orange tập trung sử dụng các phương pháp như RAG và tinh chỉnh để tận dụng tốt hơn các LLM hiện có, thay vì xây dựng mô hình nền tảng riêng.

- RAG cho phép truyền nguồn thông tin chi tiết cùng với lời nhắc để tăng cường phản hồi của mô hình. Tuy nhiên, RAG có thể yêu cầu nhiều dữ liệu đi kèm, khiến các tác vụ phức tạp trở nên chậm và tốn kém.

- Tinh chỉnh mô hình liên quan đến việc nhúng thông tin vào phiên bản mới của mô hình cơ bản. Cách tiếp cận này rất khó khăn và đòi hỏi các công cụ tinh chỉnh liên tục được cải tiến.

- Xây dựng mô hình nền tảng từ đầu là một nhiệm vụ phức tạp hơn mà Orange hiện không thấy lý do để thực hiện. Tuy nhiên, không thể dự đoán được sự phát triển trong tương lai.

- Ngân sách phức tạp (lượng tính toán cần thiết để tạo ra câu trả lời) có thể quyết định xu hướng trong tương lai. Các mô hình rất lớn có thể cần nhiều tính toán hơn để đào tạo ban đầu, nhưng ít tính toán hơn cho RAG và tinh chỉnh.

- Orange đang thử nghiệm sử dụng nhiều mô hình AI cùng nhau để giải quyết các vấn đề phức tạp một cách linh hoạt hơn thông qua khái niệm Agents.

- Công ty đã triển khai AI tạo sinh trong dịch vụ khách hàng để dự đoán ưu đãi hấp dẫn nhất cho từng khách hàng. Họ cũng đang thử nghiệm sử dụng AI tạo sinh để cá nhân hóa văn bản ưu đãi.

- Orange chưa sử dụng AI tạo sinh cho bất kỳ trường hợp sử dụng nào trong mạng lưới, nhưng một số đang được phát triển như dự đoán thời điểm thay thế pin tại các trạm phát sóng di động.

- Ảo giác (hallucination) vẫn là một thách thức đối với AI tạo sinh. RAG và tinh chỉnh có thể giúp giảm thiểu vấn đề này ở một mức độ nào đó.

- Orange đang nỗ lực tạo ra một thị trường nơi dữ liệu được cung cấp rộng rãi và được gắn nhãn thích hợp trong mỗi quốc gia, được gọi là "dân chủ hóa dữ liệu".

📌 Orange tập trung vào việc tận dụng các mô hình AI sẵn có thông qua RAG và tinh chỉnh, thay vì xây dựng mô hình riêng. Công ty đang thử nghiệm sử dụng AI tạo sinh trong dịch vụ khách hàng, đồng thời giải quyết các thách thức như ảo giác và tính sẵn có của dữ liệu.

Citations:
[1] https://www.lightreading.com/ai-machine-learning/orange-isn-t-building-its-own-ai-foundation-model-here-s-why