Những bài học từ 1 năm xây dựng với các mô hình ngôn ngữ lớn (phần 3)

- Khi xây dựng ứng dụng LLM, hầu hết các tổ chức không nên tự huấn luyện mô hình từ đầu mà nên tận dụng các mô hình nguồn mở tốt nhất hiện có và tinh chỉnh cho phù hợp với nhu cầu cụ thể. Chỉ nên đầu tư vào việc tinh chỉnh mô hình khi đã chứng minh được nó thực sự cần thiết.

- Ban đầu, các đội nên sử dụng các API suy luận để giảm nỗ lực và tập trung vào việc tạo ra giá trị cho khách hàng. Tuy nhiên, tự triển khai cũng là một lựa chọn tốt khi quy mô và yêu cầu tăng lên, đặc biệt là với dữ liệu nhạy cảm.

- Để duy trì lợi thế cạnh tranh lâu dài, cần tập trung vào việc xây dựng một hệ thống vững chắc xung quanh mô hình, bao gồm khung đánh giá, rào cản an toàn, cache, vòng lặp dữ liệu, v.v. 

- Xây dựng niềm tin bằng cách bắt đầu từ phạm vi hẹp, đi sâu vào chuyên môn hóa thay vì đa dạng hóa. Minh bạch về khả năng và giới hạn của hệ thống với người dùng.

- Xây dựng LLMOps để rút ngắn chu kỳ phản hồi giữa phát triển và triển khai, liên tục cải tiến sản phẩm. Tận dụng các công cụ giám sát, đánh giá trong môi trường sản xuất.

- Tập trung vào các ứng dụng LLM thực sự phù hợp với mục tiêu sản phẩm và nâng cao hoạt động cốt lõi của doanh nghiệp, thay vì các tính năng chung chung.

- Đặt con người làm trung tâm, coi LLM là công cụ hỗ trợ quy trình làm việc chứ không thay thế hoàn toàn con người. Điều này dẫn đến các quyết định sản phẩm và thiết kế khác biệt, hữu ích hơn.

- Bắt đầu bằng kỹ thuật tạo prompt, đánh giá và thu thập dữ liệu. Chỉ tăng độ phức tạp khi thực sự cần thiết.

- Chi phí cho khả năng LLM đang giảm nhanh chóng. Những gì không khả thi hôm nay sẽ trở thành tiêu chuẩn phổ biến trong vài năm tới.

- Cần có kỹ thuật, kiểm thử và cải tiến nghiêm ngặt để chuyển từ bản demo ban đầu sang sản phẩm thương mại đáng tin cậy, hoạt động ổn định ở quy mô lớn.

📌 Bài viết đưa ra những lời khuyên chiến lược quý báu cho các đội phát triển ứng dụng LLM, từ việc sử dụng mô hình, xây dựng hệ thống xung quanh, lấy con người làm trung tâm, đến xu hướng giảm chi phí và tăng khả năng trong tương lai. Để thành công, cần có nỗ lực đáng kể để chuyển từ demo ban đầu sang sản phẩm hoàn thiện, đáng tin cậy và mở rộng được. Đây là một hành trình dài hơi đòi hỏi sự kiên trì và cải tiến liên tục.

https://www.oreilly.com/radar/what-we-learned-from-a-year-of-building-with-llms-part-iii-strategy/