Bài học từ LinkedIn: Tận dụng LLM cho 1 tỷ người dùng
- LinkedIn, với hơn 1 tỷ người dùng toàn cầu, liên tục vượt qua giới hạn của những gì khả thi về mặt kỹ thuật trong doanh nghiệp ngày nay.
- Kết nối ứng viên đủ điều kiện với nhà tuyển dụng tiềm năng để lấp đầy các vị trí tuyển dụng và đảm bảo rằng nguồn cấp dữ liệu trên nền tảng phù hợp với thành viên là hoạt động kinh doanh cốt lõi của LinkedIn.
- Vào mùa hè năm 2023, LinkedIn bắt đầu tự hỏi liệu việc kết nối ứng viên với nhà tuyển dụng và làm cho nguồn cấp dữ liệu hữu ích hơn có thể được phục vụ tốt hơn với sự trợ giúp của các mô hình ngôn ngữ lớn (LLM) hay không.
- LinkedIn đã khởi động hành trình AI tạo sinh và hiện đang báo cáo kết quả trải nghiệm tận dụng Dịch vụ Azure OpenAI của Microsoft.
- Một trong những bài học đầu tiên của LinkedIn là tầm quan trọng của việc điều chỉnh LLM phù hợp với kỳ vọng của người dùng và giúp LLM hiểu cách đưa ra phản hồi phù hợp, có tính người.
- Mặc dù LinkedIn có hơn 1 tỷ thành viên, hầu hết các tính năng tìm kiếm việc làm dựa trên LLM của LinkedIn ban đầu sẽ nhắm mục tiêu đến các thành viên cao cấp, một nhóm nhỏ hơn nhiều.
- Ngay cả khi chỉ nhắm đến vài triệu thành viên cao cấp, giá cả cũng tăng vọt do giá cả LLM - ít nhất là thỏa thuận cấp phép mà LinkedIn đã ký.
📌 LinkedIn đã rút ra nhiều bài học quý giá khi tận dụng LLM cho hơn 1 tỷ người dùng, bao gồm tầm quan trọng của việc điều chỉnh LLM phù hợp với kỳ vọng của người dùng, giúp LLM đưa ra phản hồi phù hợp, và đối mặt với thách thức về giá cả khi mở rộng quy mô các tính năng dựa trên LLM cho hàng triệu thành viên cao cấp.
Citations:
[1] https://www.cio.com/article/2095140/what-linkedin-learned-leveraging-llms-for-its-billion-users.html?amp=1
Thảo luận
Follow Us
Tin phổ biến
