Từ thất bại đến thành công: GrabGPT – ChatGPT nội bộ khiến cả công ty Grab sửng sốt

• Vào tháng 3/2023, nhóm nền tảng học máy của Grab đối mặt với quá tải trong hỗ trợ kỹ thuật khi các kênh Slack tràn ngập câu hỏi, khiến kỹ sư không thể tập trung phát triển.

• Một kỹ sư quyết định thử xây chatbot nội bộ bằng LLM để xử lý tự động các câu hỏi, dựa vào tài liệu nền tảng hơn 20.000 từ.

• Giới hạn của GPT-3.5-turbo (chỉ 8.000 tokens ~ 2.000 từ) khiến việc triển khai không hiệu quả, kể cả khi đã tóm tắt xuống dưới 800 từ hoặc áp dụng kỹ thuật embedding search.

• Sau thất bại ban đầu, nhóm quyết định chuyển hướng và xây dựng một công cụ giống ChatGPT dành riêng cho nhân viên Grab, sử dụng hạ tầng hiện có như nền tảng phục vụ mô hình “catwalk”.

• Công cụ ban đầu có tên “Grab’s ChatGPT”, sau đổi tên thành GrabGPT. Nó nhanh chóng trở thành một phần thiết yếu trong công việc hàng ngày của nhân viên.

• Các con số ấn tượng:

  • Ngày 1: 300 người dùng đăng ký.

  • Ngày 2: tăng thêm 600 người dùng.

  • Tuần đầu: 900 người dùng mới.

  • Tháng thứ 3: hơn 3.000 người dùng, với 600 người dùng hoạt động mỗi ngày.

  • Hiện tại: hầu hết nhân viên Grab đều đang sử dụng GrabGPT.

• Thành công đến từ:

  • Bảo mật dữ liệu: chạy trên hạ tầng riêng nội bộ.

  • Truy cập toàn cầu: không bị hạn chế như ChatGPT ở một số quốc gia.

  • Hỗ trợ nhiều mô hình AI: từ OpenAI, Claude, Gemini, v.v.

  • Có khả năng kiểm toán: tương thích với yêu cầu bảo mật và quản trị dữ liệu.

• GrabGPT không chỉ là công cụ, mà còn là chất xúc tác giúp Grab xây dựng chiến lược AI tạo sinh toàn công ty.

📌 GrabGPT bắt đầu từ một thất bại nhưng đã phát triển thành công cụ AI được toàn công ty Grab sử dụng, với hơn 3.000 người dùng chỉ sau 3 tháng và 600 người dùng hoạt động mỗi ngày. GrabGPT thành công nhờ bảo mật nội bộ, truy cập toàn cầu và khả năng hỗ trợ nhiều mô hình AI. Đây là ví dụ điển hình về tư duy đổi mới, bắt đầu nhỏ nhưng tạo ra tác động lớn.

https://engineering.grab.com/the-birth-of-grab-gpt