Nhà mạng BT xây dựng nền tảng GenAI Gateway để tránh phụ thuộc vào một mô hình ngôn ngữ lớn
• BT đã xây dựng nền tảng GenAI Gateway với sự hỗ trợ của AWS, cho phép công ty dễ dàng chuyển đổi giữa các mô hình ngôn ngữ lớn (LLM) tùy theo nhu cầu.
• Harmeen Mehta, Giám đốc Đổi mới và Số hóa của BT, cho biết công ty không muốn phụ thuộc hoàn toàn vào một LLM cụ thể.
• BT không có kế hoạch xây dựng LLM riêng, thay vào đó tập trung vào việc tinh chỉnh các mô hình hiện có để cải thiện độ chính xác và giảm chi phí.
• Công ty đã xây dựng "cấu trúc dữ liệu" để bảo vệ quyền riêng tư khi tinh chỉnh mô hình trên dữ liệu nội bộ.
• Chatbot Aimee của BT đã được nâng cấp bằng công nghệ AI tạo sinh, giúp trả lời nhiều truy vấn hơn.
• BT hợp tác với Sprinklr, một công ty phần mềm có nền tảng tích hợp các công nghệ AI tạo sinh như Google Cloud Vertex và OpenAI GPT.
• Ngoài chatbot, BT cũng sử dụng AI tạo sinh để tóm tắt cuộc gọi khách hàng, quản lý tài liệu lớn trong các bộ phận pháp lý và đấu thầu.
• BT đã sử dụng Amazon Q, một trợ lý AI tạo sinh, để tạo ra khoảng 250.000 dòng mã phần mềm.
• Công ty dự kiến giảm 55.000 việc làm vào năm 2030, trong đó AI chiếm khoảng 10.000 việc làm.
• Tuy nhiên, Mehta cho rằng AI sẽ chủ yếu định hình lại kỹ năng và vai trò thay vì chỉ đơn thuần xóa bỏ việc làm.
📌 BT xây dựng nền tảng GenAI Gateway để linh hoạt sử dụng nhiều mô hình AI, tránh phụ thuộc vào một LLM. Công ty ứng dụng AI tạo sinh vào chatbot, tóm tắt cuộc gọi và tạo mã, dự kiến cắt giảm 10.000 việc làm do AI vào 2030 nhưng tin rằng AI sẽ định hình lại kỹ năng hơn là xóa bỏ việc làm.
https://www.lightreading.com/ai-machine-learning/how-bt-worked-to-avoid-genai-lock-in
Thảo luận
Follow Us
Tin phổ biến
