Kong AI Gateway: giúp doanh nghiệp quản lý và mở rộng AI tạo sinh

- Kong Inc. đã công bố sự ra mắt chính thức của Kong AI Gateway, cung cấp một cổng API AI-native để quản lý và bảo mật các khối lượng công việc AI tạo sinh trên mọi môi trường đám mây.
- Sản phẩm này, lần đầu tiên ra mắt dưới dạng beta vào tháng 2, đã thu hút sự chấp nhận đáng kể khi các tổ chức đổ xô để vận hành công nghệ AI tạo sinh.
- Kong AI Gateway cung cấp một loạt các khả năng hạ tầng được thiết kế riêng cho AI, bao gồm hỗ trợ nhiều mô hình ngôn ngữ lớn (LLMs), bộ nhớ đệm ngữ nghĩa, định tuyến ngữ nghĩa, tường lửa ngữ nghĩa và quản lý vòng đời mô hình.
- Sản phẩm tích hợp liền mạch với nền tảng API hiện có của Kong, cho phép các doanh nghiệp quản lý AI cùng với các API truyền thống.
- Marco Palladino, CTO và đồng sáng lập của Kong, cho biết Kong AI Gateway là "công nghệ hạ tầng AI có khả năng nhất trên thế giới" nhờ được xây dựng trên các tính năng cổng hiện có của Kong và cung cấp các khả năng chuyên sâu về AI.
- Kong AI Gateway hoạt động như một trung tâm cung cấp giao diện API thống nhất để quản lý và bảo mật nhiều công nghệ AI trên các ứng dụng khác nhau.
- Sản phẩm cung cấp các khả năng cụ thể về AI như quản trị, quan sát, bảo mật và nhiều hơn nữa, giúp các doanh nghiệp triển khai và mở rộng các sáng kiến AI tạo sinh một cách hiệu quả.
- Một điểm khác biệt quan trọng là khả năng của Kong AI Gateway trong việc kiểm tra lưu lượng AI và cung cấp một API thống nhất để tiêu thụ một hoặc nhiều nhà cung cấp AI.
- Kong AI Gateway cung cấp bảo mật prompt, tuân thủ, quản trị, tạo mẫu và vòng đời xung quanh các prompt AI, cùng với các "chỉ số quan sát AI L7" để cung cấp khả năng nhìn thấy hiệu suất của nhà cung cấp, sử dụng token và chi phí trên lưu lượng AI.
- Kong Konnect, mặt phẳng điều khiển thống nhất của Kong, sẽ cho phép các tổ chức kiếm tiền từ các mô hình AI được tinh chỉnh cùng với các API truyền thống.
- Sự ra mắt này diễn ra trong bối cảnh sự quan tâm đến AI tạo sinh tăng vọt sau thành công lan truyền của ChatGPT của OpenAI.
- Kong Inc. được thành lập ban đầu dưới tên Mashape vào năm 2009 và tách ra thành Kong vào năm 2017, đã huy động được hơn 170 triệu USD vốn đầu tư mạo hiểm cho đến nay.
- Công ty này xử lý hàng nghìn tỷ giao dịch API cho hơn 500 tổ chức trên toàn cầu và đang ở vị trí mạnh mẽ để thúc đẩy làn sóng tiếp theo của việc áp dụng AI tạo sinh trong doanh nghiệp.

📌 Kong AI Gateway của Kong Inc. cung cấp một giải pháp API AI-native mạnh mẽ để quản lý và bảo mật các khối lượng công việc AI tạo sinh, hỗ trợ nhiều mô hình ngôn ngữ lớn và tích hợp liền mạch với nền tảng API hiện có của Kong. Sản phẩm này giúp các doanh nghiệp triển khai và mở rộng các sáng kiến AI tạo sinh một cách hiệu quả.

https://venturebeat.com/ai/exclusive-kong-launches-ai-gateway-to-help-enterprises-govern-and-scale-generative-ai/