- AWS giới thiệu tính năng Custom Model Import trong bộ dịch vụ GenAI cấp doanh nghiệp Bedrock, cho phép tổ chức nhập và quản lý các mô hình AI tạo sinh tùy chỉnh dưới dạng API hoàn chỉnh.
- Các doanh nghiệp sử dụng Custom Model Import sẽ có quyền truy cập vào bộ công cụ của Bedrock để mở rộng kiến thức, tinh chỉnh và bảo vệ khỏi các thiên kiến tiềm ẩn cho mô hình của họ.
- Người dùng cũng có thể giám sát và lọc nội dung đầu ra không mong muốn như ngôn từ thù hận hoặc bạo lực, đánh giá hiệu suất mô hình trên nhiều tiêu chí.
- Custom Model Import hiện hỗ trợ 3 kiến trúc mô hình mở phổ biến: Flan-T5, Llama và Mistral. AWS sẽ bổ sung thêm hỗ trợ kiến trúc trong tương lai.
- AWS cũng công bố tính năng Titan Image Generator đã sẵn sàng và ra mắt Titan Text Embeddings V2, giúp giảm chi phí lưu trữ và tính toán trong khi vẫn duy trì hoặc cải thiện độ chính xác.
- Các mô hình nền tảng Meta Llama 3 đã có mặt trên Bedrock, các mô hình Cohere's Command R và Command R+ sẽ sớm tham gia.
📌 AWS đã mở ra cánh cửa cho các doanh nghiệp tích hợp mô hình AI tạo sinh tùy chỉnh vào nền tảng Bedrock thông qua tính năng Custom Model Import. Bên cạnh đó, việc ra mắt Titan Image Generator, Titan Text Embeddings V2 và tích hợp các mô hình Meta Llama 3, Cohere's Command giúp Bedrock trở thành giải pháp hiệu quả về chi phí cho các công ty chưa thể phát triển mô hình riêng.
Citations:
[1] https://www.techradar.com/pro/aws-makes-move-to-host-your-companys-home-made-gen-ai-models