- Deci vừa công bố mô hình ngôn ngữ lớn (LLM) mới và nhỏ hơn có tên Deci-Nano, cùng với Nền tảng Phát triển AI Tạo sinh toàn diện cho doanh nghiệp và lập trình viên.
- Deci-Nano cung cấp khả năng hiểu và lập luận ngôn ngữ với tốc độ suy luận siêu nhanh, tạo ra 256 token chỉ trong 4,56 giây trên GPU NVIDIA A100.
- Deci-Nano có giá cực kỳ cạnh tranh ở mức 0,1 đô la cho 1 triệu token đầu vào, so với 0,50 đô la của GPT-3.5 Turbo và 0,25 đô la của Claude 3 Haiku mới.
- Deci cung cấp nhiều tùy chọn triển khai Deci-Nano cho khách hàng, bao gồm các phiên bản serverless để dễ dàng mở rộng quy mô hoặc các phiên bản chuyên dụng để tinh chỉnh và nâng cao quyền riêng tư.
- Nền tảng Phát triển AI Tạo sinh của Deci bao gồm một loạt các mô hình ngôn ngữ lớn độc quyền, công cụ suy luận và giải pháp quản lý cụm suy luận AI.
- Deci cung cấp giải pháp triển khai tại chỗ đầy đủ cho khách hàng muốn công nghệ trong trung tâm dữ liệu của họ, không phải trên đám mây.
📌 Deci đang chuyển sang mô hình thương mại hóa với việc ra mắt Deci-Nano và Nền tảng Phát triển AI Tạo sinh. Deci-Nano có hiệu suất vượt trội so với các mô hình cùng kích thước, đồng thời có giá cực kỳ cạnh tranh ở mức 0,1 đô la cho 1 triệu token đầu vào, so với 0,50 đô la của GPT-3.5 Turbo và 0,25 đô la của Claude 3 Haiku mới. Nền tảng mới cung cấp giải pháp toàn diện gồm các mô hình ngôn ngữ lớn độc quyền, công cụ suy luận và quản lý cụm AI.
https://venturebeat.com/ai/deci-announces-new-ai-dev-platform-and-small-model-deci-nano/