Stability AI ra mắt mô hình ngôn ngữ 1,6B nhỏ hơn, hiệu quả hơn như một phần của quá trình đổi mới đang diễn ra

• Stability AI công bố mô hình ngôn ngữ nhỏ hơn, hiệu quả hơn với 1.6 tỷ tham số, Stable LM 2 1.6B, là một trong những mô hình nhỏ nhất từ trước đến nay.
• Mô hình mới này nhằm giảm bớt rào cản và cho phép nhiều nhà phát triển tham gia vào hệ sinh thái AI tạo sinh, hỗ trợ dữ liệu đa ngôn ngữ bao gồm 7 thứ tiếng: Anh, Tây Ban Nha, Đức, Ý, Pháp, Bồ Đào Nha và Hà Lan.
• Mô hình Stable LM 2 1.6B sử dụng tiến bộ thuật toán mới và được đào tạo trên dữ liệu chất lượng cao, hứa hẹn cân bằng tối ưu giữa tốc độ và hiệu suất.
• Mô hình mới này có hiệu suất cao hơn các mô hình ngôn ngữ nhỏ khác dưới 2 tỷ tham số trên hầu hết các bảng đánh giá và thậm chí còn vượt qua mô hình Stable LM 3B trước đây của Stability AI.
• Mặc dù có ưu điểm về kích thước và hiệu suất, Stable LM 2 1.6B cũng có một số hạn chế như tỷ lệ tạo ra thông tin không chính xác cao hoặc ngôn ngữ độc hại tiềm ẩn.
• Stability AI đang theo đuổi xu hướng tạo ra các mô hình LLM nhỏ gọn nhưng mạnh mẽ hơn, với việc công bố mô hình StableLM Zephyr 3B vào tháng 12 năm 2023.
• Các mô hình mới được đào tạo trên nhiều dữ liệu hơn, bao gồm tài liệu đa ngôn ngữ, và có sẵn trong các tùy chọn đã được huấn luyện sẵn và tinh chỉnh, cũng như dạng "bản checkpoint cuối cùng trước khi kết thúc quá trình đào tạo".
• Stability AI cung cấp mô hình này trước giai đoạn đào tạo cuối cùng để người dùng có thể dễ dàng chuyên môn hóa mô hình cho các tác vụ hoặc bộ dữ liệu khác mà họ muốn sử dụng.

📌 Stability AI đã giới thiệu mô hình ngôn ngữ mới có tên Stable LM 2 1.6B, chứa 1,6 tỷ tham số, mạnh mẽ hơn nhưng nhỏ gọn hơn so với các mô hình trước đó. Mô hình này hỗ trợ dữ liệu đa ngôn ngữ và tập trung vào việc cung cấp công cụ cho các nhà phát triển để đổi mới và xây dựng dựa trên mô hình hiện tại. Được huấn luyện trên dữ liệu chất lượng cao và nhiều hơn, Stable LM 2 1.6B hứa hẹn sẽ cải thiện các tiêu chuẩn hiện tại và mở rộng khả năng tiếp cận của AI tạo sinh, ngay cả khi nó có thể gặp phải một số hạn chế do kích thước nhỏ của mình.