UAE đã cách mạng hóa các mô hình ngôn ngữ AI mở với kiến trúc mới Falcon Mamba 7B

- Viện Đổi mới Công nghệ (TII), trung tâm nghiên cứu khoa học toàn cầu hàng đầu và là trụ cột nghiên cứu ứng dụng của Hội đồng Nghiên cứu Công nghệ Tiên tiến Abu Dhabi (ATRC) đã phát hành mô hình ngôn ngữ lớn mới trong loạt sản phẩm Falcon, đó là Falcon Mamba 7B. Đây là mô hình SSLM (State Space Language Model) nguồn mở hàng đầu thế giới, được Hugging Face xác minh độc lập.

- Falcon Mamba 7B vượt trội so với các mô hình kiến trúc transformer truyền thống như Llama 3.1 8B của Meta và Mistral 7B. Đây là ví dụ tiêu biểu về nghiên cứu tiên phong mà viện đang tiến hành và các công cụ đột phá mà viện cung cấp cho cộng đồng dưới dạng mã nguồn mở.

- Mô hình SSLM mới này có chi phí bộ nhớ thấp và không yêu cầu bộ nhớ bổ sung để tạo ra các khối văn bản dài tùy ý. Falcon Mamba 7B cũng vượt trội hơn các mô hình kiến trúc transformer truyền thống như Llama 3.1 8B của Meta và Mistral 7B.

- Mô hình mới phản ánh sự đổi mới và phương pháp tiên phong của Abu Dhabi trong nghiên cứu và phát triển AI. Falcon Mamba 7B đánh dấu mô hình AI hàng đầu thứ tư liên tiếp của TII, khẳng định Abu Dhabi là trung tâm toàn cầu về nghiên cứu và phát triển AI.

- Các mô hình SSLM có thể ứng dụng trong nhiều lĩnh vực như ước tính, dự báo và kiểm soát. Tương tự như các mô hình kiến trúc transformer, chúng cũng xuất sắc trong các tác vụ Xử lý Ngôn ngữ Tự nhiên và có thể được áp dụng cho dịch máy, tóm tắt văn bản, thị giác máy tính và xử lý âm thanh.

- Falcon Mamba 7B sẽ được phát hành theo Giấy phép Falcon 2.0 của TII, giấy phép phần mềm mã nguồn mở dựa trên Apache 2.0 bao gồm chính sách sử dụng chấp nhận được thúc đẩy việc sử dụng AI có trách nhiệm.

📌 Viện Đổi mới Công nghệ của UAE đã cách mạng hóa các mô hình ngôn ngữ AI với kiến trúc mới, ra mắt mô hình Falcon Mamba 7B - mô hình SSLM nguồn mở hàng đầu thế giới, vượt trội so với các mô hình kiến trúc transformer truyền thống. Đây là bước tiến đột phá trong nghiên cứu AI tại UAE, khẳng định vị thế trung tâm toàn cầu về AI của Abu Dhabi.

https://www.businesswire.com/news/home/20240812019509/en/