- Groq là mô hình AI mới xuất hiện và nhanh chóng trở nên phổ biến trên mạng xã hội với tốc độ phản hồi và công nghệ mới có khả năng thay thế GPU.
- Mô hình này đã trở thành hiện tượng qua đêm sau khi kết quả thử nghiệm công khai trên nền tảng mạng xã hội X cho thấy tốc độ tính toán và phản hồi vượt trội so với ChatGPT.
- Groq có khả năng tạo ra các câu trả lời có chứng cứ, chi tiết với hàng trăm từ trong chưa đầy một giây, với thời gian tìm kiếm chiếm hơn 3/4 tổng thời gian.
- Đội ngũ phát triển Groq đã tạo ra chip ASIC riêng biệt cho LLM, cho phép mô hình tạo ra khoảng 500 token mỗi giây.
- Công ty phía sau Groq không phải là mới, được thành lập từ năm 2016 và đã đăng ký thương hiệu Groq từ thời điểm đó.
- Một số người dùng trên nền tảng đã bắt đầu so sánh mô hình LPU của Groq với các mô hình dựa trên GPU khác, mô tả Groq là "bước đột phá" cho các sản phẩm cần độ trễ thấp.
📌 Groq, mô hình AI mới, đang tạo ra một làn sóng mới trên mạng xã hội với khả năng phản hồi nhanh chóng và công nghệ tiên tiến. Với chip ASIC được phát triển riêng, Groq có thể xử lý khoảng 500 token mỗi giây, đánh dấu sự khác biệt rõ rệt so với ChatGPT 3.5. Sự xuất hiện của Groq không chỉ làm dấy lên cuộc cạnh tranh trong lĩnh vực AI mà còn mở ra cơ hội cho các ứng dụng đòi hỏi độ trễ thấp, mang lại trải nghiệm người dùng hoàn toàn khác biệt.
Citations:
[1] https://cointelegraph.com/news/groq-ai-model-viral-rivals-chat-gpt