01.ai đào tạo Yi-Lightning chỉ 3 triệu USD và 2.000 GPU, OpenAI chi tới 100 triệu USD cho GPT-4

- 01.ai đào tạo mô hình AI Yi-Lightning với tổng chi phí 3 triệu USD và sử dụng 2.000 GPU không tiết lộ tên.
- Mô hình này hiện đứng thứ 6 toàn cầu về hiệu suất, theo đánh giá của UC Berkeley’s LMSIS.
- Kai-Fu Lee, CEO của 01.ai, nhấn mạnh rằng sự hiệu quả trong kỹ thuật giúp công ty có thể cạnh tranh toàn cầu mặc dù đối mặt với nhiều thách thức.
- Chi phí phỏng đoán cho việc phỏng đoán chỉ là 0,10 USD cho mỗi triệu token, tương ứng với khoảng 1/30 so với mức giá thông thường của các mô hình tương đương.
- Công ty 01.ai gặp khó khăn do lệnh cấm xuất khẩu từ Mỹ, hạn chế tiếp cận phần cứng tiên tiến từ các nhà sản xuất như Nvidia, làm cho các công ty Trung Quốc phải tìm giải pháp thay thế.
- Những đổi mới kỹ thuật của 01.ai bao gồm giảm tắc nghẽn tính toán, phát triển bộ nhớ đệm đa lớp, và thiết kế engine phỏng đoán chuyên dụng.
- Kai-Fu Lee nhấn mạnh rằng nhu cầu buộc công ty phải tìm ra những giải pháp sáng tạo để sử dụng hiệu quả 2.000 GPU.
- Ông cũng cho biết, mặc dù nguồn lực hạn chế, đội ngũ của 01.ai đã tìm ra cách để làm cho quá trình đào tạo nhanh chóng và hiệu quả.
- Sự cạnh tranh trong ngành AI toàn cầu đang trở nên gay gắt hơn khi các công ty của Trung Quốc chứng minh khả năng đổi mới và thích ứng với những thách thức khó khăn.

📌 01.ai đã đào tạo mô hình Yi-Lightning với chi phí chỉ 3 triệu USD và 2.000 GPU, cho thấy một mô hình hiệu suất cao đứng thứ 6 toàn cầu. Trong khi đó, OpenAI phải tiêu tốn tới 100 triệu USD để đào tạo GPT-4, chứng minh rằng kỹ thuật và đổi mới có thể tạo ra sự khác biệt lớn trong ngành công nghiệp AI.

https://www.techradar.com/pro/openai-spent-usd80m-to-usd100m-training-gpt-4-chinese-firm-claims-it-trained-its-rival-ai-model-for-usd3-million-using-just-2-000-gpus