Chi phí đào tạo các mô hình AI hàng đầu đang tăng vọt

  • Chi phí đào tạo các mô hình AI hàng đầu tăng vọt trong năm 2023-2024, với mức cao nhất thuộc về Gemini 1.0 Ultra của Google, lên tới 192 triệu USD.

  • Chi phí này được tính dựa trên giá thuê điện toán đám mây, do các công ty phải thuê hàng nghìn siêu máy tính chạy liên tục trong nhiều tuần.

  • DeepSeek-V3, một đối thủ mới, tuyên bố chỉ tốn 6 triệu USD để đào tạo mô hình, nhưng con số này còn gây tranh cãi. Trong khi đó, mô hình s1 của Stanford và Đại học Washington chỉ tốn 6 USD.

  • Các mô hình AI hiện đại ngày nay thường tiêu tốn từ 100 triệu USD trở lên để đào tạo.

  • Cụ thể, chi phí đào tạo một số mô hình nổi bật:

    • GPT-4 (OpenAI, 2023): 79 triệu USD

    • PaLM 2 (Google, 2023): 29 triệu USD

    • Llama 2-70B (Meta, 2023): 3 triệu USD

    • Gemini 1.0 Ultra (Google, 2023): 192 triệu USD

    • Mistral Large (Mistral, 2024): 41 triệu USD

    • Llama 3.1-405B (Meta, 2024): 170 triệu USD

    • Grok-2 (xAI, 2024): 107 triệu USD

  • OpenAI đã ra mắt các model mới như o1, o3, o4-mini với chiến lược "test-time compute", cho phép model suy nghĩ càng lâu thì câu trả lời càng tốt. Tuy nhiên, mức phí 200 USD/tháng cho gói o1 Pro đang khiến OpenAI lỗ ròng do lượng truy vấn vượt xa ngân sách tính toán.

  • Với Gemini Ultra, chi phí nhân sự R&D (bao gồm cổ phần) chiếm tới 49% tổng chi phí, chip tăng tốc AI chiếm 23%, còn lại là linh kiện máy chủ khác (15%).

  • Grok-2 của xAI có khả năng trả lời sự kiện thời gian thực nhờ truy xuất dữ liệu từ X, với chi phí xây dựng 107 triệu USD và đã tích hợp vào chatbot Grok trên nền tảng X.

📌 Chi phí đào tạo mô hình AI tăng nhanh, dẫn đầu là Gemini Ultra của Google với 192 triệu USD, vượt xa GPT-4 (79 triệu USD) và Grok-2 (107 triệu USD). Chi phí này chủ yếu đến từ nhân sự, chip AI và máy chủ, đặt ra thách thức lớn về tài chính cho ngành AI khi ngày càng nhiều mô hình mới ra đời.

 

https://www.visualcapitalist.com/the-surging-cost-of-training-ai-models/

Không có file đính kèm.

15

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo