tencent tăng 60% hiệu suất mạng ai mà không cần chip nvidia đỉnh cao

• Tencent đã nâng cấp mạng điện toán hiệu năng cao (HPC) của mình, cải thiện khả năng AI mà không cần sử dụng chip tiên tiến nhất của Nvidia.

• Phiên bản 2.0 của Mạng hiệu năng cao thông minh của Tencent (Xingmai) sẽ cải thiện hiệu quả truyền thông mạng và đào tạo mô hình ngôn ngữ lớn (LLM) lần lượt là 60% và 20%.

• Tencent đạt được cải thiện hiệu suất bằng cách tối ưu hóa cơ sở hạ tầng hiện có thay vì cạnh tranh trực tiếp với các đối thủ Mỹ như OpenAI về chi tiêu và bán dẫn tiên tiến.

• Mạng Xingmai có thể hỗ trợ một cụm máy tính với hơn 100.000 GPU, gấp đôi quy mô so với phiên bản ban đầu phát hành năm 2023.

• Hiệu suất được cải thiện rút ngắn thời gian cần thiết để xác định vấn đề chỉ còn vài phút, giảm từ vài ngày trước đây.

• Tencent gần đây đã đẩy mạnh việc tăng cường công nghệ trong lĩnh vực AI đang phát triển nhanh chóng, quảng bá các mô hình LLM nội bộ cho doanh nghiệp và cung cấp dịch vụ giúp các công ty khác xây dựng mô hình riêng.

• Ngành công nghiệp AI của Trung Quốc đang rơi vào cuộc chiến giá cả, với tất cả các công ty lớn đều giảm giá xuống thấp hơn nhiều so với các công ty phương Tây.

• Tencent đã cung cấp miễn phí phiên bản lite của mô hình LLM Hunyuan và cắt giảm cho các phiên bản tiêu chuẩn vào tháng 5.

• Cuộc đua cải thiện hiệu quả đào tạo mô hình rất quan trọng trong cuộc chiến giá bằng cách làm cho công nghệ trở nên phải chăng hơn cho các nhà khai thác và khách hàng của họ.

• Robin Li Yanhong, người sáng lập và CEO của Baidu, cho biết hiệu quả đào tạo mô hình LLM Ernie đã tăng hơn 5 lần trong vòng một năm. Hiệu suất suy luận của mô hình tăng 105 lần, giảm 99% chi phí suy luận.

• OpenAI cũng cho rằng những cải tiến hiệu quả gần đây là lý do cho mức giá thấp hơn nhiều của mô hình GPT-4 được ra mắt vào tháng 5.

📌 Tencent nâng cấp mạng HPC, cải thiện hiệu quả truyền thông mạng và đào tạo LLM lên 60% và 20%. Mạng Xingmai hỗ trợ 100.000 GPU, gấp đôi quy mô. Các công ty Trung Quốc đang tối ưu hóa hệ thống hiện có để thúc đẩy AI trong bối cảnh hạn chế tiếp cận chip tiên tiến của Mỹ.

https://www.scmp.com/tech/big-tech/article/3268901/tencent-boosts-ai-training-efficiency-without-nvidias-most-advanced-chips