ByteDance đang chuyển hướng sang sử dụng chip Huawei để huấn luyện mô hình AI

• ByteDance, công ty mẹ của TikTok, đang lên kế hoạch phát triển một mô hình AI được huấn luyện chủ yếu bằng chip Ascend 910B của Huawei.

• Động thái này diễn ra trong bối cảnh Mỹ hạn chế xuất khẩu chip AI tiên tiến như của Nvidia từ năm 2022, buộc ByteDance phải tìm kiếm nguồn cung trong nước.

• ByteDance đã đa dạng hóa nguồn cung cấp chip AI trong nước và đẩy nhanh việc phát triển chip riêng kể từ khi có lệnh cấm của Mỹ.

• Công ty đã đặt hàng hơn 100.000 chip Ascend 910B trong năm nay nhưng đến tháng 7 mới nhận được dưới 30.000 chip, không đủ đáp ứng nhu cầu.

• Nguồn cung hạn chế và sức mạnh tính toán thấp hơn so với chip Nvidia đã khiến ByteDance chưa thể đặt ra thời hạn cho mô hình mới.

• Mô hình AI mới dự kiến sẽ có khả năng và độ phức tạp thấp hơn so với mô hình Doubao hiện tại của ByteDance.

• ByteDance hiện đang sử dụng chip Ascend 910B chủ yếu cho các tác vụ suy luận ít đòi hỏi tính toán hơn.

• Công ty cũng là khách hàng lớn nhất mua chip H20 AI của Nvidia được thiết kế riêng cho thị trường Trung Quốc.

• ByteDance còn là khách hàng lớn nhất của Microsoft tại châu Á về việc sử dụng chip Nvidia thông qua điện toán đám mây.

• Trước đó, ByteDance đã phân bổ 2 tỷ USD để mua chip Nvidia vào năm ngoái.

• Công nghệ AI hiện tại của ByteDance được sử dụng trong mô hình ngôn ngữ lớn Doubao và nhiều ứng dụng khác như công cụ tạo video từ văn bản Jimeng.

• Chatbot Doubao của ByteDance đã trở thành một trong những ứng dụng phổ biến nhất tại Trung Quốc với hơn 10 triệu người dùng hoạt động hàng tháng.

📌 ByteDance đang chuyển hướng sang sử dụng chip Huawei để phát triển mô hình AI mới do lệnh cấm của Mỹ. Công ty đã đặt hàng hơn 100.000 chip Ascend 910B nhưng gặp khó khăn về nguồn cung. Mô hình mới dự kiến có quy mô nhỏ hơn Doubao hiện tại với hơn 10 triệu người dùng hàng tháng.

https://www.scmp.com/tech/big-tech/article/3280545/bytedance-said-be-turning-huawei-chips-train-ai-model-amid-us-curbs-sources-say