Trung Quốc đẩy mạnh phát triển trung tâm dữ liệu AI thông qua hợp tác công-tư

https://www.ft.com/content/3d6601f0-c7cf-48a8-9ae2-e9820dedf0b0

#FT

Trung Quốc tận dụng nhân tài công nghệ để thúc đẩy bùng nổ trung tâm dữ liệu AI  
Bắc Kinh đang huy động nguồn lực từ khu vực tư nhân và nhà nước để đẩy nhanh việc áp dụng công nghệ phát triển nhanh  

Các trung tâm dữ liệu thuộc sở hữu nhà nước của Trung Quốc, với lượng lớn chip trí tuệ nhân tạo, đang tận dụng chuyên môn của các nhóm công nghệ để củng cố khoản đầu tư hàng tỷ USD của họ, trong nỗ lực trên toàn quốc nhằm tăng cường áp dụng công nghệ phát triển nhanh này.  

Chính quyền địa phương đã hợp tác với Merit Interactive cùng các start-up Infinigence AI và SiliconFlow để phát triển công nghệ phục vụ làn sóng trung tâm dữ liệu AI đang được xây dựng trên khắp Trung Quốc, theo những người có hiểu biết về vấn đề này và các tài liệu công khai.  

Điều này cho thấy Trung Quốc ngày càng huy động nguồn lực từ cả khu vực tư nhân và nhà nước — kết hợp sức mạnh tài chính của chính quyền địa phương với nhân tài công nghệ từ các start-up — trong nỗ lực thúc đẩy mạng lưới hạ tầng điện toán AI.  

“Mắc kẹt hiện tại không phải là có chip hay không, mà là tìm cách làm chúng hoạt động trong một cụm. Đây là công việc thực sự phức tạp,” một nhà đầu tư chip tại Bắc Kinh cho biết.  

Động thái này diễn ra sau khi DeepSeek, một start-up Trung Quốc, thu hút sự chú ý toàn cầu vào tháng trước với một loạt các mô hình AI có hiệu năng tương đương với các đối thủ Mỹ như OpenAI và Google, nhưng được phát triển với ngân sách có vẻ hạn chế.  

Công ty có trụ sở tại Chiết Giang này đã tận dụng kỹ thuật để khai thác tối đa sức mạnh tính toán từ các GPU của Nvidia, giúp giảm chi phí huấn luyện mô hình và suy luận — quá trình sử dụng mô hình ngôn ngữ lớn.  

Các trung tâm dữ liệu nhà nước đang tận dụng nhân tài kỹ thuật từ khu vực tư nhân theo xu hướng bùng nổ hạ tầng AI trên khắp Trung Quốc, khi nước này đầu tư hàng tỷ USD để cạnh tranh với Mỹ nhằm dẫn đầu trong công nghệ phát triển nhanh này.  

Tính đến giữa năm 2024, 250 trung tâm dữ liệu AI đã được hoàn thành hoặc đang trong quá trình xây dựng, theo dữ liệu chính thức. Chính quyền địa phương đóng vai trò trung tâm trong việc tài trợ các dự án hàng tỷ USD này, phát hành trái phiếu để tài trợ xây dựng và đảm bảo nguồn chip, theo những người quen thuộc với các thương vụ này. Tuy nhiên, họ cho biết nhiều dự án đang gặp khó khăn do thiếu chuyên môn kỹ thuật, dẫn đến lãng phí tài nguyên chip quan trọng.  

Infinigence AI đã trở thành một trong những bên hưởng lợi chính từ nỗ lực của nhà nước nhằm cải thiện hiệu năng điện toán, ký kết các thỏa thuận với các trung tâm dữ liệu AI thuộc nhà nước tại Ninh Hạ và Thiên Tân.  

Start-up có trụ sở tại Thượng Hải này, được hậu thuẫn bởi HongShan và Qiming Venture Partners, cho các nhà phát triển ứng dụng AI thuê chip Nvidia. Công ty kiếm lời từ chênh lệch giữa giá thuê phải trả cho nhà vận hành trung tâm dữ liệu và giá thu từ khách hàng cuối để truy cập chip.  

Vào tháng 12, chính quyền Thượng Hải công bố hợp tác với Infinigence AI và start-up SiliconFlow để xây dựng một nền tảng cho phép khách hàng phát triển ứng dụng AI trên các mô hình bên thứ ba được lưu trữ tại một trung tâm dữ liệu do chi nhánh địa phương của nhà mạng viễn thông nhà nước China Telecom vận hành.  

Cả hai công ty này phát triển công cụ suy luận giúp tăng tốc mô hình ngôn ngữ lớn (LLM) bằng các kỹ thuật điều chỉnh mô hình đã được huấn luyện trước với dữ liệu tốt hơn hoặc bằng cách nén kích thước mô hình AI.  

Một nhà đầu tư cho biết các hợp tác như vậy rất quan trọng trong việc thu hút khách hàng AI. Các công ty công nghệ thường chạy thử nghiệm trước khi ký hợp đồng với trung tâm dữ liệu để đảm bảo không có gián đoạn trong các lần huấn luyện tốn kém.  

Merit Interactive, một công ty tại Chiết Giang, cũng đã được lựa chọn nhờ chuyên môn kỹ thuật. Một hãng truyền thông địa phương tại Chiết Giang đã công bố một cuộc họp giữa các giám đốc điều hành Merit Interactive và quan chức địa phương, trong đó công ty được đánh giá cao về vai trò trong việc xây dựng một trung tâm dữ liệu AI lớn tại thành phố Ôn Châu.  

Nhóm này có liên quan đến đối tác kinh doanh của nhà sáng lập DeepSeek, Liang Wenfeng, tại quỹ giao dịch định lượng High-Flyer, theo một người có hiểu biết về vấn đề này.  

Theo các báo cáo truyền thông địa phương, Xu Jin, đồng sáng lập High-Flyer cùng Liang, từng làm giám đốc kỹ thuật tại Merit Interactive. Merit Interactive có hoạt động kinh doanh trải rộng từ nhập khẩu và xuất khẩu phần cứng công nghệ đến đầu tư vào các start-up công nghệ cao.  

Mỹ cũng có một nhóm công ty “neocloud” tương tự, bao gồm CoreWeave, Lambda và Vultr, quản lý và cho thuê quyền truy cập vào các cụm điện toán trong trung tâm dữ liệu, cho phép các công ty sử dụng chip theo mô hình trả tiền theo nhu cầu.  

Trung Quốc đã có thể phát triển ngành công nghiệp AI bất chấp Washington siết chặt kiểm soát xuất khẩu đối với các chip cao cấp của Nvidia. Một thị trường chợ đen sôi động đã hình thành cho các chip buôn lậu, với những người trong ngành lưu ý rằng giá của các chip H100 được săn đón đã giảm trong những tháng gần đây khi số lượng chip nhập lậu vào Trung Quốc gia tăng.  

Các nhà vận hành trung tâm dữ liệu nhà nước cũng được ưu tiên tiếp cận chip AI Ascend của Huawei, đối thủ chính của Nvidia tại Trung Quốc trong thị trường suy luận đang phát triển.  

Tương tự DeepSeek, cả Infinigence AI và SiliconFlow đều đang làm việc để giảm chi phí suy luận, giúp sử dụng LLM rẻ hơn. Họ cũng đang hợp tác với Huawei để giúp chip Ascend tương thích với các mô hình AI hàng đầu của Trung Quốc phục vụ cho suy luận.  

Tháng này, Huawei và SiliconFlow công bố hợp tác để đưa các mô hình AI của DeepSeek lên dịch vụ đám mây của tập đoàn viễn thông này. Theo một người quen thuộc với vấn đề, DeepSeek đã hợp tác với hai công ty trên trong dịp Tết Nguyên đán để triển khai các mô hình trên chip Huawei.

China taps tech talent to boost AI data centre boom
Beijing is pooling resources from the private and state sectors to accelerate adoption of the fast-developing technology

Chinese state-owned data centres flush with artificial intelligence chips are tapping the expertise of technology groups to help bolster their multibillion-dollar investments as part of a nationwide effort to increase adoption of the fast-developing technology.
Local governments have enlisted Merit Interactive and start-ups Infinigence AI and SiliconFlow to develop technology for the surge of AI data centres being created across China, according to people with knowledge of the matter and public documents.   
It shows how China is increasingly pooling resources from the private and state sectors — combining local government spending power with start-up tech talent — as part of a push to accelerate its network of AI computing infrastructure.
“The bottleneck at the moment isn’t getting the chips but figuring out how to make them work in a cluster. This is really complicated work,” said one Beijing-based chip investor. 
The move comes after Chinese start-up DeepSeek captured the world’s attention last month with the latest in a series of AI model releases that showed similar performances to those of US rivals such as OpenAI and Google, but achieved on what appeared to be a bootstrapped budget.
The Zhejiang-based company used engineering prowess to squeeze as much computing power as possible from its Nvidia GPUs, driving down the cost of model training and so-called inference, the process of calling upon large language models.
State-owned data centres are leveraging this type of private sector engineering talent amid an AI infrastructure boom across China, as the country invests billions in the race against the US to take the lead in the rapidly developing technology.
By mid-2024, 250 AI data centres had been completed or were under construction, according to official data. Local governments have played a central role in bankrolling these multibillion-dollar projects, issuing bonds to finance construction and secure the chips, according to people familiar with the deals. However, they added that many of the projects had suffered from a lack of technical knowhow and had wasted critical chip resources.
Infinigence AI has emerged as one of the main beneficiaries of the state’s push to improve computing performance, signing deals with Ningxia and Tianjin state-run AI data centres.
The Shanghai-based start-up, backed by HongShan and Qiming Venture Partners, rents Nvidia chips to developers building AI applications. It makes money between the difference it pays the data centre operator and what it charges the end customer access to the chips.
In December, the Shanghai government announced a collaboration with Infinigence AI and start-up SiliconFlow to build a platform for customers to create AI applications on third-party models hosted at a data centre operated by a local offshoot of the state-owned China Telecom.
Both companies build inference engines that speed up LLMs through techniques that take pre-trained models and better adjust them to data or by compressing the size of AI models. 
One investor said such collaborations were crucial to courting AI clients. Technology companies run tests before signing contracts with data centres to ensure no disruption during expensive training runs. 
Zhejiang-based Merit Interactive has also been tapped for its engineering expertise. A Zhejiang media outlet publicised a meeting between Merit Interactive executives and local officials, where the company was singled out for its role in constructing a large AI data centre in the city of Wenzhou.
The group is associated with the business partner of DeepSeek founder Liang Wenfeng at his quant trading fund High-Flyer, according to a person with knowledge of the matter.
According to local media reports, Xu Jin, who co-founded High-Flyer with Liang, used to work at Merit Interactive as a technical director. Merit Interactive has business interests spanning an import and export business for tech hardware to investments in high-tech start-ups.
The US has a similar set of “neocloud” companies, including CoreWeave, Lambda and Vultr, which manage and rent out access to computing clusters in data centres, giving companies the ability to use the chips on a pay-as-you go basis.
China has been able to develop its AI industry despite Washington tightening its export controls on Nvidia’s high-end chips. A thriving black market has emerged for smuggled chips, with industry insiders noting that prices of highly sought-after H100s have decreased in recent months as the number of illicit chips brought into China has swelled.
State-owned data centre operators have also had preferential access to Huawei’s Ascend AI chips, the primary challenger to Nvidia in China for the growing inference market.
Like DeepSeek, both Infinigence AI and SiliconFlow have been working on driving down inference costs to make it cheaper to use LLMs. They are also working with Huawei to make the Ascend chips compatible with leading Chinese AI models for inference.
This month, Huawei and SiliconFlow announced a collaboration to make DeepSeek’s AI models available through the telecom giant’s cloud service. According to a person familiar with the matter, DeepSeek collaborated with the two companies during the Chinese new year holiday to deploy its models on Huawei chips.