Cuộc bùng nổ AI đang thay đổi cơ sở hạ tầng đám mây, với chi tiêu tăng vọt cho máy chủ AI

• Chi tiêu vốn cho cơ sở hạ tầng trung tâm dữ liệu đám mây dự kiến tăng 30% trong năm nay.

• Theo ước tính của Omdia, máy chủ AI sẽ chiếm 66% tổng chi tiêu cho máy chủ trong năm nay, một con số chưa từng có tiền lệ.

• Omdia đã tăng thêm 10 tỷ USD vào dự báo chi tiêu trước đó của họ.

• Đầu tư quy mô lớn này không chỉ đến từ 3 nhà cung cấp đám mây lớn (AWS, Azure, Google Cloud) mà còn từ top 10 nhà cung cấp và các nhà cung cấp dịch vụ đám mây AI chuyên biệt như CoreWeave.

• Mặc dù chiếm 66% chi tiêu, máy chủ AI chỉ chiếm 19% số lượng máy chủ được triển khai, cho thấy chi phí cao của các hệ thống này.

• Các nhà cung cấp đám mây lớn đang tích cực hợp nhất cơ sở hạ tầng máy chủ không phải AI để giảm chi phí.

• Google đã phát triển bộ xử lý tùy chỉnh Video Encoding Unit (VCU) để tối ưu hóa xử lý video, giúp thay thế nhiều máy chủ cũ bằng một máy chủ mới.

• Xu hướng tương tự được kỳ vọng sẽ xảy ra với các ứng dụng cơ sở dữ liệu và hạ tầng mạng.

• Nhiều doanh nghiệp vẫn chưa chuyển hoàn toàn sang đám mây công cộng, một số còn đưa một số workload trở lại cơ sở nội bộ (cloud repatriation).

• Nguyên nhân một phần là do chi phí sử dụng tài nguyên đám mây công cộng có thể cao hơn so với tự vận hành, do quản lý kém hiệu quả.

• Trong tương lai gần, doanh nghiệp có thể sẽ dựa nhiều hơn vào các nền tảng IT-as-a-Service như Dell Apex hoặc HPE Greenlake cho hạ tầng nội bộ.

• Chi tiêu của doanh nghiệp cho dịch vụ hạ tầng đám mây vẫn tăng mạnh, đạt hơn 76 tỷ USD trong quý 1 năm nay, tăng 21%.

• 72% chi tiêu đó thuộc về 3 nhà cung cấp đám mây lớn, nhưng các nhà cung cấp cấp hai như Snowflake, MongoDB và Oracle có tốc độ tăng trưởng mạnh nhất.

📌 Cuộc bùng nổ AI đang thúc đẩy đầu tư kỷ lục vào cơ sở hạ tầng đám mây, với máy chủ AI chiếm 66% chi tiêu nhưng chỉ 19% số lượng. Các nhà cung cấp đang tối ưu hóa hạ tầng hiện có và phát triển phần cứng tùy chỉnh để giảm chi phí. Mặc dù vậy, chi tiêu cho dịch vụ đám mây vẫn tăng mạnh 21% lên 76 tỷ USD trong Q1.

https://www.theregister.com/2024/08/04/ai_cloud_infrastructure/