Cách hạ tầng viễn thông được tái định hình bởi AI tạo sinh thông qua các AI Factory

• Hội thảo do Supermicro phối hợp với NVIDIA tổ chức nhằm giải thích khái niệm “AI Factory” và cách nó đang mở ra cơ hội mới cho các công ty viễn thông (Telco).

• Có 40% người tham gia biết đến AI Factory nhưng chưa bắt đầu triển khai; 25% đang tìm hiểu; 20% chưa biết gì và 15% đã bắt đầu triển khai.

• AI đang thay đổi hầu hết các ngành công nghiệp, đặc biệt là viễn thông, bằng cách hỗ trợ giảm chi phí vận hành, cải thiện chăm sóc khách hàng và tạo ra nguồn doanh thu mới.

• 4 trụ cột mà NVIDIA hướng tới trong Telco:

  • AI Factory: trung tâm dữ liệu thiết kế riêng cho AI tạo sinh.

  • AI cho vận hành Telco: dùng AI để tối ưu mạng, call center và dịch vụ tự động.

  • AI-enabled RAN: mạng truy cập vô tuyến tích hợp AI, ví dụ như hợp tác với T-Mobile và Ericsson.

  • Hạ tầng AI: GPU, DPU, switch, hệ thống bảo mật tối ưu hóa cho các tác vụ AI.

• AI Factory là gì?: Là trung tâm dữ liệu đồng bộ từ compute, storage, đến network, được thiết kế tối ưu cho các tác vụ như đào tạo mô hình lớn, fine-tuning, inference, RAG (retrieval augmented generation).

• Khác với cloud truyền thống, AI Factory hoạt động như một nhà máy sản xuất trí tuệ, chuyên biệt và đồng bộ cho các mô hình AI tạo sinh.

• Tại sao cần AI Factory chủ quyền (Sovereign AI)?: Các quốc gia cần hạ tầng trong nước để tham gia nền kinh tế AI, bảo vệ dữ liệu quốc gia, hỗ trợ doanh nghiệp nội địa và xây dựng mô hình ngôn ngữ theo ngữ cảnh văn hóa riêng.

• Các Telco phù hợp để làm nhà cung cấp AI Factory vì họ đã có trung tâm dữ liệu, kinh nghiệm vận hành mạng phức tạp và được tin cậy bởi chính phủ.

• Các Telco như SoftBank (Nhật), Singtel (Singapore), Indosat (Indonesia), Swisscom (Thụy Sĩ)… đã bắt đầu triển khai AI Factory.

• Cơ hội dịch vụ mới từ AI tạo sinh cho Telco: trở lại cung cấp dịch vụ giá trị gia tăng thay vì chỉ là kết nối, ví dụ như cung cấp chatbot hỗ trợ hành chính, mô hình ngôn ngữ quốc gia phục vụ công dân.

• Thách thức xây dựng AI Factory: cực kỳ phức tạp do yêu cầu đồng bộ cao giữa compute, network, storage. NVIDIA hỗ trợ thông qua reference architecture chuẩn hóa, giảm thời gian triển khai (“time to first training”).

• Ví dụ: X.AI (của Elon Musk) xây dựng AI Factory dùng 100.000 GPU H100, thực hiện huấn luyện đầu tiên chỉ sau 122 ngày.

• Supermicro cung cấp giải pháp tủ rack quy mô lớn, tối ưu hệ thống cáp mạng, hệ thống làm mát bằng chất lỏng (liquid cooling) do chính hãng thiết kế để giảm chi phí TCO và tiết kiệm không gian trung tâm dữ liệu.

• Tích hợp dịch vụ từ NVIDIA và Supermicro từ thiết kế đến triển khai thực địa giúp rút ngắn thời gian, đảm bảo hiệu suất toàn hệ thống, từ “cooling tower” đến “chip”.

📌  Supermicro và NVIDIA giới thiệu giải pháp AI Factory dành cho Telco với khả năng tối ưu cho AI tạo sinh. Các Telco như SoftBank, Indosat đang triển khai để trở thành nhà cung cấp trí tuệ quốc gia. AI Factory đòi hỏi kiến trúc đồng bộ compute-network-storage và triển khai nhanh, ví dụ X.AI đạt 100.000 GPU H100 chỉ sau 122 ngày. Đây là cơ hội để Telco quay lại cung cấp dịch vụ giá trị cao trong thời đại AI.

https://www.youtube.com/watch?v=LPvA3ziSVW8