Ai tạo sinh: đường cong s tiếp theo cho ngành công nghiệp bán dẫn?

- Sự bùng nổ của các ứng dụng AI tạo sinh như ChatGPT và Sora dẫn đến nhu cầu tính toán tăng vọt. Ngành công nghiệp bán dẫn đang tiến gần đến một đường cong S mới.
- Có 2 loại ứng dụng chính cho AI tạo sinh: 
    + B2C (chiếm khoảng 70% nhu cầu tính toán): bao gồm các tương tác cơ bản của người dùng (như soạn email) và tương tác nâng cao (như tạo hình ảnh từ văn bản).
    + B2B (chiếm khoảng 30%): bao gồm các ứng dụng như tạo nội dung sáng tạo cho doanh nghiệp, trả lời khách hàng, tạo báo cáo tài chính chuẩn.
- Các ứng dụng B2B được chia thành 6 kiểu use case: 
    1. Phát triển phần mềm (diễn giải và tạo code)
    2. Tạo nội dung sáng tạo (viết tài liệu, nội dung truyền thông)
    3. Tương tác khách hàng (dịch vụ khách hàng tự động, chatbot)
    4. Đổi mới sáng tạo (tạo sản phẩm và vật liệu cho R&D)
    5. Tóm tắt đơn giản (tóm tắt, rút trích thông tin từ dữ liệu có cấu trúc)
    6. Tóm tắt phức tạp (tóm tắt, rút trích thông tin từ dữ liệu phi cấu trúc hoặc lớn)
- 3 kịch bản nhu cầu AI tạo sinh đến năm 2030:
    + Cơ sở: 25x10^30 FLOP (70% B2C, 30% B2B)
    + Thận trọng: thấp hơn 50% so với kịch bản cơ sở
    + Tăng tốc: cao hơn 50% so với kịch bản cơ sở
- Đến năm 2030, chỉ có 5/6 kiểu use case B2B là khả thi về mặt kinh tế để áp dụng rộng rãi. Kiểu thứ 6 (tóm tắt phức tạp) không được áp dụng rộng rãi do giá trị tạo ra hạn chế so với chi phí tính toán cao khi xử lý dữ liệu phức tạp, phi cấu trúc.
- Cơ sở hạ tầng và phần cứng trung tâm dữ liệu cần thay đổi để đáp ứng các ứng dụng AI tạo sinh:
    + Mật độ rack tăng lên (lên đến 300kW), cao hơn nhiều so với trung tâm dữ liệu thông thường (5-15kW)
    + Chuyển từ làm mát bằng không khí sang làm mát bằng chất lỏng trực tiếp lên chip hoặc ngâm hoàn toàn
    + Cần thiết kế lại server và rack để phù hợp với trọng lượng tăng thêm do làm mát bằng chất lỏng

📌 Sự bùng nổ của AI tạo sinh dẫn đến nhu cầu tính toán tăng vọt, có thể đạt 25x10^30 FLOP vào năm 2030 theo kịch bản cơ sở, chủ yếu đến từ các ứng dụng B2C (70%). Ngành công nghiệp bán dẫn cần đổi mới nhanh về thiết kế chip, vật liệu và kiến trúc để đáp ứng nhu cầu này. Đồng thời, cơ sở hạ tầng trung tâm dữ liệu cũng cần thay đổi với mật độ rack cao hơn nhiều (lên đến 300kW) và chuyển sang làm mát bằng chất lỏng để phù hợp với các ứng dụng AI tạo sinh.

Citations:
[1]https://www.mckinsey.com/industries/semiconductors/our-insights/generative-ai-the-next-s-curve-for-the-semiconductor-industry

#Mckinsey