Apple sử dụng chip TPU của Google để huấn luyện mô hình AI, thay vì GPU của Nvidia

• Apple tiết lộ trong một báo cáo kỹ thuật rằng họ đã sử dụng chip Tensor Processing Unit (TPU) của Google để huấn luyện các mô hình AI cho hệ thống Apple Intelligence.

• Việc lựa chọn TPU của Google thay vì GPU của Nvidia cho thấy các công ty công nghệ lớn đang tìm kiếm giải pháp thay thế cho Nvidia trong lĩnh vực huấn luyện AI tiên tiến.

• Apple đã thuê các máy chủ đám mây để thực hiện các tính toán huấn luyện AI. Cụ thể, mô hình AFM on-device được huấn luyện trên một "slice" gồm 2.048 chip TPU v5p, trong khi AFM-server được huấn luyện trên 8.192 chip TPU v4.

• TPU v5p là phiên bản TPU tiên tiến nhất của Google, ra mắt vào tháng 12/2023. Chi phí thuê TPU của Google khoảng dưới 2 USD/giờ khi đặt trước 3 năm.

• Nvidia hiện đang thống trị thị trường chip AI cao cấp với GPU của họ. Tuy nhiên, nguồn cung GPU Nvidia khan hiếm do nhu cầu tăng cao từ các công ty như OpenAI, Microsoft, Anthropic.

• Các CEO như Mark Zuckerberg và Sundar Pichai gần đây đã bày tỏ lo ngại về việc đầu tư quá mức vào cơ sở hạ tầng AI, nhưng cho rằng rủi ro kinh doanh khi tụt hậu là quá lớn.

• Apple mới công bố kế hoạch AI của mình muộn hơn so với các đối thủ. Họ vừa giới thiệu hệ thống Apple Intelligence với nhiều tính năng mới như giao diện Siri mới, xử lý ngôn ngữ tự nhiên tốt hơn và tóm tắt bằng AI.

• Trong năm tới, Apple dự định triển khai các chức năng dựa trên AI tạo sinh như tạo hình ảnh, emoji và Siri nâng cao có thể truy cập thông tin cá nhân của người dùng.

• Đây là báo cáo kỹ thuật thứ hai của Apple về hệ thống AI của họ. Báo cáo đầu tiên được công bố vào tháng 6 và cũng đề cập việc sử dụng TPU.

• Apple sẽ công bố kết quả kinh doanh quý vào thứ Năm tuần này.

📌 Apple đã chọn chip TPU của Google thay vì GPU của Nvidia để huấn luyện mô hình AI, sử dụng 2.048 chip TPU v5p cho mô hình on-device và 8.192 chip TPU v4 cho mô hình server. Điều này cho thấy xu hướng tìm kiếm giải pháp thay thế Nvidia trong ngành công nghiệp AI.

https://www.cnbc.com/2024/07/29/apple-says-its-ai-models-were-trained-on-googles-custom-chips-.html