Google đang nhanh chóng trở thành đối thủ đáng gờm của BFF Nvidia - chip AI TPU v5p cung cấp năng lượng cho siêu máy tính của nó nhanh hơn, có nhiều bộ nhớ và băng thông hơn bao giờ hết, đánh bại cả H100 hùng mạnh
- Google vừa ra mắt TPU v5p, chip AI mạnh mẽ nhất của hãng, làm tăng cạnh tranh với Nvidia.
- TPU v5p nhanh hơn 2.8 lần so với TPU v4 trong việc đào tạo mô hình ngôn ngữ lớn và có giá trị cao hơn 2.1 lần.
- Sản phẩm này được tích hợp trong kiến trúc 'AI Hypercomputing' của Google, dành riêng cho việc chạy ứng dụng AI.
- TPU v5p có 8,960 chip mỗi pod, gấp đôi so với TPU v4, và có thể mở rộng gấp bốn lần về số FLOPs mỗi pod.
- Cung cấp thông lượng 4,800Gbps và có 95GB bộ nhớ HBM, so với 32GB HBM RAM của TPU v4.
- Google không bán TPU cho các công ty khác, chỉ sử dụng nội bộ cho các sản phẩm và dịch vụ của mình.
- TPU v5p cạnh tranh với H100 của Nvidia, được coi là một trong những card đồ họa tốt nhất cho tải trọng công việc AI.
- TPU v4 của Google ước tính nhanh hơn từ 1.2 đến 1.7 lần so với A100 của Nvidia.
- Cần thêm benchmarking chi tiết để đánh giá chính xác tốc độ TPU v5p so với H100.
📌 Google đang nhanh chóng trở thành đối thủ đáng gờm của Nvidia với chip AI TPU v5p mới, cung cấp hiệu suất cao và đáng giá tiền. Với 8,960 chip mỗi pod và 95GB bộ nhớ HBM, TPU v5p vượt trội hơn hẳn TPU v4 và có khả năng cạnh tranh với GPU H100 của Nvidia, đặt nền tảng vững chắc cho kiến trúc 'AI Hypercomputing' của Google.