- Google đã giới thiệu phiên bản nâng cấp của siêu máy tính AI TPU (Tensor Processing Unit) tại sự kiện Cloud Next.
- Hệ thống mới có tên gọi TPU v5e, được tối ưu hóa cho các mô hình ngôn ngữ lớn và tính toán đa phương thức.
- TPU v5e có hiệu suất gấp 2,7 lần so với thế hệ trước (TPU v4) và khả năng mở rộng lên tới 256 chip trong một pod duy nhất.
- Hệ thống này được thiết kế để xử lý các mô hình AI khổng lồ với hàng nghìn tỷ tham số.
- TPU v5e hỗ trợ các framework phổ biến như TensorFlow, PyTorch và JAX, giúp đơn giản hóa việc triển khai và đào tạo mô hình.
- Google cũng đang phát triển một phiên bản TPU v5e dựa trên nền tảng nguồn mở RISC-V.
- Các khách hàng doanh nghiệp có thể sử dụng TPU v5e thông qua dịch vụ Google Cloud TPU và tích hợp với các công cụ khác như Vertex AI.
- Siêu máy tính AI mới này sẽ giúp các doanh nghiệp đẩy nhanh quá trình phát triển và triển khai các ứng dụng AI tiên tiến.
📌 Google đã ra mắt TPU v5e - siêu máy tính AI thế hệ mới với hiệu suất gấp 2,7 lần và khả năng mở rộng lên tới 256 chip. Hệ thống này được tối ưu hóa cho các mô hình ngôn ngữ lớn và tính toán đa phương thức, hỗ trợ các framework phổ biến, giúp đẩy nhanh quá trình phát triển AI cho doanh nghiệp.
Citations:
[1] https://venturebeat.com/ai/google-upgrades-its-ai-hypercomputer-for-enterprise-use-at-cloud-next/