'Chạy các mô hình AI với giá chỉ 5.000 USD': công ty khởi nghiệp CPU may mắn tuyên bố tiết kiệm 99% chi phí AI

- Tachyum, một startup về CPU, đã từng tuyên bố rằng một đơn vị Prodigy Universal Processor của họ có thể sánh ngang hàng với hàng chục GPU Nvidia H200.
- Bộ vi xử lý 192 lõi, 5nm của họ cung cấp hiệu suất cao gấp 4.5 lần so với các bộ vi xử lý tốt nhất cho tải công việc đám mây và được cho là hiệu quả hơn 6 lần so với GPU cho AI.
- Công ty giờ đây đã công bố nền tảng Prodigy ATX, một trạm làm việc AI với giá chỉ 5.000 đô la, hứa hẹn khả năng chạy mô hình AI tiên tiến.
- Hệ thống này có 1TB bộ nhớ, được thiết kế để làm cho các mô hình AI phức tạp trở nên dễ tiếp cận hơn với đại chúng.
- Nền tảng Prodigy ATX được xây dựng quanh một bộ vi xử lý Prodigy 96 lõi, được thiết kế với chỉ một nửa số lõi được kích hoạt để giảm tiêu thụ năng lượng và tăng hiệu suất, giúp giảm chi phí và làm cho nền tảng dễ tiếp cận hơn.
- Hệ thống dự kiến sẽ được trang bị 1TB DDR5-6400 SDRAM với 16 mô-đun bộ nhớ, cung cấp băng thông tối đa là 819.2 GB/s.
- Mặc dù có thông số kỹ thuật ấn tượng, nhưng vẫn có nghi ngờ về khả năng kinh tế của nền tảng Prodigy ATX đối với Tachyum.
- CEO của Tachyum, Dr. Radoslav Danilak, vẫn lạc quan, tuyên bố rằng khả năng AI mạnh mẽ của nền tảng sẽ cho phép các tổ chức mọi quy mô cạnh tranh trong các sáng kiến AI.
- Ra mắt nền tảng Prodigy ATX đã bị trì hoãn nhiều lần, với kế hoạch mới nhất đặt ra cho việc ra mắt bộ vi xử lý vào nửa sau của năm 2024.

📌 Tachyum đang thách thức quan điểm truyền thống về chi phí và hiệu suất trong lĩnh vực AI với nền tảng Prodigy ATX của mình. Với giá chỉ 5.000 đô la và trang bị 1TB RAM, hệ thống này hứa hẹn sẽ mở ra khả năng tiếp cận các mô hình AI tiên tiến cho một lượng lớn người dùng và tổ chức, từ đó làm giảm bớt sự chênh lệch giữa các tổ chức lớn và nhỏ trong cuộc đua AI. Tuy nhiên, vẫn còn những nghi ngờ về khả năng kinh tế và thực tế của việc triển khai nền tảng này, cũng như liệu Tachyum có thể giao hàng đúng hẹn và đáp ứng các hứa hẹn về hiệu suất hay không. Ra mắt nền tảng Prodigy ATX đã bị trì hoãn nhiều lần, với kế hoạch mới nhất đặt ra cho việc ra mắt bộ vi xử lý vào nửa sau của năm 2024.

Citations:
[1] https://www.techradar.com/pro/run-ai-models-for-as-low-as-dollar5000-plucky-cpu-startup-that-claimed-99-saving-on-ai-costs-now-wants-to-sell-you-an-ai-workstation-with-an-unbelievable-price-tag-and-1tb-ram