AMD phản pháo Nvidia và chi tiết cách chạy chatbot AI cục bộ trên Radeon và Ryzen
• AMD công bố hướng dẫn cho phép người dùng tương tác với chatbot AI chạy trên phần cứng cục bộ, không cần qua đám mây.
• Yêu cầu phần cứng bao gồm chip Ryzen AI hoặc GPU RX 7000-series, với Ryzen 5 8600G được hỗ trợ nhưng Ryzen 5 8500G có thể không tương thích.
• Người dùng cần tải và cài đặt LM Studio, có phiên bản ROCm cho người dùng RX 7000-series, hỗ trợ cả CPU Intel và GPU Nvidia.
• AMD khuyến nghị sử dụng mô hình "Q4 K M" cho Llama 2 7B, tối ưu hóa cho chat, với người dùng GPU RX 7000-series cần kích hoạt GPU offloading.
• Nvidia đã ra mắt ứng dụng Chat with RTX, chạy trên GPU Nvidia và hỗ trợ phân tích tài liệu, video. Intel thì chưa có ứng dụng chatbot AI riêng nhưng đã thể hiện cách sử dụng Python để tạo chatbot.
• AMD có thể sẽ phát triển phiên bản Chat with RTX của riêng mình hoặc làm việc với LM Studio để mở rộng tính năng cho phần cứng AMD, có thể tích hợp AI vào bộ điều khiển Radeon Adrenalin.
📌 AMD giới thiệu phương pháp chính thức và dễ sử dụng để chạy chatbot AI trên phần cứng của AMD, Intel và Nvidia, với hướng dẫn chi tiết cho người dùng Ryzen và Radeon. Điều này không chỉ mở ra khả năng tương tác AI mà còn cho thấy AMD đang tiến gần hơn đến việc cung cấp giải pháp toàn diện cho AI trên phần cứng của mình, có thể sẽ cạnh tranh trực tiếp với Nvidia và Intel trong tương lai.
https://www.tomshardware.com/tech-industry/artificial-intelligence/amd-fires-back-at-nvidia-with-instructions-on-running-a-local-ai-chatbot-recommends-using-a-third-party-app
Thảo luận
Follow Us
Tin phổ biến
