SongAI

Tin nóng

OpenAI hay tự xây dựng: so sánh chi phí thực tế của việc tự lưu trữ các mô hình ngôn ngữ lớn
Google đã phát hành hướng dẫn 45 trang về cách viết lệnh tốt nhất cho AI Gemini
Gã khổng lồ công nghệ Trung Quốc Alibaba tiết lộ công cụ video AI mới
Hãy coi chừng những chi phí tiềm ẩn của AI trước khi chúng làm phá sản sự đổi mới
Researchers from Johns Hopkins and UC Santa Cruz Unveil D-iGPT: A Groundbreaking Advance in Image-Based AI Learning
AMD Disrupts AI Accelerator Market with New MI300 Offerings
Unlocking the potential of generative AI: Three key questions for government agencies
Demystifying AI PCs: What is an NPU
Spotify slashes staff to move faster into AI – and Wall Street loves it
The AI Frenzy, Fed Meets, Hunter Biden: Your Sunday US Briefing
AI models 2023-12-22 13:32:26

Đào tạo LLM nhanh hơn bằng cách sử dụng Unsloth – đào tạo AI ChatGPT tùy chỉnh trong 24 giờ chứ không phải 30 ngày

  • Unsloth by Moonshot là một phần mềm mới cho phép đào tạo các mô hình ngôn ngữ lớn (LLMs) nhanh hơn 30 lần so với trước.
  • Unsloth giảm thời gian đào tạo từ 85 giờ xuống còn 3 giờ và từ 30 ngày xuống còn 24 giờ cho một ChatGPT tùy chỉnh.
  • Phần mềm này sử dụng ít bộ nhớ hơn 60%, cho phép xử lý lô dữ liệu lớn hơn 6 lần.
  • Độ chính xác không thay đổi hoặc tăng 20% với gói Max.
  • Không cần cập nhật phần cứng, chỉ cần thay đổi phần mềm, hỗ trợ GPU của NVIDIA, Intel và AMD.
  • Tối ưu hóa bằng cách sử dụng autograd thủ công, nhân ma trận chuỗi và viết lại toàn bộ kernel bằng ngôn ngữ Triton của OpenAI.
  • Sử dụng cơ chế Flash Attention từ xformers và Tri Dao.
  • Phiên bản nguồn mở miễn phí giúp tinh chỉnh nhanh hơn 2 lần với bộ nhớ giảm 50%.

📌 Unsloth by Moonshot cung cấp giải pháp đột phá, giúp đào tạo các mô hình ngôn ngữ lớn nhanh chóng và hiệu quả, từ đó thúc đẩy sự phát triển trong lĩnh vực AI. Phần mềm này là một công cụ quan trọng, cho phép các nhà phát triển AI tiết kiệm thời gian và tài nguyên khi đào tạo mô hình, mở ra kỷ nguyên mới cho việc đào tạo mô hình AI.

Nguồn tham khảo
26

Thảo luận

Follow Us

12,345 Fans 12,345 Followers 12,345 Subscribers

Tin phổ biến

AI so sánh
OpenAI hay tự xây dựng: so sánh chi phí thực tế của việc tự lưu trữ các mô hình ngôn ngữ lớn
AI prompts
Google đã phát hành hướng dẫn 45 trang về cách viết lệnh tốt nhất cho AI Gemini
AI ảnh-video-music-âm thanh AI so sánh
Gã khổng lồ công nghệ Trung Quốc Alibaba tiết lộ công cụ video AI mới
AI pháp lý-quản trị-chủ quyền
Hãy coi chừng những chi phí tiềm ẩn của AI trước khi chúng làm phá sản sự đổi mới
Researchers from Johns Hopkins and UC Santa Cruz Unveil D-iGPT: A Groundbreaking Advance in Image-Based AI Learning
AMD Disrupts AI Accelerator Market with New MI300 Offerings
Unlocking the potential of generative AI: Three key questions for government agencies
Demystifying AI PCs: What is an NPU
Spotify slashes staff to move faster into AI – and Wall Street loves it
The AI Frenzy, Fed Meets, Hunter Biden: Your Sunday US Briefing

TAG

AI giáo dục AI sinh-y-duoc AI nghệ thuật AI pháp lý-quản trị-chủ quyền AI models AI xã hội AI prompts AI kiến thức-khóa học AI video AI công nghiệp-lĩnh vực AI edge AI viễn thông AI tools AI chính phủ AI GPT Store AI cybersecurity AI so sánh AI đạo đức AI tips AI market AI relations AI quân sự AI an toàn-an ninh-techwar AI việc làm AGI AI doanh nghiệp AI No-Low Code OpenAI ChatGPT AI môi trường-năng lượng AI skill-talent AI & công nghệ khác AI nghiên cứu AI chips-hardware-compute AI vs con người AI coding assistant AI mở-nguồn mở AI năng suất AI startup-M&A AI tương lai AI báo chí AI data AI bản quyền AI PC AI riêng tư AI deepfake-ảo giác-ANTT AI ảnh-video-music-âm thanh AI detect-test AI minh bạch AI nhỏ AI hồi sinh AI kiếm tiền AI nông nghiệp-thực phẩm AI ngân hàng-tài chính AI giao thông AI marketing-kinh doanh AI smartphone AI robotics-auto-agents AI consumer devices AI ecosystem AI manufacturing AI benchmark Telecom AI thành công-thất bại National AI links Digital Semi-Cloud-DC-Green Cybersecurity Digital Legal HTS

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo