Meta phát hành mô hình dự đoán đa token mới, hứa hẹn cách mạng hóa hiệu quả và khả năng của AI ngôn ngữ lớn

• Meta vừa phát hành các mô hình được đào tạo trước sử dụng phương pháp dự đoán đa token mới, có thể thay đổi cách phát triển và triển khai các mô hình ngôn ngữ lớn (LLM).

• Kỹ thuật mới này, được mô tả trong bài báo nghiên cứu của Meta vào tháng 4, khác với phương pháp truyền thống là chỉ dự đoán từ tiếp theo trong chuỗi. Thay vào đó, mô hình của Meta được giao nhiệm vụ dự đoán nhiều từ trong tương lai cùng lúc.

• Phương pháp mới hứa hẹn nâng cao hiệu suất và giảm đáng kể thời gian đào tạo cho các mô hình AI.

• Đây có thể là giải pháp cho vấn đề tiêu thụ năng lượng tính toán ngày càng tăng của các mô hình AI lớn, giúp AI tiên tiến trở nên dễ tiếp cận và bền vững hơn.

• Bằng cách dự đoán nhiều token cùng lúc, các mô hình này có thể phát triển hiểu biết tinh tế hơn về cấu trúc và ngữ cảnh ngôn ngữ.

• Meta phát hành các mô hình này dưới giấy phép nghiên cứu phi thương mại trên nền tảng Hugging Face, phù hợp với cam kết khoa học mở của công ty.

• Bước đi này cũng là động thái chiến lược trong cuộc đua AI ngày càng cạnh tranh, nơi sự cởi mở có thể dẫn đến đổi mới nhanh hơn và thu hút nhân tài.

• Phiên bản đầu tiên tập trung vào nhiệm vụ hoàn thành mã, phản ánh thị trường đang phát triển cho các công cụ lập trình hỗ trợ AI.

• Tuy nhiên, việc phát hành này cũng gây tranh cãi. Các nhà phê bình cho rằng các mô hình AI hiệu quả hơn có thể làm trầm trọng thêm những lo ngại hiện có về thông tin sai lệch và mối đe dọa mạng do AI tạo ra.

• Meta đã cố gắng giải quyết những vấn đề này bằng cách nhấn mạnh tính chất chỉ dành cho nghiên cứu của giấy phép, nhưng vẫn còn những câu hỏi về việc thực thi hiệu quả các hạn chế như vậy.

• Các mô hình dự đoán đa token là một phần trong bộ sưu tập lớn hơn các thành quả nghiên cứu AI được Meta phát hành, bao gồm cả những tiến bộ trong tạo văn bản từ hình ảnh và phát hiện giọng nói do AI tạo ra.

• Cộng đồng AI đang phải đối mặt với những tác động của thông báo này. Liệu dự đoán đa token có trở thành tiêu chuẩn mới trong phát triển LLM? Nó có thể đáp ứng lời hứa về hiệu quả mà không ảnh hưởng đến chất lượng?

• Các nhà nghiên cứu tuyên bố rằng phương pháp của họ cải thiện khả năng và hiệu quả đào tạo mô hình đồng thời cho phép tốc độ nhanh hơn.

📌 Meta phát hành mô hình dự đoán đa token mới, hứa hẹn cách mạng hóa hiệu quả và khả năng của AI ngôn ngữ lớn. Phương pháp này có thể giảm thời gian đào tạo, nâng cao hiệu suất và phát triển hiểu biết ngôn ngữ tinh tế hơn. Tuy nhiên, vẫn còn những lo ngại về tác động tiềm tàng và việc sử dụng sai mục đích.

https://venturebeat.com/ai/meta-drops-ai-bombshell-multi-token-prediction-models-now-open-for-research/