Phi-2: LM nhỏ đang làm những việc lớn
- Phi-2 là mô hình ngôn ngữ có 2.7 tỷ tham số, được Microsoft phát triển với khả năng lý luận và hiểu ngôn ngữ xuất sắc.
- Mô hình này nhỏ gọn nhưng mạnh mẽ, vượt trội so với các mô hình lớn hơn đến 25 lần nhờ việc mở rộng mô hình và cải thiện dữ liệu đào tạo.
- Phi-2 phục vụ cho cộng đồng nghiên cứu trong việc khám phá tính giải thích, thử nghiệm tinh chỉnh và cải thiện an toàn, có sẵn trên Azure AI Studio model catalogue.
- Dữ liệu đào tạo của Phi-2 là sự kết hợp của các bộ dữ liệu tổng hợp, giúp mô hình nắm bắt kiến thức thông thường và khoa học.
- Microsoft đã thử nghiệm Phi-2 với các trường hợp sử dụng cụ thể và so sánh nó với các mô hình như Mistral và Llama-2, kết quả cho thấy Phi-2 có những ưu điểm nổi bật.
📌 Mô hình ngôn ngữ Phi-2 của Microsoft, với 2,7 tỷ tham số, đã chứng minh được sức mạnh vượt trội so với các mô hình lớn hơn tới 25 lần, nhờ vào việc mở rộng kích thước mô hình và cải thiện dữ liệu đào tạo. Phi-2 đã gây ấn tượng mạnh với giới nghiên cứu, làm nền tảng cho các thí nghiệm về tính giải thích, tinh chỉnh và an toàn của AI. Tuy nhiên, mô hình này vẫn còn những hạn chế như sản xuất mã không chính xác, hạn chế về kiến thức mã nguồn, và chưa được tinh chỉnh theo hướng dẫn cụ thể. Microsoft đang đợi sự phản hồi từ cộng đồng để cải thiện mô hình này.