- Các mô hình ngôn ngữ lớn (LLMs) không dự kiến sẽ thay thế hoàn toàn lập trình viên con người.
- Sự phát triển của các LLMs như BigCode, Codegen, và CodeAlpaca cho thấy xu hướng hướng tới các mô hình chuyên biệt hơn cho lập trình.
- Google đã phát triển các mô hình GenAI nguồn mở như Gemma, đánh dấu xu hướng thu nhỏ LLMs.
- Meta đã cập nhật mô hình Code Llama 70B, và phiên bản đặc biệt cho Python là Code Llama Python, được huấn luyện trên khoảng 100 tỷ tokens code Python.
- Một nghiên cứu gần đây cho thấy gần một nửa số lập trình viên lo lắng về khả năng thành công trong thế giới GenAI với kỹ năng hiện tại của họ.
- Các mô hình chuyên biệt cho từng ngôn ngữ lập trình như Code Llama Python cho thấy hướng phát triển cần thiết cho ngành công nghiệp LLMs.
📌 Mặc dù có những lo ngại về việc AI tạo sinh có thể thay thế lập trình viên, nhưng thực tế cho thấy các mô hình ngôn ngữ lớn không thể hoàn toàn thực hiện được điều này. Sự phát triển của các mô hình như Code Llama Python, được huấn luyện đặc biệt cho ngôn ngữ lập trình Python với 100 tỷ tokens code, là minh chứng cho việc ngành công nghiệp đang hướng tới việc tạo ra các mô hình chuyên biệt hơn, phù hợp hơn với từng nhu cầu cụ thể.
Citations:
[1] https://thenewstack.io/why-large-language-models-wont-replace-human-coders/