Hệ thống "nhà khoa học AI" của Sakana có thể tự động tạo bài báo khoa học với chi phí chỉ 15 USD/bài

• Sakana AI Labs vừa công bố hệ thống "nhà khoa học AI" có khả năng tự động thực hiện toàn bộ quy trình nghiên cứu khoa học trong lĩnh vực học máy, từ đặt câu hỏi nghiên cứu đến viết bài báo tổng kết kết quả.

• Hệ thống này sử dụng các mô hình ngôn ngữ lớn tạo sinh (LLM) tương tự như ChatGPT để thực hiện các bước như brainstorm ý tưởng, lựa chọn ý tưởng triển vọng, viết code thuật toán mới, vẽ biểu đồ kết quả và viết bài báo tổng kết có trích dẫn.

• Chi phí để tạo ra một bài báo khoa học hoàn chỉnh chỉ khoảng 15 USD, rẻ hơn nhiều so với chi phí thuê nhà khoa học thật.

• Hệ thống này có thể tạo ra các bài báo có hình thức giống bài báo khoa học thật vì LLM đã được huấn luyện trên hàng triệu bài báo có sẵn trên các kho lưu trữ như arXiv và PubMed.

• Tuy nhiên, việc tạo ra một bài báo khoa học thực sự thú vị và mới mẻ là thách thức lớn. Sakana giải quyết vấn đề này bằng cách chấm điểm và loại bỏ các ý tưởng quá giống nghiên cứu hiện có, đồng thời sử dụng một LLM khác để "đánh giá ngang hàng" chất lượng và tính mới của bài báo.

• Chất lượng đầu ra của hệ thống Sakana còn gây tranh cãi. Một số nhận xét cho rằng nó chỉ tạo ra "vô số bài báo khoa học rác".

• Khả năng của LLM trong việc đánh giá chất lượng nghiên cứu vẫn là một câu hỏi mở. Nghiên cứu cho thấy LLM chưa giỏi trong việc đánh giá rủi ro thiên lệch trong các nghiên cứu y khoa.

• Hệ thống của Sakana hiện chỉ tự động hóa các khám phá trong nghiên cứu điện toán, dễ dàng hơn nhiều so với các lĩnh vực khoa học đòi hỏi thí nghiệm vật lý.

• Đã có nhiều công cụ AI hỗ trợ các nhà khoa học như Semantic Scholar, Elicit, PubTator, Robot Reviewer... nhưng chúng nhằm mục đích hỗ trợ chứ không thay thế con người.

• Việc tràn ngập các bài báo do AI tạo ra có thể gây ra nhiều vấn đề như: hệ thống AI trong tương lai có thể bị suy giảm khả năng đổi mới do được huấn luyện trên dữ liệu do AI tạo ra; làm trầm trọng thêm vấn nạn "nhà máy bài báo" giả mạo; quá tải hệ thống đánh giá ngang hàng vốn đã gặp khó khăn.

• Khoa học dựa trên sự tin tưởng vào tính toàn vẹn của quy trình khoa học. Một hệ sinh thái khoa học với AI đóng vai trò chính đặt ra nhiều câu hỏi về ý nghĩa, giá trị của quy trình này và mức độ tin cậy chúng ta nên đặt vào các "nhà khoa học AI".

📌 Hệ thống "nhà khoa học AI" của Sakana có thể tự động tạo bài báo khoa học với chi phí chỉ 15 USD/bài. Tuy nhiên, chất lượng và tính mới của các bài báo này còn gây tranh cãi. Việc tràn ngập các bài báo do AI tạo ra có thể gây ra nhiều vấn đề nghiêm trọng cho nền khoa học.

https://theconversation.com/a-new-ai-scientist-can-write-science-papers-without-any-human-input-heres-why-thats-a-problem-237029