Tại sao o1 của OpenAI thay đổi "AI regulation game"?

• OpenAI vừa công bố mô hình AI tạo sinh mới nhất có tên o1, được mô tả là mô hình "suy luận". o1 mất nhiều thời gian hơn để "suy nghĩ" về câu hỏi trước khi trả lời, phân tích vấn đề và tự kiểm tra câu trả lời của mình.

• Mặc dù còn nhiều hạn chế, o1 vượt trội trong một số lĩnh vực như vật lý và toán học, dù không nhất thiết có nhiều tham số hơn so với GPT-4o.

Điều này có ý nghĩa quan trọng đối với quy định AI. Ví dụ, dự luật SB 1047 của California áp đặt yêu cầu an toàn đối với các mô hình AI có chi phí phát triển trên 100 triệu USD hoặc được đào tạo bằng sức mạnh tính toán vượt quá ngưỡng nhất định.

• Tuy nhiên, o1 cho thấy việc tăng cường sức mạnh tính toán không phải là cách duy nhất để cải thiện hiệu suất mô hình. Các nghiên cứu gần đây chỉ ra rằng các mô hình nhỏ như o1 có thể vượt trội hơn nhiều so với các mô hình lớn nếu được cho thêm thời gian suy nghĩ.

• Sara Hooker, người đứng đầu phòng nghiên cứu của Cohere, cho rằng việc sử dụng quy mô mô hình làm thước đo rủi ro là một quan điểm không đầy đủ. Cần xem xét cả những gì có thể làm được với suy luận hoặc chạy mô hình.

• Tuy nhiên, điều này không có nghĩa là các nhà lập pháp cần phải viết lại hoàn toàn các dự luật AI. Nhiều dự luật được thiết kế để dễ dàng sửa đổi, với giả định rằng AI sẽ phát triển vượt xa thời điểm ban hành.

Thách thức là tìm ra thước đo nào có thể là đại diện tốt hơn cho rủi ro so với sức mạnh tính toán đào tạo.

• Trong các tin tức khác:
- Sam Altman rời khỏi ủy ban an toàn của OpenAI
- Slack giới thiệu các tính năng AI mới
- Google bắt đầu gắn cờ hình ảnh AI
- Mistral ra mắt gói miễn phí
- Snapchat giới thiệu công cụ tạo video AI
- Intel ký thỏa thuận chip lớn với AWS
- Oprah Winfrey phát sóng chương trình đặc biệt về AI

• Các nhà nghiên cứu tại MIT và Cornell phát triển một mô hình có thể làm giảm niềm tin vào các thuyết âm mưu.

• Microsoft công bố bộ đánh giá AI mới có tên Eureka, nhằm mở rộng quy mô đánh giá mô hình một cách minh bạch.

📌 OpenAI giới thiệu mô hình o1 mới, thách thức cách tiếp cận quy định AI hiện tại. o1 cho thấy sức mạnh tính toán không phải thước đo duy nhất cho hiệu suất AI. Các nhà lập pháp cần xem xét lại cách đánh giá rủi ro AI toàn diện hơn, vượt ra ngoài chỉ số tính toán đơn thuần.

https://techcrunch.com/2024/09/18/this-week-in-ai-why-openais-o1-changes-the-ai-regulation-game/

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo