Yoshua Bengio, cha đẻ của AI, cảnh báo về nguy cơ từ AI agents tại Davos 2025
- Yoshua Bengio, nhà khoa học nghiên cứu AI người Canada, đưa ra cảnh báo về AI agents tại Diễn đàn kinh tế thế giới ở Davos 2025
- AI agents - trí tuệ nhân tạo có khả năng hoạt động độc lập không cần sự can thiệp của con người - là chủ đề nóng tại sự kiện này
- Bengio khẳng định mọi kịch bản thảm họa với AGI hoặc siêu trí tuệ đều xảy ra nếu AI có tính tác nhân (agentic)
- Các ứng dụng AI trong khoa học và y tế không cần tính tác nhân, vẫn có thể phát triển mạnh mẽ mà không gây nguy hiểm
- OpenAI vừa ra mắt AI agent có thể lướt web và thực hiện các tác vụ như đặt nhà hàng hoặc thêm hàng vào giỏ
- Doanh nghiệp đang nhận thấy lợi nhuận từ AI agents và dự kiến đưa vào lực lượng lao động từ năm 2025
- Bengio đề xuất xây dựng hệ thống "giám sát" không tác nhân để kiểm soát các hệ thống có tác nhân
- Ông kêu gọi quy định quốc gia yêu cầu các công ty AI phải chứng minh độ an toàn trước khi phát triển mô hình có tính tác nhân
- Demis Hassabis, CEO Google DeepMind đồng tình cần có biện pháp giảm thiểu rủi ro như bảo mật và thử nghiệm agents trong môi trường mô phỏng
- Hassabis chỉ ra xu hướng kinh tế đang thúc đẩy phát triển hệ thống có tính tác nhân để đáp ứng nhu cầu người dùng
📌 Yoshua Bengio, một trong ba "cha đẻ AI", cảnh báo AI agents là con đường nguy hiểm nhất, đề xuất phát triển hệ thống không tác nhân và quy định kiểm soát chặt chẽ. Dự báo AI agents sẽ tham gia lực lượng lao động từ 2025 dù tiềm ẩn rủi ro về AGI và siêu trí tuệ.
https://www.businessinsider.com/yoshua-bengio-ai-godfather-agents-2025-1
Thảo luận
Follow Us
Tin phổ biến
