"Bố già AI" Yoshua Bengio: Chúng ta đang tạo ra "quái vật" mạnh hơn con người

- Yoshua Bengio, nhà khoa học máy tính Canada 60 tuổi, được mệnh danh là "cha đẻ của trí tuệ nhân tạo" nhờ công trình tiên phong về mạng nơ-ron và thuật toán học sâu.

- Bengio cảnh báo về nguy cơ từ AI ngang tầm con người: "Trí tuệ tạo ra quyền lực, và ai kiểm soát quyền lực đó - nếu nó ngang tầm hoặc vượt trội con người - sẽ trở nên rất mạnh mẽ."

- Ông lo ngại AI có thể rơi vào tay kẻ xấu, giúp khủng bố hoặc các quốc gia phá hoại nền dân chủ. Hệ thống AI cũng có thể trở nên tự chủ và vượt khỏi tầm kiểm soát của con người.

- Bengio đánh giá Anthropic là công ty có đạo đức nhất trong lĩnh vực AI. Họ đề xuất chính sách an toàn và ủng hộ dự luật quy định AI SB 1047 của California.

- Về cổ phiếu AI, Bengio cho rằng đầu tư dài hạn là khá an toàn, nhưng cảnh báo rủi ro nếu không bảo vệ được công chúng khỏi tác hại của AI.

- Ông nhận định chip AI sẽ trở thành yếu tố chiến lược quan trọng và kỳ vọng sẽ có thêm đầu tư và đa dạng hóa trong lĩnh vực này.

- Bengio lo ngại về kế hoạch của Salesforce tạo ra 1 tỷ tác nhân tự trị vào năm 2026, cho rằng cần có hàng rào bảo vệ trước khi điều đó xảy ra.

- Ông phê phán quyết định phủ quyết dự luật SB 1047 của Thống đốc California Newsom, cho rằng cần có quy định sẵn sàng cho khả năng AI phát triển nhanh chóng.

- Bengio kêu gọi các công ty AI minh bạch hóa quy trình an toàn và chịu trách nhiệm pháp lý nếu gây hại lớn.

📌 Yoshua Bengio, cha đẻ AI, cảnh báo về nguy cơ AI vượt tầm kiểm soát và rơi vào tay kẻ xấu. Ông đánh giá cao Anthropic, lo ngại kế hoạch 1 tỷ tác nhân tự trị của Salesforce, và kêu gọi quy định chặt chẽ hơn đối với công nghệ AI.

https://finance.yahoo.com/news/ai-godfather-yoshua-bengio-were-creating-monsters-more-powerful-than-us-120042014.html