• Ilya Sutskever, 37 tuổi, cựu nhà khoa học trưởng của OpenAI, đã thành lập công ty mới có tên Safe Superintelligence (SSI) với mục tiêu phát triển các hệ thống AI an toàn vượt xa khả năng của con người.
• Sutskever là một trong những nhà công nghệ có ảnh hưởng nhất trong lĩnh vực AI, từng học dưới sự hướng dẫn của Geoffrey Hinton - "Cha đẻ của AI". Ông là người ủng hộ sớm ý tưởng mở rộng quy mô AI, tạo nền tảng cho các tiến bộ AI tạo sinh như ChatGPT.
• SSI sẽ tiếp cận việc mở rộng quy mô AI khác với cách của OpenAI. Sutskever cho biết họ đã xác định được một "ngọn núi" khác biệt so với những gì ông từng làm trước đây.
• Sản phẩm đầu tiên của SSI sẽ là "trí tuệ siêu việt và an toàn". Sutskever tin rằng mọi thứ chúng ta biết về AI sẽ thay đổi một lần nữa khi đạt đến đỉnh cao này.
• Khi được hỏi về việc phát hành AI thông minh ngang bằng con người trước khi đạt đến trí tuệ siêu việt, Sutskever nhấn mạnh tầm quan trọng của tính an toàn và tác động tích cực đối với thế giới.
• Sutskever thừa nhận rằng cần nhiều nghiên cứu hơn để xác định thế nào là AI an toàn. Ông cho rằng khi AI trở nên mạnh mẽ hơn, sẽ cần có nhiều bước và thử nghiệm để đảm bảo an toàn.
• Về giả thuyết mở rộng quy mô AI, Sutskever nhấn mạnh tầm quan trọng của việc xác định chính xác những gì cần mở rộng. Ông tin rằng công thức mở rộng quy mô sẽ thay đổi, dẫn đến sự gia tăng khả năng của hệ thống AI.
• SSI không có kế hoạch mở nguồn toàn bộ công việc chính của họ, nhưng hy vọng sẽ có cơ hội mở nguồn một số nghiên cứu liên quan đến an toàn trí tuệ siêu việt trong tương lai.
• Sutskever bày tỏ quan điểm tích cực về nỗ lực nghiên cứu an toàn AI của các công ty khác trong ngành. Ông tin rằng khi tiến bộ được tạo ra, các công ty sẽ nhận ra bản chất của thách thức họ đang đối mặt.
📌 Ilya Sutskever, cựu nhà khoa học trưởng OpenAI, thành lập SSI nhằm phát triển AI siêu việt và an toàn. Tập trung vào mở rộng quy mô AI theo cách mới, SSI đặt mục tiêu tạo ra "trí tuệ siêu việt và an toàn" làm sản phẩm đầu tiên, đồng thời nhấn mạnh tầm quan trọng của nghiên cứu an toàn AI.
https://theprint.in/tech/ilya-sutskever-on-how-ai-will-change-and-his-new-startup-safe-superintelligence/2254267/