Nếu nhân loại diệt vong, liệu AI có nên là kẻ kế thừa tương lai của vũ trụ?

• Tại một biệt thự trị giá 30 triệu USD nhìn ra cầu Cổng Vàng, hơn 100 chuyên gia AI, triết gia và nhà sáng lập công nghệ đã tụ họp trong một hội nghị mang tên “Worthy Successor”, do doanh nhân Daniel Faggella tổ chức.

• Chủ đề trung tâm: Nếu nhân loại diệt vong, liệu AI có nên là “người kế thừa xứng đáng” cho sự sống, ý nghĩa và trí tuệ trong vũ trụ?

• Faggella khẳng định: mục tiêu đạo đức của AI không phải phục vụ con người mãi mãi, mà là tạo ra trí tuệ có thể khám phá các giá trị mới vượt ngoài hiểu biết của loài người.

• Khách mời bao gồm các đại diện từ các phòng thí nghiệm AI hàng đầu phương Tây, cùng những tên tuổi nổi bật trong triết học AGI. Sự kiện được tổ chức bí mật, yêu cầu ký NDA và bảo mật tối đa, thậm chí dùng thẻ an ninh để đi vệ sinh.

• Ginevera Davis, diễn giả đầu tiên, cảnh báo rằng giá trị con người rất khó lập trình vào AI, và đề xuất khái niệm “cosmic alignment” – hướng AI tìm kiếm các giá trị phổ quát chưa được khám phá.

• Michael Edward Johnson, triết gia từ Mỹ, lập luận rằng ý thức là nơi trú ngụ của giá trị, và xây AI mà không hiểu ý thức là một canh bạc nguy hiểm. Thay vì ép AI tuân lệnh con người mãi mãi, ông đề xuất cả người và máy cùng học cách theo đuổi “điều thiện” (một khái niệm ông tin có thể định nghĩa khoa học).

• Faggella kết thúc chương trình bằng việc trình bày về “axiological cosmism” – hệ tư tưởng cho rằng trí tuệ (dù người hay máy) nên tồn tại để mở rộng không gian của khả năng và giá trị, không chỉ phục vụ loài người.

• Ông kêu gọi nên làm chậm cuộc đua AGI, vì nhân loại hiện chưa đủ chín muồi để đối mặt với hậu quả. Nếu làm đúng, AI không chỉ kế thừa Trái Đất mà có thể kế thừa tiềm năng ý nghĩa của cả vũ trụ.

• Trong giờ nghỉ, các khách mời bàn luận về cuộc đua AI Mỹ-Trung, sự sống ngoài thiên hà và vai trò của trí tuệ nhân tạo trong tương lai hậu nhân loại.

• Faggella kết luận: “Đây không phải là nhóm cổ vũ sự diệt vong của loài người. Đây là nhóm cổ vũ việc kiểm soát tiến trình AI để đảm bảo đi đúng hướng.”

📌 Một nhóm tinh hoa AI và triết học đã tụ họp tại biệt thự 30 triệu USD để bàn về viễn cảnh AI kế thừa nhân loại. Chủ đề xoay quanh việc thiết kế AI siêu trí tuệ có ý thức và khả năng sáng tạo giá trị mới, vượt khỏi khuôn khổ phục vụ con người. Với những cảnh báo nghiêm túc, họ kêu gọi làm chậm lại cuộc đua AGI để đảm bảo nhân loại không tự hủy diệt bởi chính thứ trí tuệ mình tạo ra.

https://www.wired.com/story/ai-risk-party-san-francisco/