Trích sách mới Noah Harari: AI có thể hủy diệt nền dân chủ và chia thế giới thành các đế chế kỹ thuật số

• Yuval Noah Harari cảnh báo rằng trí tuệ nhân tạo (AI) đang trở thành mối đe dọa chưa từng có đối với nhân loại, không phải vì những robot nổi loạn như trong phim Hollywood, mà vì đây là công nghệ đầu tiên trong lịch sử có thể tự đưa ra quyết định và tạo ra ý tưởng mới.

• AI không chỉ là một công cụ mà là một tác nhân. Chúng ta đang triệu hồi vô số tác nhân mạnh mẽ mới có khả năng thông minh và sáng tạo hơn con người, mà chúng ta không hiểu rõ hoặc kiểm soát được hoàn toàn.

• Harari cho rằng AI đang phát triển một loại trí thông minh xa lạ, không phải là trí thông minh cấp độ con người. Ông lấy ví dụ về nước đi số 37 của AlphaGo trong trận đấu với Lee Sedol năm 2016, một nước đi mà không ai có thể giải thích được.

• Sự trỗi dậy của trí thông minh xa lạ không thể hiểu được này đe dọa đến tất cả mọi người, đặc biệt là nền dân chủ. Nếu ngày càng nhiều quyết định về cuộc sống con người được đưa ra trong một "hộp đen" mà cử tri không thể hiểu và thách thức, dân chủ sẽ không còn hoạt động.

• AI có thể làm thay đổi cục diện không chỉ của lịch sử loài người mà còn cả sự tiến hóa của mọi hình thức sống, khi nó có khả năng tạo ra các hình thức sống mới trong vài thập kỷ tới.

• Harari cảnh báo rằng AI có thể được sử dụng để tạo ra các loại vũ khí hủy diệt hàng loạt mới, bao gồm cả vũ khí sinh học và vũ khí hủy diệt xã hội như tin tức giả mạo.

• Trong nền kinh tế toàn cầu do AI điều khiển, các nước dẫn đầu về số hóa sẽ chiếm phần lớn lợi nhuận, trong khi giá trị của lao động không có kỹ năng ở các nước tụt hậu sẽ giảm xuống.

• Thế giới đang ngày càng bị chia rẽ bởi "bức màn silicon". Mã trên điện thoại thông minh của bạn quyết định bạn sống ở bên nào của bức màn silicon, thuật toán nào điều hành cuộc sống của bạn và dữ liệu của bạn chảy về đâu.

• Thay vì bị chia thành 2 đế chế toàn cầu, thế giới có thể bị chia thành một chục đế chế kỹ thuật số, mỗi đế chế bị ảnh hưởng bởi các truyền thống chính trị, văn hóa và tôn giáo khác nhau.

• Nguy cơ leo thang xung đột trong thời đại AI lớn hơn so với Chiến tranh Lạnh, vì bản chất của chiến tranh mạng khác với chiến tranh hạt nhân. Vũ khí mạng có thể được sử dụng một cách bí mật và khó xác định nguồn gốc, làm tăng nguy cơ xung đột.

• PwC dự báo AI sẽ đóng góp 15,7 nghìn tỷ USD vào nền kinh tế toàn cầu vào năm 2030, với Trung Quốc và Bắc Mỹ chiếm 70% số tiền này.

📌 Yuval Noah Harari cho rằng AI đang nhanh chóng trở thành một thế lực không thể kiểm soát, có khả năng thay đổi cục diện chính trị và kinh tế toàn cầu. Nó có thể chia rẽ thế giới thành các đế chế kỹ thuật số đối địch, đe dọa nền dân chủ và tự do của hàng tỷ người. Harari kêu gọi nhân loại hợp tác để bảo vệ lợi ích chung và điều tiết AI trước khi quá muộn. Nếu không tìm được tiếng nói chung, con người sẽ trở thành con mồi dễ dàng cho AI.

https://www.theguardian.com/technology/article/2024/aug/24/yuval-noah-harari-ai-book-extract-nexus