Liệu chúng ta đã coi trọng trí tuệ nhân tạo đủ chưa?

- Bài viết của Joshua Rothman trên The New Yorker ngày 1/4/2025 thảo luận về tác động ngày càng tăng của AI đối với xã hội.

- Tác giả chia sẻ trải nghiệm cá nhân khi sử dụng ChatGPT 4.5 để phân tích một tình huống bất động sản phức tạp. AI đã đưa ra phân tích chi tiết chỉ trong 3 phút với chi phí 200 USD.

- Nhiều chuyên gia AI được phỏng vấn trong cuốn sách "The Scaling Era" của Dwarkesh Patel dự đoán AGI có thể xuất hiện vào năm 2030 hoặc sớm hơn.

- Leopold Aschenbrenner, cựu nhà nghiên cứu tại OpenAI, cảnh báo về khả năng AI tự động hóa công việc nghiên cứu AI, dẫn đến vòng phản hồi trí tuệ và đột phá nhanh chóng.

- Một số chuyên gia dự đoán AI có thể mang lại giai đoạn đổi mới tương tự như giữa thế kỷ 20, với những tiến bộ đáng kể trong nhiều lĩnh vực.

- Ilya Sutskever, cựu trưởng khoa học gia của OpenAI, cho rằng giai đoạn chuyển tiếp khi AI trở nên có giá trị kinh tế cao có thể kéo dài vài năm.

- Tác giả nhấn mạnh tầm quan trọng của việc xã hội dân sự tham gia vào cuộc thảo luận về tương lai của AI, thay vì chỉ để các nhà khoa học máy tính quyết định.

- Bài viết kêu gọi cần có tiếng nói từ bên ngoài ngành công nghệ để định hình giá trị và ranh giới cho AI trong tương lai.

📌 Bài viết cảnh báo về sự phát triển nhanh chóng của AI, với dự đoán AGI có thể xuất hiện vào năm 2030. Tác giả kêu gọi xã hội dân sự tham gia định hình tương lai AI thay vì chỉ để các nhà khoa học quyết định, nhấn mạnh nhu cầu cấp thiết về một chính trị học AI toàn diện.

https://www.newyorker.com/culture/open-questions/are-we-taking-ai-seriously-enough

Liệu chúng ta đã coi trọng trí tuệ nhân tạo đủ chưa?

Không còn kịch bản nào trong đó trí tuệ nhân tạo trở nên mờ nhạt. Chúng ta cần gấp rút những tiếng nói từ bên ngoài ngành để giúp định hình tương lai của nó.

Bởi Joshua Rothman Ngày 1 tháng 4 năm 2025

Bố mẹ vợ tôi sở hữu một căn nhà nghỉ bãi biển nhỏ hai phòng ngủ. Nó là một phần của khu chung cư không thay đổi nhiều trong năm mươi năm qua. Các căn hộ được kết nối bằng những con đường gạch uốn lượn qua hàng cây cọ và mái che kiểu tiki dẫn ra bãi biển. Gần đó, các nhà phát triển đã xây dựng những khách sạn lớn và tháp chung cư, và dường như điều không thể tránh khỏi là những căn nhà bungalow sẽ bị phá bỏ và thay thế. Nhưng điều đó chưa bao giờ xảy ra, có lẽ vì theo điều lệ của hiệp hội, 80% chủ sở hữu phải đồng ý bán tài sản. 80% người hầu như không bao giờ đồng ý về bất cứ điều gì.

Tuy nhiên, gần đây, một nhà phát triển đã có một số tiến triển. Họ đề nghị mua một vài căn với giá có vẻ cao; sau khi một số chủ sở hữu quan tâm, họ đưa ra lời đề nghị cho toàn bộ khu vực lớn hơn nhiều so với dự đoán của mọi người. Đủ người cởi mở với ý tưởng bán lớn đến mức, đột nhiên, nó dường như trở thành một khả năng. Liệu lời đề nghị có tốt không? Làm thế nào để đàm phán tiến triển? Các chủ sở hữu, không chắc chắn, bắt đầu tranh cãi giữa họ.

Như một đặc ân cho mẹ vợ tôi, tôi đã giải thích toàn bộ tình huống cho ChatGPT 4.5 của OpenAI - phiên bản mô hình trí tuệ nhân tạo của công ty được cung cấp trên các hạng "plus" và "pro" và, đối với một số nhiệm vụ, tốt hơn đáng kể so với các phiên bản rẻ hơn và miễn phí. Phiên bản "pro", có giá 200 đô la một tháng, bao gồm tính năng "nghiên cứu sâu", cho phép AI dành một khoảng thời gian dài - nhiều nhất là nửa giờ, trong một số trường hợp - để nghiên cứu trực tuyến và phân tích kết quả. Tôi yêu cầu AI đánh giá lời đề nghị; ba phút sau, nó đưa ra một báo cáo dài. Sau đó, trong vài giờ, tôi yêu cầu nó sửa đổi báo cáo vài lần, để nó có thể kết hợp các câu hỏi thêm của tôi.

Lời đề nghị quá thấp, AI cho biết. Nghiên cứu của nó đã tìm ra các tài sản gần đó đã được bán với giá cao hơn. Trong một trường hợp, một tài sản đã được "nâng cấp phân vùng" bởi chủ sở hữu mới sau khi bán, tăng số lượng căn hộ mà nó có thể chứa; điều này có nghĩa là tài sản đáng giá hơn so với những gì người ta có thể phát hiện từ giá trị đô la của thỏa thuận. Trong khi đó, đàm phán sẽ phức tạp. Tôi yêu cầu AI kết hợp một kịch bản trong đó các nhà phát triển mua hơn một nửa số căn hộ, cho họ quyền kiểm soát ban quản lý chung cư. Nó dự đoán rằng họ có thể thiết lập các quy tắc hoặc đánh giá khó khăn mới, điều này có thể thúc đẩy nhiều chủ sở hữu ban đầu bán. Tuy nhiên, AI lưu ý, đây cũng có thể là thời điểm dễ bị tổn thương đối với các nhà phát triển. "Họ sẽ sở hữu một nửa khu chung cư không thể phát triển lại — nghĩa là khoản đầu tư của họ bị mắc kẹt trong tình trạng bất định," nó quan sát. "Ngân hàng tài trợ cho việc mua lại của họ sẽ lo lắng." Nếu chỉ 21% chủ sở hữu giữ vững, họ có thể làm cho các nhà phát triển "chảy máu tiền mặt" và nâng cao lời đề nghị của họ.

Tôi ấn tượng và chuyển tiếp báo cáo cho mẹ vợ tôi. Một luật sư bất động sản có thể đã cung cấp phân tích tốt hơn, tôi nghĩ — nhưng không phải trong ba phút, hoặc với giá 200 đô la. (Phân tích của AI bao gồm một vài lỗi — ví dụ, ban đầu nó ước tính quá cao kích thước của tài sản — nhưng nó nhanh chóng và kỹ lưỡng sửa chữa chúng khi tôi chỉ ra.) Cùng lúc đó, tôi cũng yêu cầu ChatGPT dạy tôi về một lĩnh vực khoa học tôi dự định viết; để giúp tôi thiết lập một máy tính cũ để con trai 6 tuổi của tôi có thể sử dụng nó để lập trình robot của nó; và, như một thử nghiệm, viết fan fiction dựa trên Hồ sơ tôi đã viết về Geoffrey Hinton, "cha đẻ của AI". ("Phóng viên, Josh, đã rời đi sớm hơn ngày hôm đó, vẫy tay từ con thuyền đang rời đi...") Nhưng lời khuyên tôi nhận được về căn hộ chung cư khác biệt. AI đã giúp tôi với một vấn đề thực tế, phức tạp, không giả thuyết liên quan đến tiền bạc. Có lẽ nó thậm chí đã trang trải chi phí. Nó đã thể hiện một sự thực tế nhất định — một mức độ khôn ngoan đường phố — mà tôi liên kết, có lẽ một cách ngây thơ, với kinh nghiệm trực tiếp của con người. Tôi đã theo dõi AI sát sao trong nhiều năm; tôi biết rằng các hệ thống có khả năng làm được nhiều hơn là nghiên cứu bất động sản. Tuy nhiên, đây vừa là khoảnh khắc "A-ha!" vừa là khoảnh khắc "ừ-ồ". Nó đây rồi, tôi nghĩ. Đây là thực tế.

Nhiều người không biết mức độ nghiêm túc khi đối mặt với AI. Có thể khó biết, cả vì công nghệ quá mới và vì sự phóng đại cản trở. Cần thận trọng trước các lời quảng cáo vì tương lai không thể đoán trước. Nhưng phản ứng chống lại sự phóng đại, nổi lên như một phản ứng miễn dịch đối với sự tán dương quá mức, không nhất thiết làm rõ vấn đề. Năm 1879, tờ Times đăng một câu chuyện nhiều phần trên trang nhất về bóng đèn, với tiêu đề "Đèn điện của Edison - Tuyên bố mâu thuẫn về công dụng của nó." Trong một phần đưa ra "góc nhìn khoa học", tờ báo trích dẫn một kỹ sư nổi tiếng — chủ tịch của Viện Công nghệ Stevens — người đang "phản đối việc tuyên truyền kết quả các thí nghiệm của Edison trong chiếu sáng điện như 'một thành công tuyệt vời'." Ông không phải là vô lý: các nhà phát minh đã thất bại trong việc chế tạo bóng đèn khả thi trong nhiều thập kỷ. Trong nhiều trường hợp khác, phản ứng chống lại sự phóng đại của ông sẽ được chứng minh là đúng.

Sự phóng đại về AI đã tạo ra hai loại phản ứng chống lại sự phóng đại. Loại đầu tiên cho rằng công nghệ sẽ sớm đi vào bình ổn: có lẽ AI sẽ tiếp tục gặp khó khăn trong việc lập kế hoạch trước, hoặc suy nghĩ một cách rõ ràng logic, thay vì trực quan. Theo lý thuyết này, cần có thêm nhiều đột phá trước khi chúng ta đạt được cái gọi là "trí tuệ nhân tạo tổng quát", hay AGI — một mức sức mạnh trí tuệ và độc lập tương đương con người. Loại phản ứng chống lại sự phóng đại thứ hai cho rằng thế giới đơn giản là khó thay đổi: ngay cả khi một AI rất thông minh có thể giúp chúng ta thiết kế một lưới điện tốt hơn, chẳng hạn, mọi người vẫn phải được thuyết phục để xây dựng nó. Theo quan điểm này, tiến bộ luôn bị hạn chế bởi các điểm nghẽn, điều mà — theo sự nhẹ nhõm của một số người — sẽ làm chậm sự tích hợp của AI vào xã hội của chúng ta.

Những ý tưởng này nghe có vẻ thuyết phục, và chúng truyền cảm hứng cho một thái độ chờ đợi thoải mái. Nhưng bạn sẽ không thấy chúng được phản ánh trong "Kỷ nguyên mở rộng: Lịch sử truyền miệng về AI, 2019-2025" (Stripe Press), một tuyển tập thông tin rộng rãi trích từ các cuộc phỏng vấn với những người trong ngành AI của người dẫn podcast Dwarkesh Patel. Một người phỏng vấn thần đồng 24 tuổi, Patel đã thu hút một lượng lớn khán giả podcast bằng cách đặt câu hỏi chi tiết cho các nhà nghiên cứu AI mà không ai khác biết để hỏi, hoặc cách đặt câu hỏi. ("Có phải tuyên bố rằng khi bạn tinh chỉnh trên chuỗi suy nghĩ, trọng số khóa và giá trị thay đổi để steganography có thể xảy ra trong bộ đệm KV?" anh hỏi Sholto Douglas của DeepMind, tháng 3 năm ngoái.) Trong "Kỷ nguyên mở rộng", Patel kết hợp nhiều cuộc phỏng vấn để tạo ra một bức tranh tổng thể về quỹ đạo của AI. (Tiêu đề đề cập đến "giả thuyết mở rộng" — ý tưởng rằng, bằng cách làm cho AI lớn hơn, chúng ta sẽ nhanh chóng làm cho chúng thông minh hơn. Nó dường như đang hoạt động.)

Hầu như không ai được phỏng vấn trong "Kỷ nguyên mở rộng" — từ các ông chủ lớn như Mark Zuckerberg đến các kỹ sư và nhà phân tích trong chiến hào — nói rằng AI có thể đi vào bình ổn. Ngược lại, hầu hết mọi người lưu ý rằng nó đang cải thiện với tốc độ đáng ngạc nhiên: nhiều người nói rằng AGI có thể đến vào năm 2030, hoặc sớm hơn. Và sự phức tạp của nền văn minh cũng dường như không làm họ lo lắng. Nhiều nhà nghiên cứu khá chắc chắn rằng thế hệ hệ thống AI tiếp theo, có thể ra mắt vào cuối năm nay hoặc đầu năm sau, sẽ mang tính quyết định. Chúng sẽ cho phép việc áp dụng rộng rãi lao động nhận thức tự động, khởi đầu một giai đoạn tăng tốc công nghệ với những tác động sâu sắc về kinh tế và địa chính trị.

Bản chất dựa trên ngôn ngữ của các chatbot AI đã làm cho dễ dàng tưởng tượng cách các hệ thống có thể được sử dụng cho viết lách, luật sư, giảng dạy, dịch vụ khách hàng và các nhiệm vụ tập trung vào ngôn ngữ khác. Nhưng đó không phải là nơi các nhà phát triển AI nhất thiết tập trung nỗ lực của họ. "Một trong những công việc đầu tiên sẽ được tự động hóa là nhà nghiên cứu hoặc kỹ sư AI," Leopold Aschenbrenner, một cựu nhà nghiên cứu liên kết tại OpenAI, nói với Patel. Aschenbrenner — người đã là thủ khoa Đại học Columbia ở tuổi 19, vào năm 2021, và người lưu ý trên trang web của mình rằng anh đã nghiên cứu tăng trưởng kinh tế "trong một cuộc đời trước" — giải thích rằng nếu các công ty công nghệ có thể tập hợp quân đội các "nhà nghiên cứu" AI, và những nhà nghiên cứu đó có thể xác định cách làm cho AI thông minh hơn, kết quả có thể là một vòng phản hồi trí tuệ. "Mọi thứ có thể bắt đầu diễn ra rất nhanh," Aschenbrenner nói. Các nhà nghiên cứu tự động có thể mở rộng sang lĩnh vực như robot học; nếu một quốc gia vượt trước các quốc gia khác trong những nỗ lực như vậy, anh lập luận, điều này "có thể mang tính quyết định trong, ví dụ, cạnh tranh quân sự." Anh gợi ý rằng, cuối cùng, chúng ta có thể thấy mình trong tình huống mà các chính phủ xem xét phóng tên lửa vào các trung tâm dữ liệu có vẻ như sắp tạo ra "siêu trí tuệ" — một hình thức AI thông minh hơn nhiều so với con người. "Cơ bản chúng ta sẽ ở vị trí bảo vệ các trung tâm dữ liệu bằng đe dọa trả đũa hạt nhân," Aschenbrenner kết luận. "Có lẽ điều đó nghe có vẻ điên rồ."

Đó là kịch bản cường độ cao nhất — nhưng các kịch bản cường độ thấp vẫn còn căng thẳng. Nhà kinh tế học Tyler Cowen có cái nhìn tương đối dần dần: ông ủng hộ quan điểm "cuộc sống phức tạp", và lập luận rằng thế giới có thể chứa nhiều vấn đề không thể giải quyết, bất kể máy tính của bạn thông minh đến đâu. Ông lưu ý rằng, trên toàn cầu, số lượng nhà nghiên cứu đã tăng lên — "Trung Quốc, Ấn Độ và Hàn Quốc gần đây đã đưa tài năng khoa học vào nền kinh tế thế giới" — và điều này không tạo ra sự tăng tốc công nghệ sâu sắc ở cấp độ khoa học viễn tưởng. Thay vào đó, ông nghĩ, AI có thể mở đầu một giai đoạn đổi mới tương tự như những gì đã xảy ra vào giữa thế kỷ 20, khi, như Patel mô tả, thế giới đã tiến triển "từ tên lửa V2 đến việc đổ bộ lên Mặt trăng trong vài thập kỷ." Điều này có thể nghe có vẻ như quan điểm giảm phát — và, so với Aschenbrenner, đúng như vậy. Mặt khác, hãy xem xét những gì những thập kỷ đó đã mang lại cho chúng ta: bom nguyên tử, vệ tinh, du lịch bằng máy bay phản lực, Cách mạng Xanh, máy tính, phẫu thuật tim hở, việc phát hiện DNA.

Ilya Sutskever, cựu nhà khoa học trưởng của OpenAI, có lẽ là giọng nói thận trọng nhất trong cuốn sách; khi Patel hỏi ông nghĩ khi nào AGI có thể đến, ông nói, "Tôi ngần ngại đưa ra con số." Vì vậy Patel đã thử một cách tiếp cận khác, hỏi Sutskever ông nghĩ AI có thể "rất có giá trị kinh tế, hãy nói, ở quy mô của máy bay," trong bao lâu trước khi nó tự động hóa phần lớn nền kinh tế. Sutskever, cân nhắc giữa Cowen và Aschenbrenner, mạo hiểm rằng giai đoạn chuyển tiếp, AI-như-máy bay có thể tạo thành "một khoảng thời gian nhiều năm tốt" mà, nhìn lại, "có thể cảm thấy như nó chỉ là một hoặc hai năm." Có lẽ điều đó giống như giai đoạn giữa năm 2007, khi iPhone được giới thiệu, và khoảng năm 2013, khi một tỷ người sở hữu điện thoại thông minh — ngoại trừ lần này, công nghệ mới phổ biến sẽ đủ thông minh để giúp chúng ta phát minh ra nhiều công nghệ mới hơn nữa.

Thật dễ dàng để cho những quan điểm này tồn tại trong không gian riêng của chúng, như thể bạn đang xem một đoạn giới thiệu cho một bộ phim mà bạn có thể sẽ không xem. Sau tất cả, không ai thực sự biết điều gì sẽ xảy ra! Nhưng, thực tế, chúng ta biết rất nhiều. Đã có, AI có thể thảo luận và giải thích nhiều chủ đề ở cấp độ tiến sĩ, dự đoán cách protein sẽ gập lại, lập trình máy tính, tăng giá trị của một đồng tiền meme, và nhiều hơn nữa. Chúng ta cũng có thể chắc chắn rằng nó sẽ cải thiện đáng kể trong vài năm tới — và mọi người sẽ tìm ra cách sử dụng nó theo cách ảnh hưởng đến cách chúng ta sống, làm việc, khám phá, xây dựng và sáng tạo. Vẫn còn những câu hỏi về việc công nghệ có thể đi xa đến đâu, và về việc, về mặt khái niệm, nó có thực sự "suy nghĩ", hoặc sáng tạo, hay bất cứ điều gì. Tuy nhiên, trong mô hình tinh thần của một hoặc hai thập kỷ tới, điều quan trọng là phải thấy rằng không còn kịch bản nào trong đó AI trở nên mờ nhạt. Câu hỏi thực sự là về mức độ tăng tốc công nghệ.

"Mức độ tăng tốc công nghệ" có thể nghe như điều gì đó mà các nhà khoa học cần phải ám ảnh. Tuy nhiên, thực tế đây là một vấn đề chính trị. Ajeya Cotra, một cố vấn cấp cao tại Open Philanthropy, trình bày một kịch bản "thế giới mơ ước" trong đó sự tăng tốc của AI diễn ra chậm hơn. Trong thế giới này, "khoa học như vậy không dễ dàng để nhanh chóng vượt qua các cấp độ trí tuệ," cô nói với Patel. Nếu "vòng lặp AI-tự động hóa-AI" phát triển muộn, cô giải thích, "thì có nhiều cơ hội cho xã hội, cả về mặt chính thức và văn hóa, để điều chỉnh" các ứng dụng của trí tuệ nhân tạo.

Tất nhiên, Cotra biết rằng điều đó có thể không xảy ra. "Tôi lo lắng rằng nhiều thứ mạnh mẽ sẽ đến rất nhanh," cô nói. Tính hợp lý của các kịch bản đáng lo ngại nhất đặt các nhà nghiên cứu AI vào một vị trí khó xử. Họ tin vào tiềm năng của công nghệ và không muốn đánh giá thấp nó; họ có quyền lo ngại về việc tham gia vào một phiên bản của sự tận thế AI; và họ cũng bị thu hút bởi những khả năng suy đoán nhất. Sự kết hợp các yếu tố này đẩy cuộc tranh luận xung quanh AI đến các thái cực. ("Nếu GPT-5 có vẻ như không làm cho mọi người kinh ngạc, tất cả điều này đều vô nghĩa," Jon Y, người điều hành kênh YouTube Asianometry, nói với Patel. "Chúng ta chỉ đang hít thở.") Thông điệp, đối với những người trong chúng ta không phải là nhà khoa học máy tính, là không cần thiết phải đưa ra ý kiến. Hoặc AI thất bại, hoặc nó tái tạo thế giới. Kết quả là, mặc dù AI đang ở giữa chúng ta, nhưng tác động của nó chủ yếu đang được tưởng tượng bởi người kỹ thuật. Trí tuệ nhân tạo sẽ ảnh hưởng đến tất cả chúng ta, nhưng một chính trị của AI vẫn chưa hiện hữu. Dễ hiểu, xã hội dân sự hoàn toàn bị cuốn vào các cuộc khủng hoảng chính trị và xã hội tập trung vào Donald Trump; nó dường như có ít thời gian để cho sự chuyển đổi công nghệ sắp bao trùm chúng ta. Nhưng nếu chúng ta không chú ý đến nó, những người tạo ra công nghệ sẽ là người duy nhất phụ trách cách nó thay đổi cuộc sống của chúng ta.

Những người đó thông minh, không nghi ngờ gì. Nhưng, mà không có ý thiếu tôn trọng, điều quan trọng là phải nói rằng họ không phải là điển hình. Họ có những kỹ năng và sở thích cụ thể, và những giá trị cụ thể. Trong một trong những khoảnh khắc tốt nhất trong cuốn sách của Patel, anh hỏi Sutskever ông dự định làm gì sau khi AGI được phát minh. Ông sẽ không thỏa mãn khi sống trong một "viện dưỡng lão" hậu-khan hiếm nào đó sao? "Câu hỏi về những gì tôi sẽ làm hoặc những người khác sẽ làm sau AGI rất khó," Sutskever nói. "Ở đâu mọi người sẽ tìm thấy ý nghĩa?" Ông tiếp tục:

Nhưng đó là câu hỏi AI có thể giúp chúng ta. Tôi tưởng tượng chúng ta sẽ trở nên giác ngộ hơn vì chúng ta tương tác với AGI. Nó sẽ giúp chúng ta nhìn thế giới chính xác hơn và trở nên tốt hơn bên trong do kết quả của việc tương tác với nó. Hãy tưởng tượng nói chuyện với giáo viên thiền định giỏi nhất trong lịch sử. Đó sẽ là điều hữu ích.

Liệu hầu hết mọi người — những người không phải là nhà khoa học máy tính, và những người không dành cả đời để tạo ra AI — có nghĩ rằng họ có thể tìm thấy ý nghĩa cuộc sống của mình thông qua việc nói chuyện với AI không? Liệu hầu hết mọi người có nghĩ rằng một cỗ máy sẽ làm cho họ "tốt hơn bên trong" không? Không phải là những quan điểm này vượt quá giới hạn. (Họ có thể, một c