AI đang sử dụng lượt thích của bạn để thâm nhập vào tâm trí

https://www.wired.com/story/like-the-button-that-changed-the-world-book-excerpt/

AI đang sử dụng lượt thích của bạn để thâm nhập vào tâm trí

Tính năng thích trên mạng xã hội có thể cung cấp kho dữ liệu khổng lồ về hành vi con người cho các mô hình AI. Nhưng khi AI trở nên thông minh hơn, liệu nó có thể biết được sở thích của người dùng trước cả khi họ biết không?

Tương lai của nút thích trong kỷ nguyên trí tuệ nhân tạo sẽ như thế nào? Max Levchin - đồng sáng lập PayPal và CEO Affirm - nhìn thấy vai trò mới và cực kỳ giá trị của dữ liệu thích để huấn luyện AI đạt được kết luận phù hợp hơn với quyết định từ con người.

Trong học máy, mọi người đều biết rằng khi máy tính được cung cấp một hàm phần thưởng rõ ràng sẽ tham gia vào quá trình học tăng cường không ngừng nghỉ để cải thiện hiệu suất và tối đa hóa phần thưởng đó - nhưng con đường tối ưu hóa này thường dẫn các hệ thống AI đến kết quả rất khác so với con người sử dụng phán đoán.

Để đưa ra lực điều chỉnh, các nhà phát triển AI thường sử dụng phương pháp gọi là học tăng cường từ phản hồi con người (RLHF). Về cơ bản họ đang đặt bàn tay con người lên chiếc cân khi máy tính tạo mô hình bằng cách huấn luyện trên dữ liệu phản ánh sở thích thực tế của con người. Nhưng dữ liệu sở thích con người này đến từ đâu, và cần bao nhiêu để đầu vào có giá trị? Đến nay, đây là vấn đề với RLHF: Phương pháp này tốn kém nếu yêu cầu thuê người giám sát và chú thích để nhập phản hồi.

Và đây là vấn đề mà Levchin nghĩ có thể được giải quyết bằng nút thích. Ông coi nguồn tài nguyên tích lũy hiện nay trong tay Facebook là phúc lành cho bất kỳ nhà phát triển nào muốn huấn luyện tác nhân thông minh trên dữ liệu sở thích con người. Và điều đó quan trọng như thế nào? "Tôi cho rằng một trong những thứ giá trị nhất Facebook sở hữu là núi dữ liệu thích đó," Levchin nói với chúng tôi. Thực tế, tại thời điểm bước ngoặt này trong phát triển trí tuệ nhân tạo, việc tiếp cận "nội dung nào được con người thích, để sử dụng cho huấn luyện mô hình AI, có lẽ là một trong những thứ có giá trị nhất trên internet."

Trong khi Levchin hình dung AI học từ sở thích con người thông qua nút thích, AI đã thay đổi cách những sở thích này được định hình ngay từ đầu. Thực tế, các nền tảng mạng xã hội đang tích cực sử dụng AI không chỉ để phân tích lượt thích, mà còn để dự đoán chúng - tiềm năng khiến chính nút thích trở nên lỗi thời.

Đây là quan sát đáng chú ý đối với chúng tôi vì, khi trò chuyện với hầu hết mọi người, các dự đoán chủ yếu đến từ góc độ khác, mô tả không phải cách nút thích sẽ ảnh hưởng đến hiệu suất của AI mà cách AI sẽ thay đổi thế giới của nút thích. Chúng tôi nghe được rằng AI đã được áp dụng để cải thiện thuật toán mạng xã hội. Đầu năm 2024, ví dụ, Facebook đã thử nghiệm sử dụng AI để thiết kế lại thuật toán gợi ý video Reels cho người dùng. Liệu nó có thể đưa ra trọng số tốt hơn cho các biến số để dự đoán video nào người dùng muốn xem tiếp theo? Kết quả của thử nghiệm ban đầu này cho thấy nó có thể: Áp dụng AI vào nhiệm vụ đã mang lại thời gian xem dài hơn - chỉ số hiệu suất Facebook hy vọng thúc đẩy.

Khi chúng tôi hỏi đồng sáng lập YouTube Steve Chen về tương lai của nút thích, ông nói: "Đôi khi tôi tự hỏi liệu nút thích có cần thiết khi AI đủ tinh vi để nói cho thuật toán biết với độ chính xác 100% những gì bạn muốn xem tiếp theo dựa trên chính các mẫu xem và chia sẻ. Cho đến nay, nút thích là cách đơn giản nhất để các nền tảng nội dung thực hiện điều đó, nhưng mục tiêu cuối cùng là làm cho việc này dễ dàng và chính xác nhất có thể với bất kỳ dữ liệu nào có sẵn."

Tuy nhiên, ông tiếp tục chỉ ra rằng một lý do mà nút thích có thể luôn cần thiết là để xử lý những thay đổi đột ngột hoặc tạm thời trong nhu cầu xem do sự kiện hoặc tình huống cuộc sống. "Có những ngày tôi muốn xem nội dung liên quan hơn một chút đến, chẳng hạn, con cái tôi," ông nói. Chen cũng giải thích rằng nút thích có thể tồn tại lâu dài vì vai trò của nó trong thu hút nhà quảng cáo - nhóm chính khác bên cạnh người xem và người sáng tạo - vì thích hoạt động như bản lề đơn giản nhất để kết nối ba nhóm đó. Với một cú nhấn, người xem đồng thời truyền đạt sự đánh giá cao và phản hồi trực tiếp đến nhà cung cấp nội dung và bằng chứng về sự tham gia và sở thích cho nhà quảng cáo.

Một tác động lớn khác của AI sẽ là việc sử dụng ngày càng tăng để tạo ra chính nội dung phải chịu phản ứng cảm xúc của mọi người. Hiện tại, lượng nội dung ngày càng tăng - cả văn bản và hình ảnh - được người dùng mạng xã hội thích là do AI tạo ra. Một người tự hỏi liệu mục đích ban đầu của nút thích - để khuyến khích nhiều người dùng hơn tạo nội dung - có còn liên quan không. Liệu các nền tảng có thành công về mặt riêng của họ nếu người dùng con người của họ ngừng đăng bài hoàn toàn không?

Câu hỏi này, tất nhiên, làm nảy sinh vấn đề về tính xác thực. Trong buổi biểu diễn giữa giờ Super Bowl 2024, ca sĩ Alicia Keys đã hát một nốt sai được mọi người chú ý nghe thấy trong sự kiện trực tiếp. Tuy nhiên khi bản ghi của buổi trình diễn được tải lên YouTube ngay sau đó, lỗi đó đã được sửa liền mạch, không có thông báo rằng video đã được chỉnh sửa. Đó là điều nhỏ (và tốt cho Keys vì đã thực hiện buổi biểu diễn trực tiếp ngay từ đầu), nhưng việc sửa chữa lén lút vẫn khiến người ta phải nhướng mày. Một cách mỉa mai, cô ấy đã hát "If I Ain't Got You" - và người hâm mộ của cô cuối cùng nhận được điều gì đó hơi khác.

Nếu AI có thể tinh chỉnh một cách tinh tế nội dung giải trí, nó cũng có thể được vũ khí hóa cho các mục đích lừa đảo hơn. Công nghệ tương tự có thể sửa một nốt nhạc cũng có thể dễ dàng nhân bản giọng nói, dẫn đến hậu quả nghiêm trọng hơn nhiều.

Đáng sợ hơn là xu hướng mà Ủy ban Truyền thông Liên bang Hoa Kỳ (FCC) và các cơ quan tương đương ở những nơi khác gần đây đã trấn áp: việc sử dụng AI để "nhân bản" giọng nói của một cá nhân và hiệu quả đặt lời nói vào miệng họ. Nghe có vẻ như họ đang nói, nhưng có thể không phải họ - có thể là kẻ mạo danh cố gắng lừa ông của người đó trả tiền chuộc hoặc cố gắng thực hiện giao dịch tài chính với tên của họ. Vào tháng 1/2024, sau một sự cố cuộc gọi tự động giả mạo giọng nói của Tổng thống Joe Biden, FCC đã đưa ra hướng dẫn rõ ràng rằng việc mạo danh như vậy là bất hợp pháp theo quy định của Đạo luật Bảo vệ Người tiêu dùng Điện thoại, và cảnh báo người tiêu dùng phải cẩn thận.

"Giọng nói được tạo bởi AI và hình ảnh đã gây ra sự nhầm lẫn bằng cách lừa người tiêu dùng nghĩ rằng lừa đảo là hợp pháp," chủ tịch FCC Jessica Rosenworcel nói. "Bất kể người nổi tiếng hoặc chính trị gia bạn ưa thích, hoặc mối quan hệ của bạn với người thân khi họ gọi điện để giúp đỡ, tất cả chúng ta đều có thể là mục tiêu của những cuộc gọi giả mạo này."

Ngoài việc giả vờ gian lận như thế này, tương lai của mạng xã hội đầy AI có thể được dân cư bởi những người dường như thật nhưng hoàn toàn do máy tính tạo ra. Những phát minh ảo như vậy đang xâm nhập vào cộng đồng người có ảnh hưởng trực tuyến và giành được hàng triệu người hâm mộ trên các nền tảng mạng xã hội. "Aitana Lopez", ví dụ, thường xuyên đăng tải những cái nhìn thoáng qua về cuộc sống đáng mơ ước của cô ấy như một nhạc sĩ và người mẫu thời trang Tây Ban Nha xinh đẹp. Khi chúng tôi kiểm tra lần cuối, tài khoản Instagram của cô ấy có tới 310.000 người theo dõi, và cô ấy đang quảng cáo cho các thương hiệu chăm sóc tóc và quần áo, bao gồm Victoria's Secret, với chi phí khoảng 1.000 đô la mỗi bài đăng. Nhưng người khác phải đang tiêu tiền kiếm được của cô ấy, vì Aitana không thực sự cần quần áo hoặc thức ăn hoặc một nơi để sống. Cô ấy là sự sáng tạo được lập trình của một công ty quảng cáo - một công ty bắt đầu kết nối thương hiệu với những người có ảnh hưởng thực sự nhưng phát hiện ra rằng con người không phải lúc nào cũng dễ quản lý.

Với những người có ảnh hưởng và bot do AI điều khiển tương tác với nhau ở tốc độ chưa từng có, chính cấu trúc của sự tương tác trực tuyến có thể đang thay đổi. Nếu lượt thích không còn đến từ người thật, và nội dung không còn được họ tạo ra, điều đó có ý nghĩa gì cho tương lai của nền kinh tế lượt thích?

Trong một kịch bản không chỉ vang vọng mà còn vượt xa tiền đề của bộ phim Her năm 2013, bạn cũng có thể mua một gói đăng ký cho phép bạn thoải mái trò chuyện với một "bạn gái" trên màn hình. CarynAI là bản sao AI của một người có ảnh hưởng trực tuyến trong đời thực, Caryn Marjorie, người đã có hơn một triệu người theo dõi trên Snapchat khi cô quyết định hợp tác với một công ty AI và phát triển một chatbot. Những người muốn tham gia cuộc trò chuyện một-đối-một với Caryn ảo trả một đô la mỗi phút, và cuộc trò chuyện của chatbot được tạo ra bởi phần mềm GPT-4 của OpenAI, được huấn luyện trên kho lưu trữ nội dung mà Marjorie đã xuất bản trước đó trên YouTube.

Chúng ta có thể tưởng tượng một kịch bản trong đó phần lớn lượt thích không được trao cho nội dung do con người tạo ra - và cũng không được trao bởi người thật. Chúng ta có thể có một thế giới kỹ thuật số tràn ngập bởi những người sáng tạo và người tiêu dùng tổng hợp tương tác với nhau với tốc độ chớp nhoáng. Chắc chắn nếu điều này xảy ra, dù chỉ một phần, sẽ có những vấn đề mới cần giải quyết, liên quan đến nhu cầu biết ai thực sự là ai (hoặc cái gì), và khi nào một bài đăng dường như phổ biến thực sự đáng xem xét.

Chúng ta có muốn một tương lai nơi lượt thích thực sự của chúng ta (và của tất cả mọi người) minh bạch hơn và không thể che giấu? Hay chúng ta muốn giữ lại (cho chính mình nhưng cũng cho người khác) khả năng giả vờ? Có vẻ hợp lý khi chúng ta sẽ thấy các công cụ mới được phát triển để cung cấp sự minh bạch và đảm bảo hơn về việc liệu một lượt thích có gắn với một người thật hay chỉ là một bot thực tế. Các nền tảng khác nhau có thể áp dụng các công cụ như vậy ở các mức độ khác nhau.

Trích đoạn được chuyển thể từ Like: The Button That Changed the World của Martin Reeves và Bob Goodson. Xuất bản theo thỏa thuận với HBR Press. Bản quyền © 2025 của Martin Reeves và Bob Goodson.