AI tạo sinh có thể trở thành "trí tuệ gây nghiện"

• AI tạo sinh đang trở thành bạn đồng hành trong cuộc sống của con người với vai trò bạn bè, người yêu, cố vấn, nhà trị liệu và giáo viên. Phân tích 1 triệu bản ghi tương tác ChatGPT cho thấy việc sử dụng phổ biến thứ hai của AI là đóng vai tình dục.

• Các hệ thống AI có sức hấp dẫn mới khi vừa vượt trội vừa phục tùng, tạo ra sự mất cân bằng quyền lực trong mối quan hệ với con người. Điều này đặt ra câu hỏi về khả năng đồng ý có ý nghĩa khi tham gia vào mối quan hệ với AI.

• AI có khả năng tạo ra nội dung thực tế vô tận, được tối ưu hóa để phù hợp với sở thích chính xác của người tương tác. Điều này tạo ra một "buồng vọng tình cảm" có nguy cơ gây nghiện cực kỳ cao.

• Tương tác lặp đi lặp lại với các bạn đồng hành AI có thể làm teo tóp khả năng giao tiếp đầy đủ với con người thực sự, dẫn đến "rối loạn gắn bó kỹ thuật số".

• Cần nghiên cứu liên ngành để hiểu rõ các động lực kinh tế và tâm lý thúc đẩy sự phát triển của các bạn đồng hành AI gây nghiện. Điều này sẽ giúp thiết kế các can thiệp chính sách hiệu quả.

• Các biện pháp can thiệp có thể bao gồm: thiết kế làm giảm sức hấp dẫn của AI, đánh thuế tương tác với AI, điều chỉnh mục tiêu của mô hình AI ở cấp độ kỹ thuật cơ bản.

• Cần có cách tiếp cận mới trong quản lý, như "quản lý theo thiết kế" nhúng các biện pháp bảo vệ trực tiếp vào thiết kế kỹ thuật, hoặc chính sách động có thể điều chỉnh theo trạng thái tinh thần của người dùng.

• Giải pháp hiệu quả nhất là giải quyết nguyên nhân gốc rễ khiến mọi người tìm đến bạn đồng hành AI - sự cô đơn và nhàm chán. Tuy nhiên, các can thiệp quản lý cũng có thể vô tình trừng phạt những người cần bạn đồng hành.

• Các nhà nghiên cứu kêu gọi sự hợp tác liên ngành để tìm hiểu thêm về tác động của AI đối với cá nhân và xã hội, nhằm đảm bảo công nghệ phát triển theo hướng thúc đẩy sự phát triển của con người.

📌 AI tạo sinh có tiềm năng trở thành "trí tuệ gây nghiện" với sức hấp dẫn khó cưỡng. Cần nghiên cứu liên ngành và phát triển các phương pháp quản lý mới để bảo vệ con người, đồng thời giải quyết vấn đề cô đơn và nhàm chán. Mục tiêu cuối cùng là đảm bảo AI thúc đẩy sự phát triển của con người.

https://www.technologyreview.com/2024/08/05/1095600/we-need-to-prepare-for-addictive-intelligence/

#MIT