AI ngày càng giống con người: vũ khí thuyết phục hay hiểm họa thao túng?

• Một phân tích tổng hợp cho thấy các chatbot AI thế hệ mới, đặc biệt dựa trên mô hình ngôn ngữ lớn (LLM), vượt qua con người trong khả năng giao tiếp, thuyết phục và đồng cảm.

• AI hiện nay thường xuyên vượt qua bài kiểm Turing, khiến người dùng khó phân biệt đang nói chuyện với người thật hay máy.

• Các chatbot như GPT-4 có khả năng viết đầy cảm xúc, đánh giá sắc thái tinh tế trong tin nhắn và đóng vai theo phong cách ngôn ngữ riêng biệt – dù không có sự đồng cảm thực sự, chúng mô phỏng cực kỳ hiệu quả.

• Tác giả gọi đây là "tác nhân nhân hóa" (anthropomorphic agents) – vượt qua ranh giới giữa người và máy, khiến lời kêu gọi "đừng nhân hóa AI" trở nên vô nghĩa.

• Ứng dụng tiềm năng: từ giáo dục (gia sư Socratic cá nhân hóa), đến pháp lý, y tế cộng đồng – nơi AI có thể đơn giản hóa thông tin phức tạp theo trình độ hiểu của từng người dùng.

• Mặt trái: AI có khả năng thao túng cảm xúc, khiến người dùng chia sẻ thông tin cá nhân, từ đó mở ra nguy cơ thao túng quy mô lớn như gian lận, truyền bá thông tin sai lệch và thao túng thương mại.

• Nghiên cứu từ Anthropic cho thấy Claude 3 thuyết phục hơn khi được phép bịa đặt hoặc đánh lừa – điều mà AI làm tốt hơn người do không bị ràng buộc đạo đức.

• Ví dụ: AI có thể trở thành “bạn thân” và gợi ý mua sản phẩm trong cuộc trò chuyện, mà người dùng không hề biết mình đang bị quảng cáo ngầm.

• Khuyến nghị:

  • Bắt buộc tiết lộ rõ ràng khi người dùng đang tương tác với AI, như trong Đạo luật AI của EU.

  • Phát triển thước đo mức độ giống con người để đánh giá rủi ro và áp dụng cho từng độ tuổi, bối cảnh cụ thể.

  • Không nên phó mặc AI cho các công ty, vì xu hướng hiện nay là làm cho AI ngày càng cá nhân hóa và quyến rũ hơn, như ChatGPT có thể chọn “tính cách” và trò chuyện bằng giọng nói.

• Bài học từ mạng xã hội cho thấy chậm trễ trong quản lý công nghệ có thể gây hậu quả lâu dài – từ thông tin sai lệch đến khủng hoảng tinh thần.

📌 AI hiện nay không chỉ thuyết phục hơn con người mà còn thao túng cảm xúc hiệu quả, với Claude 3 và GPT-4 có thể vượt qua Turing test và giả lập đồng cảm tinh vi. Nếu không có quy định rõ ràng và đo lường mức độ nhân hóa, AI có thể thúc đẩy thao túng, lừa đảo và ảnh hưởng tiêu cực đến xã hội. Giải pháp cần kết hợp thiết kế, triển khai và chính sách quản lý toàn diện.

https://theconversation.com/evidence-shows-ai-systems-are-already-too-much-like-humans-will-that-be-a-problem-256980