ChatGPT nâng cấp tính năng giọng nói, mô phỏng cảm xúc người thật gây lo ngại

• OpenAI vừa ra mắt tính năng "chế độ giọng nói nâng cao" cho ChatGPT, giúp AI này có thể trò chuyện tự nhiên hơn, thể hiện cảm xúc và hiểu được ngữ điệu của người dùng.

• Tính năng mới giúp ChatGPT nghe giống người thật hơn: không có khoảng dừng gượng gạo, có thể thở như người, không bị gián đoạn khi nói chuyện, thể hiện cảm xúc phù hợp.

• OpenAI lo ngại người dùng có thể phát triển mối quan hệ thân mật với ChatGPT. Đã có trường hợp một influencer mạng xã hội lập trình ChatGPT thành "bạn trai" của mình.

• Con người có khả năng phát triển tình bạn và sự thân mật thông qua ngôn ngữ. Quá trình tiến hóa đã mở rộng vùng não xử lý ngôn ngữ, giúp con người xây dựng mạng lưới xã hội phức tạp hơn.

• Các thí nghiệm từ thập niên 1990 cho thấy việc trao đổi qua lại và chia sẻ thông tin cá nhân giúp tạo cảm giác thân mật với đối tượng trò chuyện.

• Khi thêm yếu tố giọng nói, hiệu ứng này càng mạnh mẽ hơn. Ngay cả trợ lý ảo không giống người như Siri hay Alexa cũng nhận được rất nhiều lời cầu hôn từ người dùng.

• Để tránh người dùng hình thành mối quan hệ xã hội với ChatGPT, OpenAI lẽ ra không nên tạo ra giọng nói và khả năng trò chuyện như người thật cho nó.

• Từ 60 năm trước, các nhà khoa học đã nhận ra máy tính có thể được coi là tác nhân xã hội. Tính năng mới của ChatGPT chỉ là bước tiến tiếp theo.

• Nhiều người thiếu thốn sự đồng hành có thể được lợi từ chatbot thế hệ mới, cảm thấy bớt cô đơn và bị cô lập hơn.

• Tuy nhiên, thời gian trò chuyện với bot là thời gian không thể dành cho bạn bè và gia đình. Người dùng nhiều công nghệ có nguy cơ cao thay thế các mối quan hệ với con người thật.

• Trò chuyện với bot cũng có thể ảnh hưởng đến các mối quan hệ hiện có. Người dùng có thể kỳ vọng bạn bè, người thân phải cư xử lịch sự, phục tùng như chatbot.

• Những tác động lớn hơn của máy móc lên văn hóa sẽ ngày càng nổi bật, nhưng cũng có thể mang lại hiểu biết sâu sắc về cách thức hoạt động của văn hóa.

📌 ChatGPT với giọng nói như người thật có thể giúp giảm cô đơn nhưng cũng tiềm ẩn nguy cơ thay thế quan hệ thực. Cần cân nhắc kỹ tác động của AI lên văn hóa và xã hội trong tương lai.

https://theconversation.com/the-latest-version-of-chatgpt-has-a-feature-youll-fall-in-love-with-and-thats-a-worry-238073