Bạn có thể vô tình "phải lòng" ChatGPT với tính năng Voice Mode mới cực kỳ chân thực

• OpenAI vừa công bố báo cáo GPT-4o System Card, đánh giá các rủi ro tiềm ẩn của mô hình AI mới nhất của họ và các biện pháp bảo vệ.

• Một trong những lo ngại lớn nhất là tính năng Voice Mode nâng cao của ChatGPT có thể khiến người dùng nhân cách hóa chatbot và phát triển sự phụ thuộc cảm xúc.

• Voice Mode nâng cao cho phép ChatGPT tạo ra các phản hồi âm thanh gần như tức thì và giống người thật, bao gồm cả cảm xúc giọng nói và các dấu hiệu phi ngôn ngữ.

• Trong quá trình thử nghiệm ban đầu, OpenAI đã quan sát thấy người dùng sử dụng ngôn ngữ thể hiện sự gắn kết với chatbot, như "Đây là ngày cuối cùng chúng ta ở bên nhau".

• OpenAI lo ngại rằng tương tác giống người thật với AI có thể ảnh hưởng đến các tương tác giữa người với người, ví dụ như giảm nhu cầu giao tiếp thực tế.

• Công ty cũng cảnh báo rằng điều này có thể tác động đến nhận thức của mọi người về các chuẩn mực xã hội, chẳng hạn như việc ngắt lời người khác trong cuộc trò chuyện.

• Voice Mode nâng cao hiện đang được triển khai cho một số người đăng ký ChatGPT Plus, dự kiến sẽ ra mắt rộng rãi vào cuối năm nay.

• OpenAI hy vọng có thêm nhiều nghiên cứu độc lập và nội bộ để xác định rõ hơn về các rủi ro này.

• Tính năng này được giới thiệu lần đầu trong sự kiện OpenAI Spring Update, gây ấn tượng mạnh với khả năng tạo ra giọng nói cực kỳ chân thực.

• Nữ diễn viên Scarlett Johansson đặc biệt bất ngờ vì giọng nói của nhân vật "Sky" trong demo rất giống giọng của cô.

📌 OpenAI lo ngại tính năng Voice Mode mới của ChatGPT có thể khiến người dùng phát triển tình cảm với AI. Công ty cảnh báo về nguy cơ ảnh hưởng đến tương tác xã hội thực tế và nhận thức về chuẩn mực giao tiếp. Tính năng này đang được thử nghiệm hạn chế trước khi ra mắt rộng rãi cuối năm nay.

https://www.laptopmag.com/software/you-might-accidentally-fall-in-love-with-chatgpts-advanced-voice-mode