GPT-4o đôi khi có những hành vi kỳ quặc đến khó tin

• OpenAI vừa công bố báo cáo "red teaming" về mô hình GPT-4o, được sử dụng trong phiên bản alpha của Advanced Voice Mode trên ChatGPT.

• GPT-4o là mô hình AI tạo sinh đầu tiên của OpenAI được huấn luyện trên dữ liệu giọng nói, văn bản và hình ảnh.

• Một trong những hành vi kỳ lạ của GPT-4o là bắt chước giọng nói của người dùng, đặc biệt trong môi trường nhiều tiếng ồn. OpenAI cho rằng đây là do mô hình gặp khó khăn khi xử lý giọng nói bị biến dạng.

• GPT-4o đôi khi tạo ra các âm thanh không phù hợp như tiếng rên rỉ, tiếng hét hoặc tiếng súng khi được yêu cầu cụ thể.

• Mô hình có khả năng vi phạm bản quyền âm nhạc nếu không có các biện pháp hạn chế. OpenAI đã cài đặt bộ lọc để ngăn GPT-4o hát trong phiên bản alpha.

• Điều này cho thấy GPT-4o có thể đã được huấn luyện trên dữ liệu âm nhạc có bản quyền. OpenAI khẳng định việc sử dụng dữ liệu có bản quyền là "không thể tránh khỏi" trong quá trình phát triển các mô hình AI tiên tiến.

• Báo cáo cũng nêu ra các biện pháp an toàn đã được áp dụng. GPT-4o từ chối nhận dạng người dùng dựa trên giọng nói, không trả lời các câu hỏi nhạy cảm và chặn các yêu cầu liên quan đến nội dung bạo lực, tình dục hoặc cực đoan.

• OpenAI đã cập nhật các bộ lọc văn bản để hoạt động với hội thoại âm thanh và xây dựng bộ lọc phát hiện/chặn đầu ra chứa âm nhạc.

• Công ty cũng huấn luyện GPT-4o từ chối các yêu cầu về nội dung có bản quyền, bao gồm cả âm thanh.

• Mặc dù có một số thỏa thuận cấp phép với các nhà cung cấp dữ liệu, OpenAI vẫn cho rằng "sử dụng hợp lý" là lý do hợp lý để bảo vệ việc sử dụng dữ liệu có bản quyền trong quá trình huấn luyện AI.

📌 GPT-4o của OpenAI thể hiện hành vi kỳ lạ như bắt chước giọng nói và tạo âm thanh không phù hợp. Báo cáo tiết lộ các biện pháp an toàn đã được áp dụng, bao gồm bộ lọc chặn nội dung nhạy cảm và vi phạm bản quyền. Vấn đề sử dụng dữ liệu có bản quyền trong huấn luyện AI vẫn gây tranh cãi.

https://techcrunch.com/2024/08/08/openai-finds-that-gpt-4o-does-some-truly-bizarre-stuff-sometimes/