OpenAI DevDay 2024: API Realtime xây dựng ứng dụng với phản hồi giọng nói AI độ trễ thấp

• OpenAI tổ chức DevDay 2024 giữa tuần lễ biến động với sự ra đi của CTO Mira Murati và CRO Bob McGrew. Tuy nhiên, công ty khẳng định không làm chậm tiến độ phát triển.

• Sự kiện giới thiệu API Realtime cho phép xây dựng ứng dụng với phản hồi giọng nói AI độ trễ thấp. Nhà phát triển có thể sử dụng 6 giọng nói do OpenAI cung cấp.

• Tính năng tinh chỉnh thị giác (vision fine-tuning) được thêm vào API, cho phép sử dụng hình ảnh và văn bản để cải thiện hiệu suất GPT-4o trong các tác vụ liên quan đến hiểu hình ảnh.

• OpenAI giới thiệu tính năng lưu cache prompt, tương tự như của đối thủ Anthropic, giúp tiết kiệm chi phí và cải thiện độ trễ cho nhà phát triển.

• Tính năng chưng cất mô hình (model distillation) cho phép sử dụng mô hình lớn như o1-preview và GPT-4o để tinh chỉnh các mô hình nhỏ hơn như GPT-4o mini, giúp cải thiện hiệu suất với chi phí thấp hơn.

• OpenAI tuyên bố đã cắt giảm 99% chi phí truy cập API trong 2 năm qua do áp lực cạnh tranh từ Meta và Google.

• Công ty cho biết có hơn 3 triệu nhà phát triển đang xây dựng ứng dụng với các mô hình AI của họ.

• DevDay 2024 không công bố thông tin về GPT Store hay ra mắt mô hình AI mới nào.

• OpenAI không tự động thêm thông báo nhận dạng khi sử dụng giọng nói AI trong cuộc gọi, mà để trách nhiệm này cho nhà phát triển.

• Nhà phát triển không được phép tải lên hình ảnh có bản quyền, bạo lực hoặc vi phạm chính sách an toàn của OpenAI khi sử dụng tính năng tinh chỉnh thị giác.

• Công cụ đánh giá beta được ra mắt để nhà phát triển có thể đo lường hiệu suất tinh chỉnh trong API của OpenAI.

📌 OpenAI tổ chức DevDay 2024 giới thiệu API Realtime và các tính năng mới nhằm thu hút 3 triệu nhà phát triển. Công ty cắt giảm 99% chi phí API trong 2 năm qua do cạnh tranh gay gắt. Tuy nhiên, vẫn chưa có thông tin về GPT Store hay mô hình AI mới.

https://techcrunch.com/2024/10/01/openais-devday-brings-realtime-api-and-other-treats-for-ai-app-developers/