Microsoft ra mắt hệ thống an toàn mới lọc đầu ra AI độc hại trên Azure AI Studio
- Microsoft công bố 5 tính năng mới cho Azure AI Studio nhằm giữ AI đi đúng hướng và tránh các kết quả không phù hợp.
- 3 tính năng hiện có sẵn bao gồm: Prompt Shield chặn các truy vấn độc hại; Giám sát rủi ro và an toàn phát hiện, giảm thiểu kết quả có hại gần như theo thời gian thực; Đánh giá an toàn quét nội dung đầu ra và bảo mật.
- 2 tính năng sắp ra mắt: Tạo mẫu tin nhắn hệ thống an toàn định hướng mô hình an toàn hơn; Phát hiện tính cơ sở phân tích đầu ra tránh "sai một cách tự tin" hoặc thiếu logic cơ bản.
- Các tính năng an toàn sẽ tự động thêm vào mô hình GPT-4, một số mô hình ít dùng hơn cần điều chỉnh thủ công.
- Microsoft kỳ vọng tập trung vào an toàn, bảo mật sẽ giúp tránh các sự cố đáng xấu hổ của công nghệ AI tạo sinh.
📌 Microsoft đang nỗ lực nâng cao tính an toàn và bảo mật cho nền tảng Azure AI Studio với 5 tính năng mới, tự động tích hợp trên GPT-4. Điều này nhằm hạn chế các kết quả sai lệch, thiếu logic từ AI tạo sinh vốn đang gây nhiều tranh cãi gần đây.
https://www.extremetech.com/computing/microsoft-announces-new-safety-system-to-filter-malicious-ai-output
Thảo luận
Follow Us
Tin phổ biến
