• Microsoft vừa công bố dịch vụ Correction, một công cụ tự động sửa lỗi nội dung do AI tạo ra không chính xác về mặt thông tin.
• Correction hoạt động bằng cách đánh dấu văn bản có thể sai sót, sau đó kiểm tra lại bằng cách so sánh với nguồn thông tin đáng tin cậy.
• Công cụ này hiện có sẵn trong API Azure AI Content Safety của Microsoft, có thể sử dụng với bất kỳ mô hình AI tạo văn bản nào.
• Microsoft cho biết Correction sử dụng quy trình mới kết hợp các mô hình ngôn ngữ nhỏ và lớn để đối chiếu kết quả với tài liệu gốc.
• Tuy nhiên, các chuyên gia cảnh báo rằng cách tiếp cận này không giải quyết được nguyên nhân gốc rễ của hiện tượng ảo tưởng AI.
• Os Keyes, nghiên cứu sinh tiến sĩ tại Đại học Washington, cho rằng cố gắng loại bỏ ảo tưởng khỏi AI tạo sinh giống như cố gắng loại bỏ hydro khỏi nước.
• Các mô hình tạo văn bản có xu hướng ảo giác vì chúng không thực sự "biết" gì cả, mà chỉ dự đoán dựa trên mẫu từ dữ liệu huấn luyện.
• Giải pháp của Microsoft là sử dụng hai mô hình meta để đánh dấu và viết lại các phần ảo giác.
• Tuy nhiên, Mike Cook, một nghiên cứu viên tại Đại học Queen Mary, cho rằng ngay cả khi Correction hoạt động như quảng cáo, nó có thể làm trầm trọng thêm các vấn đề về tin cậy và khả năng giải thích xung quanh AI.
• Có lo ngại rằng Correction có thể tạo ra cảm giác an toàn sai lầm, khiến người dùng nghĩ rằng các mô hình đang trung thực hơn thực tế.
• Microsoft đang chịu áp lực phải chứng minh giá trị đầu tư AI cho khách hàng và cổ đông. Trong Q2, công ty đã đổ gần 19 tỷ USD vào chi tiêu vốn và thiết bị chủ yếu liên quan đến AI.
• Tuy nhiên, nhiều người dùng ban đầu đã tạm dừng triển khai nền tảng AI tạo sinh Microsoft 365 Copilot do lo ngại về hiệu suất và chi phí.
• Theo một cuộc khảo sát của KPMG, độ chính xác và khả năng ảo giác hiện là những mối quan tâm lớn nhất của doanh nghiệp khi thử nghiệm các công cụ AI.
📌 Microsoft ra mắt Correction để sửa lỗi AI, nhưng chuyên gia vẫn nghi ngờ hiệu quả. Công cụ này có thể phát hiện và sửa nội dung AI không chính xác, nhưng vẫn còn nhiều lo ngại về khả năng tạo ra cảm giác an toàn sai lầm và không giải quyết được vấn đề gốc rễ của ảo giác AI.
https://techcrunch.com/2024/09/24/microsoft-claims-its-new-tool-can-correct-ai-hallucinations-but-experts-caution-it-has-shortcomings/