AWS ra mắt dịch vụ mới nhằm giảm thiểu ảo giác trong AI

- AWS đã ra mắt dịch vụ Automated Reasoning checks nhằm giảm thiểu ảo giác trong AI, công bố tại hội nghị re:Invent 2024 ở Las Vegas.
- Dịch vụ này kiểm tra và xác nhận phản hồi của mô hình AI bằng cách đối chiếu với thông tin do khách hàng cung cấp.
- AWS tuyên bố rằng Automated Reasoning checks là công cụ “đầu tiên” và “duy nhất” bảo vệ chống lại ảo giác, mặc dù nhiều tính năng tương tự đã có sẵn từ Microsoft và Google.
- Tính năng này gần giống với chức năng Correction của Microsoft và công cụ của Google trong Vertex AI, cho phép khách hàng “định hình” mô hình bằng thông tin từ các nhà cung cấp bên thứ ba.
- Automated Reasoning checks hoạt động thông qua dịch vụ lưu trữ mô hình Bedrock, cụ thể là công cụ Guardrails, giúp xác minh cách mà mô hình đưa ra câu trả lời.
- Khi mô hình tạo ra câu trả lời, dịch vụ sẽ kiểm tra và nếu có khả năng xảy ra ảo giác, nó sẽ dựa vào thông tin thực tiễn để cung cấp câu trả lời chính xác hơn.
- PwC đã sử dụng Automated Reasoning checks để phát triển trợ lý AI cho khách hàng, cho thấy ứng dụng thực tiễn của công cụ này.
- Khách hàng cần tải lên thông tin để thiết lập “sự thật nền tảng”, giúp Automated Reasoning checks tạo ra các quy tắc có thể điều chỉnh và áp dụng cho mô hình.
- Tổng số khách hàng của Bedrock đã tăng gấp 4.7 lần trong năm qua, với hàng chục nghìn khách hàng.
- Tuy nhiên, các chuyên gia cảnh báo rằng việc loại bỏ ảo giác khỏi AI là một thách thức rất lớn, giống như việc cố gắng loại bỏ hydro khỏi nước.
- AWS cũng công bố công cụ Model Distillation, giúp chuyển giao năng lực từ mô hình lớn sang mô hình nhỏ hơn để tiết kiệm chi phí và thời gian.
- Model Distillation chỉ hoạt động với các mô hình lưu trữ trên Bedrock từ Anthropic và Meta, yêu cầu người dùng chọn mô hình lớn và nhỏ từ cùng một “gia đình”.
- Tính năng "hợp tác đa tác nhân" cho phép phân chia công việc cho các AI trong một dự án lớn hơn, tạo cơ hội cho hiệu suất cao hơn.
- Các tính năng mới này hiện đang trong giai đoạn xem trước, và hiệu quả thực tế còn cần được kiểm chứng.

📌 AWS giới thiệu dịch vụ mới Automated Reasoning checks nhằm giảm thiểu ảo giác trong AI, hỗ trợ khách hàng như PwC. Tổng số khách hàng Bedrock tăng gấp 4.7 lần với tính năng Model Distillation cũng được ra mắt. Các công cụ mới này mở ra cơ hội tích cực cho ứng dụng AI trong sản xuất.

https://techcrunch.com/2024/12/03/aws-new-service-tackles-ai-hallucinations/