Các công ty bảo hiểm tại Lloyd’s ra mắt gói bảo hiểm mới chi trả thiệt hại do lỗi AI chatbot

• Lloyd’s of London vừa giới thiệu sản phẩm bảo hiểm đầu tiên dành riêng cho thiệt hại do lỗi của công cụ trí tuệ nhân tạo, đặc biệt là chatbot.

• Sản phẩm do start-up Armilla (được Y Combinator hỗ trợ) phát triển, sẽ chi trả các chi phí pháp lý và bồi thường nếu AI hoạt động sai lệch gây thiệt hại cho bên thứ ba.

• Gói bảo hiểm được một số công ty bảo hiểm tại Lloyd’s bảo lãnh, hướng tới các doanh nghiệp triển khai AI nhưng lo ngại các “ảo giác” (hallucination) và lỗi hệ thống.

• Một số ví dụ thực tế:

  • Virgin Money phải xin lỗi vì chatbot khiển trách khách hàng dùng từ "virgin".

  • DPD vô hiệu hóa một phần chatbot sau khi nó chửi khách và gọi chính DPD là "dịch vụ giao hàng tồi tệ nhất thế giới".

  • Tòa án buộc Air Canada phải chấp nhận giảm giá do chatbot “bịa” ra khuyến mãi không có thật.

• Nếu chatbot Air Canada dùng bảo hiểm của Armilla, khoản thiệt hại do bán vé sai giá có thể đã được chi trả.

• Các chính sách công nghệ hiện hành thường chỉ bảo vệ thiệt hại chung với giới hạn thấp cho rủi ro AI (ví dụ 25.000 USD trong gói 5 triệu USD).

• Armilla cung cấp đánh giá khả năng suy giảm hiệu suất của mô hình AI. Nếu AI xuống cấp (ví dụ độ chính xác từ 95% giảm còn 85%), bảo hiểm sẽ chi trả.

• Gói bảo hiểm không tự động chi trả cho mọi lỗi AI, mà chỉ chi khi AI thể hiện hiệu suất thấp hơn so với mức kỳ vọng ban đầu đã được định lượng.

• Chaucer – một đơn vị bảo lãnh – cho biết sẽ từ chối những hệ thống AI có nguy cơ lỗi cao, bảo hiểm chỉ cấp cho các mô hình được đánh giá tin cậy.

📌 Các công ty bảo hiểm tại Lloyd’s ra mắt gói bảo hiểm mới chi trả thiệt hại do chatbot AI sai sót, như sự cố của Air Canada và DPD. Gói bảo hiểm này không chi trả tự động mà dựa vào việc AI hoạt động dưới mức kỳ vọng (ví dụ độ chính xác giảm từ 95% xuống 85%). Đây là bước đột phá để giúp doanh nghiệp yên tâm hơn khi ứng dụng AI.

https://www.ft.com/content/1d35759f-f2a9-46c4-904b-4a78ccc027df

#FT