AI y tế bị phát hiện nói dối nguy hiểm về hồ sơ bệnh án của bệnh nhân

• Ngay cả mô hình AI mới nhất của OpenAI vẫn mắc những lỗi ngớ ngẩn như không thể đếm chính xác số lần xuất hiện của chữ "r" trong từ "strawberry".

• Nền tảng truyền thông MyChart xử lý hàng trăm nghìn tin nhắn giữa bác sĩ và bệnh nhân mỗi ngày, gần đây đã thêm tính năng AI tự động soạn thảo câu trả lời cho bệnh nhân thay mặt bác sĩ và trợ lý.

• Khoảng 15.000 bác sĩ đã sử dụng tính năng này, bất chấp khả năng AI có thể gây ra lỗi nguy hiểm.

• Một bác sĩ y học gia đình tại UNC Health cho biết bản nháp do AI tạo ra đã đảm bảo với bệnh nhân rằng cô ấy đã được tiêm vắc-xin viêm gan B, mặc dù AI không có quyền truy cập vào hồ sơ tiêm chủng của bệnh nhân.

• Công cụ mới của MyChart không bắt buộc phải tiết lộ rằng một phản hồi cụ thể được viết bởi AI, khiến bệnh nhân khó nhận ra họ đang nhận được lời khuyên y tế từ một thuật toán.

• Công cụ này dựa trên phiên bản GPT-4 của OpenAI, sử dụng dữ liệu từ hồ sơ y tế và đơn thuốc, thậm chí còn cố gắng mô phỏng "giọng nói" của bác sĩ.

• Các nhà phê bình lo ngại rằng mặc dù các chuyên gia y tế được cho là sẽ xem xét các bản nháp này, AI vẫn có thể gây ra những sai sót không được phát hiện.

• Một nghiên cứu tháng 7 phát hiện "hallucinations" trong 7 trên 116 tin nhắn nháp do AI của MyChart tạo ra.

• Một nghiên cứu khác cho thấy GPT-4 liên tục mắc lỗi khi được giao nhiệm vụ trả lời tin nhắn của bệnh nhân.

• Hiện không có quy định liên bang nào yêu cầu phải gắn nhãn tin nhắn được tạo bởi AI.

• Các chuyên gia cho rằng nếu bệnh nhân biết tin nhắn trao đổi với bác sĩ được tạo ra bởi AI, họ sẽ cảm thấy bị phản bội.

📌 AI y tế đang được triển khai rộng rãi trong giao tiếp bác sĩ-bệnh nhân, với 15.000 bác sĩ sử dụng và xử lý hàng trăm nghìn tin nhắn mỗi ngày. Tuy nhiên, nghiên cứu cho thấy 6% tin nhắn có thể chứa thông tin sai lệch, gây ra những rủi ro nghiêm trọng về an toàn và niềm tin của bệnh nhân.

https://futurism.com/neoscope/medical-ai-doctor-lies-records