WHO ra mắt chatbot AI SARAH nhưng đưa nhiều thông tin y tế sai lệch

- Tổ chức Y tế Thế giới (WHO) đang ứng dụng trí tuệ nhân tạo (AI) để cung cấp thông tin y tế cơ bản thông qua chatbot có tên SARAH.
- SARAH có thể truy cập 24/7 bằng 8 ngôn ngữ, đề cập các chủ đề như sức khỏe tâm thần, sử dụng thuốc lá, dinh dưỡng lành mạnh.
- SARAH là một phần trong sứ mệnh của WHO nhằm tận dụng công nghệ cho giáo dục và giải quyết tình trạng thiếu nhân lực y tế toàn cầu. 
- Tuy nhiên, WHO cảnh báo trên website rằng SARAH, ra mắt ngày 2/4, có thể đưa ra những phản hồi không chính xác do dữ liệu huấn luyện lỗi thời và đôi khi tạo ra câu trả lời không phù hợp (hallucination), có thể lan truyền thông tin sai lệch về y tế công cộng.
- SARAH không có tính năng chẩn đoán như WebMD hay Google, mà chỉ tuân thủ nghiêm ngặt phạm vi của WHO, từ chối thảo luận về các loại thuốc cụ thể hoặc các vấn đề ngoài phạm vi.
- Giám đốc sức khỏe số và đổi mới của WHO cho rằng công nghệ này chưa thể thay thế tương tác con người hay tư vấn y tế chuyên nghiệp.
- SARAH được huấn luyện trên ChatGPT 3.5 của OpenAI, sử dụng dữ liệu đến tháng 9/2021, khiến phản hồi của cô lỗi thời về một số khuyến cáo y tế và tin tức.
- Trong một số trường hợp, SARAH không thể đưa ra câu trả lời, ví dụ khi được hỏi về địa điểm chụp X-quang vú ở Washington, DC. 
- Một nghiên cứu năm ngoái của Trung tâm Y tế Đại học Vanderbilt cho thấy ChatGPT trả lời đúng hầu hết các câu hỏi y tế nhưng sai trong nhiều trường hợp.
- Khác với chatbot y tế Florence trước đây có hình ảnh phụ nữ trẻ da màu, SARAH có vẻ ngoài da trắng. WHO cho biết có thể thay đổi diện mạo của SARAH và người dùng có thể chọn avatar trong tương lai.

📌 Tổ chức Y tế Thế giới ra mắt chatbot SARAH để cung cấp thông tin y tế cơ bản bằng AI, tuy nhiên cô đang đưa ra nhiều câu trả lời y tế sai lệch do dữ liệu huấn luyện lỗi thời. Điều này gây lo ngại về việc lan truyền thông tin sai lệch liên quan đến sức khỏe cộng đồng. Tổ chức Y tế Thế giới khẳng định công nghệ này chưa thể thay thế tư vấn y tế chuyên nghiệp.

Citations:
[1] https://fortune.com/2024/04/18/who-new-ai-powered-chatbot-sarah-basic-health-information-giving-wrong-medical-answers/