Chúng ta tin tưởng vào AI quá nhiều?

- Trong một thử nghiệm sơ tán khẩn cấp năm 2011, ngay cả khi robot dẫn đường đi sai hướng, mọi người vẫn đi theo nó dù có thể nhìn thấy lối thoát hiểm. Điều này cho thấy con người tin tưởng quá mức vào công nghệ.
- Thách thức lớn về mối quan hệ giữa công nghệ và lòng tin là chúng ta tin tưởng thái quá, khiến bản thân dễ bị tổn thương trước những sai lầm của công nghệ. 
- Các công ty công nghệ, đặc biệt trong lĩnh vực AI, cần tìm cách kết hợp chỉ số cảm xúc của con người (EQ) với công nghệ để cung cấp tín hiệu cho mọi người đặt nghi vấn. Người dùng cũng phải luôn cảnh giác.
- Nhiều người đã sử dụng ChatGPT để làm việc dù biết nó có thể mắc sai lầm. Một luật sư bị thẩm phán chỉ trích vì đệ trình bản tóm tắt chứa trích dẫn pháp lý hoàn toàn bịa đặt bởi ChatGPT.
- Cần có quy định và tiêu chuẩn cho AI tương tự như quy định về bóng đèn điện khi mới ra đời để đảm bảo an toàn. Hiện tại bất kỳ ai cũng có thể tham gia tạo sản phẩm AI.
- Chính sách và quy định sẽ rất quan trọng để xây dựng lòng tin với AI. Nhiều quốc gia và bang đang có động thái xây dựng quy định về AI.
- Người dùng AI cần chú ý hơn đến việc nó có thể đưa ra kết quả sai lệch hoàn toàn bất cứ lúc nào. Các mô hình ngôn ngữ lớn (LLM) như ChatGPT sẽ cải thiện độ chính xác lên 99-99.9% trong 3 năm tới.
- Cần để AI thừa nhận khi nó không chắc chắn và truyền đạt điều đó cho người dùng. Thậm chí nên buộc AI giảm mức độ dịch vụ nếu người dùng bỏ qua sự thừa nhận về giới hạn của nó.
- Cần thiết kế tương tác với AI dựa trên giả định rằng nó có ý đồ xấu, tương tự cách mọi người giả định hệ thống mạng và dữ liệu chắc chắn sẽ bị hack.
- Các nhà công nghệ cần hợp tác với các nhà khoa học xã hội, sử học để làm nổi bật cả mặt tích cực và tiêu cực của công nghệ.

📌 Trong một thử nghiệm sơ tán khẩn cấp năm 2011, ngay cả khi robot dẫn đường đi sai hướng, mọi người vẫn đi theo nó dù có thể nhìn thấy lối thoát hiểm. Điều này cho thấy con người tin tưởng quá mức vào công nghệ. Để xây dựng lòng tin với AI, cần có quy định chặt chẽ hơn, hệ thống chính xác hơn, sự trung thực về khả năng đoán mò câu trả lời, và sự cảnh giác cao hơn từ phía người dùng. Các công ty công nghệ cũng cần hợp tác đa ngành để làm rõ cả cơ hội và rủi ro mà công nghệ mang lại.

Citations:
[1] https://sloanreview.mit.edu/article/in-ai-we-trust-too-much/

#MIT