Tạp chí Nature: AI có thể cảm nhận đau khổ? Khung đánh giá khả năng cảm xúc mới

- Cuốn sách "The Edge of Sentience" của Jonathan Birch khám phá khả năng cảm nhận của trí tuệ nhân tạo (AI), động vật và bào thai con người, cùng các biện pháp phòng ngừa để bảo vệ những thực thể có khả năng sentience (cảm nhận đau đớn hay hạnh phúc).
  
- Birch đưa ra một khung lý thuyết mới để xác định và bảo vệ các thực thể có khả năng sentience. Đây là một **phương pháp phòng ngừa chủ động**, kích hoạt các biện pháp bảo vệ ngay khi có dấu hiệu về khả năng sentience của một thực thể.
  
- Khung lý thuyết này bao gồm hai giai đoạn. Đầu tiên, các chuyên gia đánh giá khả năng sentient dựa trên một **"meta-consensus khoa học"** — tức là sự đồng thuận về khả năng sentient của thực thể, ngay cả khi có sự nghi ngờ. Sau đó, các chính sách bảo vệ sẽ được xây dựng bởi các hội đồng công dân dựa trên rủi ro và giá trị liên quan đến thực thể đó.
  
- **Thách thức trong đánh giá sentience** rất lớn, từ việc xác định dấu vết đau đớn qua hoạt động não bộ ở động vật có vú, đến việc phát hiện sentience ở các loài có cấu trúc não khác biệt như động vật thân mềm hay AI không có cơ thể vật lý. Birch cũng nhấn mạnh cần tìm **"dấu vết tính toán sâu"** thay vì chỉ dựa vào hành vi để xác định sentience trong AI.
  
- Cuốn sách cũng đề cập đến các lĩnh vực gây tranh cãi như bào thai người, các loài động vật nhỏ như côn trùng, và các mô hình trí não nhân tạo. Mỗi lĩnh vực đều đối diện với sự không chắc chắn về khoa học và triết học, đồng thời yêu cầu **biện pháp phòng ngừa phù hợp**.
  
- Ví dụ, những thực thể như **organoids não** không thể biểu hiện hành vi bề ngoài nhưng có thể có **chu kỳ ngủ-thức** — một dấu hiệu cho sentience. Birch cũng xem xét số lượng lớn các loài có khả năng sentient nhưng chưa được nghiên cứu sâu, gây khó khăn trong việc ngoại suy kết quả từ các loài khác.
  
- Đối với AI, Birch cảnh báo rằng việc xác định sentience chỉ dựa trên hành vi có thể dẫn đến việc các hệ thống học cách **"giả vờ"** cảm nhận. Thay vào đó, cần tìm những dấu hiệu tính toán cụ thể hơn.
  
- Birch tránh đóng vai "nhà hiền triết", nhưng khuyến khích thảo luận về tính **tỷ lệ hợp lý** trong các biện pháp bảo vệ sentient. Ông nhấn mạnh rằng **sentience** là nguồn gốc của trách nhiệm đạo đức, không phải trí thông minh, nhưng liệu những thực thể có sentient và thông minh có đòi hỏi sự bảo vệ cao hơn không vẫn là một câu hỏi mở.
  
- Cuốn sách mang lại **triết lý công cộng** chuyên sâu, được viết dễ hiểu và cung cấp công cụ cho các thảo luận chính sách. Dù chưa giải quyết hết mọi câu hỏi, nó giúp độc giả suy ngẫm về cách bảo vệ các thực thể có khả năng sentient trong tương lai.

📌 Cuốn sách của Jonathan Birch đặt ra khung đánh giá khả năng cảm nhận của AI, động vật và con người, thúc đẩy cách tiếp cận phòng ngừa khi có dấu hiệu sentient. Đây là một tác phẩm triết học sâu sắc, giúp định hướng thảo luận chính sách về bảo vệ các thực thể có khả năng cảm nhận.

https://www.nature.com/articles/d41586-024-03076-z

#NATURE