Người đứng đầu bộ phận đạo đức AI của Sony nhìn thấy con đường tập trung vào người sáng tạo
- Alice Xiang, người đứng đầu AI ethics tại Sony, đã làm việc để tạo ra một quy trình đạo đức AI ngay từ đầu trong quá trình phát triển AI tại Sony và trong cộng đồng AI rộng lớn hơn.
- Cô tập trung vào việc thu thập dữ liệu có trách nhiệm, nhấn mạnh tầm quan trọng của việc xem xét toàn bộ chu kỳ phát triển AI, chứ không chỉ là các vấn đề đạo đức AI ở điểm cuối cùng.
- Một lĩnh vực đặc biệt nhạy cảm mà Xiang đề cập đến là "human-centric computer vision", tức là hệ thống nhận diện máy tính tập trung vào hình ảnh con người.
- Cô chỉ ra rằng việc thu thập dữ liệu hiện tại trong lĩnh vực này chưa tốt, với các bộ dữ liệu lớn được thu thập từ web không xem xét đến các khía cạnh đạo đức như quyền riêng tư và công bằng.
- Xiang khẳng định rằng hầu hết các bộ dữ liệu chính thống đều chủ yếu tập trung vào Mỹ, dẫn đến thiên lệch. Ví dụ, mô hình nhận diện đối tượng thường hoạt động kém hiệu quả ở các nước thu nhập thấp hơn so với các nước thu nhập cao hơn.
- Sony đang tìm cách tạo ra bộ dữ liệu cảm thấy đạo đức ở tất cả các khía cạnh, và Xiang tin rằng với nỗ lực tiếp tục, họ sẽ có thêm thông tin về việc thu thập dữ liệu đạo đức trong tương lai.
📌 Alice Xiang của Sony nhấn mạnh tầm quan trọng của việc xây dựng quy trình phát triển AI dựa trên đạo đức ngay từ đầu và đang nỗ lực giải quyết vấn đề thiên lệch trong dữ liệu liên quan đến hình ảnh con người, với mong muốn tạo ra bộ dữ liệu công bằng và đạo đức trong tương lai. Cô cũng chỉ ra những thiếu sót trong việc thu thập dữ liệu hiện nay, đặc biệt là sự thiên lệch về địa lý và văn hóa, mà Sony đang cố gắng khắc phục.