- 16 công ty quốc tế, bao gồm Zhipu.ai từ Trung Quốc và Viện Đổi mới Công nghệ từ UAE, đã cam kết tuân thủ các tiêu chuẩn an toàn AI tự nguyện được đưa ra tại hội nghị thượng đỉnh Bletchley Park.
- Tuy nhiên, các tiêu chuẩn này bị chỉ trích là thiếu răng, tức là thiếu các biện pháp thực thi mạnh mẽ và hiệu quả. Các công ty chỉ cam kết làm việc hướng tới chia sẻ thông tin, đầu tư an ninh mạng và ưu tiên nghiên cứu về rủi ro xã hội, nhưng không có cơ chế giám sát hay chế tài cụ thể.
- Sự tham gia của các công ty từ Trung Quốc và UAE, những quốc gia ít sẵn sàng ràng buộc các công ty quốc gia tuân thủ quy định an toàn, được coi là một lợi ích của cách tiếp cận nhẹ nhàng hơn trong các tiêu chuẩn tự nguyện.
- Bộ trưởng Công nghệ Anh Michelle Donovan nhấn mạnh rằng sự kiện Seoul đã mở rộng cuộc trò chuyện về an toàn AI, thu hút sự tham gia của các công ty từ khắp nơi trên thế giới.
- Tuy nhiên, Fran Bennett, giám đốc lâm thời của Viện Ada Lovelace, cảnh báo rằng các công ty có thể dễ dàng bỏ qua các quy tắc tự nguyện nếu không có quy định và thể chế giám sát. Bà cho rằng cần có các biện pháp mạnh mẽ hơn để vạch ra ranh giới an toàn từ góc độ của những người bị ảnh hưởng, chứ không chỉ từ góc nhìn của các công ty.
- Bà Bennett cũng chỉ trích sự thiếu minh bạch về dữ liệu đào tạo AI. Ngay cả với các tiêu chuẩn an toàn, các công ty vẫn có thể giữ bí mật hoàn toàn về dữ liệu họ sử dụng để đào tạo mô hình, bất chấp những rủi ro đã biết từ các nguồn dữ liệu thiên vị hoặc không đầy đủ.
- Bà Donovan lập luận rằng các viện an toàn AI như ở Anh có đủ quyền truy cập để minh bạch dữ liệu là không cần thiết. Tuy nhiên, điều này vẫn chưa giải quyết được lo ngại về tính minh bạch và trách nhiệm giải trình.
- OpenAI, một trong những bên ký kết, cho biết các tiêu chuẩn đại diện cho "một bước quan trọng hướng tới việc thúc đẩy việc thực hiện rộng rãi hơn các thực hành an toàn cho các hệ thống AI tiên tiến".
- Sự hiện diện của các bên ký kết từ Trung Quốc và UAE được coi là minh chứng cho vai trò lãnh đạo của Anh trong lĩnh vực an toàn AI, vì một nỗ lực do Mỹ dẫn đầu sẽ khó được coi là trung lập.
📌 16 công ty quốc tế đã cam kết tuân thủ các tiêu chuẩn an toàn AI tự nguyện, tuy nhiên bị chỉ trích là thiếu "răng", tức thiếu các biện pháp thực thi mạnh mẽ và hiệu quả. Sự tham gia của các công ty từ Trung Quốc và UAE cho thấy vai trò dẫn đầu của Anh, nhưng các chuyên gia kêu gọi cần có quy định, thể chế giám sát và tính minh bạch để đảm bảo an toàn từ góc nhìn của những người chịu ảnh hưởng, chứ không chỉ dựa vào cam kết tự nguyện của các công ty.
https://www.theguardian.com/technology/article/2024/may/21/first-companies-sign-up-ai-safety-standards-seoul-summit