OpenAI và Anthropic chia sẻ mô hình AI với Viện An toàn AI Hoa Kỳ trước và sau khi phát hành

• OpenAI và Anthropic PBC đã đồng ý chia sẻ các mô hình AI với Viện An toàn AI Hoa Kỳ trước và sau khi phát hành.

• Viện An toàn AI Hoa Kỳ trực thuộc Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) thuộc Bộ Thương mại Hoa Kỳ, được thành lập thông qua sắc lệnh của Tổng thống Biden vào năm 2023.

• Mục tiêu của Viện là thiết lập hướng dẫn an toàn, thực hành tốt và đánh giá các hệ thống AI tiềm ẩn nguy hiểm.

• Viện sẽ có quyền truy cập sớm vào bất kỳ sản phẩm nào mà OpenAI và Anthropic tạo ra, cũng như quyền truy cập sau khi sản phẩm được đưa ra thị trường.

• Viện cũng sẽ cung cấp phản hồi cho đối tác tương đương ở Vương quốc Anh.

• Elizabeth Kelly, Giám đốc Viện An toàn AI Hoa Kỳ, nhấn mạnh tầm quan trọng của an toàn trong việc thúc đẩy đổi mới công nghệ đột phá.

• Thỏa thuận này được xem là bước khởi đầu quan trọng trong việc quản lý tương lai của AI một cách có trách nhiệm.

• Mối đe dọa hiện hữu mà AI có thể gây ra cho nhân loại đã là một chủ đề gây tranh cãi từ lâu, trước cả khi có sự gia tăng gần đây trong việc sử dụng AI tạo sinh.

• Một bức thư ngỏ được ký bởi các nhà nghiên cứu hiện tại và cựu nhân viên từ OpenAI, Google DeepMind và Anthropic vào tháng 6 đã kêu gọi tăng cường tính minh bạch và giám sát để bảo vệ công chúng khỏi các sản phẩm AI có khả năng gây hại.

• Các nhà nghiên cứu cảnh báo rằng "động lực tài chính mạnh mẽ" có thể dẫn đến thiếu "giám sát hiệu quả" và các công ty AI hàng đầu ở Hoa Kỳ có thể không tự nguyện chia sẻ thông tin.

• Sam Altman, CEO của OpenAI, nhấn mạnh tầm quan trọng của việc này ở cấp quốc gia và cho rằng Hoa Kỳ cần tiếp tục dẫn đầu.

• Jack Clark, đồng sáng lập và Trưởng bộ phận Chính sách của Anthropic, cho biết thỏa thuận này sẽ tăng cường khả năng xác định và giảm thiểu rủi ro, thúc đẩy phát triển AI có trách nhiệm.

📌 OpenAI và Anthropic đã đồng ý chia sẻ mô hình AI với Viện An toàn AI Hoa Kỳ, nhằm tăng cường an toàn và giám sát trong phát triển AI. Thỏa thuận này được xem là bước đi quan trọng để quản lý tương lai AI một cách có trách nhiệm, đồng thời đáp ứng các lo ngại về tính minh bạch và giám sát trong ngành công nghiệp AI.

https://siliconangle.com/2024/08/29/us-ai-safety-institute-will-access-openai-anthropic-safer-ai-led-future/