Google DeepMind thành lập một tổ chức mới tập trung vào an toàn AI

- Google DeepMind đã thông báo thành lập tổ chức mới AI Safety and Alignment với mục tiêu tăng cường an toàn AI.
- Tổ chức này bao gồm các đội ngũ hiện có và mở rộng nhiệm vụ phát triển các biện pháp bảo vệ cho mô hình Gemini của Google, cả hiện tại và đang phát triển.
- Một số trọng tâm ngắn hạn của tổ chức bao gồm ngăn chặn thông tin y tế sai lệch, đảm bảo an toàn cho trẻ em và ngăn chặn sự gia tăng của định kiến và bất công khác.
- Các công cụ GenAI của Google, như mô hình Gemini, có thể tạo ra nội dung lừa đảo hoặc thông tin sai lệch nếu được nhắc nhở đúng cách.
- Sự phản ứng từ các nhà hoạch định chính sách đã thúc đẩy Google đầu tư vào an toàn AI, đặc biệt sau khi công ty giảm bớt hàng nghìn việc làm so với quý tài chính trước.
- Tổ chức mới này có sứ mệnh tương tự như đội Superalignment của đối thủ OpenAI, và sẽ làm việc cùng với đội nghiên cứu an toàn AI có trụ sở tại London của DeepMind, Scalable Alignment.
- Scalable Alignment đang khám phá giải pháp cho thách thức kỹ thuật kiểm soát AI siêu thông minh chưa được hiện thực hóa.

📌 Google DeepMind đã chính thức thành lập tổ chức AI Safety and Alignment nhằm đối phó với những thách thức về an toàn AI, đặc biệt là với mô hình Gemini. Tổ chức này sẽ tập trung vào việc phát triển các biện pháp bảo vệ để ngăn chặn thông tin y tế sai lệch, bảo vệ trẻ em và chống lại sự gia tăng của định kiến và bất công. Sự ra đời của tổ chức này là phản ứng trước áp lực từ các nhà hoạch định chính sách và là bước đi quan trọng của Google trong việc đầu tư vào an toàn AI, sau khi công ty đã cắt giảm đáng kể số lượng nhân sự. Tổ chức này cũng sẽ làm việc cùng với đội Scalable Alignment tại London, nghiên cứu về cách kiểm soát AI siêu thông minh trong tương lai.

Citations:
[1] https://techcrunch.com/2024/02/21/google-deepmind-forms-a-new-org-focused-on-ai-safety/