Anthropic tự thiết kế như thế nào để tránh những sai lầm của OpenAI?

- Anthropic có cấu trúc quản trị khác biệt với OpenAI nhằm đảm bảo phát triển AI an toàn, không chạy theo lợi nhuận. Kinh nghiệm làm việc tại OpenAI trước đây khiến các nhà sáng lập Anthropic muốn làm khác đi.

- Anthropic là một công ty lợi ích công cộng (PBC), nghĩa là ngoài nghĩa vụ gia tăng lợi nhuận cho cổ đông, ban giám đốc còn có nhiệm vụ theo đuổi sứ mệnh riêng là phát triển "AI chuyển đổi giúp con người và xã hội phát triển". Điều này giúp ban giám đốc có cơ sở pháp lý để ưu tiên tính an toàn hơn lợi nhuận.

- Anthropic thành lập Quỹ Lợi ích Dài hạn (LTBT) gồm 5 thành viên có chuyên môn về an toàn AI, an ninh quốc gia và doanh nghiệp xã hội. LTBT sẽ dần có quyền bầu đa số thành viên hội đồng quản trị của Anthropic (1/5 vào tháng 7/2023, 2/5 vào tháng 11/2023 và 3/5 trong tương lai).

- LTBT nhận được thông báo trước về các hành động có thể thay đổi đáng kể công ty. LTBT phải sử dụng quyền lực để đảm bảo Anthropic cân bằng hợp lý giữa lợi ích tài chính của cổ đông với lợi ích của những người chịu ảnh hưởng bởi hoạt động của công ty và mục đích lợi ích công cộng.

- Cổ đông sở hữu cổ phiếu có quyền biểu quyết có thể bỏ phiếu đa số để viết lại các quy tắc của LTBT. Tuy nhiên, Amazon và Google không sở hữu cổ phần có quyền biểu quyết trong Anthropic nên không thể làm điều này.

- Anthropic có thể phải đối mặt với sự đánh đổi khó khăn giữa sụp đổ hoàn toàn và thỏa hiệp một phần để gọi vốn từ các công ty công nghệ lớn trong tương lai nhằm theo kịp các đối thủ.

- Cấu trúc quản trị của Anthropic tốt hơn OpenAI nhưng vẫn chưa đủ để đảm bảo phát triển AGI an toàn. Nhiệm vụ thực sự thuộc về chính phủ, những người phải đưa ra các quy định ràng buộc.

📌 Anthropic đã thiết kế một cấu trúc quản trị độc đáo với tư cách công ty lợi ích công cộng và thành lập Quỹ Lợi ích Dài hạn (LTBT) để đảm bảo cân bằng giữa lợi nhuận và sứ mệnh phát triển AI an toàn vì lợi ích xã hội. Tuy nhiên, cấu trúc này vẫn chưa hoàn hảo và có thể phải đối mặt với những đánh đổi khó khăn trong tương lai khi cần huy động thêm vốn để theo kịp các đối thủ. Để thực sự đảm bảo phát triển AI an toàn, cần có sự tham gia điều tiết chặt chẽ của chính phủ thông qua các quy định ràng buộc.

Citations:
https://time.com/6983420/anthropic-structure-openai-incentives/


#TIME

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo