Cựu nhân viên OpenAI cảnh báo chuyển sang mô hình lợi nhuận có thể gây nguy hiểm

• William Saunders, cựu kỹ sư nghiên cứu tại OpenAI, bày tỏ lo ngại về kế hoạch chuyển đổi OpenAI thành công ty vì lợi nhuận, có thể khuyến khích startup này cắt giảm các biện pháp an toàn AI.

• Saunders lo ngại việc hội đồng quản trị phi lợi nhuận không còn kiểm soát các quyết định và CEO Sam Altman có thể nắm giữ cổ phần, tạo động lực để đua tranh và cắt giảm an toàn.

• OpenAI ban đầu được thành lập là tổ chức phi lợi nhuận, cam kết phát triển trí tuệ nhân tạo tổng quát (AGI) vì lợi ích của toàn nhân loại. Tuy nhiên, tiềm năng của AGI đã gây lo ngại cho các chuyên gia.

• Saunders rời OpenAI vì "mất niềm tin" rằng công ty sẽ đưa ra quyết định có trách nhiệm về AGI. Anh từng là thành viên nhóm superalignment, nhóm đảm bảo hệ thống AI mạnh mẽ tuân theo giá trị và mục tiêu của con người.

• Chuyển sang mô hình vì lợi nhuận có thể làm suy yếu mục tiêu của cấu trúc hiện tại, trong đó OpenAI có một đơn vị sinh lời giới hạn lợi nhuận cho nhà đầu tư và nhân viên. Lợi nhuận vượt mức trần được trả lại cho tổ chức phi lợi nhuận.

• OpenAI đang cân nhắc tái cấu trúc thành công ty lợi ích công cộng, không giới hạn lợi nhuận nhưng cam kết tạo ra tác động tích cực cho xã hội. Tổ chức phi lợi nhuận sẽ nắm giữ cổ phần trong doanh nghiệp mới.

• Có báo cáo cho rằng Altman có thể được cấp 7% cổ phần OpenAI, công ty đang tìm kiếm 6,5 tỷ USD đầu tư với định giá có thể lên tới 150 tỷ USD. Tuy nhiên, chủ tịch Bret Taylor nói rằng chưa có con số cụ thể nào được thảo luận.

• OpenAI gần đây đã biến ủy ban an toàn và bảo mật thành một thực thể độc lập, đồng thời Altman cũng từ chức thành viên ủy ban này.

📌 OpenAI chuyển sang mô hình vì lợi nhuận gây lo ngại về an toàn AI. Cựu nhân viên William Saunders cảnh báo việc này có thể khuyến khích cắt giảm an toàn. Công ty đang cân nhắc tái cấu trúc, với khả năng CEO Sam Altman nắm giữ 7% cổ phần trong doanh nghiệp trị giá 150 tỷ USD.

https://www.theguardian.com/technology/2024/sep/27/openai-shift-to-for-profit-company-may-lead-it-to-cut-corners-says-whistleblower