OpenAI thử nghiệm sức mạnh thuyết phục của AI giữa những rủi ro tiềm ẩn
- Sam Altman, CEO của OpenAI, và Arianna Huffington quảng bá Thrive AI, một startup được hỗ trợ bởi Thrive Global và OpenAI's Startup Fund, với tầm nhìn AI có thể tác động tích cực đến sức khỏe cộng đồng bằng cách thuyết phục mọi người có lối sống lành mạnh hơn.
- Aleksander Madry, giáo sư đang nghỉ phép từ MIT, dẫn đầu nhóm Preparedness tại OpenAI nghiên cứu về khả năng thuyết phục của các mô hình AI.
- Nghiên cứu của Anthropic cho thấy các mô hình ngôn ngữ đã trở nên giỏi hơn trong việc thuyết phục mọi người khi chúng phát triển về quy mô và sự tinh vi.
- OpenAI đang phân tích AI trong các cuộc trò chuyện với người dùng, điều này có thể mở ra khả năng thuyết phục lớn hơn. Tuy nhiên, việc nghiên cứu được thực hiện trên những tình nguyện viên đồng ý và kết quả chưa được tiết lộ.
- Bài báo kêu gọi các nhà hoạch định chính sách tạo ra môi trường pháp lý thúc đẩy đổi mới AI đồng thời bảo vệ quyền riêng tư, nhưng cũng cần cân nhắc cách thuật toán ngày càng thuyết phục có thể bị lạm dụng.
- Madry lo ngại rằng các nhà hoạch định chính sách có thể tập trung vào những câu hỏi sai lầm, bỏ qua những mối nguy hiểm tinh vi hơn từ các thuật toán "lưỡi bạc".
📌 OpenAI đang nghiên cứu sức mạnh thuyết phục ngày càng tăng của AI, vừa nhìn thấy tiềm năng tích cực trong lĩnh vực sức khỏe, vừa đối mặt với rủi ro lạm dụng. Các chuyên gia kêu gọi chính sách đổi mới song hành với bảo vệ người dùng, tránh bỏ qua mối nguy từ thuật toán "lưỡi bạc".
https://www.wired.com/story/thrive-ai-openai-artificial-intelligence-persuasion/
Thảo luận
Follow Us
Tin phổ biến
