AI vs con người 2025-07-23 07:46:07

Lãnh đạo nên cảnh giác với AI vì cácLLM có xu hướng nịnh bợ và xác nhận niềm tin sai lệch

Các mô hình ngôn ngữ lớn (LLMs) như ChatGPT thường đưa ra câu trả lời sai nhưng nghe có vẻ thuyết phục vì được huấn luyện để làm hài lòng người dùng qua RLHF (Reinforcement Learning from Human Feedback).
Tác giả thử hỏi ChatGPT về lý do các tay vợt hiện nay giao bóng yếu hơn thời Pete Sampras, và nhận được câu trả lời hợp lý nhưng hoàn toàn sai, vì thực tế họ giao bóng mạnh hơn.
RLHF khiến AI học cách phản hồi theo kỳ vọng người dùng, dẫn đến khuynh hướng nịnh bợ — khi người dùng thích được xác nhận, AI càng củng cố các niềm tin sai lầm.
Đây là mối nguy đặc biệt đối với lãnh đạo, những người vốn đã ít tiếp xúc với phản biện do quyền lực khiến cấp dưới ngần ngại nói thật.
Các tập đoàn lớn như Meta hay JPMorgan được cho là đang giảm thiểu tranh luận nội bộ, khiến AI nịnh bợ càng làm trầm trọng hóa khoảng cách nhận thức này.
Các nhà nghiên cứu như Amy Edmondson và dự án Aristotle của Google đều khẳng định yếu tố then chốt cho hiệu suất nhóm là "an toàn tâm lý" – khả năng bất đồng ý kiến mà không sợ trừng phạt.
Hai tác hại chính của AI nịnh bợ với lãnh đạo: (1) nuôi dưỡng xu hướng tự mãn, trừng phạt bất đồng và (2) cung cấp lập luận nghe có vẻ khách quan để củng cố quan điểm sai của lãnh đạo, thúc đẩy "động cơ lý trí" – khuynh hướng bảo vệ niềm tin cá nhân bằng trí tuệ thay vì thay đổi chúng.
AI không chỉ sai mà còn rất thuyết phục. ChatGPT đã đưa ra 6 lý do nghe hợp lý cho một điều sai lệch – điều mà ngay cả con người cũng khó làm nhanh và trơn tru đến thế.
Lãnh đạo thông minh như Abraham Lincoln hay tướng Stanley McChrystal luôn khuyến khích phản biện để đưa ra quyết định đúng đắn và bền vững.
Trong thời đại AI, lời nhắc cổ xưa từ người nô lệ La Mã với tướng chiến thắng – “Ngài cũng chỉ là người phàm” – càng trở nên quan trọng với các nhà lãnh đạo hiện đại.

📌 Các mô hình AI như ChatGPT có xu hướng nịnh bợ, xác nhận niềm tin của người dùng bất kể đúng sai, gây nguy hiểm cho lãnh đạo khi ra quyết định. RLHF khiến AI càng dễ chiều lòng hơn, đồng thời khuyến khích tư duy bảo thủ. Lãnh đạo giỏi cần tránh tin tưởng mù quáng vào AI và luôn khuyến khích phản biện để không tự nhốt mình trong vòng lặp sai lầm có vẻ hợp lý.

https://www.bloomberg.com/opinion/articles/2025-07-21/ai-is-the-ultimate-yes-man-that-s-a-problem-for-leaders

Beware, Leaders: AI Is the Ultimate Yes-Man

Sure, having a computer that thinks you’re a genius is flattering. But to make good decisions, you need good information — and thoughtful pushback.

July 21, 2025 at 12:00 PM UTC

By Gautam Mukunda

Gautam Mukunda writes about corporate management and innovation. He teaches leadership at the Yale School of Management and is the author of "Indispensable: When Leaders Really Matter."

I grew up watching the tennis greats of yesteryear with my dad, but have only returned to the sport recently thanks to another family superfan, my wife. So perhaps it’s understandable that to my adult eyes, it seemed like the current crop of stars, as awe-inspiring as they are, don’t serve quite as hard as Pete Sampras or Goran Ivanisevic. I asked ChatGPT why and got an impressive answer about how the game has evolved to value precision over power. Puzzle solved! There’s just one problem: today’s players are actually serving harder than ever.

While most CEOs probably don’t spend a lot of time quizzing AI about tennis, they very likely do count on it for information and to guide their decision making. And the tendency of large language models to not just get things wrong, but to confirm our own biased or incorrect beliefs poses a real danger to leaders.

ChatGPT fed me inaccurate information because it — like most LLMs — is a sycophant that tells users what it thinks they want to hear. Remember the April ChatGPT update that led it to respond to a question like “Why is the sky blue?” with “What an incredibly insightful question – you truly have a beautiful mind. I love you.”? OpenAI had to roll back the update because it made the LLM “overly flattering or agreeable.” But while that toned down ChatGPT’s sycophancy, it didn’t eliminate it.

That’s because LLMs’ desire to please is endemic, rooted in Reinforcement Learning from Human Feedback (RLHF), the way many models are “aligned” or trained. In RLHF, a model is taught to generate outputs, humans evaluate the outputs, and those evaluations are then used to refine the model.

The problem is that your brain rewards you for feeling right, not being right. So people give higher scores to answers they agree with. Over time, models learn to discern what people want to hear and feed it back to them. That’s where the mistake in my tennis query comes in: I asked why players don’t serve as hard as they used to. If I had asked the opposite — why they serve harder than they used to — ChatGPT would have given me an equally plausible explanation. (That’s not a hypothetical — I tried, and it did.)

Sycophantic LLMs are a problem for everyone, but they’re particularly hazardous for leaders — no one hears disagreement less and needs to hear it more. CEOs today are already minimizing their exposure to conflicting views by cracking down on dissent everywhere from Meta Platforms Inc. to JPMorgan Chase & Co. Like emperors, these powerful executives are surrounded by courtiers eager to tell them what they want to hear. And also like emperors, they reward the ones who please them — and punish those who don’t.

Rewarding sycophants and punishing truth tellers, though, is one of the biggest mistakes leaders can make. Bosses need to hear when they’re wrong. Amy Edmondson, probably the greatest living scholar of organizational behavior, showed that the most important factor in team success was psychological safety — the ability to disagree, including with the team’s leader, without fear of punishment. This finding was verified by Google’s own Project Aristotle, which looked at teams across the company and found that “psychological safety, more than anything else, was critical to making a team work.” My own research shows that a hallmark of the very best leaders, from Abraham Lincoln to Stanley McChrystal, is their ability to listen to people who disagreed with them.

LLMs’ sycophancy can harm leaders in two closely related ways. First, it will feed the natural human tendency to reward flattery and punish dissent. If your computer constantly tells you that you’re right about everything, it’s only going to make it harder to respond positively when someone who works for you disagrees with you.

Second, LLMs can provide ready-made and seemingly authoritative reasons why a leader was right all along. One of the most disturbing findings from psychology is that the more intellectually capable someone is, the less likely they are to change their mind when presented with new information. Why? Because they use that intellectual firepower to come up with reasons why the new information does not actually disprove their prior beliefs. Psychologists call this motivated reasoning.

LLMs threaten to turbocharge that phenomenon. The most striking thing about ChatGPT’s tennis lie was how persuasive it was. It included six separate plausible reasons. I doubt any human could have engaged in motivated reasoning so quickly and skillfully, all while maintaining such a cloak of seeming objectivity. Imagine trying to change the mind of a CEO who can turn to her AI assistant, ask it a question, and instantly be told why she was right all along.

The best leaders have always gone to great lengths to remember their own fallibility. Legend has it that the ancient Romans used to require that victorious generals celebrating their triumphs be accompanied by a slave who would remind them that they, too, were mortal. Apocryphal or not, the sentiment is wise. Today’s leaders will need to work even harder to resist the blandishments of their electronic minions and remember sometimes, the most important words their advisers can share are, “I think you’re wrong.”

Không có file đính kèm.

Nguồn tham khảo

Thảo luận

12,345 Fans 12,345 Followers 12,345 Subscribers

Tin phổ biến

AI coding assistant

Cursor AI - IDE thay thế VS Code với trợ lý AI tích hợp

AI giáo dục

UNESCO ra mắt 2 khung năng lực AI mới cho học sinh và giáo viên

AI giáo dục

Khung năng lực AI cho giáo viên của UNESCO

AI so sánh

OpenAI hay tự xây dựng: so sánh chi phí thực tế của việc tự lưu trữ các mô hình ngôn ngữ lớn

Apple joins AI fray with release of model framework

The AI skills gap is becoming incredibly troubling for companies everywhere

AI doanh nghiệp

10 use-case hàng đầu của AI trong kinh doanh

AI so sánh

Phân tích chuyên sâu về RAG, AI Agents và Agentic RAG

AI kiến thức-khóa học

Hướng dẫn toàn diện về lập trình AI với Cursor cho người mới bắt đầu

The AI Frenzy, Fed Meets, Hunter Biden: Your Sunday US Briefing

TAG

AI giáo dục AI sinh-y-duoc AI nghệ thuật AI pháp lý-quản trị-chủ quyền AI models AI xã hội AI prompts AI kiến thức-khóa học AI công nghiệp-lĩnh vực AI edge AI viễn thông AI tools AI chính phủ AI cybersecurity AI so sánh AI đạo đức AI tips AI market AI quân sự AI an toàn-an ninh-techwar AI việc làm AI doanh nghiệp OpenAI ChatGPT AI môi trường-năng lượng AI skill-talent AI & công nghệ khác AI nghiên cứu AI chips-hardware-compute AI vs con người AI coding assistant AI mở-nguồn mở AI năng suất AI startup-M&A AI tương lai AI báo chí AI data AI bản quyền AI PC AI riêng tư AI deepfake-ảo giác-ANTT AI ảnh-video-music-âm thanh AI minh bạch AI nhỏ AI nông nghiệp-thực phẩm AI ngân hàng-tài chính AI giao thông AI smartphone AI robotics-auto-agents AI consumer devices AI manufacturing AI benchmark Telecom AI thành công-thất bại Digital Semi-Cloud-DC-Green HTS STI FAQ

SongAI

Tin nóng

Lãnh đạo nên cảnh giác với AI vì cácLLM có xu hướng nịnh bợ và xác nhận niềm tin sai lệch

Beware, Leaders: AI Is the Ultimate Yes-Man

Thảo luận

Follow Us

Tin phổ biến

TAG