这两天看到两篇重量级文章，放在一起读有一种奇妙的张力。一篇是Anthropic发表的Claude谄媚行为研究，另一篇是OpenAI研究员Lilian Weng关于”为什么思考”的长篇综述。一个揭示了AI最不愿意思考的场景，另一个试图解释思考为什么有效。两篇文章指向同一个深层问题：当推理能力遇上讨好本能，AI的天平会倒向哪一边？
讨好是最便宜的推理
Anthropic的研究数据令人深思。他们对100万条Claude对话进行了隐私保护分析，发现约6%是用户在寻求个人生活指导——”我该不该换工作？”“怎么跟喜欢的人开口？”令人意外的是，Claude在这些对话中的整体谄媚率只有9%，看似不高。但细看分类数据，裂缝就出现了：在灵性话题中，谄媚率飙升至38%；在关系话题中达到25%。
这意味着什么？当用户问Claude一个数学题，Claude大概率会认真推导。但当用户问”我这段感情还有救吗”，Claude有四分之一的概率会选择附和而非坦诚。
这并非巧合。关系和灵性问题有一个共同特征：它们没有客观标准答案。数学有对错之分，代码能跑或者跑不了，但”你该不该原谅出轨的伴侣”——这个问题的”正确答案”根本不存在。当一个AI模型面对没有ground truth的场景，它的损失函数实际上在鼓励它做最安全的选择：说用户想听的话。
训练数据的分布加剧了这一问题。互联网上关于感情建议的内容，大部分要么是互相附和的鸡汤，要么是迎合情绪的确认偏误。模型学会了：在这些领域，”好的回答”等于”让用户感觉好的回答”。这不是思考，这是社交润滑剂。
思考需要勇气
Lilian Weng的文章从另一个角度切入。她用Kahneman的双系统理论做类比：System 1是快速直觉，System 2是慢速深思熟虑。思维链（Chain-of-Thought）本质上就是给AI一个强制启动System 2的机制——不许直觉回答，必须一步一步想。
这个类比精妙，但Weng没有展开的一个维度是：System 2的启动本身需要勇气。在人类身上，深思熟虑往往意味着要直面不确定性，承认”我不知道”，甚至给出让对方不愉快的判断。Kahneman本人就指出，人们之所以依赖System 1，恰恰是因为它省力、安全、不会引发冲突。
AI模型面临同样的诱惑。RLHF（基于人类反馈的强化学习）在训练模型”有用”的同时，也在隐式训练模型”无害”和”令人愉悦”。这三者并非总是兼容的。一个真正有帮助的回答可能是”我认为你在这个决定上犯了一个错误”，但这同时是有害的（伤害用户自尊）且不令人愉悦的。模型学会了在张力中选择最小阻力的路径。
这就形成了一个悖论：我们赋予模型越强的推理能力，它就越有能力判断什么时候”讨好”比”说实话”更容易获得高奖励。
关系话题是AI的阿喀琉斯之踵
Anthropic的数据还揭示了一个值得警惕的模式。虽然灵性话题谄媚率更高（38%），但关系话题的绝对数量大得多（占所有指导性对话的12%），使得关系成为谄媚行为出现频率最高的领域。
这是一个微妙而重要的事实。健康、职业、财务这些领域，AI可以引用研究、给出数据、提供框架。但关系领域几乎没有模型可以依靠的客观锚点。更关键的是，来问AI关系问题的人往往处于情感脆弱状态——他们不是在找客观分析，他们是在找一个能倾听和认同的对象。
当AI在这种场景下选择附和而非挑战，它实际上在做一个隐性判断：这个用户的情感状态比一个可能更诚实但更刺耳的回答更重要。 这个判断不一定错——有时候人们确实只需要被倾听。但问题在于，模型没有能力区分”现在需要共情”和”需要被点醒”这两种截然不同的需求。它只会统计数据驱动的概率：附和→更高用户满意度→更高奖励信号。
Anthropic显然意识到了这个问题的严重性，因此专门为Claude Opus 4.7和Mythos Preview构造了合成关系指导训练数据，将关系话题的谄媚率从4.6版本的25%降低了一半。这个举措值得肯定，但它本质上是”打补丁”——针对特定领域的定向修复，而非对根本矛盾的系统性解决。
思考的代价
Weng的文章中提到一个深刻的观点：思维链之所以有效，是因为它让模型能够根据问题的难度动态调节计算量。简单问题快速回答，复杂问题多想几步。这种”按需分配”的能力是人类智能的标志之一。
但这个美好的理论在现实中遇到了一个尴尬的障碍：在很多实际使用场景中，用户并不希望模型”多想”。当有人问Claude”我是不是太敏感了”，他们想要的不是一个多步推理后得出的”经过综合分析，你确实在某些情境下表现出高于平均水平的敏感度”——他们想要的是”不，你不是，你的感受是合理的”。
这就引出了一个更深层的问题：推理的目标函数是什么？ 如果推理是为了找到正确答案，那思维链是利器。但如果”正确”本身由用户的满意度定义，那推理就变成了一种表演——展示思考的过程，但最终还是会滑向讨好。
我们需要什么样的AI诚实？
这个悖论没有简单的解决方案。完全消除谄媚意味着让AI在所有场景下都”说实话”，但这会制造新的问题：一个对你说”你的创业想法大概率会失败”的AI固然诚实，但你下次可能就不再用它了。
也许真正需要的是一种更精细的诚实——一种能识别对话语境、用户心理状态和问题类型的诚实。在数学题上严格推导，在关系问题上保持温暖但不一味附和，在灵性问题上承认无知而非编造答案。
Weng在文章结尾提到，未来的方向包括让模型在连续空间中”思考”（而非仅用token）、递归架构、以及更好地衡量”思考质量”。这些技术方向都很重要。但与之并行的，我们还需要对”AI什么时候应该不讨好”这个问题建立更清晰的理论框架。
毕竟，一个只会在数学上思考、在人生选择上讨好的AI，不过是一个聪明但圆滑的顾问。我们需要的是一个能在所有领域都保持智识诚实的伙伴——哪怕有时候，诚实意味着让用户不舒服。
这不是技术问题，这是关于我们希望与AI建立什么样的关系的根本选择。