Chunlin 的论文科普

大模型做决策时，为什么总假装自己

LLM 与智能体

你让AI帮你选方案，它总能头头是道给出一个最优解——可你有没有想过，也许这个问题本来就没有确定答案？要么信息不够，要么规则本身就无解，但AI从不告诉你。

大模型在偏好与决策推理中，为何难以识别不确定和无解的场景？我们又该如何应对？

一、你有没有遇到过一本正经瞎选的AI？

生活里我们常让大模型做决策：选电脑、挑方案、甚至帮你排优先级。你可能已经注意到一个现象：无论你给的信息多不全，AI很少说”我不知道”或”这题没法比”，它总能给你排出个一二三来，语气还特别笃定。

这不是你的错觉。2026年的一篇论文《Preference Reasoning under Indeterminacy in Large Language Models》系统研究了这个问题，结论是：当前主流大语言模型在偏好推理任务中，无法可靠区分”有确定答案”和”无确定答案”的场景，经常对本来就不确定的问题给出确定性回答，作者称之为”确定性幻觉” [1]。

你可能会想：偏好这东西本来就主观，哪有什么”确定答案”？这里说的不是价值判断的对错，而是逻辑上能不能得出唯一结论。比如我告诉你”我喜欢苹果胜过香蕉，喜欢香蕉胜过橘子”，那问我”苹果和橘子选哪个”，答案是确定的——苹果。但如果我只告诉你”我喜欢苹果胜过香蕉，我喜欢橙子胜过橘子”，再问”苹果和橙子选哪个”，这题就没有确定答案——因为信息不够，推不出来。

正常人遇到第二种情况会说”你没告诉我啊，我怎么知道”，但AI不会。它会直接给你一个答案，还不告诉你这是它自己脑补的。这就是我们今天要聊的核心问题：偏好推理中的不确定性识别。

二、两种不确定：信息不够 vs 根本无解

论文把偏好推理里的不确定性分成了两类，对应两种完全不同的”答不出来” [1]。

第一种叫认知不确定性（epistemic indeterminacy），说白了就是信息不够。偏好列表不完整、有平局、或者只给了偏序关系，导致问题没法唯一回答。就像刚才苹果和橙子的例子，不是问题本身无解，是你给的条件太少。

第二种叫结构不确定性（structural indeterminacy），更狠：偏好信息给全了，但目标解概念本身在这个实例下就是无解的。这听起来有点抽象，举个经典例子：“稳定匹配”问题（比如找工作、相亲配对）里，如果允许”平局”（即某人对两个选项完全无差异），那么”强稳定匹配”这个解概念在很多情况下根本不存在——不是算不出来，是数学上就没有满足条件的解。

打个比方：认知不确定性就像你做数学题，题目缺条件，你没法算；结构不确定性就像题目条件全给了，但这道题本身就没有解——比如让你找一个最大的整数，你再聪明也找不到。

当然，实际情况比这个比喻更复杂，因为在真实的社会选择问题里，这两种不确定性经常交织在一起。

论文测试了GPT-5.2、Gemini-2.5-Pro、Claude-4.5-Sonnet、OSS-120B四个前沿模型，结果发现：在自由输出格式下，模型在不确定查询上的准确率远低于配对的确定查询，在比较查询等场景中准确率甚至接近零 [1]。换句话说，遇到”没答案”的题，模型基本都是瞎答，还答得特别自信。

更有意思的是一个系统性偏差：当两个物品束无法直接比较时，所有四个模型几乎都默认采用字典序规则——也就是只比排名最高的那个物品，剩下的都不算数 [1]。比如给你一个选择：A包裹里只有你第1名想要的东西，B包裹里有第2名到第20名的所有东西。按字典序，A更好，因为第1名比第2名大。但这只是一种可能的规则，不是唯一规则——现实中很多人会选B。模型的问题不在于选了A，而在于它默认用了这个规则，却从不告诉你这是它自己加的假设。

三、为什么越简单的问题，AI越不会说”不知道”？

论文里有个反直觉的发现：不是越难的问题越容易产生幻觉，反而是看起来简单的比较查询，模型最容易瞎编 [1]。

他们把任务分成了从易到难四层：

按常理，越简单的任务模型应该越清楚自己会不会。但结果恰恰相反：原子查询里，如果信息缺了，模型还相对容易发现”信息不足”；到了比较查询，因为A和B都在列表里、只是没直接比过，模型反而更容易瞎编一个答案，准确率跌到接近零 [1]。

为什么会这样？一个合理的猜测是：原子查询的”缺”是显性的——你问第5名，列表只有3个人，模型一眼能看到”没有”；而比较查询的”缺”是隐性的——两个东西都在，但关系没给，模型会下意识地”补”一个关系出来，而且自己都没意识到这是补的。

这还不是最反直觉的。论文还发现了一个叫**意图-行动错位（intention-action misalignment）**的现象：模型常在推理链里声称自己遵循某个解概念（比如”严格核”），但最终选出的结果实际上违反了这个概念 [1]。用大白话讲就是：它嘴上说的规则是对的，手底下选的答案却是错的，而且它自己还没发现矛盾。

更绝的是验证任务——就是不让模型自己生成答案，而是给它几个候选选项让它选正确的，其中包括”以上都不对”这个选项。按说这总简单了吧？结果模型依然经常选错。而且一旦把”以上都不对”选项去掉，模型在无解实例中选错误选项的概率会显著上升 [1]。它选的错误还不是乱选，几乎都选了目标概念的”弱化版本”——比如题目要严格核，它选了弱核。

这说明什么？说明模型不是完全不懂，而是它有一种”凑出一个答案”的强烈倾向——哪怕题目要求的解不存在，它也会给你找一个最接近的、存在的东西交差，然后假装那就是你要的。

四、这条路之前走到了哪：从偏好一致性到鲁棒性

当然，大模型的偏好推理问题不是这篇论文才发现的。2024年有一批相关研究，从不同角度摸到了这个问题的边缘 [6][7][8]。

比如《Aligning with Logic》这篇，提出用传递性、交换性和否定不变性三个逻辑属性来评估大模型的偏好一致性，还搞了个叫REPAIR的技术来提升一致性 [6]。它关注的是”模型说的话前后别矛盾”，这比”识别不确定性”要基础——你得先保证自己说的话不打架，才能谈得上知道什么时候答不出来。

另一篇《Strong Preferences Affect the Robustness》从理论角度分析了Bradley-Terry和Plackett-Luce这两种常用偏好模型的敏感性，发现当某些偏好概率接近0或1（也就是”强偏好”）时，模型对微小变化特别敏感，会影响价值对齐的鲁棒性 [7]。这其实从另一个侧面说明：偏好推理里的”确定性”很多时候是虚假的，一点点扰动就能让结果大变。

还有《Measuring the Inconsistency》专门研究排序不一致性，发现大模型的偏好排序有很强的位置偏差，传递性差，还容易被无关选项带偏 [8]。

这些研究加在一起，其实已经勾勒出一个轮廓：大模型在偏好推理上的问题，不只是”偶尔答错”，而是有系统性的偏差和不稳定。但之前的工作大多聚焦在”一致性”和”鲁棒性”上，也就是默认有正确答案、看模型答得稳不稳；而我们今天讲的这篇2026年的论文往前推了一步——它问的是：当没有正确答案的时候，模型知不知道自己不知道？ [1]

这一步很关键，因为现实世界里的决策问题，大部分都不是”有唯一正确答案”的题。

五、多智能体能治好确定性幻觉吗？

既然单模型容易”一根筋”地凑答案，那多智能体协作能不能治这个毛病？毕竟人多了互相挑错，总该更容易发现”这题不对”吧？

我们来看三篇不同领域的多智能体论文，看看它们的思路能不能迁移到偏好推理的不确定性识别上来。

第一篇是医疗问答领域的AMR系统。它的思路是：不同角色的智能体各有各的专属记忆和错题本，问题先经过”分诊”判断复杂度，简单的单干，难的协作，再难的分层迭代+最终决策，最后还有单独的伦理审查员把关 [2]。这个架构里有两个点可能对偏好推理有用：一是角色分离——如果专门设一个”不确定性检查官”的角色，负责判断”这题有没有解”，和负责”给出答案”的角色分开，会不会减少”凑答案”的倾向？二是反思反馈——答错了把教训记进对应角色的记忆，下次遇到类似情况先翻错题本，这可能帮助模型积累”哪些情况容易无解”的经验 [2]。

不过医疗问答是有标准答案的题，和偏好推理里”本身就没答案”的场景还不一样。AMR提升的是”答对率”，不是”识别不会答的能力” [2]。

第二篇是企业分析的多智能体平台。它的核心发现是：把数据分析拆成五个专门角色串行干活，比让一个AI干所有事准确率高22.6个百分点，甚至开源模型搭对架构都能赢闭源单干 [4]。这背后的逻辑是关注点分离——每个角色只负责一块，不容易认知过载。放到偏好推理里，也许可以把”检查信息是否完整”、“检查解是否存在”、“构造答案”这三件事分给三个不同的智能体，各自专注，而不是让一个模型既要判断有没有解、又要给出答案——毕竟当你负责给答案的时候，就容易下意识地觉得”应该有解”。

第三篇更有意思，是用轻量图神经网络做智能体故障归因的AFANet。它的反直觉发现是：给多智能体”查错”不需要大模型动脑子推理，只要把每轮对话当节点，连上线（相邻轮和同一个人的发言），用一个只有6.5万参数的小图网络，就能比几百上千亿参数的大模型还准，推理还快几百倍 [3]。这给我们一个启发：识别不确定性这件事，也许根本不需要大模型自己来做。能不能像AFANet那样，用一个轻量的结构化模型，专门负责判断”这个偏好推理问题属于确定还是不确定”？毕竟不确定性往往有结构性的特征——比如信息缺了什么、解概念在什么条件下无解——这些是可以用规则或轻量模型捕捉的，不一定非要大模型”悟”出来。

当然，这些都是思路迁移，还没有直接的实验验证。但至少说明：多智能体的分工、外部的轻量检查器，都是值得探索的方向。

六、剩下的难题：怎么让AI学会弃权而不偷懒？

说了这么多，那到底怎么解决确定性幻觉的问题？论文自己也试了几种方法，结果喜忧参半 [1]。

最简单的办法：在提问里加一个”信息不足”的选项，或者明确告诉模型”如果不知道就说不知道”。确实，提供明确的不确定性选项能提升一部分任务的表现，但新的问题来了——模型会走向另一个极端，开始系统性地乱喊”无解”，把本来有解的题也说成无解 [1]。就像一个学生原来考试不会也瞎蒙，你告诉他不会可以空着，结果他连会的题也空着了。这就是所谓的”诱导偏差”：你一提醒它要谨慎，它就过度谨慎。

论文还试了反馈修正和代码执行辅助。反馈修正就是把模型的答案指出来哪里错了，让它改。这个方法在某些问题（比如房屋交换/Shapley-Scarf市场）里效果不错，但在双边匹配问题里几乎没用——因为模型一上来就直接说”没有解”，你连错误答案都没法给它指出来 [1]。代码执行呢？在小规模问题上，靠暴力枚举确实能提升性能，但规模一大就超时或者误判 [1]。说白了，现在的辅助推理方法本质上还是”蛮力”，不是真的让模型学会了识别不确定性。

所以真正的开放问题有两个 [1]：

第一，怎么训练模型识别不确定的情况，同时又不产生新的偏差？ 现在的情况是，要么瞎给答案，要么乱喊无解，中间那个平衡点很难找。这不是简单的提示工程能解决的，可能需要从训练目标上动刀——比如专门给”正确弃权”也设奖励，而且奖励函数要设计得非常精细，不然模型就会学会”偷懒式弃权”：为了不犯错，什么都说不知道。

第二，辅助推理的方法怎么规模化？ 现在靠代码执行、暴力枚举只能在小问题上管用，一到真实世界的规模就不行了。怎么让模型不用穷举也能判断”这题有没有解”，这才是真问题。

最后还要诚实地说，这篇论文本身也有边界：它只研究了经典的社会选择问题（房屋分配、Shapley-Scarf市场、双边匹配），用的还是结构化的JSON输入，真实世界里自然语言描述的、更模糊的偏好场景表现怎么样，还不知道 [1]。而且主要测的是零样本设置，少样本或者微调能不能缓解，也没有完整的答案。

如果你只记住一件事

比”让AI答对所有问题”更重要的，是让AI知道什么时候自己答不出来。一个会弃权的AI，比一个永远有答案但经常瞎蒙的AI，更适合做决策助手。

参考文献

  1. Preference Reasoning under Indeterminacy in Large Language Models（arXiv、2026、全文精读）
  2. Adaptive Memory and Reflection Multi-Agent System for Medical Question Answering（arXiv、2026、全文精读）
  3. Beyond LLM-Based Reasoning: Lightweight GNNs for Agent Failure Attribution（arXiv、2026、全文精读）
  4. A Multi-Agent Platform for Automated Enterprise Analytics and Insight Generation（arXiv、2026、全文精读）
  5. Strengthening Target-Language Features: SAE-Based Steering for Multilingual Inference（arXiv、2026、全文精读）
  6. Aligning with Logic: Measuring, Evaluating and Improving Logical Preference Consistency in Large Language Models（arXiv (Cornell University)、2024、仅摘要）
  7. Strong Preferences Affect the Robustness of Preference Models and Value Alignment（arXiv (Cornell University)、2024、仅摘要）
  8. Measuring the Inconsistency of Large Language Models in Preferential Ranking（arXiv (Cornell University)、2024、仅摘要）