量化大推理模型中置信度表達的忠實性：挑戰與評估框架

大语言模型在各类任务中展现出强大的能力，然而，如何可靠地传达其不确定性，即置信度表达的忠实性（Faithful Calibration, FC），仍是阻碍其可信部署的核心难题。FC要求模型内在的不确定性与语言上表达的置信度高度对齐。对于新兴的大推理模型（LRMs）而言，这一问题尤为严峻。LRMs通过生成长篇幅的推理轨迹（Chain-of-Thought）来解决问题，用户往往将这些冗长的推导过程视为模型深思熟虑、具备专业能力且高度自信的证据。然而，这种直觉性的信任可能建立在错误的假设之上。目前，学界对LRMs能否真正忠实表达其置信度知之甚少，且现有的FC评估范式主要面向短文本生成，难以直接迁移到LRMs产生的长链式思维输出上。这些输出通常缺乏明确的步骤边界，步骤结构不一致，且在整条轨迹中编码了复杂的条件依赖关系，导致难以准确估计模型的内在置信度。因此，本研究旨在填补这一空白，系统性地量化并理解LRMs在置信度表达上的忠实性表现，揭示其潜在的可靠性风险。为了解决上述挑战，作者提出了一套全新的评估框架，旨在系统性地量化LRMs的FC。

该框架的核心在于将语言上的决断力与三种不同来源的内部不确定性进行关联分析。具体而言，这三种内部不确定性分别基于Token概率分布、模型隐藏状态的特征表示，以及通过多次采样得到的响应一致性。通过对比语言输出与这些内部信号，框架能够更精细地捕捉模型在推理过程中的真实确信程度。此外，考虑到LRMs推理轨迹的复杂性和变异性，作者还设计了一种前缀条件采样方法。这种方法旨在控制不同推理轨迹之间的条件差异和结构变异，从而确保评估结果的公平性和可比性。通过这种多维度的内部不确定性分析与严格的采样控制，该框架能够更准确地估计LRMs在长文本生成中的内在置信度，为后续的忠实性评估奠定坚实的方法论基础。在实验设置与关键结果方面，研究团队将该框架应用于一系列主流的大推理模型、多样化的数据集以及不同的提示词场景中，以全面评估其性能。实验结果令人担忧：忠实置信度表达仍然是LRMs面临的一个重大挑战。研究发现，简单的推理行为并不会自动转化为更佳的置信度表达忠实性。

这意味着，即使模型生成了看似详尽的推理步骤，其内在的不确定性并未得到相应的语言化表达，导致用户可能被误导。更值得注意的是，针对非推理模型（如标准LLMs）设计的提示干预策略，在引入推理机制后，未能改善模型的忠实性。这一发现表明，推理机制的引入可能改变了模型内部不确定性的表达逻辑，使得原有的校准手段失效。此外，研究还发现，不同的置信度估计器（如基于Token概率的与基于隐藏状态的）对同一条推理轨迹的评估结果存在显著分歧。这种不一致性揭示了 prior 评估方法论的脆弱性，即单一指标可能无法全面反映模型的可靠性，需要多视角的综合评估。从行业意义与潜在影响来看，本研究确立了FC作为大推理模型独立可靠性与对齐目标的重要地位。随着LRMs在医疗诊断、法律建议、金融风控等高 stakes（高风险）场景中的日益部署，其置信度表达的准确性直接关系到决策的安全性与可信度。如果模型过度自信地表达错误推理，或在不确定的情况下表现得过于谨慎，都可能导致严重的后果。本研究不仅揭示了当前LRMs在可靠性方面的短板，还为未来的模型优化提供了明确的方向：即需要在模型架构、训练策略或后处理环节专门针对FC进行优化，而不仅仅是提升推理准确率。此外，研究提出的评估框架和发现的方法论脆弱性，也为开源社区和工业界提供了宝贵的参考，促使开发者在部署LRMs时更加审慎地评估其不确定性表达机制，推动建立更稳健、更可信赖的AI系统。后续研究可进一步探索如何设计能够内在地校准并忠实表达不确定性的推理模型架构。