雙維一致性:平衡自適應推理時擴展中的計算預算與推理質量
大型語言模型在複雜推理任務中展現出卓越能力,但推理時擴展策略常陷入採樣預算與推理質量難以兼顧的困境。現有方法將採樣寬度(廣度)與深度視為正交目標,導致寬度共識機制易強化幻覺,深度剪枝則可能過早截斷有效的複雜推理鏈。本文提出雙維一致性(DDC)框架,通過耦合置信度加權貝葉斯聚合與趨勢感知分層剪枝策略,實現路徑質量與自適應終止的統一。DDC能動態識別並集中計算資源於高質量推理路徑,有效過濾幻覺同時加速共識達成。在五個基準數據集上的實驗表明,DDC在保持甚至超越強基線模型準確性的同時,將Token消耗降低超過十倍,為大規模語言模型的高效部署提供了新範式。
大型语言模型在逻辑推理、数学计算及代码生成等复杂任务中表现优异,但其潜力的充分发挥高度依赖于推理时的扩展策略。当前面临的核心挑战在于如何在有限的采样预算与极高的推理质量之间找到最佳平衡点。现有的主流策略通常存在结构性缺陷,它们倾向于将采样宽度(即并行探索的路径数量)与采样深度(即单条路径的推理步数)视为相互独立的目标进行优化。这种割裂的处理方式导致了严重的资源浪费:在宽度方向上,基于多数投票的共识方法容易陷入"集体幻觉",即多条错误路径因数量优势而掩盖了唯一的正确路径;在深度方向上,静态或简单的剪枝机制往往缺乏对推理逻辑连贯性的理解,容易在推理链条尚处于关键转折或复杂推导阶段时过早终止,从而丢失潜在的正确答案。因此,如何设计一种能够同时感知路径质量并动态调整计算分配的机制,成为提升大模型推理效能的关键科学问题。本文旨在解决这一痛点,提出了一种全新的双维一致性框架,试图从根本上重构推理时的资源分配逻辑,确保每一分计算预算都花在刀刃上。 为实现上述目标,本文提出了双维一致性(DDC)框架,其核心创新在于将置信度加权贝叶斯协议与趋势感知分层剪枝策略深度耦合,形成了一套闭环的自适应推理系统。在宽度维度上,DDC 摒弃了简单的多数投票机制,转而采用基于贝叶斯推断的置信度加权方法。该方法不仅考虑每条推理路径的最终答案一致性,更引入路径内部的逻辑连贯性得分作为先验权重,从而在聚合多路径信息时,赋予逻辑更严密、证据更充分的路径更高的话语权,有效抑制了由随机噪声或模型固有偏差引发的幻觉传播。在深度维度上,DDC 设计了趋势感知分层剪枝机制,该机制并非基于固定的步数阈值,而是实时监测推理过程中状态向量的变化趋势。通过分析隐藏层激活值的波动特征,模型能够判断当前推理步骤是在推进问题解决还是陷入死胡同。若检测到正向趋势,系统会保留并深化该路径;若发现趋势停滞或恶化,则立即触发剪枝,释放计算资源。这种动态的宽深协同机制,使得系统能够在推理过程中自动聚焦于高潜力的路径,实现计算资源的精准投放。 为了验证 DDC 框架的有效性与通用性,研究团队在五个涵盖不同推理类型的权威基准数据集上进行了全面的评估实验。实验涵盖了数学推理、常识问答、代码生成等多个领域,以确保结论的稳健性。关键结果显示,DDC 在多种不同规模的大型语言模型上均表现优异。最引人注目的发现是,该方法在显著降低计算成本的同时,并未牺牲任何精度。具体而言,与传统的静态扩展基线方法相比,DDC 框架将推理过程中的 Token 消耗降低了超过十倍。这意味着在相同的计算预算下,系统可以探索更多的推理路径,或者在更短的时间内完成更复杂的任务。此外,在准确率指标上,DDC 不仅持平于最强的基线模型,在部分高难度子任务中甚至实现了超越。消融实验进一步证实了宽度置信度加权与深度趋势剪枝两个模块的必要性:单独移除任一模块都会导致性能显著下降,尤其是深度剪枝模块的缺失会导致大量无效路径占用资源,而宽度加权模块的缺失则会导致幻觉路径被错误放大。这些结果有力地证明了双维一致性在平衡效率与质量方面的独特优势。 从行业意义与潜在影响来看,双维一致性框架的提出对开源社区与工业落地具有深远影响。在工业界,大模型推理成本高昂,尤其是对于需要复杂推理能力的场景,如金融分析、法律辅助及科学发现,推理延迟和算力成本是制约大规模部署的主要瓶颈。DDC 框架通过十倍级的资源节省,使得在边缘设备或低成本服务器上运行高性能推理模型成为可能,极大地降低了技术落地的门槛。对于开源社区而言,该框架提供了一种通用的推理优化范式,无需修改模型权重即可通过推理时策略提升性能,这鼓励了更多研究者关注推理效率而非单纯依赖模型规模的扩张。此外,该方法对幻觉的抑制能力也为构建更可靠、可信赖的 AI 系统提供了新的技术路径,有助于推动大语言模型在高风险领域的安全应用。未来,随着推理时扩展技术的进一步发展,DDC 所倡导的动态资源分配理念有望成为标准配置,推动人工智能从"算力堆砌"向"智能效率"转型。
Sources
FAQ
什么是双维一致性(DDC)框架?
它是一项针对大模型推理扩展的新框架,通过耦合置信度加权贝叶斯聚合与趋势感知分层剪枝,动态平衡计算预算与推理质量,自动聚焦高潜力路径并抑制幻觉。
DDC框架为何重要?
现有方法常将采样宽深割裂优化,导致集体幻觉或过早截断有效推理链。DDC同时感知路径质量并动态调整资源分配,在降低Token消耗十倍的同时保持甚至超越基线准确率。
未来值得关注什么?
DDC提供了一种无需修改模型权重即可提升推理效率的通用范式。随着技术演进,这种动态资源分配理念有望成为行业标准,推动AI从依赖算力堆砌向追求智能效率转型。