从起点即注定失败：通过召回控制的探针级联实现大模型智能体早期终止

大语言模型智能体在执行复杂的多步任务时，往往会在早期就做出导致最终失败的决策，但系统却常常无法及时察觉，从而继续消耗大量的推理计算资源，直到任务彻底失败才停止。这一现象不仅浪费了算力，还降低了系统的响应效率。针对这一痛点，本研究的核心贡献在于揭示了智能体内部隐藏状态中蕴含的失败预测信号。作者证明，即使是在第一次交互回合，通过轻量级的探针分析智能体的隐藏激活值，就能以显著高于随机猜测的准确率预判 episode 的最终失败命运。相比之下，仅依赖智能体可观测行为（如动作序列）的评分器在早期几乎无法区分成功与失败的轨迹。

这一发现打破了传统依赖外部行为反馈的局限，将预测窗口大幅前移，为智能体的高效资源管理提供了全新的视角。本研究不仅提出了理论上的可预测性证明，更将其转化为一种实用的工程解决方案，即早期终止级联机制，旨在在不牺牲任务成功率的前提下，最大限度地削减无效计算的开销。在技术方法层面，作者构建了一种分布无关的校准门控级联结构。该结构在每一个交互回合都部署一个轻量级的探针，用于实时评估当前状态是否指向失败。关键在于，这些探针并非孤立工作，而是通过联合搜索每轮的召回预算（recall budgets）来协同运作。

这种设计确保了最终在部署环境中，成功 episode 能够以用户指定的全局召回率（例如 90% 或 97%）顺利通过所有门控。这种 episode 级别的保证至关重要，因为随着回合数的增加，假阳性（即错误终止成功任务）的风险会累积，因此必须通过严格的预算控制来平衡早期终止的收益与误杀的风险。实验进一步验证了隐藏状态的优越性：一个仅读取行为特征的级联方案节省的算力仅为基于隐藏状态方案的一半，而将行为特征添加到探针中并未带来额外的性能增益。这表明，智能体的隐藏状态已经充分编码了行为所揭示的所有信息，甚至包含了更深层的语义和意图信息，使得仅基于内部表示的预测既高效又准确。实验设置在 TextCraft 这一具有挑战性的多步任务基准上进行，评估了两个主流大模型：Qwen-2.5-7B 和 Llama-3.2-3B。

结果显示，该级联机制能够严格满足从 90% 到 97% 的各种召回率目标。在最具代表性的 90% 召回目标下，Qwen-2.5-7B 节省了 47.1% +/- 10.3% 的推理算力，Llama-3.2-3B 节省了 37.2% +/- 8.8%，这一效率提升达到了最佳单一门控策略的 1.6 到 1.7 倍。消融实验清晰地展示了不同信号源的价值差异：仅依赖行为的方案效率减半，而混合特征无增益，再次印证了隐藏状态作为预测源的高效性。此外，研究还深入分析了认证高召回目标所需的样本复杂度，为实践者提供了明确的指导：基于现有数据量，哪些召回承诺是可以被统计显著性支持的，哪些则是数据无法证明的。这一分析填补了从理论预测到实际部署之间的空白，帮助开发者根据数据规模合理设定系统参数。

这项研究对开源社区和工业落地具有深远的意义。首先，它提供了一种即插即用的早期终止框架，能够直接集成到现有的 LLM 智能体系统中，显著降低部署成本，特别是在长上下文或高并发场景下，算力节省效果尤为可观。其次，研究揭示了隐藏状态中蕴含的丰富预测信息，为后续关于模型内部可解释性、状态监控及异常检测的研究开辟了新的方向。对于工业界而言，这种基于内部表示的监控机制可以作为智能体健康检查的重要组件，提升系统的鲁棒性和资源利用率。最后，作者计划开源代码，这将促进相关领域的复现与创新，推动大模型智能体向更高效、更可控的方向发展。通过提供样本复杂度的理论分析，本研究也为后续制定更严格的智能体性能标准提供了科学依据，有助于构建更加可靠的人工智能代理生态系统。