大語言模型越獄評估：動態預算分配框架DAPRO的理論突破

在大型语言模型（LLM）日益普及的今天，评估其在多轮对话设置下的安全性与可靠性已成为人工智能安全领域的核心挑战。然而，这一过程面临着巨大的计算瓶颈：许多关键的安全事件，例如模型被成功“越狱”或智能体完成复杂任务，往往不会在初始的几次交互中立即显现，而是需要经过反复的试探与对抗才会发生。这些事件在统计上具有极高的稀疏性，意味着在有限的计算预算下，它们极难被观测到。传统的评估方法往往采用静态的预算分配策略，即预先设定固定的交互轮数，这不仅导致计算资源的浪费，还难以捕捉那些延迟发生的罕见事件。尽管近期的共形生存框架试图通过构建可靠的下预测界来解决这一问题，但它们通常依赖于静态预算分配，且在多轮交互设置中效率低下，同时还需要假设删失时间与事件时间之间满足条件独立性，这一假设在实际复杂的LLM交互中往往难以成立。因此，如何在不牺牲统计严谨性的前提下，动态地分配计算资源以高效捕捉这些罕见关键事件，成为了亟待解决的科学问题。 本文的核心贡献正是提出了DAPRO框架，旨在打破这一僵局，为多轮LLM交互中的时间事件边界提供首个理论上有效的动态预算分配方案，从而在计算效率与评估可靠性之间取得平衡。从技术方法的角度来看，DAPRO框架的创新之处在于其动态预算分配机制与严格的理论保证。该框架全称为“通过投影优化进行的动态分配”，它不再预先固定每一轮的交互次数，而是根据当前的交互状态动态调整后续的预算分配。具体而言，DAPRO利用投影优化算法，在每一步决策中动态计算最优的预算分配策略，以确保在总预算约束内最大化对关键事件的捕捉概率。与以往方法不同，DAPRO在理论上证明了其能够满足严格的预算约束，并且提供了无分布的有限样本覆盖保证。这一证明的关键突破在于，它摒弃了传统共形生存分析中关于删失与事件时间条件独立性的强假设，使得框架能够适应更广泛、更复杂的实际应用场景。 此外，DAPRO提出了一种新颖的覆盖界理论，该覆盖界的缩放比例与平均删失权重的平方根成正比，而非以往方法中的最坏情况权重。这一理论改进意味着，即使在存在极端删失的情况下，DAPRO也能提供更紧致、更可靠的覆盖保证，从而在数学上确保了评估结果的稳健性。这种动态调整与理论严谨性的结合，使得DAPRO能够在有限的计算资源下，更精准地估计触发关键事件所需的迭代次数。为了验证DAPRO框架的有效性，研究团队在多个具有代表性的基准测试上进行了广泛的实验，涵盖了代理任务成功、对抗性越狱、毒性内容生成以及检索增强生成（RAG）幻觉检测等多个维度。实验选用了包括Llama 3.1和Qwen 2.5在内的主流大型语言模型，以评估框架在不同架构模型上的通用性。实验结果清晰地表明，DAPRO在各项指标上均显著优于传统的静态基线方法。 具体而言，DAPRO能够 consistently 实现接近名义水平的覆盖精度，这意味着其预测的迭代次数边界在实际观测中具有高度的可靠性。同时，DAPRO在估计结果上的方差显著低于静态方法，显示出更高的稳定性。在消融实验中，研究人员进一步发现，动态预算分配机制是提升性能的关键因素，它使得框架能够将更多的计算资源集中在那些更可能触发关键事件的交互轮次上，从而提高了整体评估效率。此外，DAPRO还能够利用有限的计算资源，获得对群体层面评估指标（如越狱率）的无偏且低方差的估计，这为在资源受限环境下进行大规模LLM安全评估提供了切实可行的解决方案。这些实验结果不仅验证了DAPRO的理论优势，也展示了其在实际应用中的巨大潜力。从行业意义与潜在影响来看，DAPRO框架的提出对开源社区、工业落地以及后续研究均具有深远的影响。 对于开源社区而言，DAPRO提供了一种高效且可靠的LLM安全评估工具，降低了开发者和安全研究人员进行模型审计的门槛和成本，有助于推动更广泛的安全测试实践。在工业落地方面，随着LLM在金融、医疗等高风险领域的广泛应用，对其安全性的实时、动态评估变得至关重要。DAPRO能够在有限的计算资源下提供高置信度的安全边界，有助于企业在部署前快速识别潜在风险，从而降低合规风险和安全事故发生的概率。对于后续研究，DAPRO打破了传统共形生存分析中的独立性假设，为处理复杂依赖关系下的生存分析问题提供了新的理论视角和方法论基础。其动态预算分配的思想也可以推广到其他需要高效资源分配的机器学习任务中，如超参数优化、神经架构搜索等。总之，DAPRO不仅在LLM安全评估领域取得了重要突破，也为更广泛的统计学和机器学习问题提供了新的解决思路，具有极高的学术价值和实际应用前景。