層級去噪機制賦能多步視覺推理:HDR框架實現低延遲流式生成與邏輯一致性

針對當前視頻模型在複雜多步視覺推理中缺乏類人邏輯一致性與低延遲流式輸出的雙重困境,本文提出了一種名為層級去噪(HDR)的統一框架。該框架將層級潛在變數整合至因果視頻生成中,通過樹狀結構組織視頻潛在表示,實現了從粗粒度到細粒度的推理過程。具體而言,粗粒度去噪層保留不確定假設以支持全局規劃,而細粒度層則逐步將其細化為具體的視覺狀態。此外,引入稀疏層級注意力模式(SHAP)以顯著降低時間注意力計算成本。在包含迷宮導航、漢諾塔等六個任務的自定義基準測試中,HDR的成功率從34.22%提升至60.29%,相對提升76.2%,平均進度從76.00提升至89.56。同時,HDR保持了0.70秒每潛在變數的低延遲流式生成速度,推理速度比雙向擴散模型快54.2倍,且在僅使用2%訓練數據的情況下仍能保持82.9%的全量數據性能。

Sources