Deep Interaction:大推理模型中高效精準的人類干預與思維鏈修正方法

針對大型語言模型在複雜多步推論中錯誤難以精準修正的痛點,本文提出Deep Interaction機制。現有方法在出現錯誤時往往導致重複生成,或需使用者費力標記錯誤步驟,且後續回應仍易重複錯誤。Deep Interaction允許使用者直接編輯模型的原始回覆,在保留正確推論步驟的同時修正錯誤部分,並將編輯後的思維鏈提煉為蒸餾提示詞,以引導模型沿著修正路徑繼續推論。實驗表明,在STEM推論任務中,該方法較基線方法將修正成功率提升25%以上,同時減少約40%的Token消耗,顯著提升了人機互動效率與推論準確性。

Sources