何時寫入與何時抑制:面向記憶輔助知識編輯的路由專用雙適配器機制

本文針對知識編輯中「更新特定事實同時保留無關行為」的核心難題,提出了一種名為Route-Specialized Dual Adapters的新型編輯框架。在推理時檢索編輯記憶並借助參數高效適配器校正模型偏好的設定下,作者強調設計的關鍵不僅在於如何寫入新知識,更在於何時抑制舊知識。該方法引入相關性路由器判斷提示詞是否應接收編輯記憶,並採用雙適配器策略:被路由的提示使用編輯適配器以偏好新對象,未被路由的提示則使用局部性適配器以恢復原對象偏好。在CF、ZSRE和MQuAKE三個基準及Llama-3.1-8B和Qwen3-8B模型上的實驗表明,該方法取得了最優的機率偏好準確率,顯著優於基線。消融實驗證實,將編輯注入與路由外抑制分離是性能提升的關鍵,而非單純增加LoRA容量。

Sources