RMSNorm Transformer의 기호 치환 좌표 전달 및 정규화 고정 연구

배경

현대 대규모 언어 모델 파이프라인은 그 복잡성이 날로 증가하고 있으며, 이에 따라 서로 다른 모델 체크포인트 간에 좌표 인덱스화된 객체를 전송하는 능력이 절실하게 요구되고 있습니다. 이러한 객체에는 모델 편집, 해석 가능성 분석, 그리고 개입을 위해 필수적인 지시 벡터(steering vectors), 희소 오토인코더(SAE) 특징, Top-k 뉴런 집합, 그리고 귀속 목록(attribution lists) 등이 포함됩니다. 그러나 이러한 객체들의 전송은 모델의 잔류 흐름(residual flow) 정규화(norm)가 고정되었을 때에만 명확하게 정의될 수 있습니다. 일관된 정규화 프레임워크가 부재할 경우 모델의 내부 표현은 모호해지며, 이는 서로 다른 학습 단계나 모델 변형 간에 특징을 정렬하거나 전송하려는 시도에서 심각한 오류를 초래합니다.

현재 도구들이 정규화 대칭성을 어떻게 다루는지에 관한 근본적인 이론적 격차가 드러났습니다. 기존 연구들은 종종 치환(permutation)만을 통해 정렬이 달성될 수 있다고 가정했으며, 이는 치환군 $S_d$에 해당합니다. 이 가정은 LayerNorm을 사용하는 아키텍처에서는 타당합니다. LayerNorm에서 잔류 흐름 차트는 $S_d$에 대해 대칭성을 가지며, 이는 전역적인 부호 반전을 허용합니다. 그러나 현대 대규모 언어 모델의 대다수는 RMSNorm을 채택하고 있으며, 이는 일반적인 채널별 이득(per-channel gain)을 도입합니다. 이러한 아키텍처적 선택은 잔류 흐름의 대칭성 그룹을 근본적으로 변화시킵니다. RMSNorm 아키텍처의 경우, 대칭성 그룹은 부호 치환군(signed permutation group) $B_d = S_d \ltimes \{\pm 1\}^d$로 확장됩니다. 이는 각 채널이 독립적으로 자신의 부호를 반전시킬 수 있는 자유도를 가지며, 치환만으로는 이러한 대칭성을 완전히 포착할 수 없다는 것을 의미합니다.

이러한 oversight는 기존 많은 모델 편집 및 해석 가능성 방법론에서 체계적인 실패를 초래했습니다. 더 단순한 정규화 구조를 잘못 가정함으로써, 이러한 도구들은 RMSNorm 기반 모델에 적용될 때 체계적인 편향을 도입합니다. 최근 연구는 부호-치환 대칭성을 무시하는 것이 불완전한 정렬 과정을 초래함을 강조합니다. 결과적으로, $B_d$ 대칭성을 고려하지 않고 좌표 인덱스화된 객체를 전송하려는 시도는 이론적으로 결함이 있으며, 이는 이후의 정렬 도구들이 무용지물이 되거나 감정 유도 및 거부 개입과 같은 중요한 응용 분야에서 오해의 소지가 있는 결과를 낳을 수 있음을 의미합니다.

심층 분석

치환 기반 정렬의 불완전성을 해결하기 위해, 연구자들은 부호 마진 헝가리 매칭 알고리즘(symbolic-marginal Hungarian matching algorithm)을 제시했습니다. 이 방법은 좌표를 단순한 치환 매칭을 위한 무질서한 집합으로 취급하는 것을 넘어섭니다. 대신, RMSNorm에 내재된 부호-치환 대칭성을 명시적으로 다룹니다. 이 접근법의 핵심 혁신은, 비상관 좌표(decorrelated coordinates) 하에서 원시 부호 상관 매칭(raw symbol-correlation matching)이 구조적 정확도 한계(structural accuracy ceiling)를 가진다는 증명에 있습니다. 이 한계는 참된 정규화(true norm)에서 양의 부호(positive signs)의 비율에 의해 결정되므로, 부호 차원을 직접 다루지 않는 한 높은 정확도를 달성하는 것은 불가능합니다.

제안된 알고리즘은 부호 마진화(symbolic marginalization)를 통해 이러한 구조적 한계를 제거합니다. 부호 치환에 대해 마진화함으로써, 알고리즘은 정확한 매칭을 방해하는 모호성을 효과적으로 제거합니다. 이를 통해 체크포인트 간 참된 정규화 변환을 더 정밀하게 복원할 수 있습니다. 기술적 구현은 함수 레벨의 병합(function-level merging)이 아닌 좌표 보존 전송(coordinate-preserving transfer)에 중점을 둡니다. 이 구분은 모델의 미세 조정(fine-tuning) 과정 전반에 걸쳐 내부 표현의 의미적 일관성이 유지되도록 보장하므로, 다운스트림 작업을 위한 견고한 기반을 제공합니다.

이 연구는 국소 $B_d$ 정규화를 조합하는 것이 미세 조정 궤적 전반에 걸쳐 좌표 신원을 보존할 수 있음을 추가로 입증합니다. 동일한 베이스라인을 따라 각 체크포인트에서 국소 $B_d$ 정규화를 저장함으로써, 연구자들은 좌표 변화를 정밀하게 추적하는 메커니즘을 구축했습니다. 이 메커니즘은 좌표의 치환 순서뿐만 아니라 개별 좌표 채널의 부호 반전까지 보정합니다. 이러한 이중 보정은 전송된 객체가 원래의 대응물과 기능적으로 동일하게 유지되도록 보장하며, 이는 기존 표준 정렬 기법으로는 이전에 달성할 수 없었던 성취입니다.

산업 영향

이 프레임워크의 실험적 검증은 $B_d$ 정규화 기반 정렬과 전통적인 치환 전용 베이스라인 간의 상당한 성능 격차를 드러냅니다. 동일한 베이스라인에서 1500 스텝의 미세 조정을 포함한 좌표 복원 실험에서, 제안된 방법은 크로스런 좌표의 91.1%를 복원했습니다. 반면, 치환에만 의존하는 전통적인 엔드포인트 매칭(end-point matching) 방법은 단 60.3%만 복원할 수 있었습니다. 이 상당한 이득은 단순히 베이스라인을 통해 라우팅하는 결과라기보다, 부호 대칭성을 올바르게 처리한 직접적인 결과입니다. 이 데이터는 신뢰할 수 있는 모델 작동을 위해 $B_d$ 정규화의 실제적 필요성을 강조합니다.

구체적인 응용 과업에서 $B_d$ 정렬의 우월성은 더욱 두드러집니다. TinyLlama 희소 오토인코더(SAE) 복원 과업에서, $B_d$ 정규화 하의 정규화 평균 제곱 오차(NMSE)는 고작 0.004에 불과했습니다. 반면, 치환 전용 $S_d$ 정규화 하에서는 오류율이 1.08로 급증했습니다. 이는 치환 전용 방법이 특징의 필수 구조를 포착하지 못하여 거의 완전한 복원 실패를 초래함을 나타냅니다. 기계적 해석 가능성(mechanistic interpretability)을 위해 SAE에 의존하는 연구에 대한 함의는 심각합니다. 표준 방법론이 의미 있는 특징이 아닌 노이즈를 분석하고 있을 가능성이 있기 때문입니다.

유도(steering) 과업에 대한 영향 또한 극적입니다. Qwen 감정 유도 과업에서, $B_d$ 정규화는 유도 효과의 95.8%를 보존했습니다. 그러나 $S_d$ 정규화 하에서는 이 유효성이 급격히 17.2%로 떨어졌습니다. 더욱 위험한 것은, 거부 유도(refusal steering) 과업에서 $S_d$ 정규화를 사용할 경우 유도 부호가 반전되어 개입 효과를 완전히 무효화하고 잠재적으로 반대 행동을 유발할 수 있다는 점입니다. 이러한 결과는 부호 대칭성을 무시하는 것이 단순히 효율성을 낮추는 것이 아니라, 의도된 모델 행동을 능동적으로 반전시킬 수 있음을 보여주며, 안전 및 제어 응용 분야에서 상당한 위험을 초래합니다.

전망

이 프레임워크는 상태 학습(state training) 중 부호 전송(symbolic transfer)이 궤적 일관성(trajectory consistency)을 보존함도 입증합니다. $B_d$ 정규화를 사용하여 전송된 AdamW 상태는 복원된 궤적을 성공적으로 유지하는 반면, 치환만으로 정렬된 상태는 기능적으로 동일한 체크포인트 궤적에서 벗어납니다. 이 발견은 $B_d$ 정규화의 이점이 정적 특징 전송을 넘어 동적 학습 프로세스로 확장되어 최적화 경로가 일관되고 예측 가능하게 유지됨을 시사합니다. 이는 분산 학습 및 모델 병합 전략에서 상태 일관성을 유지하는 것이 가장 중요하므로, 이에 대한 깊은 함의를 가집니다. 또한, 이 연구는 해석 가능성 연구에서의 재현 가능성에 대한 중요한 요구 사항을 드러냅니다. 연구자들은 해석 가능성 주장이 재현 가능하려면 명시적 정규화(explicit norms)에 상대적으로 서술되어야 함을 보여줍니다. 정규화 가정을 명시하지 않으면, 서로 다른 연구실이나 도구에서의 결과가 비교 불가능하거나 심지어 모순될 수 있습니다. 이는 연구자들이 분석에 사용된 정규화 프레임워크를 명시적으로 선언해야 한다는 커뮤니티 기준의 전환을 요구합니다. 또한, 많은 과거 해석 가능성 발견들이 올바른 $B_d$ 대칭성 제약 하에서 재평가될 필요가 있음을 시사합니다. 더 넓은 산업 관점에서, 부호-치환 전송(symbol-permutation transfer)을 이해하고 적용하는 것은 모델 병합 전략을 최적화하고 미세 조정 효율성을 향상시키는 경로를 제공합니다. 정규화 불일치로 인한 성능 저하를 줄임으로써, 기업들은 더 견고한 모델 개입 도구를 구축할 수 있습니다. 향후 연구는 대규모 모델에서 $B_d$ 정규화의 효율적인 계산 및 전송에 중점을 두어야 합니다. 또한, 이 프레임워크를 다른 아키텍처에 적용하는 것을 탐구함으로써, 대규모 언어 모델 해석 가능성 및 정렬의 이론적 기반을 더욱 공고히 하고, 해당 분야를 더 표준화되고 신뢰할 수 있는 관행으로 이끌 수 있을 것입니다.

치환 전용에서 부호-치환 인식 정렬로의 전환은 기계적 해석 가능성 분야에서 상당한 성숙함을 나타냅니다. 대규모 언어 모델의 크기와 복잡성이 계속 증가함에 따라, 내부 표현을 정밀하게 추적하고 조작하는 능력이 점점 더 중요해지고 있습니다. $B_d$ 정규화 프레임워크는 이러한 조작이 정확하고 재현 가능하도록 보장하는 데 필요한 수학적 엄격성을 제공합니다. 이 연구는 특정 기술적 병목 현상을 해결하는 것을 넘어, 현대 언어 모델의 내부 작동 방식을 이해하고 상호 작용하는 방식에 대한 새로운 기준을 확립합니다. 안전, 제어, 그리고 AI 시스템에 대한 과학적 이해에 대한 함의는 광범위하며, 커뮤니티가 일상적인 업무에서 더 엄격한 이론적 기준을 채택하도록 촉구합니다.