LLM을 넘어: Mental World Model로 심리 진화 모델링

배경

이 논문이 던지는 질문은 구체적입니다. AI가 사람이 한 말을 읽는 데서 그치지 않고, 그 사람의 내면세계를 모델링할 수 있을까요? 저자들은 대부분의 대규모 언어 모델과 마음 이론(Theory of Mind, ToM) 방법이 언어 정보만으로 심리 상태를 곧바로 추론한다고 지적합니다. 문장을 넣으면 감정이나 의도라는 라벨이 나오는 방식입니다.

저자들은 이 방식에 네 가지 빈틈이 있다고 봅니다. 첫째, 한 개인의 눈에 비친 세계, 곧 객관적 사실과 다를 수 있는 주관적 세계를 구축하는 통합 메커니즘이 없습니다. 둘째, 인지와 심리 상태가 서로 영향을 주고받는 과정을 다루지 않습니다. 셋째, 시간에 따른 동적 변화를 모델링하지 않습니다. 넷째, 이력을 추적하지 않아 과거 경험이 현재를 해석하는 데 반영되지 않습니다. 그 결과 모델은 표면적 의미에 머물러, 기분의 이름은 붙여도 왜 그런 기분인지, 다음에 어떻게 달라질지는 설명하지 못합니다.

이를 보완하려고 논문은 Mental World Model(MWM)이라는 개념을 제안하고, 구현체로 Multi-Branch Mental Evolution Architecture(MMEA)를 제시합니다. 핵심은 관점의 전환입니다. 심리 모델링을 일회성 텍스트 추론에서, 계속 진화하는 주관적 세계의 시뮬레이션으로 바꾸었습니다.

심층 분석

MMEA는 세 가지 아이디어를 중심으로 설계되었습니다. 첫째는 개인의 주관적 세계를 명시적으로 구축하는 것입니다. 대화를 고립된 입력으로 보지 않고, 그 사람이 무엇을 알고 믿는지를 사실과 다르더라도 따로 표현해 둡니다. 둘째는 인지와 심리 상태의 상호작용입니다. 무엇을 보고 믿는지가 감정, 의도, 동기에 영향을 주고, 반대로 심리 상태가 무엇에 주목하고 새 정보를 어떻게 해석하는지를 바꿉니다. 다중 분기 구조는 이 요소들을 하나의 불투명한 표현에 뭉뚱그리지 않고 따로 처리한 뒤 서로 작용하게 합니다. 셋째는 연속적인 심리 진화의 시뮬레이션입니다. 각 시점의 상태는 과거 경험의 영향을 받고, 새 사건이 들어오면 이전 상태를 바탕으로 갱신됩니다.

Mental World Model은 일반적인 LLM 기반 마음 이론 접근과 무엇이 다를까요? 일반적인 방식은 현재 텍스트를 읽고 거기서 심리 상태를 예측합니다. MMEA로 구현된 Mental World Model은 개인별 주관적 세계를 유지하면서 단계마다 갱신합니다. 따라서 예측은 마지막 문장만이 아니라 이력과 인지·심리의 상호작용에 따라 결정됩니다. 저자들은 각 분기가 점검 가능한 심리 요소에 대응하므로 이 구조가 해석 가능성의 근거라고 설명합니다. 보고된 결과는 두 주요 벤치마크에서 이 설계를 뒷받침합니다. MMEA의 정확도는 DynToM에서 96.48%, RecToM에서 94.00%로, 주요 대규모 언어 모델과 전용 ToM 방법을 앞섰습니다. 보충 실험은 세 과제를 다룹니다. 심리 상태 및 행동 예측, 장기 시퀀스 예측, 암묵적 심리 상태 추론에서 각각 28.7, 39.3, 16.6퍼센트포인트가 향상되었습니다. 장기 시퀀스 예측의 39.3퍼센트포인트가 가장 큰 폭입니다. 시퀀스가 길수록 텍스트만 보는 방법은 초기 경험을 잃기 쉽고, 진화 메커니즘을 가진 모델은 이를 유지한다는 설계 논리와 맞습니다. 암묵적 추론의 16.6퍼센트포인트 향상은 직접 말하지 않은 단서에서도 더 깊은 상태를 읽어낼 수 있음을 시사합니다. 다만 출처 요약에는 소거 실험 결과가 없어 분기별 기여도는 단정할 수 없고, 층 수나 손실 함수, 하이퍼파라미터도 나와 있지 않습니다. 자세한 내용은 논문의 실험 부분에서 확인해야 합니다.

산업 영향

이 연구의 가치는 관점을 바꾼 데 있습니다. 사람을 이해한다는 것이 한 번의 텍스트에 대한 분류가 아니라, 계속 돌아가는 내부 세계의 시뮬레이션이 됩니다. 개인화 AI와 장기적인 인간과 AI의 상호작용에서 이 점은 중요합니다. 사용자의 과거 경험을 기억하고 그 경험이 현재 생각을 어떻게 만드는지 이해하는 어시스턴트라면 더 일관되고 개인에게 맞는 응답을 할 수 있습니다.

해석 가능성은 두 번째 실용적 이점입니다. 교육, 심리 지원, 추천처럼 결정에 책임이 따르는 분야에서는 결론만 내놓는 모델보다 예측 근거를 짚을 수 있는 모델이 신뢰하고 검토하기 쉽습니다. 저자들은 MMEA를 해석 가능한 연속 심리 모델링 프레임워크로 설명하며, 그 이유로 분기 구조를 듭니다.

저자들은 MWM이 인과 추론의 토대가 될 수 있다고도 말합니다. 상태와 그 진화를 명시한 구조는 경험이 달랐다면 이 사람이 어떻게 반응했을까 같은 질문에 통계적 연관보다 적합하다는 것입니다. 장기적 활용 가능성으로 AGI도 언급하지만, 이는 논문 논의부의 주장이지 벤치마크로 확인된 결과는 아닙니다.

전망

당장 필요한 것은 재현입니다. 96.48%와 94.00%는 DynToM과 RecToM 두 벤치마크의 수치이며, 저자들은 이를 주요 대규모 언어 모델 및 전용 ToM 방법과 비교해 보고했습니다. 독립적인 재현, 더 많은 데이터셋, 실제 상호작용 환경에서의 검증이 있어야 이 성능 향상이 시험 환경 밖에서도 유지되는지 알 수 있습니다.

열린 질문도 분명합니다. 어느 분기가 성능 향상을 이끄는지, 길고 잡음이 많은 실제 대화에서 주관적 세계 표현이 얼마나 확장되는지, 사용자의 이력이 불완전하거나 틀렸을 때 모델이 어떻게 행동하는지입니다. 출처 요약은 이에 답하지 않으므로 발견이 아니라 연구 과제로 남습니다.

연구 커뮤니티에는 논의하고 비교할 수 있는 문제 설정과 벤치마크 결과가 주어졌습니다. 후속 연구는 저자들이 연 방향, 곧 주관적 세계 모델링과 심리 진화를 개인화 AI, 인과 추론, 장기적인 인간과 AI의 상호작용의 토대로 삼는 길을 이어갈 수 있습니다.