世界モデルは何を忘れるべきか：継続適応のための階層化された保持

arXiv の論文 2610.03713 は、小さく見えて根本的な問いを扱っている。継続的に適応する世界モデルは、何を忘れるべきなのか。著者らの中心的な主張は、継続学習が長く使ってきた評価の習慣が、世界モデルには当てはまらないというものだ。なお、本稿は論文の要旨のみに基づく。要旨には具体的な数値結果が書かれていないため、数字は一切作り上げず、論文が示す概念、仕組み、評価上の主張を分析する。 一、問題の出発点 従来の継続学習では、予測対象は定常である。猫の画像は今日も十年後も猫だ。この前提の下では、古いタスクでの精度低下は明確な失敗の信号であり、破滅的忘却と呼ばれる。平均忘却量や後方転移といった忘却指標のほとんどは、この前提に立っている。古いデータでの性能が当初に近いほど良いモデルだ、という考え方である。 世界モデルは違う。予測対象は環境そのものであり、環境は変わる。倉庫の棚が並べ替えられる。交差点に信号が新設される。ロボットのグリッパーが摩耗して力学が変わる。以前に学んだ「棚は左にある」は当時は正しく、今は誤りだ。古い答えにしがみつくモデルのほうが、本当の欠陥を抱えている。この場面では、忘却は欠陥ではなく必要な振る舞いである。

二、中心となる主張：不変性の時間尺度による階層化 著者らは、世界モデルの知識は一様ではないと述べる。決して改訂してはならない種類がある。物理法則、重力の向き、物体の永続性（見えなくなっても物体は消えていない）などだ。もう一つは個別の事実で、ある部屋の配置や特定の機器の現在の状態などがこれにあたる。こちらは環境が変わったらすぐに書き換えるべきだ。両者の間には、変化の速さが異なる中間層もある。 これが「階層化された保持」の意味である。知識の不変性の時間尺度ごとに、保持の方針を変える。真の不変量に近いほど保持の要求は厳しく、改訂は禁じられる。具体的な個別事実に近いほど要求は緩く、改訂は奨励され、しかも速くなければならない。 論文は、隣接分野にすでに先行研究があることにも触れる。概念ドリフトの研究は、分布が変わるデータを扱う。言語モデルの時間的事実性の研究は、時間とともに古くなる事実、たとえば誰がどの職に就いているかを扱う。しかし、これらは世界モデルについて体系的に定式化されてこなかった。世界モデルには特有の点がある。決して改訂してはならない知識も同時に符号化していることだ。言語モデルは多くの事実が古くなってもよいが、世界モデルは物理的な常識を劣化させられない。

三、現行の指標が機能しない理由 要旨には鋭い指摘がある。標準的な忘却指標は、二つのまったく異なるモデルを区別できない。一つは古くなった知識を正しく改訂したモデル、もう一つは破滅的忘却に陥ったモデルである。どちらも古いデータでの精度が下がるので、指標には同じ信号に見える。さらに悪いことに、この指標は完全に凍結されたモデルを最上位に置く。凍結モデルは古いデータで何も変わらないからだ。環境に一度も適応しないモデルが勝つのでは、評価の目的に反する。 既存の物理推論ベンチマークにも似た欠点がある。要旨によれば、それらは凍結されたチェックポイントだけを評価する。ある一時点のモデルを見るだけで、続いていく適応の流れの中での振る舞いは見ない。つまり、継続的な適応そのものを測っていない。 四、差分保持：二つの指標、集約なし 提案される評価は差分保持（differential retention）と呼ばれる。適応の流れ全体にわたって、二つを並べて報告する。 第一は、不変量の回帰テストだ。各適応段階で、物理法則や物体の永続性などの不変量に向けたテストを行い、何も壊れていないことを確かめる。「覚えておくべきことは覚えている」を担保する。 第二は、改訂遅延だ。環境が変わってから、モデルが関連する個別の事実を更新するまでにどれだけかかるか。「忘れるべきことは速やかに忘れる」を担保する。 肝心なのは「集約しない」ことだ。二つを一つの点数にまとめると、片方を犠牲にして他方で高得点を取れてしまう。凍結モデルは不変量で満点を取り、改訂遅延は無限大になる。別々に報告すれば、この取引が見える。評価研究で単一の総合スコアを警戒する流れとも一致する。 五、開発者と企業への影響 ロボット、自動運転、デジタルツイン、エージェントのシミュレーターを作るチームにとって、この枠組みは使えるチェックリストになる。まず、自分たちの不変量の集合を明示し、更新のたびに走る回帰テストにする。次に、制御された環境変化を注入する実験を設計し、改訂遅延を測る。そして継続学習の手法を選ぶとき、古いタスクの保持率だけを見てはいけない。強い正則化で古い知識を固定する手法は、古いデータでは良く見えても、この評価では改訂遅延の高さが露呈する。 ベンチマークの作り手にとっては、変化はさらに大きい。評価の対象が静的なチェックポイントから適応の流れ、つまり更新され続けるモデルの経路全体へ移る。コストは上がる。制御された変化を持つ環境の系列を作り、どの知識を書き換えるべきか、どれは書き換えてはならないかを、変化ごとに注釈する必要がある。 六、限界と未解決の点 第一に、階層の線引きは難しい。どの知識が真の不変量で、どれが長い時間尺度で安定しているだけの事実なのか。境界は常に明確とは限らない。物理法則は永遠に見えるが、モデルが持っているのは物理の近似であり、近似は修正が必要になることもある。 第二に、改訂遅延の測定には、環境がいつ変わったかの明確な注釈が要る。実際の運用では、変化は緩やかで目立たず、何が起きたかをモデルに教えてくれる人はいない。 第三に、要旨が示すのは概念的な枠組みと評価上の主張であり、数値結果はない。この種の立場表明の論文の価値は問題を定義し直すことにあり、実際の効果は、具体的な世界モデルと環境で今後検証される必要がある。引用する際はこの点に注意したい。

七、今後の方向 考えられる方向としては、変化イベントに注釈を付けた、世界モデル向けの適応ストリームのベンチマークがある。不変量と個別知識を別々に保存するアーキテクチャ、たとえば別々のパラメータ部分空間やメモリモジュールを使う方法もある。改訂遅延を訓練目標に含める案も考えられる。さらに先では、どの知識が古くなったかをモデル自身が判断する必要が出てくる。つまり環境が変わったことの検出であり、概念ドリフト検出と自然につながる。 要するに、この論文は新しいネットワーク構造を提案しない。問題と採点規則を定義し直す。自己更新するモデルを評価するとき、どれだけ忘れたかを問うのはやめよう。忘れるべきことを忘れ、覚えておくべきことを覚えているか。そう問うべきだと、論文は私たちに促している。