SWE-Critix：SFTと強化学習で「汎用検証器」を後訓練し、コーディングエージェントの長い軌跡の成否を理由つきで判定、正解率は57%から78%へ

論文2610.13356は、2026年10月中旬にarXivに現れた「SWE-Critix：コーディングエージェントの軌跡を評価する汎用検証器の後訓練」だ。扱う問題は、コーディングエージェントが有能になるほど鮮明になる。もはやコード断片を書くだけではなく、リポジトリを調べ、ファイルを編集し、コマンドとテストを実行し、フィードバックを解釈して改良する。単一関数の生成からリポジトリ規模の課題解決、長期のソフトウェア開発タスクへと広がっている。自律性が高いほど、実行軌跡、つまりエージェントが課題を一歩ずつ解いた完全な記録を確実に検証する必要が増す。ところが実際のエンドツーエンドのタスクでは、成功の基準を定める既製の評価器がないことが多い。エージェントが課題を終えたか判定し、失敗したら理由を示す検証器が要る。 難しいのは軌跡そのものだ。1本の軌跡には、ユーザー入力、環境のフィードバック、モデルの応答が数百回も織り込まれ、1回きりの回答よりはるかに調べにくい。論文は、LoLBenchのタスクの軌跡が53〜532ターンに及ぶ例を挙げる。著者は既存の手法を二つの軸で整理する。検証が最終結果（提出されたパッチなど）だけを見るか、過程も調べて望ましくない中間行動を見つけるか。手法が訓練なしか訓練ありか。訓練なしの手法は汎用LLMやルールベースの判定を使い、訓練ありの手法は専用の批評器を学習し、さらにスカラー報酬だけを出すかどうかで分けられる。この分類では、訓練に基づく、過程重視の汎用検証はまだ十分に探られていない。SWE-Critixはその空白を埋めようとする。課題と実行軌跡を受け取ると、学習した検証器が完了したかを予測し、判断を説明する自然言語の分析も生成する。

訓練パイプラインは段階的だ。データはCoderForge-Preview（要旨ではCodeForge-Previewと表記）から取る。25.8万本の軌跡（15.5万本が成功、10.3万本が失敗）を持ち、1,655のリポジトリにわたる5.1万の課題を含む大規模なオープンデータセットだ。OpenHandsの足場とQwen3-Coder-480Bで、実行可能な環境を提供する三つのタスク源から生成された。著者は、64Kトークンを超える軌跡や、パッチが提出されていない（課題が未完了など）軌跡を捨て、データの16%を除いた上で、残りをSFT、RL、テストに分けた。SFTには、成功と失敗の軌跡の両方がある課題から、それぞれ1本ずつ選ぶ。RL用には残りの失敗軌跡をすべて入れ、課題をまたいで成功軌跡を順番に抽出し、2つのクラスが均衡するまで続けて、できるだけ多くの異なる課題を覆う。

SFTの鍵は推論の連鎖の出どころだ。より強い教師モデル（GPT-5.5）が、成功と失敗の各ペアを比べ、手順、誤りのパターン、成否を分けた要因をまとめる。得られた連鎖は1件ずつ判定する形に後処理され、SFTサンプルに組み立てられる。ペア比較を選んだのは、LLMが個別の判定よりペアの判定のほうが得意だという先行研究による。Qwen3-30B-A3B-Thinking-2507から出発し、16ノード計128基のHuawei Ascend 910B NPUで、MindSpeed-LLMにより3エポック、975イテレーション、約15時間訓練した。RLの段階では、単体テスト結果はあるが推論の連鎖はない残り91.3%のデータを使い、報酬は単純なルールベースの結果報酬だ。予測した判断が単体テストの真の結果と一致すれば+1、そうでなければ-1。VeRLとGRPOを用い、グループサイズは8、8ノード計128基のAscend 910C NPUで、1エポック3,396イテレーション、約533時間かかる。

評価は直接的で、成功と失敗の軌跡を見分けられるかを見る。テストセットは4.3万本超の長い軌跡で、各モデルを各サンプルで1回だけ評価し、16基のAscend 910Cを持つ1ノードでvLLM Ascendにより配備した。正解率に加え、正例（成功）と負例（失敗）それぞれの適合率、再現率、F1を報告する。結果は明確な段階を示す。基礎のQwen3 MoEモデルは軌跡を正しいと予測する偏りが強く、すべての部分集合で負例の再現率がほぼゼロで、応答の9.6%は求められた出力形式に従わず、判断を確実に取り出せない。SFTはこの二つを和らげ、すべての応答がプロンプトの形式に従い、正例への偏りも大きく減る。さらにRLで、全体の正解率は66%から78%に上がった。SFTは主に基礎モデルの強い肯定的な偏りを直し、RLは正例の再現率を67%から85%に上げて判別力を強め、負例の再現率を大きくは犠牲にしていない。

著者は不足も率直に書く。第一に、R2E-Gymでの成績はSWE-RebenchやSWE-Smithより明らかに低く、データ量が少ないことが理由の一つとして考えられる。第二に、失敗軌跡の認識はまだ弱く、全体の負例の再現率は64%にとどまる。失敗のパターンはより多様で、信号も微妙で、成功軌跡と区別しにくいことを示唆する。今後は、Open-SWE-Tracesなど他のデータ源を加え、別のモデルと足場の組み合わせで軌跡を合成し、均衡した配分だけでなく2対1、1対2、4対1などのクラス比も調べる計画だ。留意すべきは、すべての軌跡が1つの足場と1つのモデルから生成されている点で、別の足場やモデルでの検証器の振る舞いにはまだ証拠がない。 私たちの見方では、SWE-Critixの意義は、理由つきの判断が比較的単純な二段階の手順で学べると示し、モデルと訓練コードの公開で他者が再現・改善できるようにした点にある。限界ははっきりしている。自称の予備的な評価で、各サンプルは1回しか測っていない。78%の正解率は、なお明確な誤判定が残ることを意味する。失敗軌跡の識別は成功軌跡より弱く、実際の運用では、失敗の見逃しは誤報より危険なことが多い。この種の検証器を自分のコーディングエージェントのパイプラインに入れたいチームは、単体テスト、抜き取り検査、独立した評価環境とともに補助的な信号として扱い、自分の軌跡で分類性能を測ってから置き場所を決めるのが堅実だ。