MJev-Spatial: System-1-Raumintelligenz per Attention

Hintergrund

Raumintelligenz befähigt einen Agenten, die physische Welt wahrzunehmen und in ihr zu handeln. Viele der dafür nötigen Urteile müssen in Interaktionsgeschwindigkeit fallen: Gilt eine räumliche Beziehung? Wie weit liegen zwei Objekte auseinander? Wohin gehört ein Gegenstand? Vision-Sprache-Modelle (VLMs) beantworten solche Fragen üblicherweise mit freier Textgenerierung. Das verursacht zusätzliche Kosten durch autoregressive Dekodierung und durch die nachgelagerte Analyse der erzeugten Antwort.

Dabei ist der Ausgaberaum dieser Aufgaben klein. Die Antwort ist eine Option aus einer kurzen Liste, ein einzelner Skalar oder ein 2D-Punkt im Bild. Einen ganzen Text zu erzeugen, um eine so kompakte Antwort zu liefern, passt nicht zur Aufgabe. Genau diese Beobachtung bildet den Ausgangspunkt von MJev-Spatial, einem Beitrag auf arXiv.

Die Autoren beschreiben MJev-Spatial als multimodales Entscheidungsmodell im System-1-Stil. Ein einheitlicher Klassifikationsrahmen deckt drei Aufgabentypen ab: Auswahlfragen, Zahlenvorhersage und Punktvorhersage. Der Beitrag nennt drei Kernelemente. Erstens gilt jeder Kandidat als Klasse und wird mit den vortrainierten Query- und Key-Projektionen des Backbones bewertet, ohne neue Parameter. Zweitens übernimmt eine Grob-zu-fein-Klassifikation Zahlen und Punkte. Drittens soll ein Rezept aus gemeinsamer Überwachung und optimiertem Batching das Training auf gemischten Raumdaten effizienter machen.

Tiefenanalyse

Wie beantwortet MJev-Spatial räumliche Fragen, ohne Text zu erzeugen? Das Modell nutzt natives Attention-Matching. Für jeden Kandidaten berechnet es einen Übereinstimmungswert aus den Query- und Key-Projektionen, die das Backbone bereits besitzt. Der Kandidat mit dem höchsten Wert ist die Vorhersage. Da die Gewichte vortrainiert sind, muss kein Klassifikationskopf von Grund auf gelernt werden. Pro Entscheidung genügt ein Vorwärtsdurchlauf, und es entstehen keine Antwort-Token. Die Kandidaten wechseln mit der Aufgabe. Bei Auswahlfragen sind es die vorgegebenen Optionen. Bei der Zahlenvorhersage sind es Wertintervalle (Value Bins). Bei der Punktvorhersage sind es Bildregionen. Die Genauigkeit entsteht schrittweise: Zuerst wählt das Modell ein grobes Intervall oder eine grobe Region, dann klassifiziert es darin erneut, bis die gewünschte Präzision erreicht ist. Im Training kommt Teacher Forcing zum Einsatz. Ein einziger Vorwärtsdurchlauf überwacht alle Grob-zu-fein-Stufen gemeinsam, sodass die Stufen nicht einzeln neu berechnet werden. Hinzu kommen längenbewusstes globales Batching und ein Lastausgleich über mehrere GPUs. Beides verringert verschwendete Rechenzeit, wenn Beispiele sehr unterschiedlicher Länge gemischt werden. Laut Beitrag steigt der Trainingsdurchsatz dadurch um 30,8 %.

Das Modell basiert auf Qwen3.5-4B und wurde mit 12,3 Mio. Frage-Antwort-Paaren trainiert, die allesamt aus bestehenden Datensätzen umgewandelt wurden. Die Methode braucht also keine eigens neu erhobenen Daten. Die Quelle nennt keine Ablationswerte für einzelne Komponenten. Wie viel jede Designentscheidung beiträgt, lässt sich daher nicht beurteilen.

Branchenwirkung

Die Auswertung umfasst 12 Raum-Benchmarks und acht Modelle, darunter das ursprüngliche Basismodell. MJev-Spatial erreicht insgesamt 65,64 %, den höchsten Wert der acht. Bei 7 von 12 Benchmarks liegt es auf Platz eins. Zudem übertrifft es das unveränderte autoregressive Basismodell in allen 12. Das letzte Ergebnis wiegt am schwersten. Beide Modelle teilen dasselbe Backbone und unterscheiden sich nur in der Art der Antwort und im Training. Der Vergleich legt nahe, dass der Wechsel von Textgenerierung zu Klassifikationsbewertung bei diesen Aufgaben keine Genauigkeit kostet. Er verbessert sie.

Das zweite Ergebnis ist die Geschwindigkeit. MJev-Spatial arbeitet 2,5-mal schneller als die schnellste autoregressive Baseline und 5,6-mal schneller als das Basismodell. Für Robotersteuerung, verkörperte Agenten und visuelle Echtzeitassistenten ist niedrige Latenz eine harte Anforderung. Dekodierverzögerung und fehleranfällige Antwortanalyse sind dort reale Hürden. Ist der Ausgaberaum kompakt, ist ein VLM als Klassifikator schneller und, nach diesen Benchmarks, auch genauer. Die Analyse freien Textes entfällt. Auch die Übertragbarkeit könnte gut sein. Die Methode fügt keine Parameter hinzu und nutzt vorhandene Query- und Key-Projektionen. Sie ließe sich deshalb womöglich mit überschaubarem Aufwand auf andere Backbones übertragen. Das ist eine Schlussfolgerung aus dem Design. Die berichteten Ergebnisse stammen von Qwen3.5-4B.

Ausblick

Das Grob-zu-fein-Verfahren eröffnet kontinuierlichen Ausgaben wie Abständen und Koordinaten einen Weg ohne Textgenerierung. Es könnte sich auf andere Bildaufgaben mit präziser Lokalisierung oder Schätzung ausdehnen lassen. Auch der berichtete Trainingsaufwand wirkt moderat: Bestehende Datensätze lieferten alle 12,3 Mio. Paare, und die Batching-Änderungen steigerten den Durchsatz um 30,8 %.

Offene Fragen bleiben. Die Quelle berichtet keine Ergebnisse für größere Backbones, für weitere Aufgabentypen oder für ein laufendes interaktives System. Das sind die naheliegenden nächsten Tests. Sinnvoll wäre außerdem ein Vergleich der Feinpräzision von Zahlen- und Punktausgaben bei unterschiedlichen Intervalleinstellungen, den die Zusammenfassung nicht ausführt.

Für Teams, die Agenten mit knappem Latenzbudget bauen, ist die Botschaft eng gefasst, aber klar. Ist die Antwort eine Auswahl, eine Zahl oder ein Punkt, kann ein einzelner Bewertungsdurchlauf über alle Kandidaten die Token-für-Token-Generierung ersetzen. Als Beleg nennt MJev-Spatial 65,64 % Gesamtwert und eine 5,6-fache Beschleunigung gegenüber dem eigenen Basismodell.