IBM stellt im Hugging-Face-Blog LLMON und Granite-4.1-Vorschauen mit 3B/8B vor
IBM stellt im Hugging-Face-Blog LLMON vor, eine Auszeichnungssprache, die Anweisungen von Daten trennt, samt 3B- und 8B-Vorschaumodellen auf Granite-4.1-Basis.
Die Meldung
Am 12. November 2026 hat IBM im Hugging-Face-Blog LLMON vorgestellt, kurz für LLM Object Notation, gesprochen „Lemon“. Es ist eine Auszeichnungssprache, die für große Sprachmodelle gebaut wurde und nicht für Parser. IBM veröffentlicht sie zusammen mit zwei experimentellen Vorschaumodellen, die von den Granite-4.1-Basismodellen abgeleitet sind: granite-4.1-3b-LLMON-preview und granite-4.1-8b-LLMON-preview. Ein GitHub-Repository enthält ein Toolkit für die Arbeit mit LLMON sowie Beispiele für Arbeitsabläufe und Vorlagen. IBM sagt klar, dass es sich um eine experimentelle Vorschau handelt, geeignet zum Erkunden und Bewerten, aber nicht für den Produktivbetrieb.
Das Problem
Ein Modell erzeugt seine nächsten Token aus dem Kontext. Bei einer langen Aufgabe füllt sich dieser Kontext mit vielen Arten von Teilen: einem Systemprompt, früheren Gesprächsrunden, Anweisungen, die auf abgerufene Dokumente wirken, Tool-Antworten, Nutzerdaten, Vorgaben für die Ausgabe und Denkketten. Die Struktur ist reich, bleibt aber meist implizit oder steckt in Formaten wie JSON, die nie dafür gedacht waren, von einem Sprachmodell gelesen zu werden. IBM nennt das einen Hauptgrund dafür, dass kleinere Modelle brüchig sind und auf unerwartete Weise scheitern. Es gibt auch Angreifern Raum. Bei einer indirekten Prompt-Injektion versteckt sich eine bösartige Anweisung in einem abgerufenen Dokument, einer Tool-Antwort oder in Nutzerdaten, und das Modell kann einen Befehl nicht von bloßem Material unterscheiden.
So funktioniert LLMON
LLMON kennzeichnet jede semantisch zusammenhängende Komponente mit einem aussagekräftigen Tag. Die Tags stehen innerhalb von Trennzeichen aus reservierten Spezialtoken. Datenschemata, auch verschachtelte, werden so formuliert, dass ein kausales Modell sie eindeutig lesen kann. Jeder Block trägt eine eindeutige ID, sodass eine Anweisung an beliebiger Stelle im Kontext an die Daten gebunden werden kann, auf die sie wirken soll. IBM vergleicht das mit einem Funktionsaufruf, der Argumente erhält. Die Sprache definiert sechs Trennzeichen, die Anfang und Ende von Tags markieren und Verschachtelung und Verankerung erlauben. Sie sind im Tokenizer als reservierte Einzeltoken eingebaut.
Warum nicht JSON? Der Beitrag nennt konkrete Gründe. Der Tokenizer ist nicht gezwungen, die Grammatik zu beachten, und die Zeichen, die Struktur tragen, etwa geschweifte Klammern, Anführungszeichen und Doppelpunkte, kommen auch in normalem Text vor. Für ein Modell sind ein Anführungszeichen im Dokument und ein Anführungszeichen, das ein Feld schließt, dasselbe Token. Escape-Regeln, die für einen Parser klar sind, bleiben für ein Modell statistische Muster. Die Verschachtelungstiefe wird durch das Zählen von Klammern codiert, und Transformer sind darin bekanntermaßen schwach, besonders über lange Strecken. LLMON verwendet für die Struktur reservierte Token, sodass Struktur und Inhalt getrennte Teile des Vokabulars nutzen. Tags stehen am Anfang jedes Abschnitts, die Grenzen sind eindeutig, und verschachtelte Strukturen werden lokal angegeben.
Verhältnis zu Chat-Vorlagen
LLMON ersetzt Chat-Vorlagen nicht, es ergänzt sie. Eine normale Vorlage sagt, welcher Teil zum System, zum Nutzer oder zum Assistenten gehört. LLMON fügt hinzu, was jede Komponente bedeutet und wie die Komponenten zusammenhängen, innerhalb einer Rolle und über Rollen hinweg. Die Vorschaumodelle bringen eine eigene Chat-Vorlage mit. Entwickler bauen dieselbe messages-Liste wie bisher und rufen apply_chat_template auf. Der Unterschied: Eine Runde kann jetzt ihre Teile benennen, etwa instruction, data und requirement, und jeden Teil mit exec auf True oder False markieren. Ein Teil mit True wird an einen exec-Block am Ende des erzeugten Textes gebunden. Dieser Block gibt an, welche Anweisung auszuführen ist, auf welche Daten sie wirkt, welche Vorgaben gelten und in welchen Assistentenblock die Antwort kommt. Ein Teil mit False bleibt im Kontext, wird aber von nichts referenziert. In IBMs Beispiel erreicht eine Nutzerrunde das Modell als fünf adressierbare Blöcke, die ein sechster, der exec-Block, zusammenbindet. Block-IDs haben zwei Zeichen aus einer festen Menge, die der Tokenizer als Einzeltoken kodiert. Ein Block anzusprechen kostet also immer zwei Token.
Das Training
Die Modelle starten von den Granite-4.1-Basis-Checkpoints, nicht von den veröffentlichten Instruct-Modellen. Das LLMON-Verhalten wird daher im Post-Training gelernt. Das Team hat einen üblichen Instruction-Tuning-Korpus in LLMON umgeschrieben. Jede Prompt-Komponente wird ein eigener Block, und jede Runde trägt einen Ausführungsblock, der die Anweisung, die Eingaben und das Ziel der Ausgabe nennt. Die Aufgabenmischung entspricht der eines gewöhnlichen Instruct-Modells: Chat, mehrere Runden, RAG und Tool-Aufrufe. Deshalb bleiben die Benchmark-Werte nahe am klassisch abgestimmten Modell. Das Team fügte außerdem Köder-Anweisungen und Datenblöcke hinzu, die im Kontext stehen, aber absichtlich ungebunden bleiben, während die Zielausgabe gleich bleibt. Das Modell lernt, den Abhängigkeiten des Ausführungsblocks zu folgen und den Rest zu ignorieren. Danach folgt Reinforcement Learning: fünf aufeinanderfolgende GRPO-Stufen für fachübergreifendes Schlussfolgern, RLHF, Wissenskalibrierung und Mathematik, zum Schluss eine DPO-Stufe mit tausend On-Policy-Präferenzpaaren, gebaut aus den eigenen Antworten des Modells auf Injektionsversuche.
Die Berechtigungsregel ergibt sich aus diesem Aufbau und nicht aus einer zusätzlichen Schutzschicht. Eine Anweisung, die über einen Ausführungsblock erreicht wird, ist maßgeblich. Alles, was als Eingabe erreicht wird, also Daten, Dokumente, Tool-Schemata und Tool-Ergebnisse, ist Material zum Lesen und kein Befehl zum Befolgen. IBM betont, dass dies ein gelerntes Verhalten ist und keine erzwungene Garantie.
Die Ergebnisse
IBM verglich die Vorschauen mit mehreren offenen und geschlossenen Modellen auf dem OPI-Benchmark, der die Injektion in die Daten klassischer NLP-Aufgaben legt und mehrere Angriffsstrategien nutzt. Das Maß ist die Robustheit, definiert als eins minus Angriffserfolgsrate. Laut Beitrag sind alle Modelle ohne LLMON sehr anfällig. LLMON beseitigt das Problem auf diesem Benchmark praktisch: Es wehrt 47 Prozent mehr Angriffe ab als das beste getestete Frontier-Modell und 95 Prozent mehr als das beste offene Modell. Die Benchmarks ASB und StruQ zeigen ähnliche Trends. IBM fügt eine Einschränkung an: Diese Tests prüfen statische indirekte Injektionen, die die Trennung von Anweisung und Daten direkt adressiert. Adaptive Angriffe, die sich über viele Gesprächsrunden entfalten, sind noch in Arbeit. Bei der allgemeinen Leistung liegen die LLMON-Modelle in den üblichen Benchmark-Kategorien gleichauf mit Granite 4.1 Instruct.
Eigene Vokabulare und Einsatz
LLMON ist nicht an ein festes Schema gebunden. Ein Team kann Tag-Namen und Struktur für den eigenen Bereich wählen und einen Adapter trainieren, der sie liest und schreibt. IBM zeigt das an ScienceWorld, einem textbasierten Benchmark für einfache naturwissenschaftliche Aufgaben. Das Team definierte Tags wie instr.task.goal, req.planning_policy.rule, data.state.room, data.state.inventory und assistant.next_action und trainierte ein LoRA auf einem LLMON-Modell. Ein Notebook führt durch den gesamten Ablauf. Bestehende JSON-Pipelines lassen sich mit den veröffentlichten Werkzeugen verlustfrei nach LLMON und zurück umwandeln. Die Agentenbibliothek Mellea unterstützt LLMON nativ und wandelt ihre Aufrufe automatisch um.
Unsere Einschätzung
Die Veröffentlichung bietet Code, Zahlen und benannte Grenzen, bleibt aber eine Vorschau. Das Material zitiert IBMs selbst gemeldete Ergebnisse, und die vorliegende Ankündigung liefert keine Daten zu unabhängiger Reproduktion. Teams, die RAG- und Agentensysteme bauen, sollten es in einer kontrollierten Umgebung testen. Es verlagert die Abwehr von Injektionen von Prompt-Tricks hinunter auf das Modell und den Tokenizer.
Sources
FAQ
Was ist LLMON und wie spricht man es aus?
LLMON steht für LLM Object Notation und wird „Lemon“ gesprochen. IBM hat es als Auszeichnungssprache für Sprachmodelle gebaut. Reservierte Spezialtoken kennzeichnen Anweisungen, Daten und Vorgaben, damit das Modell die Struktur seines Kontexts erkennt.
Wie senkt LLMON das Risiko indirekter Prompt-Injektionen?
Es trennt Anweisungen und Daten in Blöcke, und der Ausführungsblock nennt die Anweisung und die zu nutzenden Eingaben. Das Modell ist darauf trainiert, ihm zu folgen, und behandelt den Rest als Material. IBM berichtet in statischen indirekten Injektionstests 47 Prozent mehr abgewehrte Angriffe als das beste getestete Frontier-Modell, aber keine absolute Abwehrgarantie.
Kann man LLMON-Modelle heute produktiv einsetzen?
Nein. IBM nennt sie eine experimentelle Vorschau, geeignet zum Erkunden und Bewerten, aber nicht für den Produktivbetrieb. Es gibt zwei Modelle mit 3B und 8B. Die Ergebnisse stammen aus IBMs eigenem Blog, adaptive Mehrrunden-Angriffe werden noch verbessert.