YOPO: Schlussfolgerung und Ablehnung bei eingefrorenen LLMs in einem einzigen Vorwärtsdurchlauf
Dieses Papier stellt das YOPO-Framework vor, um die unzureichende Nutzung von Belegen und die Unfähigkeit, fehlende Informationen zu erkennen, in eingefrorenen LLMs zu beheben, was oft zu Halluzinationen führt. Durch die Integration von bedingten Führungssonden und Zero-Shot-Genügsamkeitsrichtungen trainiert YOPO ein kleines Netzwerk, um den Residualstrom vor der Führung neu zu konstruieren, sodass das Modell in einem einzigen Vorwärtsdurchlauf gleichzeitig antwortet, führt und ablehnt. Experimente mit dem Qwen2.5-Backbone zeigen, dass YOPO die Genauigkeit der Dreiklassen-Klassifikation von 0,375 auf 0,798 verbessert und alle Dual-Forward-Referenzwerte bei allen Skalierungen übertrifft. Diese Arbeit liefert den ersten „Antwort-oder-Ablehnung"-Benchmark und beweist, dass die Ablehnungsfähigkeit durch architektonisches Design und nicht durch Training erreicht werden sollte, was eine effiziente und zuverlässige Lösung für die industrielle Implementierung bietet.
Hintergrund
Eingefrorene große Sprachmodelle (LLMs) stehen bei der Verarbeitung von Inferenzaufgaben vor zwei eng verknüpften fundamentalen Herausforderungen. Erstens gelingt es diesen Modellen nicht, die bereits in ihren Residualströmen kodierten Beweise vollständig zu nutzen, was die Genauigkeit ihrer Schlussfolgerungen erheblich einschränkt. Zweitens fehlt ihnen die Fähigkeit, die Unzulänglichkeit der Eingabeinformationen zu erkennen. Wenn Daten fehlen, neigen die Modelle häufig zu Halluzinationen oder produzieren unsinnige Ausgaben, da sie nicht zwischen ausreichender und unzureichender Information unterscheiden können.
Um diese Defizite zu beheben, wurde das YOPO-Framework (You Only Pass Once) entwickelt. Es ermöglicht es einem Modell, innerhalb eines einzigen Vorwärtsdurchlaufs gleichzeitig zu antworten, zu leiten und bei Bedarf abzulehnen. Dieser Ansatz integriert zwei zuvor getrennte Forschungsstränge: bedingte Führungssonden, die in mittleren Schichten in den Residualstrom schreiben, um die Inferenzpräzision wiederherzustellen, und Zero-Shot-Genügsamkeitsrichtungen, die den Residualstrom lesen, um zu bestimmen, ob die Informationen für eine zuverlässige Antwort ausreichen.
Die direkte Kombination dieser Mechanismen führt jedoch zu unerwünschten Interferenzen. Der Schreibprozess der Führung verändert den Zustand, den die Genügsamkeitsrichtung liest, was zu einer Verschlechterung der Leistung beim Transfer über verschiedene Domänen hinweg führt. YOPO lövt dieses Problem, indem es ein leichtes Netzwerk trainiert, um den Residualstrom vor der Anwendung der Führung zu rekonstruieren. Diese Rekonstruktion stellt sicher, dass die Ablehnungsentscheidung auf dem ursprünglichen, ungestörten Zustand basiert, während gleichzeitig eine hochpräzise Inferenz gewährleistet wird, ohne die Inferenzkosten zu erhöhen.
Tiefenanalyse
Der technische Kern von YOPO liegt in der Entkopplung der Zustandsinterferenz zwischen dem Schreiben der Führung und dem Lesen der Richtung. Das Forschungsteam hält die Genügsamkeitsrichtung fest und trainiert ein kleines Netzwerk, das den mittleren quadratischen Fehler (MSE) als Verlustfunktion verwendet. Dieses Netzwerk rekonstruiert den Residualstrom vor der Führung, indem es Paare von (nach der Führung, sauber) Residualströmen nutzt.
Bemerkenswert ist, dass dieser Prozess keine Genügsamkeitslabels erfordert. Er stützt sich ausschließlich auf die gepaarten Daten der Residualströme selbst. Der rekonstruierte Strom wird dann verwendet, um die Genügsamkeitsrichtung zu lesen. Dies stellt sicher, dass die Entscheidung zur Ablehnung auf dem Originalzustand beruht, frei von den negativen Auswirkungen des Führungsmechanismus. Das System wird auf eingefrorenen Qwen2.5-Backbones mit 1,5 Milliarden, 3 Milliarden und 7 Milliarden Parametern deployed.
Durch die Ausführung aller Operationen in einem einzigen Vorwärtsdurchlauf vermeidet YOPO die verdoppelten Inferenzkosten, die mit traditionellen Dual-Forward-Ansätzen verbunden sind. Das Design nutzt die lineare Trennbarkeit des Residualstroms und erreicht durch eine einfache Rekonstruktionsaufgabe eine komplexe Zustandsentkopplung. Dies demonstriert ein tiefgreifendes Verständnis der internen Repräsentationsstruktur von Sprachmodellen und bietet einen neuen technischen Weg, um die Funktionalität eingefrorener Modelle zu verbessern, ohne den gesamten Backbone neu trainieren zu müssen.
Branchenwirkung
Experimentelle Ergebnisse zeigen, dass YOPO sowohl eingefrorene Baselines als auch Dual-Forward-Referenzbenchmarks deutlich übertrifft. Auf dem alphaNLI-Datensatz stieg die Dreiklassen-Genauigkeit des 1,5-Milliarden-Modells von 0,375 auf 0,798, was einer mehr als doppelten Verbesserung entspricht. Über alle Skalen hinweg erzielte YOPO Genauigkeiten von 0,798, 0,830 und 0,893 für die 1,5-Milliarden-, 3-Milliarden- und 7-Milliarden-Modelle. Diese Werte übertrafen die Dual-Forward-Baselines von 0,753, 0,790 und 0,863 konsistent.
Die Verallgemeinerbarkeit der Methode wurde weiter durch Experimente über zehn Backbones und sechs Modellfamilien validiert. Ablationsstudien offenbarten eine Kapazitätsübertragungsfront, die das Prinzip quantifiziert, dass Ablehnungsfähigkeiten nicht in das Modell trainiert, sondern durch architektonisches Design realisiert werden sollten. Das Forschungsteam führte zudem eine Quellenprüfung durch, bei der Oberflächenartefakt-Lecks in der Konstruktion von alphaNLI identifiziert wurden.
Infolgedessen wurden architektonische Aussagen an die native Label-Replikation mit Datensätzen wie SQuAD2, RepLiQA und MuSiQue verankert. Im Standard-Vier-Domänen-Setup erzielte das YOPO-Gateway die besten Ergebnisse auf allen In-Domain-Datensätzen. Darüber hinaus war die Label-freie Richtung die einzige Gateway-Familie, die ihre Leistung beim Domänentransfer aufrechterhielt. Dies beweist die Robustheit und die Querschnitts-Applicabilität der Methode, was für industrielle Szenarien, in denen konsistente Leistung über verschiedene Datenverteilungen hinweg erforderlich ist, von entscheidender Bedeutung ist.
Ausblick
YOPO hat tiefgreifende Implikationen für die Open-Source-Community und die industrielle Implementierung. Es bietet eine effiziente Methode, eingefrorene LLMs mit sowohl hochpräziser Inferenz als auch zuverlässiger Ablehnungsfähigkeit auszustatten, ohne die Inferenzkosten zu erhöhen. Dies ist besonders wertvoll für ressourcenbeschränkte Umgebungen. Durch die Bereitstellung des ersten Answer-or-Refuse-Benchmarks füllt die Arbeit eine erhebliche Lücke im Bereich und liefert standardisierte Bewertungswerkzeuge für zukünftige Forschungen.
Die Erkenntnis, dass Ablehnung eine architektonische Eigenschaft und kein trainiertes Verhalten sein sollte, bietet neue Leitlinien für das Modell-Design und Trainingsstrategien. Dies könnte die Komplexität der Modellentwicklung reduzieren. Für industrielle Anwendungen macht die Eigenschaft des einzelnen Vorwärtsdurchlaufs YOPO für Echtzeitsysteme wie Kundenservice-Bots und intelligente Assistenten geeignet, bei denen niedrige Latenz und Kosteneffizienz im Vordergrund stehen.
Die Methode der Residualstrom-Rekonstruktion und die Analyse der Kapazitätsübertragungsfront bieten neue Perspektiven zum Verständnis interner Repräsentationen und funktioneller Entkopplung in Sprachmodellen. Diese Arbeit könnte weitere Forschungen zur Verbesserung eingefrorener Modelle anregen und das Feld der natürlichen Sprachverarbeitung zu effizienteren und zuverlässigeren Lösungen für komplexe Inferenzaufgaben hin treiben.