Mehrere Dokumente RAG: Ein Ordner unzusammenhängender PDFs ist ein langes Dokument mit verschachteltem Gliederung

Hintergrund

Beim Aufbau von Retrieval-Augmented-Generation-Systemen im Unternehmensumfeld hat sich eine scheinbar unschuldige Annahme zur Belastung entwickelt: Der Glaube, man müsse nur alle PDFs in denselben Vektorspeicher speisen, und die Suche finde schon die richtige Antwort. In der Praxis stellt sich genau das Gegenteil ein. Ein Ordner mit unzusammenhängenden Dokumenten—Jahresabschlussberichte, Produkthandbücher, technische Spezifikationen, Rechtsverträge—teilt keine einheitlichen Metadatenfelder und keine gemeinsame Klassifikation. Wer auf solche Daten eine einzige übergreifende Indexstruktur erzwingen will, überdeckt damit laut Autor die Heterogenität der Daten mit einer vorgetäuschten Konsistenz. Ohne gemeinsame Felder gibt es im klassischen Sinne schlicht nichts zu indizieren.

Die technische Ursache liegt in den zwei Phasen des Retrievals: Recall und Neurankung. Beide benötigen eine vergleichbare Repräsentation. Fehlen gemeinsame Felder, kann der Vektor-Recall zwar semantisch ähnliche Abschnitte heranziehen, doch das System kann nicht mehr zuordnen, zu welchem Dokument oder welcher Hierarchieebene ein Abschnitt gehört. Die zurückgegebenen Ergebnisse sind daher fragmentiert und ihres Kontexts beraubt statt zusammenhängend.

Der vorgeschlagene Weg erfindet keinen ausgefeilteren Chunking-Algorithmus. Stattdessen wird eine leichte Zwischenebene eingeführt: eine Zusammenfassungslinie je Datei plus das jeweilige Inhaltsverzeichnis der Datei. Diese Zeile wirkt als routing-Referenz auf Dokumentebene und lässt das System die Suche im ersten Schritt auf eine konkrete Datei eingrenzen. Das Inhaltsverzeichnis liefert die zweite Strukturebene und ermöglicht die weitere Lokalisierung auf einzelne Abschnitte. So teilt sich der Suchpfad in zwei klare Durchdringungsebenen: vom Ordner zur Datei, dann von der Datei zum Abschnitt, jede mit konkreter struktureller Begründung statt auf vager Vektorähnlichkeit.

Tiefenanalyse

Der kommerzielle Wert dieses Entwurfs liegt darin, wo er die Komplexität verlagert. Statt sie im Retrieval-System zu vergraben, wandert sie in die Datenaufbereitung—eine Phase, die sich batchweise verarbeiten und wiederverwenden lässt. Traditionelle Lösungen wollen alle Dokumente durch ein einziges generisches Rohr leiten, was in der Regel individuelle Regeln je Dokumententyp bedeutet, wobei die Wartungskosten mit wachsender Vielfalt exponentiell ansteigen.

Der alternative Ansatz verzichtet auf tiefes Parsen des Dokumentinhalts. Er nutzt die bereits in jeder Datei eingebettete Struktur: Ein Inhaltsverzeichnis ist selbst eine hierarchische Gliederung, die vom Autor oder einem Satzwerkzeug erzeugt wurde. Eine einzelne Zusammenfassungslinie zu erzeugen ist äußerst günstig; moderne Sprachmodelle erledigen das in Sekunden, ohne auf eine bestimmte Dokumententyp zugeschnittenes Training. Ein Unternehmen kann so ohne großes Annotationsteam einen nutzbaren Retrieval-Einstieg für einen Ordner mit tausenden unzusammenhängenden Dateien aufbauen.

Für mittelgroße Unternehmen mit knappem Budget und chaotischer Dokumentenvielfalt repräsentiert dies einen äußerst kosteneffizenten Umsetzungsweg. Das System tauscht theoretische Vollständigkeit gegen praktische Präzision und akzeptiert, dass nicht jedes Dokument bis zur tiefsten Ebene analysiert werden kann oder soll.

Branchenwirkung

Dieser Ansatz berührt einen Scheideweg im aktuellen RAG-Feld. Führende Anbieter bewerben überwiegend end-to-end automatisierte Rohre mit Fokus auf sofortige Nutzbarkeit und Null-Konfiguration. Doch diese Erzählung versagt in hochheterogenen Unternehmensdokumentenszenarien. Sobald Kunden merken, dass das System keinen konkreten Dokument- oder Abschnittsort finden kann, schwindet das Vertrauen rasch.

Teams, die die Heterogenität von Dokumenten zugeben und eine kontrollierte, gestaffelte Retrieval-Lösung anbieten, bauen stattdessen tiefere Gräben in vertikalen Märkten. Für Entwickler senkt der Ansatz zugleich die Fehlerkosten: Es braucht weder komplexe Graphdatenbanken noch Vektorindex-Tuning. Man muss nur zuerst verstehen, ob die Dokumente in einem Ordner überhaupt gemeinsame Struktur teilen, und dann entscheiden, wie viel Ingenieursressourcen man investiert.

Für Endnutzer ist die direkste Verbesserung die Rückverfolgbarkeit. Retrieval-Ergebnisse zeigen an, aus welchem Abschnitt welches Dokuments die Antwort stammt, statt ein nicht überprüfbares Blackbox-Ergebnis zurückzugeben. Diese Nachvollziehbarkeit entscheidet oft zwischen einem System, das Ingenieure vertrauen, und einem, das man still aufhört zu nutzen.

Ausblick

Mehrere Signale sind beachenswert. Erstens, ob sich die Kombination aus einer Zusammenfassungslinie und einem Inhaltsverzeichnis zu einem standardisierten Zwischendarstellungsformat entwickelt, ähnlich wie der Inverted Index in der frühen Textsuche zur Infrastruktur wurde. Zweitens, ob die zweistufige Durchdringung an eine Grenze stößt, wenn Dokumentzahlen wachsen und Gliederungsebenen tiefer werden, und dadurch dynamisch erweiterbare drei- oder vierstufige Routing-Mechanismen anregt.

Drittens, ob sich die Automatisierung von Zusammenfassungserzeugung und Inhaltsverzeichnis-Parsen bis hin zur vollständig ohne menschlichen Eingriff bei der Feldabgleichs ausbauen lässt. Eine grundlegendere Frage verdient zudem Beachtung: Sobald die Unabhängigkeit von Dokumenten zugegeben wird, sollten Systeme dann aktiv potenzielle Verbindungen zwischen Dokumenten entdecken statt sie für immer zu Inseln zu machen.

Diese Fragen werden bestimmen, wie sich mehrdokumentätes RAG von einer Ingenieurtechnik zu einer ausgereiften Methodik entwickelt. Der unmittelbare Reiz bleibt jedoch pragmatisch: akzeptieren, dass unzusammenhängende Dokumente keinen gemeinsamen Index teilen können, und jeder Datei durch ihre eigene Zusammenfassung und Gliederung eine Stimme geben.