Cohere demonstriert einen Rechercheassistenten für 928 Seiten Finanzberichte und benennt Produktionslücken

Am 29. Oktober 2026 veröffentlichte Cohere eine technische Anleitung für einen Rechercheassistenten zu Finanzberichten mit seinen Modellen und AWS-Diensten, der Suche, Neuordnung der Treffer, Seitenbilder und Antworten mit Seitenangaben verbindet. Die einsetzbare Vorführung nutzt einen festen Datensatz aus drei öffentlichen Geschäftsberichten für 2024 mit insgesamt 928 Seiten; die Autoren bezeichnen sie ausdrücklich als Ausgangspunkt und nicht als produktives System. Der Entwurf bespricht Embed Pro, Embed Fast, Rerank Pro und Parse, während die tatsächliche Vorführung bewusst eine einfachere andere Kombination verwendet. Eine mögliche Architektur darf nicht als bereits vorhandene Demofunktion ausgegeben werden; die Ausgabe erscheint am 2. November.

Die Aufgabe beginnt bei einer Zahl, die in Hunderten Seiten gefunden und belegt werden muss. Sie kann in einer Tabelle, Fußnote oder Grafik stehen, sodass reine Textsuche Spaltenüberschriften, Jahre oder Einheiten verlieren kann. Im vorgeschlagenen Ablauf indiziert Embed die Seiten, eine Frage ruft wahrscheinliche Seiten ab, Rerank kann sie neu ordnen und Context Focus passende Textstellen auswählen. Claude über Amazon Bedrock formuliert aus Text und Seitenbildern eine Antwort, wobei jede Behauptung eine Seite und eine Belegart wie Tabelle, Grafik, Fließtext oder Fußnote erhält. Diese Angabe hilft bei der Prüfung, garantiert aber keine richtige Deutung der Finanzzahl. Die Originalseite ist weiterhin zu lesen.

Die Anleitung trennt Zielentwurf und vereinfachtes Beispiel ungewöhnlich deutlich. Für den Entwurf empfiehlt sie Embed Pro beim Aufbau des Index und Embed Fast für interaktive Fragen sowie Rerank Pro und Parse dort, wo deren Nutzen Zeit und Kosten rechtfertigt. Die Vorführung verwendet stattdessen Embed Pro für beides und Rerank Fast, um den GPU-Bedarf zu begrenzen. Sie übernimmt bereits extrahierten Seitentext aus einem Benchmark-Datensatz. Beliebig hochgeladene PDF-Dateien kann sie nicht verarbeiten, und komplexe gescannte Seiten durchlaufen in diesem Beispiel nicht tatsächlich Parse. Wer behauptet, die Vorführung analysiere jedes gescannte Dokument automatisch, verwechselt eine mögliche spätere Erweiterung mit dem Istzustand. Unternehmensinterne Berichte können sich stark von den drei öffentlichen Berichten unterscheiden, weshalb ein eigener Fragensatz mit bekannten Antworten zuerst nötig ist.

Auch die Vektorspeicherung hat messbare Abwägungen. Cohere vergleicht einen int8-Vektor mit 1.024 Dimensionen und ungefähr 1 KB Rohdaten pro Seite mit einem float32-Vektor mit 2.048 Dimensionen und ungefähr 8 KB. Die achtfache Differenz betrifft nur den Rohvektor, nicht Index, Metadaten, Replikate oder OpenSearch-Gebühren, und sie belegt keine höhere Suchqualität. Anfrage und Index müssen dieselbe Dimension und dasselbe Format verwenden; spätere Änderungen erfordern gewöhnlich neue Einbettungen für alle Seiten. Bei gut lesbaren digitalen Unterlagen ist Textsuche wirtschaftlich, bei Scans, dichten Tabellen oder Grafiken können Parse und Bilder wichtiger sein. Seitenbezogene Trefferquote, Korrektheit der Quellen, Verzögerung und Gesamtkosten sollten anhand derselben Fragen gemessen werden.

Die Sicherheitsgrenzen der Vorführung dürfen nicht verborgen werden. Sie enthält nur einen Nutzer, eine OpenSearch-Serverless-Sammlung mit öffentlichem Netzwerkzugang und Datenzugriffsrichtlinie sowie keine Bedrock Guardrails. Diese Entscheidungen erleichtern die Bewertung und sind keine Empfehlung für den Produktivbetrieb. Cohere nennt als weitere Schritte einen VPC-Endpunkt und privaten Zugang, einen Identitätsanbieter, Rechte je Nutzer oder Team, Überwachung, Warnungen, automatische Skalierung der Endpunkte und ein Budgetsignal. Die Echtzeit-Endpunkte von SageMaker kosten für jede Stunde ihres Bestehens Geld, auch wenn niemand fragt. Ein Versuch braucht daher einen Schritt zum Entfernen der Ressourcen gemäß Repository-Anleitung, nicht nur das Schließen des Browsers.

In einem isolierten AWS-Konto kann ein Team zunächst Marketplace-Abonnements, Bedrock-Zugang und Region prüfen und danach den festen öffentlichen Datensatz nach dem README bereitstellen. Fragen mit bekannter Antwort müssen zeigen, ob die richtige Seite gefunden wird, ob Rerank die Reihenfolge verbessert, ob Context Focus Tabellenüberschriften oder Einheiten verliert und ob jede Claude-Quellenangabe die konkrete Aussage trägt. Beim Ein- und Ausschalten von Seitenbildern und Neuordnung sind Token, Verzögerung und Kosten je Frage festzuhalten. Bevor interne Berichte hinzukommen, sind privater Zugang, Identität, Verschlüsselung, Datenklassifizierung und Budget nötig, ebenso eine eindeutige Antwort, wenn keine Quelle die Frage belegt. Das Beispiel ersetzt diese Bedingungen nicht.

Eine richtige Seitennummer mit der Kennzeichnung „Tabelle“ kann trotzdem eine Zahl aus dem falschen Jahr oder einer anderen Konsolidierung betreffen. Menschliche Prüfer sollten Einheiten, Daten und Überschriften vergleichen und auch Fragen ohne vorhandene Antwort testen. Ein mehrsprachiger Einbettungsraum ersetzt keine echte Prüfung mit Fragen in den benötigten Sprachen.

Der Wert des Artikels liegt in prüfbaren Entscheidungen über Suche, Tabellenkontext und belegbare Antworten sowie der ehrlichen Beschreibung des Unterschieds zwischen Beispiel und Zielarchitektur. Behauptungen über Produktivreife, beliebige PDF-Analyse oder standardmäßig privaten Netzwerkzugang gehen über die Quelle hinaus; Daten, Rechte und Kosten müssen vorher geprüft werden.