Cohere présente un assistant de recherche financière sur 928 pages et précise les limites de la démonstration

Le 29 octobre 2026, Cohere a publié un guide pour construire avec ses modèles et des services AWS un assistant de recherche dans les rapports financiers, reliant recherche, reclassement, images de pages et réponses citées à la page. Sa démonstration déployable utilise un jeu fixe de trois rapports annuels publics de l’exercice 2024, soit 928 pages, et les auteurs la présentent clairement comme un point de départ, pas comme un système de production. La conception évoque Embed Pro, Embed Fast, Rerank Pro et Parse, mais la démonstration choisit volontairement une configuration plus simple; une possibilité architecturale ne doit pas devenir une fonction prétendument déjà présente. Notre édition paraît le 2 novembre.

Le problème consiste à retrouver un chiffre précis dans un dossier de centaines de pages. Il peut se trouver dans un tableau, une note ou un graphique, où une recherche fondée sur le seul texte risque de perdre l’intitulé d’une ligne, une année ou une unité. L’architecture proposée indexe les pages avec Embed, retrouve les pages probables pour une question, peut utiliser Rerank pour revoir leur ordre et Context Focus pour sélectionner des passages pertinents. Claude sur Amazon Bedrock formule ensuite une réponse à partir du texte et des images, avec pour chaque affirmation une page et un type de preuve, tableau, graphique, texte ou note. La citation aide le lecteur à vérifier, mais ne garantit pas que le modèle a interprété correctement un chiffre financier; la page originale reste à examiner.

Le guide sépare explicitement son architecture visée de la démonstration simplifiée. Dans la conception, Embed Pro sert à indexer et Embed Fast à traiter les questions interactives, tandis que Rerank Pro et Parse sont ajoutés lorsque leur avantage justifie temps et coût. La démonstration utilise plutôt Embed Pro pour l’index et la question, et Rerank Fast pour réduire ses besoins en GPU. Elle indexe du texte déjà extrait par l’ensemble de référence. Elle ne reçoit pas n’importe quel PDF téléversé et n’envoie pas réellement les pages scannées complexes à Parse. Affirmer que cette démonstration analyse automatiquement tout rapport scanné confondrait une extension envisagée avec une capacité actuelle. Les documents propres à une entreprise peuvent être très différents de trois rapports publics; il faut d’abord un ensemble de questions avec réponses connues.

Le stockage vectoriel offre un autre compromis reproductible. Cohere présente un vecteur int8 de 1 024 dimensions occupant environ 1 Ko brut par page, contre environ 8 Ko pour un vecteur float32 de 2 048 dimensions. La réduction par huit porte sur les octets bruts du vecteur; elle n’inclut ni l’index, ni les métadonnées, ni les copies, ni la facture OpenSearch, et ne prouve pas une meilleure qualité de recherche. Les vecteurs de question et d’index doivent avoir même dimension et même format; un changement demande généralement de recalculer les pages. Pour des documents numériques au texte propre, le texte est économique. Pour des scans, des tableaux denses et des figures, Parse ou l’image peut être décisif. Il faut comparer rappel à la page, exactitude des citations, latence et coût total sur les mêmes questions.

La portée de la sécurité de l’exemple doit rester visible. Il comprend un utilisateur, une collection OpenSearch Serverless accessible par réseau public mais protégée par une politique d’accès aux données, et aucun Bedrock Guardrails. Ces choix simplifient l’essai; ils ne sont pas des recommandations pour la production. Cohere suggère alors un point d’accès VPC, un réseau privé, le fournisseur d’identité de l’organisation, des droits par utilisateur ou équipe, la surveillance, les alarmes, l’ajustement des points d’accès et une alerte budgétaire. Les points d’accès SageMaker en temps réel sont facturés pour chaque heure d’existence, même sans question. Après un essai, il faut nettoyer les ressources conformément au dépôt, pas seulement fermer l’interface.

Un ingénieur peut commencer dans un compte AWS isolé en vérifiant les abonnements Marketplace, l’accès au modèle Bedrock et la région, puis déployer le jeu public fixe selon le README. Des questions à réponse connue doivent contrôler les pages retrouvées, l’effet de Rerank, les titres et unités que Context Focus pourrait écarter, et le soutien réel de chaque citation produite par Claude. En activant et désactivant images et reclassement, il peut enregistrer les jetons, délais et coûts par question. Avant d’introduire des rapports internes, il lui faut réseau privé, identité, chiffrement, classification des données, budget et règle de refus lorsque les pages ne contiennent pas la réponse. Une démonstration ne remplace pas ces vérifications.

Même une citation ayant le bon numéro de page et l’étiquette «tableau» peut pointer vers une année ou un périmètre comptable inadapté. La vérification humaine doit lire les unités, dates et en-têtes, et tester les questions sans réponse. Un espace d’embeddings multilingue ne dispense pas d’essais sur de vraies questions dans les langues concernées.

L’intérêt du guide est de transformer la recherche, le contexte des tableaux et la citation vérifiable en choix testables, tout en exposant l’écart entre échantillon et architecture cible. Prétendre que l’exemple est prêt pour la production, traite déjà tout PDF ou dispose par défaut d’un accès privé dépasse la source; données, droits et coûts doivent être vérifiés d’abord.