Ollama 0.40.11 met en avant la voix locale et les modèles d3

Ce que met en lumière la sortie d'Ollama du 24 octobre

Ollama a publié la v0.40.11 le 24 octobre. Ses notes de version mettent en évidence deux fonctionnalités pratiques : la génération vocale locale sur macOS et l'accès à la famille de modèles de décision d3. Il s'agit d'une version d'un environnement d'exécution open source existant, ce qui ne prouve pas que tous ses nouveaux chemins de modèle fonctionnent sur tous les systèmes d'exploitation. Le guide vocal lui-même indique d'exécuter Ollama v0.40.9 ou version ultérieure, donc les notes de la v0.40.11 doivent être lues comme le point culminant de la version actuelle plutôt que comme la preuve que la parole est apparue pour la première fois dans ce correctif exact. Les exemples d'Ollama utilisent le modèle Phonon pour la synthèse vocale et exposent un point de terminaison audio compatible OpenAI pour les applications.

La parole a un chemin de streaming et une entrée limitée

Le guide officiel indique que le son généré peut commencer à être joué avant que l'intégralité du texte ne soit prononcée. Dans un terminal, `ollama run phonon` peut lire une invite littérale, une entrée standard ou la réponse d'un modèle de discussion. Si la sortie est redirigée, la commande écrit un fichier WAV plutôt que de le lire via des haut-parleurs. Le même serveur expose `/v1/audio/speech` ; une application peut demander du WAV ou du PCM brut et consommer le flux de manière incrémentielle. Les deux formats sont documentés comme audio mono 16 bits à 24 kHz. Les champs de taille de l'en-tête WAV utilisent une valeur maximale car la longueur du flux est inconnue lorsque l'en-tête est envoyé. Ce détail est important pour les clients qui supposent une durée finale conventionnelle avant la lecture ou le stockage.

La limite de requête est de 4 096 caractères d’entrée. Ollama indique que son chemin de ligne de commande divise le texte plus long aux limites des paragraphes et des phrases, tandis qu'un client API doit planifier autour de la limite par requête. Les options de vitesse, de format ou d'instruction non prises en charge renvoient HTTP 400 et les voix inconnues sont rejetées avec une liste de voix disponibles. Un modèle vocal ne répond pas aux demandes de discussion ou d’intégration via les points de terminaison normaux du modèle. Ces comportements d'échec doivent être inclus dans les tests d'intégration, car une URL compatible OpenAI ne signifie pas que toutes les options d'un service vocal distant sont implémentées. Phonon utilise un point de contrôle anglais Gradium 31M et des voix anglaises ; le guide ne revendique pas une large qualité vocale multilingue.

A quoi sert d3

Les notes de version pointent également vers d3, une famille dérivée des modèles de décision de vLLM Semantic Router. Ils répertorient les tailles 2B, 4B, 9B et 27B. La tâche annoncée n’est pas une conversation ouverte ; il s'agit de prendre un texte, un état structuré ou une image et de renvoyer un choix noté, un jugement oui ou non ou des notes. La bibliothèque de modèles montre une requête « systemone » portant un état et des questions nommées, avec des critères explicites vrai et faux dans son exemple. Cela peut transformer une règle de routage, un tri d’examen ou une décision de classification en une réponse structurée. Il lui faut toujours des critères de notation clairs et des données d’évaluation, tout comme le fait un classificateur conventionnel.

Les scores nécessitent un calibrage par rapport à un flux de travail réel

Si une équipe demande à d3 si un message client concerne la facturation, le résultat peut être utile pour envoyer un ticket. Il ne s’agit pas automatiquement d’une probabilité calibrée de préjudice commercial, de fraude ou d’intention du client. Les notes de version fournissent des tailles de modèles et des exemples de capacités, et non une étude d'étalonnage spécifique à un domaine. Un pilote de production doit étiqueter un échantillon représentatif retenu, comparer d3 avec une base de règles simples et enregistrer la précision, le rappel, la latence et le coût au seuil de décision. Les cas avec une intention mixte ou un contexte manquant méritent une analyse d’erreur distincte. Si une image est fournie, tester la qualité de l’image et les obligations en matière de confidentialité ; l'acceptation d'une entrée d'image ne vérifie pas les droits en matière de données d'une organisation particulière.

L'attrait pratique est le contrôle local. Un petit modèle de décision peut être déployé à proximité de l'application plutôt que d'appeler un modèle de discussion général pour chaque question oui ou non. Que ce soit plus rapide ou moins cher dépend du matériel, de la taille du lot et du travail nécessaire pour maintenir le runtime en marche. La bibliothèque d'Ollama répertorie plusieurs tailles, donc une comparaison équitable maintient l'ensemble d'entrée et les critères de notation constants tout en modifiant la taille du modèle. Un point de contrôle d3 plus grand peut améliorer une tâche mais également augmenter la mémoire et la latence. La page de publication à elle seule ne publie pas un gagnant universel pour chaque cas d'utilisation.

Ce qu'un implémenteur doit vérifier

Pour la parole, commencez par un court passage en anglais et vérifiez que le modèle attendu est extrait, que la voix sélectionnée existe, que l'audio démarre avant la fin de la génération et que les décodages de sortie enregistrés avec le lecteur cible. Testez ensuite un long paragraphe, un prix numérique et un paramètre non pris en charge. Le guide note que la normalisation du texte indique les prix, les chiffres et les URL, tandis que les dates sont lues telles qu'elles sont écrites. Cela peut changer ce qu'un auditeur entend par rapport à ce que l'application affiche, de sorte que l'accessibilité ou la messagerie réglementée nécessite un examen humain. Testez le chemin de l'application séparément de la lecture du terminal, notamment lorsque le serveur est distant et que le haut-parleur appartient à la machine client.

Pour les décisions, définissez les étiquettes avant de demander au modèle et enregistrez les invites exactes, les critères et la balise de modèle utilisés lors de l'évaluation. Conservez les cas ambigus pour un examen humain au lieu d'interpréter chaque score comme l'autorisation d'une action irréversible. Les deux capacités occupent des parties différentes d’un système d’agent : la parole est un canal de sortie, tandis que d3 est un composant de décision étroit. Les deux peuvent être utiles dans un flux de travail local, mais les notes de version v0.40.11 constituent un point de départ pour les tests et ne remplacent pas la fiabilité observée. Cet article paraît dans le numéro du 25 octobre ; l'horodatage de sortie de GitHub de la version est le 24 octobre UTC, et la documentation vocale a ses propres exigences de version plus larges.