Ollama 0.40.11 聚焦本地语音与 d3 决策模型

10 月 24 日 Ollama 发布的亮点

Ollama 于 10 月 24 日发布了 v0.40.11。其发布说明强调了两项实用功能：macOS 上的本地语音生成和d3 系列决策模型的使用。这是现有开源运行时的版本，并不能证明其所有新模型路径都适用于每个操作系统。语音指南本身说要运行 Ollama v0.40.9 或更高版本，因此 v0.40.11 的说明应被视为当前版本的焦点，而不是证明语音首次出现在该补丁中。 Ollama 的示例使用 Phonon 模型进行文本转语音，并为应用程序公开与 OpenAI 兼容的音频端点。

语音支持流式传输，但输入长度有限

官方指南称，生成的声音可以在说出整个文本之前开始播放。在终端中，“ollama run phonon”可以读取文字提示、标准输入或聊天模型的答案。如果输出被重定向，该命令将写入 WAV 文件而不是通过扬声器播放。同一服务器公开`/v1/audio/speech`；应用程序可以请求 WAV 或原始 PCM 并增量地使用流。两种格式均记录为 24 kHz 的单声道 16 位音频。 WAV 标头的大小字段使用最大值，因为发送标头时流长度未知。对于在播放或存储之前假定传统最终长度的客户端来说，这个细节很重要。

请求限制为 4,096 个输入字符。 Ollama 表示，其命令行路径会在段落和句子边界处分割较长的文本，而 API 客户端必须围绕每个请求的边界进行规划。不支持的速度、格式或指令选项将返回 HTTP 400，未知的语音将被拒绝并显示可用语音列表。语音模型不会通过正常模型端点应答聊天或嵌入请求。这些失败行为应该包含在集成测试中，因为与 OpenAI 兼容的 URL 并不意味着远程语音服务的每个选项都已实现。 Phonon 使用 Gradium 31M 英语检查点和英语语音；该指南并未声称具有广泛的多语言语音质量。

d3 的用途

发布说明还提到了 d3，这是一个源自 vLLM 语义路由器决策模型的系列。他们列出了 2B、4B、9B 和 27B 尺寸。广告中的任务不是开放式对话；它是获取文本、结构化状态或图像并返回评分选择、是或否判断或评级。模型库显示了一个带有状态和命名问题的“systemone”请求，在其示例中具有明确的真假标准。这可以将路由规则、审查分类或分类决策转变为结构化响应。它仍然需要一个明确的标准和评估数据，就像传统的分类器一样。

分数需要根据真实工作流程进行校准

如果团队询问 d3 客户消息是否涉及计费，则输出可能对发送工单有用。它不会自动计算出商业损害、欺诈或客户意图的校准概率。发布说明提供了模型大小和功能示例，而不是特定领域的校准研究。生产试点应该标记一个具有代表性的保留样本，将 d3 与简单的规则基线进行比较，并记录决策阈值的精度、召回率、延迟和成本。具有混合意图或缺少上下文的情况值得单独进行错误分析。如果提供图像，请测试图像质量和隐私义务；接受图像输入并不验证特定组织的数据权限。

实际吸引力在于本地控制。可以在应用程序附近部署一个小型决策模型，而不是为每个是或否问题调用通用聊天模型。更快或更便宜取决于硬件、批量大小以及保持运行时运行所需的工作。 Ollama 的库列出了多种尺寸，因此公平的比较可以在更改模型尺寸时保持输入集和评分标准不变。较大的 d3 检查点可能会改进任务，但也会增加内存和延迟。仅发布页面并不能为每个用例发布通用的获胜者。

实施者应该验证什么

对于语音，从一段简短的英语段落开始，检查是否拉动了预期模型、所选语音是否存在、音频在生成结束之前开始，以及保存的输出是否与目标播放器一起解码。然后测试一个长段落、一个数字价格和一个不支持的参数。该指南指出，文本标准化会拼出价格、数字和 URL，而日期则按书面形式读取。与应用程序显示的内容相比，这可能会改变听众听到的内容，因此可访问性或受监管的消息传递需要人工审核。将应用程序路径与终端播放分开测试，尤其是当服务器位于远程并且扬声器属于客户端计算机时。

对于决策，请在询问模型之前定义标签，并保存评估中使用的确切提示、标准和模型标签。保留模棱两可的案例供人工审查，而不是将每个分数解释为对不可逆转操作的许可。这两种功能占据代理系统的不同部分：语音是输出通道，而 d3 是狭义的决策组件。两者在本地工作流程中都很有用，但 v0.40.11 发布说明是测试的起点，不能替代观察到的可靠性。本文发表于 10 月 25 日刊；该版本的 GitHub 发布时间戳是 10 月 24 日 UTC，并且语音文档有其更广泛的版本要求。