OpenAI Decisions API 为有界选择提供正式接口

有限选项决策成为独立 API

OpenAI 10 月 22 日宣布，基于 GPT-6 Luna 的 Decisions API 已通过专用端点正式可用。它面向答案集合事先确定的窄任务，例如给输入分类、决定请求路由或选择工作流下一步。接口接受文字、图像与结构化输入。与让通用聊天模型输出长篇自由文本不同，调用方需要先定义可选决定，并在自己的业务环境中解释模型结果。

OpenAI 称，在公告所描述的有界任务上，该接口的响应速度最高可达到通过 Responses API 调用 GPT-6 Luna 的十倍。公告里的客户案例还给出不同倍率和低于 280 毫秒的某项第 95 百分位延迟；每个数字都有自己的比较对象和工作负载。它们是厂商或客户的宣称，不是本刊开展的跨产品基准测试。输入长度、区域、缓存状态和候选类别一变，读者不能直接套用十倍数字。

价格与数据选项都有条件

原公告列出的价格为每百万输入 token 0.10 美元、每百万缓存输入 token 0.01 美元，该专用接口不单独收取输出 token 费用。这里的 token 是文本处理计量单位，不是加密货币“代币”；价格也只反映公告当日所述方案，预算前必须核查最新价格说明。公告列出美国和欧盟区域处理，并指出零数据保留仅向符合资格的客户开放。资格限制不是所有账户自动获得的保证。

有限选项决策在高频流程中可能有价值，因为每一步节省的少量时间会被大量请求累积。但快速而便宜的错误分类也会快速扩散。合理的比较应使用应用本身已标注的数据集，同时测准确率、拒答或人工回退比例、中位数与尾延迟，并计入检索、网络、人工审批的时间。客户在三十份保险凭证上的测试即便显示准确率相当，也不能证明其他行业的普遍准确率。

模型结果不能取代授权

以文档路由为例，团队应事先设定类别、置信度门槛和异常时的退路，再检查路由错误会造成什么后果。涉及敏感数据或外部动作时，还需明确的策略检查与必要的人工批准。模型返回的分数和类别可以支持决策过程，却不等于执行命令、公开文件或绕过权限的授权。正式可用意味着产品进入一般可用阶段，并不意味着所有决策问题都已经解决。

因此，这次发布使“有界决策”成为专门的 API 产品，但并未证明每项任务都适合 Luna，也没有保证未来版本维持公告日的价格或速度。本文刊于 10 月 26 日，保留 10 月 22 日原公告日期，并把性能、数据控制条件与建议的自行测试清楚分开。

评测应包括错误的代价

分类与路由看似很小，却经常位于业务链的前端。一个被错误归为普通工单的安全事件，可能导致处置延迟；一份保险凭证被送错队列，可能增加人工纠正和客户等待。选择模型接口时，应按错误类型分别计数，而不是只看总体准确率。对置信度低或类别不在预设集合中的输入，合理的系统应有人工回退或“无法判断”路径，并记录触发比例。

缓存计价也需要放进完整成本模型。重复上下文可享较低输入价格，不代表所有请求都可命中缓存；网络开销、服务超时、重试和人工复核仍会产生成本。厂商列出的美国与欧盟区域处理功能，也应在具体账户、端点和数据类型上验证。高风险任务还需检验日志与保留政策是否符合自身要求，不能因为公告出现“零数据保留”字样，就假定本账户已经获得资格。

对开发团队而言，最可靠的试验是并行运行一段时间：同一批真实、已标注请求交由原有规则和新接口处理，逐项比较错误、耗时与人工介入，再逐步放量。这样获得的结论属于自己的应用，比直接转述客户案例中的单一倍率更有决策价值。

接口的一般可用状态也与单个客户的风控许可分属两件事。即使端点可调用，企业仍应在使用前确认输入是否允许包含个人资料、结果能否进入自动执行链、日志保存多长时间，以及失败时是否会落回既有规则。把这些问题记录在评测表中，才能判断新接口是否真的改善整个流程，而不仅是模型调用本身更快。