Anthropic
OpenAI 这次到底发布了什么
OpenAI 的决策 API 正式开放，它比通常的模型发布更窄、也更怪。这里没有新的对话界面，只有一个端点 POST /v1/decisions：你传入输入内容和你想要的判断定义，它返回机器可读的答案，而不是一段说明文字。官方描述的输出形态有三种：一个概率值、从你提供的固定列表里选出的一个选项，以及按评分规则给出的分数。
最容易被到处转发的部分是价格：输入 0.1 美元/百万 token，输出 token 不收费，并宣称比 Responses API 快约 10 倍。在这些数字变成你自己的实测数据之前，请把它们当作厂商说法——尤其是速度，它高度依赖输入长度、并发数，以及你一次性给了多少个候选标签。
图示：来源页预览图（仅作编辑上下文；版权归属原发布方） · 来源引用：dev.to
为什么“判断端点”比又一个模型更重要
今天大多数生产环境的智能体里都有一个不太好意思示人的环节：让聊天模型回答一个是非题，然后写解析代码，在一句以“好的！我的评估如下……”开头的话里去找“是”这个字。这个模式能活下来，不是因为它优雅，而是因为它出错的比例还能接受。它在否定句、模糊表述、多语言输入，以及模型某天决定用要点列表回答时会失效。
专用决策端点直接冲着这一层来。由此带来三个后果。
解析层消失了
如果返回值本身就是概率或枚举成员，那些脆弱的字符串处理就不需要了。这不只是少维护几行代码，更重要的是少了“静默失败”——正则连续三周返回 false，但因为兜底路径看起来还算合理，一直没人发现。
延迟预算被重新打开
智能体循环通常是延迟受限，而不是智力受限。如果一个路由判断在一次聊天调用的时间窗口里能跑十次，设计空间就变了：你可以负担一轮便宜的初筛、一轮升级校验、一轮置信度闸门，全部跑完再进入昂贵的生成调用。真正有意思的架构，是先判断、后生成。
标签列表变成了接口
当候选集合由调用方提供时，这份列表就不再是提示词里的细节，而是一份 API 契约。给它做版本管理、指定负责人、监控它的分布——这些都是普通软件工程纪律，只是被应用到了原本藏在字符串里的东西上。
值得重点压测的那个说法
10 倍是标题，也是这则公告里最不可移植的数字。这种量级的加速通常来自更短的输出路径——不做长生成、解码预算更小——所以真实倍数取决于你现在的提示词有多啰嗦。一行紧凑的分类提示词不会看到 10 倍；三段“你是一位资深分流分析师”的开场白则有可能。
第二件要验证的事是校准度。概率只有在诚实的时候才有用。在你用 0.8 作为阈值卡任何东西之前，先查清楚：在你自己的数据上，0.8 实际意味着什么，按语言分、按业务分。
图示：HEXOPS 原创配图（受选题启发，非复制原文图片） · 来源引用：dev.to
开发团队本周该做的原型
挑一个你自己系统里本来做得不好的、高频的窄判断——工单紧急度、退款资格、线索路由、订单风险、内容审核分流——用影子模式跑一周。把现有链路的输出和决策 API 的输出并排记录，跟一份人工标注样本比对。比较准确率、你实际并发下的延迟，以及每千次决策的成本。之后才谈改造。
两个设计上的提醒。第一，为低置信度输出保留兜底路径；没有阈值策略的概率，只是一个数字。第二，如果合规或客服场景需要给出“理由文本”，就不要用判断端点——它的全部卖点恰恰是不解释自己。
接下来该盯什么
- 在生产流量下，速率限制和并发上限能不能撑住速度宣称。厂商的宣传通常死在这一步。
- 评分规则如何定义，规则本身是否可版本化、可审计。
- 日志记录与数据留存策略。对于处理客户数据的跨境业务，这一项权重很高。
- 当量足够大时，用你自己的决策日志蒸馏出的小模型会不会比 0.1 美元/百万 token 更便宜。这是行业里反复出现的剧本，通常一两个季度内就会发生。
关键要点
- 决策 API 返回的是结构化判断——概率、枚举、评分——而不是聊天文本。
- 报道的价格是输入 0.1 美元/百万 token、输出免费；约 10 倍的速度宣称需要用你自己的提示词去实测。
- 最大的价值在架构层：它删掉了模型与控制流之间那层脆弱的解析代码。
- 你的标签体系会变成一份带版本的接口，意味着它需要负责人、变更记录和监控。
- 先在一个窄场景上用影子模式做原型，再动生产路由。
下一步行动
- 从生产日志里导出真实判断请求，抽样标注几百条样本。
- 做三路对比：现有“聊天+解析”、决策 API、以及一个便宜的本地分类器。
- 在任何闸门上线之前，明确置信度阈值和兜底路径，并写进文档。
- 把标签列表写成带版本的 schema，并且把每一次标签变更都当作破坏性变更处理。
