没有人是奔着“用一个十八个月后就被关停的产品”去立项的。但这种事照样发生,而且不是因为工程师不上心,而是因为 AI 技术栈至今仍在被粗暴地分层,而分层本身就是一个惨烈的过程。2023 年看起来像基础设施的东西,后来被发现只是一个功能;当时看起来只是功能的东西,后来成了基础设施。
一份持续更新的 AI 项目死亡名单,很容易被当成谈资来读。更好的读法是把它当成一份采购文件。每一条记录都在告诉你关于“耐久性”的信息:技术栈的哪些层正在商品化,哪些层是承重的,哪些层从来就算不上产品。下面按团队真正会掏钱购买的层级逐一盘点,并标注每一层何时值得依赖、何时不值得,以及在你忘掉那篇发布博文很久之后,账单会从哪里咬你一口。
坟场真正教给采购者的事

图示:来源页预览图(仅作编辑上下文;版权归属原发布方) · 来源引用:techcrunch.com
几乎所有复盘里都会重复出现三种模式,而且这三种在签约之前都能查。
套壳困境。 如果一个产品的全部价值就是一段提示词、一个界面加一个 API Key,那它的毛利离零只差一个四舍五入。模型厂商一直在吞掉自己上面那一层——检索、结构化输出、工具调用、记忆、文件处理。凡是厂商会作为一等功能发布的东西,都不是做生意的选址,更不是做依赖的选址。
演示到生产的落差。 在五分钟视频里惊艳全场的助手,往往在第十四个边缘案例上崩掉。崩的很少是模型本身,而是没有评测、没有降级路径、也从未想过“自信的错误答案”送到客户面前时该怎么办。
分发税。 不少技术过硬的项目死掉,是因为它们是一个“目的地”而不是一个“组件”。需要用户想起来去打开的工,输给了嵌在用户本来就会打开的场景里的工具。这不是换个更好的模型就能补上的产品缺陷。
第一层:模型层——大胆租,绝不嫁
对多数团队来说,面对前沿模型 API 的正确姿态是“多线并行”。按任务路由,至少接两家供应商,中间隔一层自己写的薄抽象,并把任何单一供应商依赖当作业务连续性风险,而不是技术偏好。
何时该用: 几乎总是。除非你有硬性的数据驻留要求、只有自托管小模型才能满足的延迟预算,或者单位经济里每 token 成本主导了毛利。
何时不该用: 不要在第一天就上微调;不要因为某张基准图好看就自建推理栈;也不要让某家厂商专有的助手格式变成你的内部 API 契约。
定价提醒: 每百万 token 的标价,是你成本模型里最不稳定的数字。要算的是加上重试、重排、工具调用往返、以及用户一旦发现可以整篇粘贴文档后必然出现的长上下文用量之后的实际成本。注意那些“用量越大单价结构越变”的分档设计——有些会惩罚增长;也注意那些通知窗口极短的模型快照下线——强制迁移本身就是成本,哪怕 token 免费。
第二层:编排与智能体框架
把提示词、工具和状态串起来的框架确实有用,但它也是最容易被上游重新吞掉的一层。
何时该用: 当你有三个以上不同的工具调用流程、多个开发者同时改同一批提示词、并且确实需要追踪与回放时。一个框架只有在替代掉“你本来会维护得很糟的自研胶水”时才配得上它的重量。
何时不该用: 如果你的工作流只是一段提示词加一次函数调用,纯代码更清楚、更快,也不会被某个维护者弃坑。团队经常为一个两步流水线引入重型图编排框架,然后用一个季度去绕开它。
定价提醒: 很多编排层是开源加付费控制面。要弄清付费层失效时究竟什么会坏——追踪历史、托管评测、护栏服务、单点登录。如果答案是“生产会停”,那你买的是带开源吉祥物的托管服务,不是开源库。
第三层:检索与向量存储
这是整个栈里最商品化的一层,好消息是:它同时也是最容易保持可替换的一层。
何时该用专用向量数据库: 当你的规模明显超过几百万个分片、需要在低延迟下做带过滤的检索、或者多个服务要共享同一索引且需要正经的权限控制时。当运维简洁性才是真正瓶颈时,托管方案值得买。
何时不该用: 早期产品通常用“已有的关系数据库加向量检索”就够,或者用团队本来就熟的托管搜索产品。在还没有检索质量问题之前就引入专用存储,等于只增加了故障模式,没有增加能力。
定价提醒: 向量存储按维度、副本、查询量或某种组合计价,而且这种组合会变。贵出来的意外几乎从来不是存储,而是查询量、跨区复制,以及你更换嵌入模型时重嵌整个语料的成本。把重建索引当作常规运维预算,而不是一次性迁移。
第四层:评测与可观测性
这是团队最先砍、后悔最久的一层。而从坟场来看,幸存者恰恰聚集在这一层。
何时该用: 在第一版生产提示词之前。哪怕只是二十条人工标注的表格,也胜过凭感觉。当你需要追踪存储、给非工程师用的标注队列、以及能扛住人员流动的回归看板时,买托管平台。
何时不该用: 如果你的产品只有一个窄任务且有客观的对错判断,脚本化测试套件就够了。不要为一块没人打开的看板按席位付费。
定价提醒: 评测工具按摄入的追踪量、席位数或两者计价。追踪量会随着成功一起增长,也就是说业绩好的月份里,可观测性账单可能跑得比营收还快。一开始就设好采样策略和保留期限——等账单到了再补,政治上非常痛苦。
第五层:成品助手的诱惑

图示:HEXOPS 原创配图(受选题启发,非复制原文图片) · 来源引用:techcrunch.com
每一轮周期都会冒出一批现成助手和“超级应用”套装,承诺把你的路线图压缩成一份订阅。有些确实杠杆很高。失败模式在于:把它买来承担一个对你差异化至关重要的流程。
何时该用: 后台、内部知识查询、工单分流、草稿生成、会议记录——凡是输出由人复核、且该流程不是客户付钱给你的理由的地方。判断标准很简单:你能在一个季度内把它拿掉而不惊动客户吗?
何时不该用: 任何面向客户、且语气、延迟、工具调用控制权或数据处理本身就是产品一部分的场景。如果厂商的路线图决定了你的功能上线时间,那你就是个多绕了几道手续的转售商。
定价提醒: 按席位计价的助手随人头增长而非随价值增长,而人头是会波动的。注意席位最低消费、在你还没看到路线图之前就把你锁住的年付折扣,以及那些默认允许用你的内容做训练的数据处理条款——除非你谈掉它。
可替换性自查清单
在采纳任何一层之前,先写下四件事:你将要编码对接的抽象边界、以工程师日估算的迁移成本、你需要导出的数据及其格式、以及触发退出的具体信号。四项里任何一项空着,你买的就不是工具,而是一个惊喜。
另外问一句:这家厂商最近两次发布在定价或打包方式上改了什么。打包方式的变动是商业模式承压的领先指标,通常比那封通知邮件早一年出现。
关键要点
- 死亡名单是一张耐久性地图:商品化的层可以放心租,差异化的层租用很危险。
- 在自己写的薄抽象之后至少路由两家模型供应商,把单一依赖当作连续性风险。
- 只有当编排框架能替代“你本来会维护得很糟的胶水”时才引入。
- 保持检索可替换,并把重嵌向量当作常规成本而非迁移项目。
- 评测要早买,但在账单教你做人之前先把追踪量和保留期限封顶。
- 任何成品助手的真实测试是:你能在一个季度内移除它而不被客户察觉吗?
下一步
- 盘点你现有的每一个 AI 依赖,逐个标记为“商品”“差异化”或“未知”。
- 对每个“差异化”依赖,写下退出触发条件和以工程师日计的迁移成本估算。
- 这个月就在路由层接入第二家模型供应商——哪怕只走 5% 流量。
- 在下一次续约之前,用书面形式给可观测性的采样与保留设上限。
- 每季度在日历上放一次 30 分钟的厂商风险复盘。坟场都是悄悄填满的。



