一个会对自己说不的智能体
Google 公布了一篇关于 PageBreak 的论文。这是其内部的一个 AI 安全智能体,自今年 1 月起进入全面运行,已在自家 Web 应用中发现了 500 多个跨站脚本(XSS)漏洞。该智能体基于 Gemini 模型构建,能够自主追查线索——而真正值得关注的一点是:只有在确定性验证器成功针对运行中的应用复现了该攻击之后,它才会提交报告。
大多数报道会盯着那个数字。而数字恰恰是这份披露中最不重要的部分。在一个规模和年头都如 Google 一般的应用组合里,五百个 XSS 漏洞算不上奇迹,那只是一次普查。真正重要的是操作顺序:先由机器推理,再由机器证明,最后由人投入注意力。这个顺序是一个设计决策,也是每一家安全组织终将效仿、或者终将后悔没有效仿的决策。

图示:来源页预览图(仅作编辑上下文;版权归属原发布方) · 来源引用:www.infoq.com
带证明的发现,胜过自信的论述
过去三年里,大模型辅助安全的主导性失败模式始终如一:输出很便宜,消费很昂贵。一个模型读了变更 diff,写出一段关于潜在注入路径的、颇具说服力的文字,它并没有产出任何忙碌的工程师能够据以行动的东西。它产出的是一张工单。
误报税
每一条推测性的发现都附带一张隐形账单。得有人去读它、判断真假、尝试复现,然后为关闭它给出理由。在多数组织里,这笔成本都落在同一小群资深工程师身上——而他们同时也是唯一有能力修复难题的人。一个把发现数量翻倍、却没有把精确率翻倍的工具,并不会让覆盖率翻倍;它只会让每个真实问题可获得的注意力减半。
复现是准入门槛,而非附加功能
PageBreak 的设计把通常的流水线倒了过来。复现不是报告上挂着的可选项,而是入场券。如果验证器无法让攻击在运行中的应用里跑通,这条发现就永远留在智能体的草稿本上。仅这一条约束,就把一个概率性生成器变成了一个有可度量契约的过滤器:下游的一切,从构造上就是可演示的。
这更接近成熟漏洞研究工作本来的样子,而不是扫描器厂商一直以来推销的自动化。人类研究员若无法让 payload 真正触发,就不会提交这个漏洞。PageBreak 把这种纪律编码成了基础设施。
XSS 是完美的滩头阵地,也是会误导人的那个
跨站脚本是验证器门控智能体的理想首选目标,原因值得讲清楚。这类攻击通常是自包含的:一个 payload、一个输入向量、一个渲染上下文、一个可观测信号——弹窗、DOM 变更、反射响应。几秒钟即可复现。它不依赖多步业务流程、特定账户的权限,也不依赖第三方的状态机。正因为真值很便宜,验证器才敢严格。
也正是这种便宜,使得那 500 这个数字不能被解读为关于智能体安全能力的一般性结论。XSS 位于一条长分布的最容易那一端。一旦转向授权缺陷、支付流程中的竞态条件、租户隔离缺口,或任何需要一串看起来合法的状态跃迁才能触发的问题,确定性证明的成本就会陡增——而智能体能够验证的真实发现所占比例也随之下降。

图示:HEXOPS 原创配图(受选题启发,非复制原文图片) · 来源引用:www.infoq.com
反向思考:验证器门控智能体在结构上看不到什么
热情是合理的,但设计有其形状,而形状必有盲区。
召回率被静默地牺牲,以换取精确率。 被验证器门控的智能体,只报告它能证明的东西;它不报告它怀疑但无法演示的东西。这两个集合并不相同,而没有任何仪表盘会把差距显示给你。有一类真实漏洞——复现需要破坏性操作、需要生产环境数据、需要攻击者处于配合位置的那些——变得不可见,不是因为被漏掉了,而是因为它从一开始就不具备被报告的资格。
复现环境的保真度成了新的单点故障。 针对运行中的应用复现,其意义完全取决于这个应用与生产环境的相似程度。中间件差异、功能开关、WAF 规则、认证桩件,都可能让真漏洞无法被证明,或让假漏洞变得可证明。验证器把信任从模型转移到了测试夹具上,这是进步,但夹具本身现在需要自己的威胁模型和自己的测试。
指标是自报的。 一个厂商或平台描述自家智能体的命中率,在外部方审计语料之前,那都是营销材料。真正有意思的问题——在被验证器放行的发现中,有多大比例后来被判定为重复、低危或在上下文中不可利用——不会由一个 500 的数字来回答。
而且,会执行攻击的智能体需要爆炸半径纪律。 自主复现意味着自主向在线系统投递 payload。沙箱隔离、最小权限凭据、速率限制、可审计的操作日志,都不是可选项——它们是安全项目与事故生成器之间的分界线。
以上没有一条是在反对这一方向。它们反对的是把一次已验证的计数当作完整图景。
经济学上的位移:分流本身成为产品
如果可验证的发现成为常态,瓶颈就会转移。检测变便宜了,稀缺资源变成吸收、去重、排序与修复的能力。可以预期三个可见后果。
第一,安全工具的价值将按精确率而非召回率来评判,因为没有精确率的召回,相当于对自己工程师发起拒绝服务攻击。第二,人的角色向上游迁移:少花时间找显而易见的问题,多花时间在威胁建模、攻击链推理,以及验证器够不到的那几类缺陷上。第三,小团队获得了一个真正的杠杆。五人平台团队雇不起研究小组,但可以让智能体连夜对着预发布环境跑,第二天早上拿到一张可复现问题的短清单。资源充沛者与其他人的差距会缩小——不是缩到零,但是实打实地缩小。
还有一个竞争层面的脚注。如果以复现为门控的智能体成为标准,差异化因素就不再是模型,而是夹具、环境保真度,以及组织是否愿意让机器自主行动。这些是工程与治理问题,而且比买一份许可证难得多。
30 天行动计划
第 1–7 天:选一个狭窄且可证明的缺陷类别。 不要一上来就全都要。挑一个真值便宜的类别——反射型或存储型 XSS、开放重定向、某个框架里的特定注入模式。在写下任何提示词之前,先定义清楚什么证据才算证明。
第 8–14 天:先造验证夹具。 搭一个隔离的、可丢弃的环境,其与生产环境的相似度足以支撑你选定的类别。给它加埋点。如果你无法为某类缺陷自动化复现,就把它移出范围,直到可以为止。
第 15–21 天:以影子模式运行智能体。 不要向真实工单系统提交任何东西。收集发现、跑验证器,并每周记录三个数字:候选总数、通过验证的发现数、以及人类事后认可的通过验证发现数。第三个数字是唯一重要的。
第 22–30 天:补上治理并接入一个真实集成。 划定凭据权限、记录智能体的每个动作、设置速率上限,并为任何触及生产环境的操作定义审批边界。然后只把一条已验证的数据流接入现有工作流——并观察修复率是否上升,还是仅仅待办列表变长了。
关键要点
- 标题是自 1 月以来发现 500 多个 XSS 漏洞;实质是 PageBreak 只报告确定性验证器真正复现过的发现。
- 以复现为准入,把 AI 安全输出从有说服力的文字变成带证明的发现,将成本从人工分流环节转移出去。
- XSS 位于分布中最容易的一端;授权、业务逻辑与状态相关缺陷,对验证器门控智能体而言仍基本够不到。
- 精确率的提升掩盖了召回率的代价——无法证明但真实存在的漏洞,会从每个仪表盘上静默消失。
- 环境保真度与爆炸半径控制,成为关键的工程问题,而非模型质量问题。
- 自报的发现数量,在外部审计之前都是营销。
下一步
- 选定一个真值便宜且可自动化的缺陷类别,并把证明的定义写下来。
- 先造复现夹具,再造智能体——并把夹具当作生产代码对待。
- 以影子模式至少运行三周,追踪人类认可率,而不是原始数量。
- 在向在线系统投递任何 payload 之前,先加入沙箱、最小权限凭据与可审计的操作日志。
- 向管理层说明:收益是夺回工程师的注意力,而不是更大的漏洞计数。



