Anthropic
单体LLM的梦想与局限
过去几年，构建AI应用的流行方法很简单：选用最大、最强的LLM，精心设计提示词，然后让它端到端完成整个任务。无论是编写完整软件功能、进行市场调研，还是起草全面的法律报告，我们都期望一个模型同时扮演研究员、程序员、编辑和质量保证分析师的角色。
然而，当开发者将这些系统部署到复杂的生产环境时，一个明显的瓶颈出现了：单体模型难以应对多步骤的认知过载。当任务需要数十个相互依赖的步骤，且每个步骤都有各自的上下文时，模型的注意力会被稀释。上下文窗口被填满，错误传播变得猖獗，输出质量下降——而且往往是悄无声息的。单一全能AI助手的梦想正撞上认知极限的现实。
图示：来源页预览图（仅作编辑上下文；版权归属原发布方） · 来源引用：dev.to
多智能体编排的兴起
多智能体编排应运而生。与其让一个巨型模型包揽一切，不如将任务分解为更小、更专业的子任务，由不同的智能体处理——每个智能体都有自己的角色、工具和记忆。这些智能体相互沟通、协调并交接工作，模拟一个运作良好的团队。
为什么这很重要？专业化降低了认知负担。编码智能体无需关心法律合规；研究智能体无需格式化最终报告。每个智能体都可以针对其特定任务进行调优，在适当的地方使用更小、更快的模型。这种分工还实现了并行化：多个智能体可以同时处理独立的子任务，从而降低延迟。
更重要的是，多智能体系统具有鲁棒性。如果一个智能体失败或产生次优结果，其他智能体可以检测并纠正——通过冗余检查、投票机制或升级给人类。这类似于我们在分布式系统中所期望的容错能力。在单体模型中，一个错误可能级联影响整个输出。
来自实践的证据
早期采用者已经看到了好处。AutoGen、CrewAI和LangChain的智能体工具等框架正获得关注。例如，微软的AutoGen使开发者能够为供应链优化和代码生成等复杂任务定义智能体角色和对话模式。公司正在构建内部“AI团队”，由规划智能体分解请求，一组工作智能体执行，评论智能体审查最终输出。这种模式在软件开发中尤其有效，代码生成、测试和文档可以分别由不同智能体负责。
虽然硬数据有限，但工程团队的轶事报告表明，多智能体设置可以减少错误，并提高以前需要持续人工干预的工作流的完成率。关键不仅在于单个步骤的更好表现，还在于面对复杂性时的韧性。
反方观点：复杂性与成本
但多智能体编排并非灵丹妙药。协调开销是真实存在的：设计通信协议、管理状态和调试涌现行为可能非常棘手。与单体模型可以追踪输入输出关系不同，多智能体系统引入了非确定性和难以复现的故障。成本也可能膨胀：更多智能体意味着更多API调用，专业化的智能体可能需要微调或单独部署。
此外，并非所有任务都适合多智能体。简单、定义明确的任务仍然更适合由单个精心提示的LLM完成。决策应取决于工作流的复杂性和关键性。如果任务需要超过几个顺序步骤或多种专业知识，那就是一个信号。否则，从简单开始。
图示：HEXOPS 原创配图（受选题启发，非复制原文图片） · 来源引用：dev.to
采用多智能体编排的30天行动计划
如果你决心尝试，这里有一个务实的30天计划。
第1周：确定候选工作流。 选择一个目前手动、易出错且涉及多个角色的流程。好的候选包括：从多个数据源生成报告、客户入职或代码审查自动化。绘制步骤图并确定每个步骤所需的专业知识。
第2周：设计智能体角色。 根据工作流，定义3-5个职责明确的智能体。为每个智能体指定：输入、输出、工具和成功标准。保持最小化——避免为每个微小步骤创建智能体。使用规划智能体进行编排。
第3周：实现原型。 使用AutoGen或CrewAI等现有框架。从简单的对话模式开始（例如顺序或分层）。从第一天起就实施日志记录和追踪——调试时你会需要它。设置人工在环检查点进行最终批准。
第4周：评估与迭代。 在真实案例上运行原型。测量完成率、错误率和完成时间。与基线（单体LLM或手动）进行比较。识别瓶颈和故障模式。改进智能体提示、工具或通信模式。决定是否扩展。
关键要点
- 单体LLM难以应对多步骤认知过载，导致复杂工作流中的错误和质量下降。
- 多智能体编排将任务分解为专业角色，提高鲁棒性、并行性和专业化。
- AutoGen和CrewAI等框架使构建多智能体系统更容易，但协调复杂性和成本是真实的权衡。
- 从清晰、高价值的工作流开始并迭代；并非所有任务都需要智能体团队。
后续步骤
- 评估当前AI工作流的复杂性和错误率，以确定多智能体分解的候选者。
- 使用开源框架进行小型试点实验，重点关注可观测性和人工监督。
- 持续关注智能体通信和编排的新兴标准与最佳实践。
