一个看起来聪明的 Agent,为什么后面很难维护

大家好,我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。

最近关于 Agent 的讨论,正在从“能不能调用工具”,转向“能不能自我进化”“能不能多模型协作”“能不能像一名员工一样长时间自主工作”。

演示越来越惊艳:输入一句话,Agent 自动规划任务、调用多个工具、修改文件,最后交付一个看起来完整的结果。

但只要把这种能力放进长期工作流,问题马上就变了。

同一个任务为什么这次执行成功,下次却走了另一条路径?

为什么模型只是换了一个版本,原来能跑通的流程就开始漏字段?

为什么一个本来只需要几行判断代码的节点,也要消耗一次模型调用?

更麻烦的是,当 Agent 准备删除文件、更新数据库或者对外发送消息时,我们到底凭什么相信它?

我在自己的 Agent 工作流里越来越明确一个原则:

不要把每一个节点都交给模型。能用代码稳定表达的部分,优先使用代码;只有真正需要理解、判断和生成的地方,才让模型介入。

这不是为了让 Agent 显得“不那么智能”,而是为了把有限的不确定性,留给真正需要智能的地方。

一个看起来聪明,却很难维护的流程

我最近在做一个图纸检查 Agent,场景很具体:系统要读取 DXF 施工图,每张图纸下面有很多检查点。每个检查点原来维护一段提示词,Python 脚本负责从图纸里提取数据,并把技能清单、字段说明和提取结果整理成 JSON 数据。

这些 JSON 数据又分几类:有的已经给出结论,有的保存全量数据,有的只保存关键数据。检查点提示词既要匹配应该调用哪个 Skill,也就是哪个“取数技能”,也要说明数据处理策略:有的检查点必须全量扫描,哪怕中间发现不合格也要继续;有的检查点只要遇到一个失败项,就可以直接得出结论。

最直觉的做法,是把这些都交给模型。

运行时把检查点提示词、Skill 技能列表、图纸 JSON 数据和规则描述一起塞给模型,让它自己判断用哪个技能、读哪些字段、怎么比较、是否继续扫描,最后生成校审结论。第一次看起来很聪明:提示词一改,流程就能跟着变,代码好像也不用写太多。

但真正跑起来后,问题很快暴露出来。

全量 JSON 一大,模型上下文就开始膨胀;网关会超时;同一个检查点有时匹配到不同数据;字段路径稍微变化,结果就开始漂;最麻烦的是,校审结论看起来像一段完整报告,但我很难知道它到底是因为哪一条数据、哪一个比较条件得出的。

这时我意识到:图纸校审需要的不是一个“每一步都自由发挥”的 Agent,而是一条大部分环节可预测、少数关键节点有智能判断能力的工作流。

后来的方向就变了:让模型在规则创建阶段生成 RuleSpec,也就是一份可执行的“规则规格说明”;让 Java 做 Schema 结构校验、语义校验和样例试运行;让 Python 继续负责图纸数据提取和标准化;运行时则按照规则规格、取数技能和执行算子(Operator)确定性执行。

模型不再每次都临场解释整张图纸,而是把不确定性前移到“规则生成”这个节点。真正执行检查时,系统知道自己用了哪个取数技能、哪个字段、哪个执行算子、哪一组测试样例,以及为什么判定通过或不通过。

代码提供的不是绝对正确,而是可验证

“代码代表确定性”这句话,需要说得更准确一些。

代码当然也会有缺陷。数据库会超时,网络会波动,并发会产生冲突,开发者也可能写错条件。使用代码,并不意味着系统天然正确。

代码真正提供的是另一组更重要的能力:

  • 输入和输出可以被明确约束;
  • 相同条件下的行为可以重复验证,也可以说类似“幂等性”;
  • 异常分支可以显式处理;
  • 边界条件可以通过测试覆盖;
  • 执行过程可以记录和重放;
  • 发生错误后可以定位、补偿和回滚。

例如,判断一个坡度是否严格落在 (-8%, 8%),不需要模型理解;根据桩号查找满足“起点 <= 当前桩号 < 终点”的唯一区间,也不需要模型推理;检查某个取数技能是否存在、字段路径是否可用、执行算子参数是否合法,更没有必要每次调用大模型。

这些任务的共同特征是:需求已经足够明确,正确结果可以被验证。

既然规则能够清楚地写出来,就应该让代码执行。继续使用模型,不仅没有增加有效智能,反而把一个原本可以测试、回放和定位的问题,变成了概率问题。

所以,确定性并不等于“永远不会错”,而是:

系统即使出错,也能知道错在哪里、为什么错,以及如何恢复。

这才是 Agent 从演示走向生产环境时真正需要的能力。

每一次模型调用,都在消耗不确定性预算

我现在设计 Agent,会把模型调用理解为一种“不确定性预算”。

每增加一次模型调用,系统通常会同时增加几项成本:

  1. 输出波动

    即使输入相同,模型也可能使用不同表达,给出不同判断,或者选择不同的工具。

  2. 调用成本

    除了 Token 费用,还包括上下文组织、结果解析、失败重试和模型切换的成本。

  3. 响应延迟

    一条工作流如果串联五六次模型调用,单次延迟会被不断累积。

  4. 外部依赖

    模型服务可能限流、超时、调整能力边界,也可能因为版本变化产生行为漂移。

  5. 排查难度

    普通代码异常通常有调用栈和错误信息,而模型给出的“看起来合理但实际上错误”的结果,往往更难发现。

这并不是说模型调用越少越好。

真正的判断应该是:这次调用带来的语义价值,是否足以覆盖它引入的不确定性。

如果一个节点必须理解检查点自然语言,判断它到底需要连续性检查、区间匹配还是视觉识别,模型调用是值得的;如果只是执行已经确定的区间比较,模型调用就是浪费。

Agent 工程化的目标不是消灭不确定性,而是管理不确定性。

这里还有一个容易被忽略的点:上下文本身也是预算。

成熟的 Agent 不会把整个仓库、全部历史和所有 JSON 数据一股脑塞进模型。更合理的做法是把信息分层:长期稳定的规则放在契约里,比如取数技能的字段结构、执行算子的参数结构、RuleSpec 这种规则规格的结构约束;运行时证据按需读取,比如某个检查点需要的字段和样例;历史过程可以压缩成摘要,而不是永远保留所有中间输出。

放到图纸校审里,就是不要把全量图纸 JSON 数据每次都发给模型。规则生成时给模型看结构约束、小样例和业务边界;运行时让代码按规则规格读取需要的数据。这样既省上下文,也减少模型在大段数据里“看漏一行”的概率。

一个节点到底该用模型,还是用代码

我通常会先问三个问题。

这个问题是否存在明确规则

如果规则可以列举、组合和测试,优先使用代码。

例如:

  • 校验 RuleSpec 这种规则规格是否符合结构约束;
  • 判断取数技能编码是否存在;
  • 检查字段路径、单位和数据类型是否匹配;
  • 根据桩号做区间查找;
  • 判断坡度是否落在严格开区间;
  • 按“任一失败即整体失败”的 any_fail 规则聚合检查结果;
  • 根据规则状态决定是否允许上线执行。

这些任务不需要创造力。模型即使能够完成,也不应该成为默认选择。

结果是否有唯一或有限的正确答案

如果一个节点的输出可以通过断言直接验证,通常也应该优先使用代码。

例如,把 K0+059.497 转成米数,结果应该是确定的;坡度等于 8% 时是否通过,答案也应该是确定的,因为规则写的是“严格小于 8%”。

相反,“这段检查点描述应该映射成哪类规则规格”,就很难完全靠固定规则完成。它需要理解自然语言里的业务意图,也要在多个可能的取数技能和执行算子组合里做选择,这正是模型适合介入的位置。

错误结果会不会造成不可逆影响

风险越高,模型拥有的直接执行权就应该越小。

可以用下面这张表快速判断:

任务类型 更合适的实现方式 原因
取数技能是否存在、字段路径是否有效 代码 契约明确,可以静态校验
桩号标准化、角度标准化、区间匹配 代码 结果应该可重复
检查点自然语言转规则规格 模型生成,代码验收 需要语义理解,也需要边界
图纸视觉语义判断 模型或视觉模型 规则难以完全结构化
规则规格上线启用 代码控制状态,必要时人工确认 错误会影响批量校审
运行时正式校审 代码执行,模型只处理例外分支 成本、延迟和可追溯性更可控

这里最关键的一条,不是简单地把任务分成“模型任务”和“代码任务”,而是允许二者组合。

模型负责理解和提议,代码负责验证和执行。

把模型放回它最擅长的位置

还是以前面的图纸校审为例。

用户维护的是检查点自然语言,例如:

当交点的左转角或右转角存在有效数值,并且其中至少一个转角严格小于 90 度时,纳入检查;再根据交点桩号匹配纵断面坡度区间,坡度必须严格大于 -8% 且严格小于 8%。

这段话里真正需要模型的地方,是把业务语义翻译成候选规则规格,也就是候选 RuleSpec:需要全量交点数据,需要完整纵断面数据,需要角度标准化、桩号标准化、区间查找和严格开区间判断。

但模型生成这份规则规格后,不能直接保存启用。

代码要继续做几件事:结构约束是否通过;取数技能是否存在;字段路径是否存在;执行算子参数是否合法;数据流能不能连起来;样例试运行结果是否符合预期。

比如样例里可以明确写:

  • 角度 45 度、坡度 7.99%:通过;
  • 角度 45 度、坡度 8%:不通过;
  • 角度 90 度、坡度 10%:不参与检查;
  • 找不到坡度区间:数据异常。

只有这些校验都通过,规则规格才进入 READY 状态。正式校审时,Java 按规则规格执行,Python 按取数技能提取和标准化数据,模型不再参与每一条记录的判断。

这样改造后,模型仍然承担了最有价值的部分:理解自然语言、识别业务意图、生成候选执行计划。

与此同时,整个流程的边界更加清楚:

  • 数据由取数技能契约规范;
  • 规则语义由模型理解;
  • 规则规格由代码校验;
  • 校审执行由算子完成;
  • 异常和状态由流程接住。

这不是削弱 Agent,而是在给它建立工程底盘。

高风险动作,模型只能提案,不能拍板

很多 Agent 在演示阶段的问题,不是模型不会做事,而是模型拥有了过大的执行权。

如果模型生成了一份新的规则规格,它是否可以直接启用?如果模型认为某个检查点不适合结构化执行,它是否可以直接跳过?如果模型给出“不通过”结论,它是否可以绕过证据链直接落库?

我的判断是:只要动作具有明显的外部影响,模型就不应该同时拥有判断权和最终执行权。

更稳妥的设计,是把过程拆成三个阶段:

  1. 模型提出动作建议;
  2. 代码检查参数、权限和风险;
  3. 系统自动执行或等待人工确认。

例如,Agent 想启用一条新规则,至少应该先生成候选规则规格。代码再检查结构约束、字段、执行算子、样例和依赖范围。只有全部通过,才能把状态改成 READY。

如果是正式校审结果落库,还需要保留输入快照、执行日志、证据链、模型版本和失败原因。否则后面发现误判,很难解释这条结论从哪里来。

模型可以负责发现问题,但不能绕过安全边界。

这里有一条我认为非常重要的工程原则:

不要让模型输出,直接连接不可逆操作。

中间必须存在一个确定性的验证层。

少用模型,不等于少做智能

很多人容易把 Agent 的“智能程度”和模型调用次数联系起来。

一个工作流调用十次模型,看起来比只调用两次更智能;一个节点如果只是普通代码,也容易被认为不够“Agent”。

但用户最终关心的并不是系统思考了多少次,而是任务能否稳定完成。

如果代码已经能根据桩号找到坡度区间,再调用模型解释一次,不会增加业务价值;如果规则规格里已经声明了取数技能,运行时再让模型重新匹配技能,只会增加出错机会。

真正成熟的 Agent,应该把模型能力集中在这些地方:

  • 理解检查点自然语言里的业务意图;
  • 从规则描述中提取对象、条件、边界和异常策略;
  • 在多个取数技能和执行算子组合里生成候选方案;
  • 处理视觉语义、规范解释这类难以穷举的问题;
  • 面对新检查点时提出可试运行的规则规格。

至于执行、校验、权限、状态、重试和恢复,仍然应该尽量回到传统软件工程。

模型负责扩大系统能够处理的问题范围,代码负责保证系统不要越过边界。

两者不是替代关系,而是分工关系。

这种架构也有成本

把更多节点改成代码,并不意味着没有代价。

首先,团队需要把需求说清楚。

很多流程之所以全部交给模型,不是模型真的更合适,而是业务规则还没有被整理出来。大家用一句自然语言要求覆盖所有情况,看起来开发更快,实际上只是把需求模糊性推给了模型。

其次,代码规则需要维护。

业务变化后,状态、校验和权限逻辑都需要同步更新。如果规则数量不断增加,代码同样可能变得复杂。

这就要求取数技能和执行算子不能随便长。新增检查点时,不是马上写一个专用算子,而是先看能不能复用已有的标准化、过滤、区间匹配、范围判断和聚合能力。

第三,不能制造“虚假的确定性”。

即使核心逻辑由代码实现,只要依赖网络、外部接口、时间、并发或者第三方服务,系统仍然可能出现不一致。确定性架构不是只写几个条件判断,而是要同时考虑超时、重试、幂等和补偿。

所以,我不会把所有模型节点机械替换成代码。

更合理的做法,是持续观察一条流程:哪些模型判断已经逐渐形成稳定规则,哪些规则因为现实变化重新出现歧义。

当一个模型节点的判断标准越来越清晰,就可以逐步下沉为代码;当固定规则开始被大量例外击穿,也可以重新引入模型辅助。

在图纸校审里,这个边界会一直变化。连续性检查、数值范围检查、区间匹配,适合逐步沉淀为确定性执行;模糊图形理解、规范条文解释、异常图纸识别,则可以保留模型或视觉模型分支。

Agent 架构不是一次设计完成的,而是在运行反馈中不断调整模型与代码的边界。

我现在更关心三个指标

评估一条 Agent 工作流时,我已经不太关心它调用了多少模型,而更关心下面三个指标。

能不能重放

出现问题后,是否可以使用同一份图纸、同一条规则规格、同一份取数结果重新执行,并查看每一步中间结果?

如果不能重放,问题就很难稳定复现。

能不能验证

模型生成规则规格之后,系统是否知道什么结果合格、什么结果必须拒绝?

如果没有验证标准,模型给出格式完整的错误答案,往往会一路进入下游。

能不能恢复

任务执行到一半失败,是从头再来,还是可以从最近一个可靠状态继续?比如取数技能已经完成提取,是否还要重新调用模型和重新解析整张图?

如果每次失败都只能重新调用所有模型,成本、延迟和数据一致性都会成为问题。

这三个指标,决定了一条 Agent 工作流能不能长期运行。

下一步,可以先改造一条最常用的流程

如果你正在做 Agent,不需要马上重构整个系统。可以先选择一条调用频率最高、最容易出错的流程,做三件事。

第一,列出所有模型调用,逐个问一句:这个节点真的需要理解和推理吗?

凡是技能匹配、字段校验、单位转换、区间查找、状态判断和权限检查,都可以优先评估是否改为代码或确定性配置。

第二,检查模型输出之后有没有验证层。

至少要检查结构约束、字段、类型、范围、允许值和样例试运行。高风险动作还要增加状态控制、执行预览和人工确认。

第三,为整条流程保留可重放记录。

不要只保存最终答案,还要能看到每个节点收到什么、输出什么、为什么进入下一步。这样模型、取数技能或执行算子发生变化时,才有机会定位真正的影响范围。

Agent 越强,越不能把所有事情都交给模型。

真正能够进入长期工作流的智能体,不是每一步都自由发挥,而是在确定性的边界内,把模型用在最需要理解和判断的地方。

代码负责守住底线,模型负责打开上限。

我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。