大家好,我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。
最近关于 Agent 的讨论,正在从“能不能调用工具”,转向“能不能自我进化”“能不能多模型协作”“能不能像一名员工一样长时间自主工作”。
演示越来越惊艳:输入一句话,Agent 自动规划任务、调用多个工具、修改文件,最后交付一个看起来完整的结果。
但只要把这种能力放进长期工作流,问题马上就变了。
同一个任务为什么这次执行成功,下次却走了另一条路径?
为什么模型只是换了一个版本,原来能跑通的流程就开始漏字段?
为什么一个本来只需要几行判断代码的节点,也要消耗一次模型调用?
更麻烦的是,当 Agent 准备删除文件、更新数据库或者对外发送消息时,我们到底凭什么相信它?
我在自己的 Agent 工作流里越来越明确一个原则:
不要把每一个节点都交给模型。能用代码稳定表达的部分,优先使用代码;只有真正需要理解、判断和生成的地方,才让模型介入。
这不是为了让 Agent 显得“不那么智能”,而是为了把有限的不确定性,留给真正需要智能的地方。
一个看起来聪明,却很难维护的流程
我最近在做一个图纸检查 Agent,场景很具体:系统要读取 DXF 施工图,每张图纸下面有很多检查点。每个检查点原来维护一段提示词,Python 脚本负责从图纸里提取数据,并把技能清单、字段说明和提取结果整理成 JSON 数据。
这些 JSON 数据又分几类:有的已经给出结论,有的保存全量数据,有的只保存关键数据。检查点提示词既要匹配应该调用哪个 Skill,也就是哪个“取数技能”,也要说明数据处理策略:有的检查点必须全量扫描,哪怕中间发现不合格也要继续;有的检查点只要遇到一个失败项,就可以直接得出结论。
最直觉的做法,是把这些都交给模型。
运行时把检查点提示词、Skill 技能列表、图纸 JSON 数据和规则描述一起塞给模型,让它自己判断用哪个技能、读哪些字段、怎么比较、是否继续扫描,最后生成校审结论。第一次看起来很聪明:提示词一改,流程就能跟着变,代码好像也不用写太多。
但真正跑起来后,问题很快暴露出来。
全量 JSON 一大,模型上下文就开始膨胀;网关会超时;同一个检查点有时匹配到不同数据;字段路径稍微变化,结果就开始漂;最麻烦的是,校审结论看起来像一段完整报告,但我很难知道它到底是因为哪一条数据、哪一个比较条件得出的。
这时我意识到:图纸校审需要的不是一个“每一步都自由发挥”的 Agent,而是一条大部分环节可预测、少数关键节点有智能判断能力的工作流。
后来的方向就变了:让模型在规则创建阶段生成 RuleSpec,也就是一份可执行的“规则规格说明”;让 Java 做 Schema 结构校验、语义校验和样例试运行;让 Python 继续负责图纸数据提取和标准化;运行时则按照规则规格、取数技能和执行算子(Operator)确定性执行。
模型不再每次都临场解释整张图纸,而是把不确定性前移到“规则生成”这个节点。真正执行检查时,系统知道自己用了哪个取数技能、哪个字段、哪个执行算子、哪一组测试样例,以及为什么判定通过或不通过。
代码提供的不是绝对正确,而是可验证
“代码代表确定性”这句话,需要说得更准确一些。
代码当然也会有缺陷。数据库会超时,网络会波动,并发会产生冲突,开发者也可能写错条件。使用代码,并不意味着系统天然正确。
代码真正提供的是另一组更重要的能力:
- 输入和输出可以被明确约束;
- 相同条件下的行为可以重复验证,也可以说类似“幂等性”;
- 异常分支可以显式处理;
- 边界条件可以通过测试覆盖;
- 执行过程可以记录和重放;
- 发生错误后可以定位、补偿和回滚。
例如,判断一个坡度是否严格落在 (-8%, 8%),不需要模型理解;根据桩号查找满足“起点 <= 当前桩号 < 终点”的唯一区间,也不需要模型推理;检查某个取数技能是否存在、字段路径是否可用、执行算子参数是否合法,更没有必要每次调用大模型。
这些任务的共同特征是:需求已经足够明确,正确结果可以被验证。
既然规则能够清楚地写出来,就应该让代码执行。继续使用模型,不仅没有增加有效智能,反而把一个原本可以测试、回放和定位的问题,变成了概率问题。
所以,确定性并不等于“永远不会错”,而是:
系统即使出错,也能知道错在哪里、为什么错,以及如何恢复。
这才是 Agent 从演示走向生产环境时真正需要的能力。
每一次模型调用,都在消耗不确定性预算
我现在设计 Agent,会把模型调用理解为一种“不确定性预算”。
每增加一次模型调用,系统通常会同时增加几项成本:
输出波动
即使输入相同,模型也可能使用不同表达,给出不同判断,或者选择不同的工具。
调用成本
除了 Token 费用,还包括上下文组织、结果解析、失败重试和模型切换的成本。
响应延迟
一条工作流如果串联五六次模型调用,单次延迟会被不断累积。
外部依赖
模型服务可能限流、超时、调整能力边界,也可能因为版本变化产生行为漂移。
排查难度
普通代码异常通常有调用栈和错误信息,而模型给出的“看起来合理但实际上错误”的结果,往往更难发现。
这并不是说模型调用越少越好。
真正的判断应该是:这次调用带来的语义价值,是否足以覆盖它引入的不确定性。
如果一个节点必须理解检查点自然语言,判断它到底需要连续性检查、区间匹配还是视觉识别,模型调用是值得的;如果只是执行已经确定的区间比较,模型调用就是浪费。
Agent 工程化的目标不是消灭不确定性,而是管理不确定性。
这里还有一个容易被忽略的点:上下文本身也是预算。
成熟的 Agent 不会把整个仓库、全部历史和所有 JSON 数据一股脑塞进模型。更合理的做法是把信息分层:长期稳定的规则放在契约里,比如取数技能的字段结构、执行算子的参数结构、RuleSpec 这种规则规格的结构约束;运行时证据按需读取,比如某个检查点需要的字段和样例;历史过程可以压缩成摘要,而不是永远保留所有中间输出。
放到图纸校审里,就是不要把全量图纸 JSON 数据每次都发给模型。规则生成时给模型看结构约束、小样例和业务边界;运行时让代码按规则规格读取需要的数据。这样既省上下文,也减少模型在大段数据里“看漏一行”的概率。
一个节点到底该用模型,还是用代码
我通常会先问三个问题。
这个问题是否存在明确规则
如果规则可以列举、组合和测试,优先使用代码。
例如:
- 校验 RuleSpec 这种规则规格是否符合结构约束;
- 判断取数技能编码是否存在;
- 检查字段路径、单位和数据类型是否匹配;
- 根据桩号做区间查找;
- 判断坡度是否落在严格开区间;
- 按“任一失败即整体失败”的
any_fail规则聚合检查结果; - 根据规则状态决定是否允许上线执行。
这些任务不需要创造力。模型即使能够完成,也不应该成为默认选择。
结果是否有唯一或有限的正确答案
如果一个节点的输出可以通过断言直接验证,通常也应该优先使用代码。
例如,把 K0+059.497 转成米数,结果应该是确定的;坡度等于 8% 时是否通过,答案也应该是确定的,因为规则写的是“严格小于 8%”。
相反,“这段检查点描述应该映射成哪类规则规格”,就很难完全靠固定规则完成。它需要理解自然语言里的业务意图,也要在多个可能的取数技能和执行算子组合里做选择,这正是模型适合介入的位置。
错误结果会不会造成不可逆影响
风险越高,模型拥有的直接执行权就应该越小。
可以用下面这张表快速判断:
| 任务类型 | 更合适的实现方式 | 原因 |
|---|---|---|
| 取数技能是否存在、字段路径是否有效 | 代码 | 契约明确,可以静态校验 |
| 桩号标准化、角度标准化、区间匹配 | 代码 | 结果应该可重复 |
| 检查点自然语言转规则规格 | 模型生成,代码验收 | 需要语义理解,也需要边界 |
| 图纸视觉语义判断 | 模型或视觉模型 | 规则难以完全结构化 |
| 规则规格上线启用 | 代码控制状态,必要时人工确认 | 错误会影响批量校审 |
| 运行时正式校审 | 代码执行,模型只处理例外分支 | 成本、延迟和可追溯性更可控 |
这里最关键的一条,不是简单地把任务分成“模型任务”和“代码任务”,而是允许二者组合。
模型负责理解和提议,代码负责验证和执行。
把模型放回它最擅长的位置
还是以前面的图纸校审为例。
用户维护的是检查点自然语言,例如:
当交点的左转角或右转角存在有效数值,并且其中至少一个转角严格小于 90 度时,纳入检查;再根据交点桩号匹配纵断面坡度区间,坡度必须严格大于 -8% 且严格小于 8%。
这段话里真正需要模型的地方,是把业务语义翻译成候选规则规格,也就是候选 RuleSpec:需要全量交点数据,需要完整纵断面数据,需要角度标准化、桩号标准化、区间查找和严格开区间判断。
但模型生成这份规则规格后,不能直接保存启用。
代码要继续做几件事:结构约束是否通过;取数技能是否存在;字段路径是否存在;执行算子参数是否合法;数据流能不能连起来;样例试运行结果是否符合预期。
比如样例里可以明确写:
- 角度 45 度、坡度 7.99%:通过;
- 角度 45 度、坡度 8%:不通过;
- 角度 90 度、坡度 10%:不参与检查;
- 找不到坡度区间:数据异常。
只有这些校验都通过,规则规格才进入 READY 状态。正式校审时,Java 按规则规格执行,Python 按取数技能提取和标准化数据,模型不再参与每一条记录的判断。
这样改造后,模型仍然承担了最有价值的部分:理解自然语言、识别业务意图、生成候选执行计划。
与此同时,整个流程的边界更加清楚:
- 数据由取数技能契约规范;
- 规则语义由模型理解;
- 规则规格由代码校验;
- 校审执行由算子完成;
- 异常和状态由流程接住。
这不是削弱 Agent,而是在给它建立工程底盘。
高风险动作,模型只能提案,不能拍板
很多 Agent 在演示阶段的问题,不是模型不会做事,而是模型拥有了过大的执行权。
如果模型生成了一份新的规则规格,它是否可以直接启用?如果模型认为某个检查点不适合结构化执行,它是否可以直接跳过?如果模型给出“不通过”结论,它是否可以绕过证据链直接落库?
我的判断是:只要动作具有明显的外部影响,模型就不应该同时拥有判断权和最终执行权。
更稳妥的设计,是把过程拆成三个阶段:
- 模型提出动作建议;
- 代码检查参数、权限和风险;
- 系统自动执行或等待人工确认。
例如,Agent 想启用一条新规则,至少应该先生成候选规则规格。代码再检查结构约束、字段、执行算子、样例和依赖范围。只有全部通过,才能把状态改成 READY。
如果是正式校审结果落库,还需要保留输入快照、执行日志、证据链、模型版本和失败原因。否则后面发现误判,很难解释这条结论从哪里来。
模型可以负责发现问题,但不能绕过安全边界。
这里有一条我认为非常重要的工程原则:
不要让模型输出,直接连接不可逆操作。
中间必须存在一个确定性的验证层。
少用模型,不等于少做智能
很多人容易把 Agent 的“智能程度”和模型调用次数联系起来。
一个工作流调用十次模型,看起来比只调用两次更智能;一个节点如果只是普通代码,也容易被认为不够“Agent”。
但用户最终关心的并不是系统思考了多少次,而是任务能否稳定完成。
如果代码已经能根据桩号找到坡度区间,再调用模型解释一次,不会增加业务价值;如果规则规格里已经声明了取数技能,运行时再让模型重新匹配技能,只会增加出错机会。
真正成熟的 Agent,应该把模型能力集中在这些地方:
- 理解检查点自然语言里的业务意图;
- 从规则描述中提取对象、条件、边界和异常策略;
- 在多个取数技能和执行算子组合里生成候选方案;
- 处理视觉语义、规范解释这类难以穷举的问题;
- 面对新检查点时提出可试运行的规则规格。
至于执行、校验、权限、状态、重试和恢复,仍然应该尽量回到传统软件工程。
模型负责扩大系统能够处理的问题范围,代码负责保证系统不要越过边界。
两者不是替代关系,而是分工关系。
这种架构也有成本
把更多节点改成代码,并不意味着没有代价。
首先,团队需要把需求说清楚。
很多流程之所以全部交给模型,不是模型真的更合适,而是业务规则还没有被整理出来。大家用一句自然语言要求覆盖所有情况,看起来开发更快,实际上只是把需求模糊性推给了模型。
其次,代码规则需要维护。
业务变化后,状态、校验和权限逻辑都需要同步更新。如果规则数量不断增加,代码同样可能变得复杂。
这就要求取数技能和执行算子不能随便长。新增检查点时,不是马上写一个专用算子,而是先看能不能复用已有的标准化、过滤、区间匹配、范围判断和聚合能力。
第三,不能制造“虚假的确定性”。
即使核心逻辑由代码实现,只要依赖网络、外部接口、时间、并发或者第三方服务,系统仍然可能出现不一致。确定性架构不是只写几个条件判断,而是要同时考虑超时、重试、幂等和补偿。
所以,我不会把所有模型节点机械替换成代码。
更合理的做法,是持续观察一条流程:哪些模型判断已经逐渐形成稳定规则,哪些规则因为现实变化重新出现歧义。
当一个模型节点的判断标准越来越清晰,就可以逐步下沉为代码;当固定规则开始被大量例外击穿,也可以重新引入模型辅助。
在图纸校审里,这个边界会一直变化。连续性检查、数值范围检查、区间匹配,适合逐步沉淀为确定性执行;模糊图形理解、规范条文解释、异常图纸识别,则可以保留模型或视觉模型分支。
Agent 架构不是一次设计完成的,而是在运行反馈中不断调整模型与代码的边界。
我现在更关心三个指标
评估一条 Agent 工作流时,我已经不太关心它调用了多少模型,而更关心下面三个指标。
能不能重放
出现问题后,是否可以使用同一份图纸、同一条规则规格、同一份取数结果重新执行,并查看每一步中间结果?
如果不能重放,问题就很难稳定复现。
能不能验证
模型生成规则规格之后,系统是否知道什么结果合格、什么结果必须拒绝?
如果没有验证标准,模型给出格式完整的错误答案,往往会一路进入下游。
能不能恢复
任务执行到一半失败,是从头再来,还是可以从最近一个可靠状态继续?比如取数技能已经完成提取,是否还要重新调用模型和重新解析整张图?
如果每次失败都只能重新调用所有模型,成本、延迟和数据一致性都会成为问题。
这三个指标,决定了一条 Agent 工作流能不能长期运行。
下一步,可以先改造一条最常用的流程
如果你正在做 Agent,不需要马上重构整个系统。可以先选择一条调用频率最高、最容易出错的流程,做三件事。
第一,列出所有模型调用,逐个问一句:这个节点真的需要理解和推理吗?
凡是技能匹配、字段校验、单位转换、区间查找、状态判断和权限检查,都可以优先评估是否改为代码或确定性配置。
第二,检查模型输出之后有没有验证层。
至少要检查结构约束、字段、类型、范围、允许值和样例试运行。高风险动作还要增加状态控制、执行预览和人工确认。
第三,为整条流程保留可重放记录。
不要只保存最终答案,还要能看到每个节点收到什么、输出什么、为什么进入下一步。这样模型、取数技能或执行算子发生变化时,才有机会定位真正的影响范围。
Agent 越强,越不能把所有事情都交给模型。
真正能够进入长期工作流的智能体,不是每一步都自由发挥,而是在确定性的边界内,把模型用在最需要理解和判断的地方。
代码负责守住底线,模型负责打开上限。
我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。