大家好,我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。
AI Coding 和 Agent 正在从“生成一个函数”的演示场景,进入真实项目。
到了企业系统里,Java 几乎是绕不开的一关。
比如一个很常见的任务:给订单取消接口增加幂等校验,并补上单元测试。
在人看来,这可能只是改一个 Service 方法。但 Agent 真正开始工作后,往往要继续读取 Controller、Service 接口、实现类、DTO、Mapper、异常定义、事务配置、数据库脚本和现有测试。
第一次修改没通过,它还要读取 Maven 输出、测试报告和异常堆栈,再进入下一轮。
于是,一个看起来只有一句话的需求,最后会带出大量上下文。
这时很多人会问:
Java 为什么更耗 Token?到底是代码本身贵,还是传输过程贵?
这里更准确的说法是:Java 本身没有一种特殊的“Token 税”。真正增加成本的,是同一个工程任务需要向模型暴露多少文本,以及这些文本会在 Agent 循环中被重复处理多少次。
传输层只是搬运数据。源码、配置、日志、历史对话和模型输出进入大模型之后,才真正形成 Token 消耗。
一次 Java 修改,Token 到底花在哪里
先把几本账分清楚。
| 层面 | 典型内容 | 是否产生模型 Token |
|---|---|---|
| 源码与上下文 | Java 文件、配置、接口、依赖信息 | 进入模型后产生输入 Token |
| 模型输出 | 代码、补丁、解释、测试用例 | 产生输出 Token |
| 工具反馈 | 编译结果、测试日志、异常堆栈 | 被送回模型后产生输入 Token |
| Agent 循环 | 多轮读取、修改、验证、重试 | 每轮都可能重新消耗上下文 |
| 检索与索引 | 代码切片、向量化、召回内容 | 视模型和服务计费方式而定 |
这里最容易混淆的是工具执行。
Agent 在本地执行一次 mvn test,Maven 和 JVM 的运行过程本身不会消耗大模型 Token。但如果命令输出了几千行日志,并且 Agent 把这些日志全部交给模型分析,这些内容就会进入下一轮上下文。
grep、代码搜索、编译和数据库查询也是一样。它们本身不一定消耗模型 Token,真正要关注的是:工具执行之后,有多少结果被送回了模型。
从工程视角看,一次 Agent 任务的 Token 总量可以粗略理解为:
固定提示信息 + 源码与配置上下文 + 工具反馈 + 历史对话 + 模型输出,再乘以执行轮数。
Java 主要放大中间几项,Agent 循环又会进一步放大总量。
第一层:Java 源码更长,但不只是语法问题
同样一段业务逻辑,Java 往往需要更多文本。
一个查询订单的方法,可能不仅包含方法体,还会牵出包名、import、接口、实现类、DTO、Entity、枚举、Spring 注解、参数校验、日志、异常处理和测试类。
同样的业务意图,在 Python 中可能只是一个较短函数;在 Java 项目里,则可能分布在多个类和多个层次中。
但不能简单说“Java 每个字符都更耗 Token”。大模型不是按代码行数直接计费,而是先通过分词器把文本转换成 Token,不同模型的分词方式也不同。
更稳定的判断是:
完成相同业务任务时,Java 项目通常需要提供更多源码和结构信息,因此总输入文本往往更大。
这些信息也不全是浪费。明确的类型、接口、方法签名和编译约束,会增加输入 Token,却也可能降低理解歧义。比如 Optional<OrderDTO>、List<OrderItem> 和明确的异常类型,会告诉 Agent 返回值、调用方处理方式和测试分支。
所以不能只看单轮 Token。
Java 可能在第一次读取时更贵,但如果类型系统、编译器和测试能帮助 Agent 更快发现问题,就可能减少后续循环。反过来,短代码如果行为隐蔽、依赖不清,Agent 连续猜错三次,最终成本可能更高。
源码长度影响单轮成本,代码清晰度影响总轮数。工程上要优化的是总成本,而不是只追求文件更短。
第二层:真正的大头,往往是项目上下文
Java 项目让 Agent 感觉“贵”,很多时候不是某个类太长,而是完成一个修改需要理解的范围太大。
还是订单取消的例子。
如果 Agent 只看到 cancelOrder() 方法,它可能不知道:
- 事务是在方法上还是类上;
- 幂等记录保存在哪张表;
- 状态机是否允许重复取消;
- Controller 是否统一处理业务异常;
- Mapper 使用 JPA、MyBatis 还是 XML;
- 是否存在消息发送和补偿逻辑;
- 测试应该使用 Mock 还是启动 Spring 容器。
为了回答这些问题,Agent 会继续读取相关文件。
在典型企业 Java 项目里,一个业务行为可能分布在 Controller、Service、Domain、Repository、Mapper、配置和消息处理器之间。Spring 的注解、AOP、事务、代理和自动配置,也会让部分行为不直接出现在方法体中。Agent 面对的不再是一段代码,而是一张依赖关系网。
这也是为什么“把整个仓库一次性交给模型”通常不是好办法。
信息越多,不等于判断越准确。相似类、历史实现、废弃接口和生成代码,都可能形成干扰。
我更倾向于先让 Agent 做本地搜索,再围绕目标符号建立小范围上下文:
- 需求涉及的入口方法;
- 直接调用链;
- 关键数据结构;
- 接口契约;
- 现有测试;
- 与本次问题有关的配置;
- 明确的版本和构建约束。
这不只是省钱,更是提高判断质量。对 Java Agent 工作流来说,最有效的优化通常不是压缩一句提示词,而是缩小每轮任务需要理解的工程边界。
第三层:日志和测试会在循环里放大成本
如果说源码决定第一次读取成本,那么日志和测试输出往往决定后续成本。
Java 项目的日志很容易变长。一次 Spring Boot 启动失败,可能包含自动配置报告、Bean 创建链路、数据库连接信息和几十层异常堆栈。一次 Maven 构建,也可能输出依赖下载、编译警告、测试报告和插件信息。
对人来说,我们通常会快速定位第一个失败测试、最底层异常和关键业务堆栈。但如果 Agent 工具把完整输出全部返回给模型,情况就不同了。
第一轮读代码、生成修改、执行测试;第二轮读取完整日志、再读相关代码、再生成修改。如果每一轮都保留之前的源码、对话和错误信息,Token 就会不断叠加。
很多团队以为“Java 耗 Token”,实际看到的可能是未受控制的工具反馈,叠加了过长的 Agent 执行循环。
我在这类任务里更关注工具输出的结构,而不是简单关闭日志。测试失败后,优先保留这些信息:
- 执行的命令;
- 退出码;
- 第一个失败测试;
- 根因异常;
- 与项目代码有关的堆栈;
- 测试报告文件位置。
无关的依赖下载进度、重复警告和完整启动信息,可以先不进入模型。
当然,截断也有风险。只保留最后几十行,可能丢掉最前面的根因;只提取异常名称,又可能失去关键调用路径。
工程上的目标不是“让模型少看”,而是“让模型只看完成判断所必需的信息”。
第四层:传输、检索和输出要分开看
再回答最开始的问题:Java 是不是在传输过程中更耗 Token?
严格来说,网络传输量和模型 Token 是两套概念。
一个 Java 文件原始大小是 500KB,通过 HTTP 压缩后可能只传输了更少的字节。压缩能节省带宽和部分传输时间,但服务端解压后,模型仍然要处理原来的代码内容。
所以:
- 压缩请求,可以减少网络字节;
- 减少发送内容,才能减少输入 Token;
- 两者有关联,但不能混为一谈。
如果 Agent 每一轮都把完整对话历史、工具定义、项目说明和源码重新放进请求,那么网络负载和输入 Token 通常都会增长。但 Token 增长不是因为“Java 在网络上更贵”,而是请求里确实包含了更多文本。
检索方式也会影响成本。最常见的问题是按固定字符数切分代码:包名和 import 在第一段,字段在第二段,方法签名在第三段,方法体在第四段。为了保证召回完整,系统又会设置片段重叠,导致同一批 import、注解和字段被反复索引。
结果是:建立索引时处理了大量重复内容,召回给模型时仍然缺少完整语义。
对于 Java 代码,我更倾向于按结构切分,例如围绕类、方法、接口和配置节点组织,同时记录包名、类名、方法名和依赖关系。
还应默认排除不需要检索的内容:
- 编译产物;
- 依赖缓存;
- 自动生成代码;
- 重复打包文件;
- 大型测试报告;
- 与当前任务无关的历史日志。
但排除目录也不能一刀切。有些项目依赖生成的客户端代码、数据库模型或协议类。如果 Agent 修改的正是接口适配层,那么生成代码的签名可能是必要上下文。更稳妥的做法,是默认排除,需要时按任务引入。
这背后的工程判断仍然一样:上下文不是越多越好,而是要与当前决策匹配。
模型输出同样需要计算。如果让 Agent “重写整个类”,它可能返回完整包名、import、字段、构造方法和所有方法。即使真正修改的只有十几行,模型也会生成整份文件。
因此,在能够可靠应用补丁的场景下,我更倾向于让 Agent 输出最小修改,而不是反复生成完整文件。这不只是 Token 成本问题,还关系到代码审查。
但“最小修改”不等于“不写测试”。真正应该减少的是重复代码和无关改写,而不是正确性保障。
不要为了省 Token,就把 Java 项目改成另一种语言
讨论到这里,很容易走向语言对比:既然 Java 文本更多,是不是换成 Python 或 Go 就更适合 Agent?
这个问题不能这样决策。
对于新建的小型自动化任务,语言简洁确实可能减少源码和输出量。但对已有 Java 系统来说,语言迁移带来的接口改造、部署链路、监控体系、团队学习和运维复杂度,远远大于模型 Token 的节省。
而且 Java 也有适合 Agent 的一面:
- 类型信息明确;
- 编译器能提前发现错误;
- IDE 和静态分析能力成熟;
- 测试和构建方式相对标准;
- 接口边界清晰时,调用关系容易追踪。
一个模块清晰、测试完善的 Java 项目,可能比一个动态行为很多、缺乏约束的短代码项目更容易让 Agent 正确修改。
真正决定 Agent 成本的,往往不是语言名字,而是项目是否具备清晰边界:
- 类和方法是否承担单一职责;
- 模块依赖是否可追踪;
- 构建命令是否稳定;
- 测试是否能够局部运行;
- 日志是否能快速暴露根因;
- 自动生成内容是否与手写代码分开;
- 项目说明是否能帮助 Agent 快速进入任务。
从这个角度看,Token 成本其实是一面镜子。它会把原本隐藏的架构问题暴露出来。
一个修改需要读取几十个文件,可能不只是 Agent 上下文管理有问题,也可能说明系统耦合已经过高。
我会怎样衡量一个 Java Agent 任务的真实成本
如果要判断 Java 到底多耗 Token,不能只比较两段代码,也不能只看某一轮请求。
我会选择一个真实、可重复的任务,例如修复一个校验问题、补一个接口测试,或者修改一个数据库字段映射,然后记录:
- 总输入 Token;
- 缓存部分;
- 总输出 Token;
- Agent 执行轮数;
- 工具返回的文本量;
- 完成时间;
- 是否一次通过编译和测试;
- 人工审查与返工时间。
接着做一组简单对比。
第一轮按照默认方式执行;第二轮增加项目范围约束、定向测试和日志过滤,再看总成本和成功率的变化。
这里一定要把正确率放进指标。
如果一次任务的 Token 降低了一半,却因为上下文不足而修改错误,最后需要人工重新排查,那么这不是真正的节省。
更完整的成本应该包括:
模型费用、任务耗时、人工审查、失败重试和生产风险。
Token 只是其中最容易量化的一部分。
Java Agent 工作流真正值得优化的地方
如果让我优化一个 Java 项目的 AI Coding 流程,我不会先要求团队少写注解,也不会为了省 Token 删除类型信息。
我会优先做下面几件事。
先给 Agent 一张项目地图
不用很长,但要写清楚模块职责、关键入口、Java 版本、构建命令、测试方式和禁止修改的区域。
它的作用不是替代代码,而是减少 Agent 在每次任务里重新猜测项目结构。
先搜索,再读取
先通过类名、方法名、接口名和异常信息定位范围,再读取相关文件。不要一开始就把整个模块塞进上下文。
对大型 Java 仓库来说,这一步通常比优化提示词更有效。
优先运行局部测试
修改 OrderService 时,先运行对应测试,而不是每次都启动整套系统。局部测试不仅更快,返回给模型的日志也更短、更聚焦。
当局部验证通过后,再进入模块级或完整构建。
控制工具输出,但保留根因
让工具返回结构化的失败摘要,必要时再展开完整日志。这样既能控制 Token,又不会因为过度截断而失去关键证据。
把大任务拆成可验证的小循环
先确认影响范围,再生成补丁,然后编译,最后测试。不要让 Agent 一次同时做架构分析、批量重构、测试补全和文档更新。
任务越大,错误定位越困难,重复上下文越多。
同时控制权限和敏感信息
Java 企业系统的日志里可能包含账号、订单、数据库地址和业务参数。减少无关日志进入模型,不只是成本优化,也是数据安全要求。
最小上下文和最小权限,往往应该一起设计。
最后回到最初的问题
Java 到底在哪一层耗 Token?
答案可以浓缩成三句话:
第一,Java 编译和运行本身不消耗大模型 Token,网络传输字节也不等于 Token。
第二,Java 项目通常包含更多源码、配置、类型和依赖关系,因此同一个工程任务往往需要更大的模型上下文。
第三,真正容易把成本放大的,是日志回传、完整文件重写、历史上下文重复和 Agent 多轮重试。
所以,不要先纠结 Java 和 Python 哪个更省,也不要只盯着提示词长短。
更值得马上做的是:
- 选择一个真实 Java 任务,记录每轮输入、输出、工具反馈和成功率;
- 为项目建立简短的模块地图,并默认排除构建产物、历史日志和无关生成内容;
- 把完整仓库读取改成“先搜索、再定位、后补充”,把完整构建改成“先局部验证、再扩大范围”。
当上下文边界、工具反馈和执行循环被控制住之后,Java 的 Token 成本通常就不再是一个模糊的语言问题,而会变成一个可以测量、可以优化的工程问题。
我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。