大家好,我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。
最近遇到一个常见的问题,跟大家分享下:
一个运行多年的业务系统还停留在 Java 8,现在团队想接入 Spring AI Alibaba 一类 Agent 框架,但新框架通常需要更高版本的 JDK 和 Spring Boot。这个时候,到底应该先升级整个老项目,还是单独搭建一套 Agent 服务?
AI 技术栈变化很快,但承载核心业务的系统不敢轻易动。
如果为了接入一个 Agent 框架,就把整个 Java 8 项目升级到新的 JDK、Spring Boot 和中间件版本,这件事很可能比开发 Agent 本身更危险。
所以,如果是我来做这类改造,通常不会先推动老系统整体升级。
我的第一选择是:保留 Java 8 核心业务系统,在旁边新建一套高版本 JDK 的 Agent 服务,通过网关路由和受控业务接口,把两套系统连接起来。
这不是暂时绕过升级,而是在主动隔离两种不同的变化速度。
真正冲突的不是两个 JDK,而是两种系统生命周期
一个运行多年的 Java 8 系统,通常已经承担了订单、客户、设备、审批、报表或者生产业务。
它的特点是:
- 技术栈可能比较旧;
- 代码耦合通常不低;
- 自动化测试未必完整;
- 部分依赖可能已经停止维护;
- 但业务规则稳定,生产运行经验丰富。
Agent 系统刚好相反,它会频繁更换模型、提示词、工具协议、记忆方案和框架版本。今天使用 Spring AI Alibaba,后面也可能评估 LangChain4j、AgentScope-Java、ai4j,甚至为某些任务引入独立的 Python 能力。
也就是说,老业务系统追求稳定,Agent 系统追求快速试错。
如果把两者直接放进同一个工程,会发生什么?
每次调整模型调用方式,都要重新发布核心业务系统;每次升级 Agent 框架,都可能被老依赖卡住;一次原本只影响 AI 功能的故障,也可能扩大到订单、审批或生产流程。
问题并不只是“Java 8 能不能升级”,而是:
是否应该让一套高频变化的新能力,和一套低频变化的核心系统共享同一个发布周期。
我的判断是:大多数存量项目不应该。
为什么我不建议直接在老项目里硬升级
Java 8 升级到更高版本,表面上像是修改编译版本,实际上往往是一条完整的依赖迁移链。
你需要同时检查:
- Spring 和 Spring Boot 的兼容关系;
- Servlet、ORM、数据库驱动和连接池;
javax到jakarta的迁移影响;- 公司内部公共包是否支持新版本;
- 第三方 SDK 是否仍然兼容;
- 加密、证书、文件处理和报表组件;
- JVM 参数、容器镜像和监控探针;
- 自动化测试能否覆盖核心业务。
真正危险的地方,不是项目无法启动,而是项目能够启动,却在某个低频业务场景中出现行为差异。
例如,一个老系统平时订单查询都正常,但月底批量结算时才会进入某条特殊逻辑;或者某个文件导入功能依赖多年没有升级的组件,只有特定客户使用。缺少测试时,这些风险很难在上线前完整发现。
如果整体升级本来就在团队规划中,当然可以继续推进。但如果唯一目的只是接入 Agent,把两个高风险改造绑在一起通常不划算。
上线后只要出问题,你很难判断究竟来自 JDK 升级、Spring Boot 迁移、Agent 框架,还是模型调用和业务接口之间的组合问题。一次改动跨越的边界越多,排查和回滚成本就越高。
我更建议采用并行服务架构
更稳妥的做法,是在老系统旁边新建一个独立的 Agent 服务。
整体链路可以简化为:
业务前端或其他入口 → Nginx/API 网关 → Java 8 业务系统或高版本 JDK Agent 服务 → 受控业务接口 → 核心业务能力
例如,可以先按接口前缀划分流量:
/api/**继续转发到原有 Java 8 系统;/agent-api/**转发到新的 Agent 服务。
新的 Agent 服务使用框架明确支持的 LTS JDK,并独立选择 Spring Boot、Spring AI Alibaba 或其他 Agent 框架。
这样原有业务链路不用为了 Agent 全面改造,Agent 服务也可以独立部署、扩容、回滚和升级。模型、Skills、提示词和工具定义可以快速迭代,不必跟随核心系统发布。
这里的关键不是一定要选择哪个框架,而是先把业务系统与 Agent 框架解耦。
今天接入 Spring AI Alibaba,明天评估其他框架,后面如果需要多 Agent 编排或者更强的工具执行能力,也不会因此重构整个核心系统。
一次真实任务应该怎样流转
假设现有系统管理售后工单,用户向 Agent 提出一个问题:
帮我汇总最近 30 天重复报修的设备,并分析可能原因。
Agent 不应该直接拿着数据库账号去查询核心表。
更合理的执行过程是:
- Agent 识别用户意图;
- 调用“查询指定时间范围内设备报修记录”这类受控工具;
- 工具通过内部接口访问 Java 8 业务系统;
- 老系统继续负责权限判断、数据查询和业务口径;
- Agent 只负责归纳、关联和解释结果。
这条链路里,老系统仍然是业务事实的提供者。
Agent 负责的不是重新实现工单规则,而是理解用户意图、组合工具、组织上下文和生成结果。
这点非常重要。不少团队刚开始做 Agent 时,很容易把数据库表结构、业务规则和模型调用全部写进 Agent 服务。短期看开发很快,长期却会形成第二套业务系统。
一旦字段发生变化,或者原系统调整了统计口径,Agent 给出的结果就可能和正式报表不一致。
所以我更倾向于让 Agent 调用稳定的业务能力,而不是复制业务逻辑。
先做只读任务,再考虑写入动作
Agent 接入业务系统后,最容易出现的问题不是“回答得不够聪明”,而是“执行得过于主动”。
查询工单和关闭工单,不是同一个风险等级;生成采购建议和直接创建采购单,也不是同一件事。
所以第一阶段,我通常只开放只读能力:查询、汇总、分类、对比、解释、生成草稿和给出处理建议。
这些任务即使结果不理想,也比较容易人工检查,不会立刻改变业务状态。
如果后面需要开放写入操作,可以继续划分风险等级:低风险操作可以自动执行,中风险操作要求用户二次确认,高风险操作只生成建议,由原系统完成审批。涉及资金、权限和核心状态的操作,必须保留完整审计。
例如,Agent 可以根据客户描述生成一张工单草稿,但在真正提交之前,需要用户确认客户、设备、故障类型和优先级。这会牺牲一点“全自动”的体验,却能显著降低误操作风险。
企业 Agent 的核心目标不是让模型拥有尽可能大的权限,而是让它在明确边界内稳定完成任务。
前端可以低感知,但不一定完全无感
通过固定接口前缀和 Nginx 反向代理,前端确实可以减少对后端技术栈变化的感知。
例如,页面仍然访问同一个域名,只是把 Agent 请求发送到 /agent-api/。网关再将请求转发到新服务,前端不需要知道后面运行的是 Java 8、Java 21 还是其他技术栈。
但“前端无感”需要有边界。
如果只是增加一个普通的问答接口,改动可以比较小;如果需要流式输出、任务进度、工具执行状态和人工确认,前端通常仍然要适配 SSE、WebSocket 或任务轮询。
登录态也需要认真处理,而且这件事最好一开始就认真处理。
我在一个文档校审项目里用过一种比较朴素的认证桥接方式:新服务不重新做登录,也不自己签发用户 Token,而是接入已有产品的登录体系。
大致链路是这样的:
- 用户仍然在老系统或上游产品里登录;
- 登录成功后,上游系统把 Token 和用户信息写入共享 Redis,并设置过期时间;
- 前端请求 Agent 服务时,继续在请求头里带上
x-access-token; - Agent 服务的 Spring MVC 拦截器读取 Token,到 Redis 校验 Token 和用户信息;
- 校验通过后,把用户 id、账号、姓名、组织等信息写入当前请求上下文;
- Controller、Service、业务工具、审计日志都从这个上下文里拿当前用户。
这个实现不复杂,但它解决了一个关键问题:
Agent 服务不是绕过老系统登录态,而是复用既有登录事实。
例如,请求头默认使用 x-access-token,Redis Token Key 可以是 prefix_user_token_{token},用户信息 Key 可以是 sys:cache:user:jwt:{token}。如果老系统的 Key 规则不同,就用 login:token:{token} 这样的模板配置适配。Swagger、健康检查、回调接口可以少量放行,其他业务接口默认必须经过 Token 校验。
这样新 Agent 服务既不用复制一套 Shiro、JWT 或登录页面,也不会因为部署成独立服务就失去用户身份。
但这里有几个坑必须提前说清楚。
第一,Token 只能在服务端认证链路里流转,不能写进 Prompt、Chat Memory、工具参数说明和模型上下文。模型只需要知道“当前用户是谁、有哪些可用工具、这个工具能查什么范围”,不应该看到真实 Token。
第二,Agent 调老系统接口时,要区分“用户身份”和“服务身份”。可以透传用户 Token,让老系统继续判断权限;也可以用内部服务凭证调用老系统,同时把用户 id、组织、角色、traceId 作为受控 Header 传过去。无论哪种方式,日志里都要能看到“哪个用户发起”和“哪个服务代为调用”。
第三,权限不能只在进入 Agent 服务时校验一次。真正访问业务数据的工具接口也要做权限判断,尤其是客户、项目、组织、图纸、订单这类有数据范围的场景。
第四,ThreadLocal 只适合同步请求。Agent 经常会用异步任务、线程池、SSE 流式输出、队列消费和长任务执行,如果不显式复制用户上下文,就会出现入口能识别用户、后续工具调用却丢身份的问题。异步执行时要把当前用户和 traceId 一起传过去,任务结束后再清理,避免线程复用带来上下文污染。
第五,退出登录、权限变更和 Token 过期要及时生效。既然 Token 状态放在 Redis,Agent 服务就不要把用户权限长期缓存在本地。敏感工具执行前,最好重新确认 Token 和权限状态。
所以,网关解决的是路由问题,Redis 解决的是登录事实共享问题,拦截器解决的是请求入口校验问题,而真正的权限边界仍然要落在每一个业务工具和业务接口上。
为什么 Java 团队不必为了 Agent 立即换成 Python
一提到 AI 和 Agent,不少团队会本能地想到 Python。
Python 的 AI 生态确实丰富,许多新模型和研究能力也会优先提供 Python 支持。但对已有 Java 团队来说,是否换语言不能只看框架数量。
如果当前目标是调用大模型、实现流式对话、接入知识检索、定义业务工具、编排有限步骤、连接现有 Java 服务,现在的 Java 生态通常已经能够满足。
继续使用 Java 的价值,不只是程序员更熟悉语法,而是可以复用团队现有的配置、发布、接口规范、监控日志、服务治理、权限组件、代码评审和 JVM 运维经验。
如果只是为了“AI 项目看起来更原生”就换成 Python,团队还要额外承担语言栈、部署方式、依赖管理、监控体系和故障排查的成本。
当然,如果任务涉及 Python 独有的算法库、模型训练或数据科学能力,可以把这些能力做成独立服务,再由 Java Agent 调用。
我的原则是:
用业务需求决定语言边界,不要用技术热度决定。
如果继续用 Java,框架应该怎么选
确定继续用 Java 以后,还有一个现实问题:到底选哪个 Java Agent 框架?
我不太建议一开始就问“哪个框架最强”。更好的问法是:
这条新链路现在最需要解决什么问题?
如果只是第一阶段验证价值,核心能力通常是 LLM 对话、流式响应、Function Calling、RAG、向量库、记忆管理和业务工具封装。从这个角度看,Spring AI、LangChain4j、Semantic Kernel Java、AgentScope-Java、Spring AI Alibaba,以及 ai4j 都覆盖了不少基础能力。
真正拉开差距的地方,不是能不能发起一次对话,而是它是否适合你的 Spring 工程体系,是否支持复杂 Agent 编排、多智能体协作、插件扩展、可观测和调试,以及是否能在你的 JDK 与 Spring Boot 版本下运行。
我会这样粗略判断:
| 框架 | 更适合解决什么问题 | 需要注意什么 |
|---|---|---|
| Spring AI | Spring 体系里统一接入模型、Embedding、向量库、Tool Calling、RAG、MCP 和观测能力 | 更像 AI 基础抽象,不是完整多智能体平台;新版本通常要求较新的 Java 和 Spring Boot |
| LangChain4j | 在 Java 应用里快速做 Chat、Tools、RAG、Memory 和 AI Services | 能力通用,生态活跃;企业权限、审计和可观测仍要结合自己的工程体系 |
| Semantic Kernel Java | 团队已在用微软生态,或希望沿用 Semantic Kernel 的插件和 Prompt 抽象 | Java SDK 可用,但部分能力相对 C#、Python 仍有差异 |
| AgentScope-Java | 要做 ReAct、多智能体协作、运行时干预、可视化调试、MCP/A2A 和企业级 Agent Runtime | 能力更完整,学习和治理成本也更高;官方要求 JDK 17+ |
| Spring AI Alibaba | Java + Spring 团队,模型主要接入通义千问、百炼、阿里云生态 | 适合国内 Java 团队工程化落地;Java 8 老项目更适合拆成独立高版本服务 |
| ai4j | 需要在 JDK 8+ 项目里低门槛接入模型调用、Tool Call、RAG、MCP 或 ChatMemory | JDK 8+ 是明显优势;用于生产链路时仍要评估成熟度、监控审计和权限边界 |
这张表不是排名。
如果你的老项目还停在 Java 8,我会先把问题拆成两类。
第一类是“临时试点”。比如你只是想在老系统里加一个内部助手,先完成一次模型调用、一次知识库问答,或者一个简单工具调用,ai4j 这种支持 JDK 8+ 的 SDK 就有现实价值。它可以帮助团队更快证明场景有没有价值。
但我要强调一点:能在 Java 8 里接入,不代表应该把所有 Agent 能力都塞回老系统。
只要开始涉及多工具编排、长期记忆、任务状态、流式输出、权限传递、审计日志和可观测,就应该重新回到架构边界上看问题。短期省下来的新服务成本,很可能会变成后期难拆的耦合。
第二类是“长期演进”。如果你已经确定 Agent 会成为系统的一条新能力线,我更建议独立建设高版本 Java Agent 服务。此时再选择 Spring AI、Spring AI Alibaba、LangChain4j 或 AgentScope-Java,团队会自由很多。
选型时可以按三个问题往下收敛:
- 只是要“模型接入 + 工具调用”,还是要“完整 Agent Runtime”?
- 系统是不是强 Spring 体系?
- 是否真的需要可视化、运行时干预和多智能体协作?
如果只是一个售后摘要助手,未必需要很重的框架。如果要做图纸校审、项目资料分析、代码仓库理解、跨系统执行任务,就要认真考虑 AgentScope-Java 或 Spring AI Alibaba 这类更偏 Agent 平台的方案。
我的建议是:第一条链路不要被框架能力拖着走。
先用最少的框架能力跑通业务闭环。等工具数量、任务复杂度和线上问题真的涨上来,再升级到更完整的 Agent Runtime。
并行架构也不是没有代价
把 Agent 拆成独立服务,可以降低对老系统的侵入,但不会让复杂度消失。
复杂度只是从“升级风险”变成了“分布式协作成本”。
你需要额外处理:
- 两套运行环境的部署和监控;
- 新旧服务之间的接口契约;
- 网络超时、重试、熔断和降级;
- 用户身份和服务身份的传递;
- Agent 调用链的日志追踪;
- 模型不可用时的兜底策略;
- Token 消耗和调用成本;
- 提示词、工具和模型版本的管理;
- 框架快速变化带来的维护成本。
还有一个经常被低估的问题:延迟。一个传统接口可能只需要调用一次数据库,但 Agent 任务可能包含意图识别、工具选择、业务查询、结果整理和模型生成。任何一个环节超时,用户都会感觉系统“卡住了”。
因此,Agent 服务不能只记录最终答案,还要记录每一步发生了什么:用了哪个模型,选了哪个工具,工具参数是什么,业务接口返回什么状态,哪一步耗时最长,是否发生重试,最终结果能否复现。
没有这些信息,Agent 出错时只能看到一句“执行失败”,工程团队很难定位原因。
什么情况下可以直接推动整体升级
并行服务是我对多数存量项目的默认建议,但不是唯一答案。
如果老项目代码规模可控、模块边界清楚、自动化测试覆盖较好、关键依赖都有升级路径,而且团队本来就计划淘汰 Java 8,整体升级可能更合适。
这种情况下,可以把接入 Agent 作为现代化改造后的一个收益,但仍然不建议把所有变化一次上线。更稳妥的顺序是:先完成运行环境和基础框架升级,验证核心业务稳定,再接入 Agent 能力。
如果老系统高度耦合、缺少测试、承担关键生产任务,而 Agent 场景仍在探索,那么先拆独立服务通常更合理。
| 方案 | 主要收益 | 主要代价 | 更适合的场景 |
|---|---|---|---|
| 老系统原地升级 | 技术栈统一,长期维护更简单 | 改动范围大,验证和回滚成本高 | 已有升级计划、测试较完整 |
| 新建 Java Agent 服务 | 对业务侵入小,可独立迭代 | 增加服务协作和运维成本 | 核心系统稳定、Agent 仍在探索 |
| 新建 Python Agent 服务 | AI 生态丰富,实验速度快 | 增加语言和工程体系成本 | 团队已有 Python 生产经验或依赖特定能力 |
这张表只是辅助判断。框架选型可以调整,但架构边界一旦混乱,后面很难补救。
我建议从一个最小任务开始验证
如果你的项目正在面对同样的问题,我不建议第一步就讨论“建设企业级 Agent 平台”。
先选择一个小任务:用户确实需要,数据已经存在于业务系统,主要是查询和分析,结果可以人工核对,即使失败也不会修改核心状态,并且两到四周内可以验证价值。
例如:
根据现有售后记录,生成某台设备的故障历史摘要。
围绕这个任务,只需要先完成一条最小链路:
- 新建独立 Agent 服务;
- 通过网关暴露统一入口;
- 在老系统提供一个受控查询接口;
- 让 Agent 调用接口并生成摘要;
- 补齐身份、日志、超时和结果验证;
- 记录准确率、响应时间和实际调用成本。
跑通以后,再决定是否增加知识检索、更多工具、长期记忆、Skills 和写入能力。
这样做的好处是,团队验证的不只是模型效果,还能验证整条工程链路是否成立:用户是否真的会用,业务接口是否稳定,权限边界是否清楚,结果是否可解释,调用成本是否能接受,出错后能否快速定位,新框架是否值得长期投入。
如果这条最小链路都没有产生价值,再复杂的平台也没有意义。
最后的判断
Java 8 老项目接入 AI Agent,最先要解决的并不是 JDK 版本,而是变化如何隔离。
不要为了使用一个新框架,就把核心业务系统、运行环境、依赖体系和 AI 能力全部绑在一次改造里。
更稳妥的路径是:让老系统继续承担稳定的业务规则,让新服务承载快速变化的 Agent 能力,通过网关和受控工具连接两边,从只读、低风险、可验证的任务开始。
如果你准备开始,可以先做三个动作:
- 选出一个不修改业务状态的 Agent 场景;
- 梳理它真正需要的两到三个业务工具;
- 在不升级老系统的前提下,搭出一条独立的新链路。
Agent 的价值,不是强行重写已有系统,而是在不破坏稳定性的前提下,为旧系统增加一种新的理解、调用和协作方式。
我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。