从 Java 8 到 AI Agent:稳妥改造的第一条链路

大家好,我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。

最近遇到一个常见的问题,跟大家分享下:

一个运行多年的业务系统还停留在 Java 8,现在团队想接入 Spring AI Alibaba 一类 Agent 框架,但新框架通常需要更高版本的 JDK 和 Spring Boot。这个时候,到底应该先升级整个老项目,还是单独搭建一套 Agent 服务?

AI 技术栈变化很快,但承载核心业务的系统不敢轻易动。

如果为了接入一个 Agent 框架,就把整个 Java 8 项目升级到新的 JDK、Spring Boot 和中间件版本,这件事很可能比开发 Agent 本身更危险。

所以,如果是我来做这类改造,通常不会先推动老系统整体升级。

我的第一选择是:保留 Java 8 核心业务系统,在旁边新建一套高版本 JDK 的 Agent 服务,通过网关路由和受控业务接口,把两套系统连接起来。

这不是暂时绕过升级,而是在主动隔离两种不同的变化速度。

真正冲突的不是两个 JDK,而是两种系统生命周期

一个运行多年的 Java 8 系统,通常已经承担了订单、客户、设备、审批、报表或者生产业务。

它的特点是:

  • 技术栈可能比较旧;
  • 代码耦合通常不低;
  • 自动化测试未必完整;
  • 部分依赖可能已经停止维护;
  • 但业务规则稳定,生产运行经验丰富。

Agent 系统刚好相反,它会频繁更换模型、提示词、工具协议、记忆方案和框架版本。今天使用 Spring AI Alibaba,后面也可能评估 LangChain4j、AgentScope-Java、ai4j,甚至为某些任务引入独立的 Python 能力。

也就是说,老业务系统追求稳定,Agent 系统追求快速试错。

如果把两者直接放进同一个工程,会发生什么?

每次调整模型调用方式,都要重新发布核心业务系统;每次升级 Agent 框架,都可能被老依赖卡住;一次原本只影响 AI 功能的故障,也可能扩大到订单、审批或生产流程。

问题并不只是“Java 8 能不能升级”,而是:

是否应该让一套高频变化的新能力,和一套低频变化的核心系统共享同一个发布周期。

我的判断是:大多数存量项目不应该。

为什么我不建议直接在老项目里硬升级

Java 8 升级到更高版本,表面上像是修改编译版本,实际上往往是一条完整的依赖迁移链。

你需要同时检查:

  • Spring 和 Spring Boot 的兼容关系;
  • Servlet、ORM、数据库驱动和连接池;
  • javax 到 jakarta 的迁移影响;
  • 公司内部公共包是否支持新版本;
  • 第三方 SDK 是否仍然兼容;
  • 加密、证书、文件处理和报表组件;
  • JVM 参数、容器镜像和监控探针;
  • 自动化测试能否覆盖核心业务。

真正危险的地方,不是项目无法启动,而是项目能够启动,却在某个低频业务场景中出现行为差异。

例如,一个老系统平时订单查询都正常,但月底批量结算时才会进入某条特殊逻辑;或者某个文件导入功能依赖多年没有升级的组件,只有特定客户使用。缺少测试时,这些风险很难在上线前完整发现。

如果整体升级本来就在团队规划中,当然可以继续推进。但如果唯一目的只是接入 Agent,把两个高风险改造绑在一起通常不划算。

上线后只要出问题,你很难判断究竟来自 JDK 升级、Spring Boot 迁移、Agent 框架,还是模型调用和业务接口之间的组合问题。一次改动跨越的边界越多,排查和回滚成本就越高。

我更建议采用并行服务架构

更稳妥的做法,是在老系统旁边新建一个独立的 Agent 服务。

整体链路可以简化为:

业务前端或其他入口 → Nginx/API 网关 → Java 8 业务系统或高版本 JDK Agent 服务 → 受控业务接口 → 核心业务能力

例如,可以先按接口前缀划分流量:

  • /api/** 继续转发到原有 Java 8 系统;
  • /agent-api/** 转发到新的 Agent 服务。

新的 Agent 服务使用框架明确支持的 LTS JDK,并独立选择 Spring Boot、Spring AI Alibaba 或其他 Agent 框架。

这样原有业务链路不用为了 Agent 全面改造,Agent 服务也可以独立部署、扩容、回滚和升级。模型、Skills、提示词和工具定义可以快速迭代,不必跟随核心系统发布。

这里的关键不是一定要选择哪个框架,而是先把业务系统与 Agent 框架解耦。

今天接入 Spring AI Alibaba,明天评估其他框架,后面如果需要多 Agent 编排或者更强的工具执行能力,也不会因此重构整个核心系统。

一次真实任务应该怎样流转

假设现有系统管理售后工单,用户向 Agent 提出一个问题:

帮我汇总最近 30 天重复报修的设备,并分析可能原因。

Agent 不应该直接拿着数据库账号去查询核心表。

更合理的执行过程是:

  1. Agent 识别用户意图;
  2. 调用“查询指定时间范围内设备报修记录”这类受控工具;
  3. 工具通过内部接口访问 Java 8 业务系统;
  4. 老系统继续负责权限判断、数据查询和业务口径;
  5. Agent 只负责归纳、关联和解释结果。

这条链路里,老系统仍然是业务事实的提供者。

Agent 负责的不是重新实现工单规则,而是理解用户意图、组合工具、组织上下文和生成结果。

这点非常重要。不少团队刚开始做 Agent 时,很容易把数据库表结构、业务规则和模型调用全部写进 Agent 服务。短期看开发很快,长期却会形成第二套业务系统。

一旦字段发生变化,或者原系统调整了统计口径,Agent 给出的结果就可能和正式报表不一致。

所以我更倾向于让 Agent 调用稳定的业务能力,而不是复制业务逻辑。

先做只读任务,再考虑写入动作

Agent 接入业务系统后,最容易出现的问题不是“回答得不够聪明”,而是“执行得过于主动”。

查询工单和关闭工单,不是同一个风险等级;生成采购建议和直接创建采购单,也不是同一件事。

所以第一阶段,我通常只开放只读能力:查询、汇总、分类、对比、解释、生成草稿和给出处理建议。

这些任务即使结果不理想,也比较容易人工检查,不会立刻改变业务状态。

如果后面需要开放写入操作,可以继续划分风险等级:低风险操作可以自动执行,中风险操作要求用户二次确认,高风险操作只生成建议,由原系统完成审批。涉及资金、权限和核心状态的操作,必须保留完整审计。

例如,Agent 可以根据客户描述生成一张工单草稿,但在真正提交之前,需要用户确认客户、设备、故障类型和优先级。这会牺牲一点“全自动”的体验,却能显著降低误操作风险。

企业 Agent 的核心目标不是让模型拥有尽可能大的权限,而是让它在明确边界内稳定完成任务。

前端可以低感知,但不一定完全无感

通过固定接口前缀和 Nginx 反向代理,前端确实可以减少对后端技术栈变化的感知。

例如,页面仍然访问同一个域名,只是把 Agent 请求发送到 /agent-api/。网关再将请求转发到新服务,前端不需要知道后面运行的是 Java 8、Java 21 还是其他技术栈。

但“前端无感”需要有边界。

如果只是增加一个普通的问答接口,改动可以比较小;如果需要流式输出、任务进度、工具执行状态和人工确认,前端通常仍然要适配 SSE、WebSocket 或任务轮询。

登录态也需要认真处理,而且这件事最好一开始就认真处理。

我在一个文档校审项目里用过一种比较朴素的认证桥接方式:新服务不重新做登录,也不自己签发用户 Token,而是接入已有产品的登录体系。

大致链路是这样的:

  1. 用户仍然在老系统或上游产品里登录;
  2. 登录成功后,上游系统把 Token 和用户信息写入共享 Redis,并设置过期时间;
  3. 前端请求 Agent 服务时,继续在请求头里带上 x-access-token;
  4. Agent 服务的 Spring MVC 拦截器读取 Token,到 Redis 校验 Token 和用户信息;
  5. 校验通过后,把用户 id、账号、姓名、组织等信息写入当前请求上下文;
  6. Controller、Service、业务工具、审计日志都从这个上下文里拿当前用户。

这个实现不复杂,但它解决了一个关键问题:

Agent 服务不是绕过老系统登录态,而是复用既有登录事实。

例如,请求头默认使用 x-access-token,Redis Token Key 可以是 prefix_user_token_{token},用户信息 Key 可以是 sys:cache:user:jwt:{token}。如果老系统的 Key 规则不同,就用 login:token:{token} 这样的模板配置适配。Swagger、健康检查、回调接口可以少量放行,其他业务接口默认必须经过 Token 校验。

这样新 Agent 服务既不用复制一套 Shiro、JWT 或登录页面,也不会因为部署成独立服务就失去用户身份。

但这里有几个坑必须提前说清楚。

第一,Token 只能在服务端认证链路里流转,不能写进 Prompt、Chat Memory、工具参数说明和模型上下文。模型只需要知道“当前用户是谁、有哪些可用工具、这个工具能查什么范围”,不应该看到真实 Token。

第二,Agent 调老系统接口时,要区分“用户身份”和“服务身份”。可以透传用户 Token,让老系统继续判断权限;也可以用内部服务凭证调用老系统,同时把用户 id、组织、角色、traceId 作为受控 Header 传过去。无论哪种方式,日志里都要能看到“哪个用户发起”和“哪个服务代为调用”。

第三,权限不能只在进入 Agent 服务时校验一次。真正访问业务数据的工具接口也要做权限判断,尤其是客户、项目、组织、图纸、订单这类有数据范围的场景。

第四,ThreadLocal 只适合同步请求。Agent 经常会用异步任务、线程池、SSE 流式输出、队列消费和长任务执行,如果不显式复制用户上下文,就会出现入口能识别用户、后续工具调用却丢身份的问题。异步执行时要把当前用户和 traceId 一起传过去,任务结束后再清理,避免线程复用带来上下文污染。

第五,退出登录、权限变更和 Token 过期要及时生效。既然 Token 状态放在 Redis,Agent 服务就不要把用户权限长期缓存在本地。敏感工具执行前,最好重新确认 Token 和权限状态。

所以,网关解决的是路由问题,Redis 解决的是登录事实共享问题,拦截器解决的是请求入口校验问题,而真正的权限边界仍然要落在每一个业务工具和业务接口上。

为什么 Java 团队不必为了 Agent 立即换成 Python

一提到 AI 和 Agent,不少团队会本能地想到 Python。

Python 的 AI 生态确实丰富,许多新模型和研究能力也会优先提供 Python 支持。但对已有 Java 团队来说,是否换语言不能只看框架数量。

如果当前目标是调用大模型、实现流式对话、接入知识检索、定义业务工具、编排有限步骤、连接现有 Java 服务,现在的 Java 生态通常已经能够满足。

继续使用 Java 的价值,不只是程序员更熟悉语法,而是可以复用团队现有的配置、发布、接口规范、监控日志、服务治理、权限组件、代码评审和 JVM 运维经验。

如果只是为了“AI 项目看起来更原生”就换成 Python,团队还要额外承担语言栈、部署方式、依赖管理、监控体系和故障排查的成本。

当然,如果任务涉及 Python 独有的算法库、模型训练或数据科学能力,可以把这些能力做成独立服务,再由 Java Agent 调用。

我的原则是:

用业务需求决定语言边界,不要用技术热度决定。

如果继续用 Java,框架应该怎么选

确定继续用 Java 以后,还有一个现实问题:到底选哪个 Java Agent 框架?

我不太建议一开始就问“哪个框架最强”。更好的问法是:

这条新链路现在最需要解决什么问题?

如果只是第一阶段验证价值,核心能力通常是 LLM 对话、流式响应、Function Calling、RAG、向量库、记忆管理和业务工具封装。从这个角度看,Spring AI、LangChain4j、Semantic Kernel Java、AgentScope-Java、Spring AI Alibaba,以及 ai4j 都覆盖了不少基础能力。

真正拉开差距的地方,不是能不能发起一次对话,而是它是否适合你的 Spring 工程体系,是否支持复杂 Agent 编排、多智能体协作、插件扩展、可观测和调试,以及是否能在你的 JDK 与 Spring Boot 版本下运行。

我会这样粗略判断:

框架 更适合解决什么问题 需要注意什么
Spring AI Spring 体系里统一接入模型、Embedding、向量库、Tool Calling、RAG、MCP 和观测能力 更像 AI 基础抽象,不是完整多智能体平台;新版本通常要求较新的 Java 和 Spring Boot
LangChain4j 在 Java 应用里快速做 Chat、Tools、RAG、Memory 和 AI Services 能力通用,生态活跃;企业权限、审计和可观测仍要结合自己的工程体系
Semantic Kernel Java 团队已在用微软生态,或希望沿用 Semantic Kernel 的插件和 Prompt 抽象 Java SDK 可用,但部分能力相对 C#、Python 仍有差异
AgentScope-Java 要做 ReAct、多智能体协作、运行时干预、可视化调试、MCP/A2A 和企业级 Agent Runtime 能力更完整,学习和治理成本也更高;官方要求 JDK 17+
Spring AI Alibaba Java + Spring 团队,模型主要接入通义千问、百炼、阿里云生态 适合国内 Java 团队工程化落地;Java 8 老项目更适合拆成独立高版本服务
ai4j 需要在 JDK 8+ 项目里低门槛接入模型调用、Tool Call、RAG、MCP 或 ChatMemory JDK 8+ 是明显优势;用于生产链路时仍要评估成熟度、监控审计和权限边界

这张表不是排名。

如果你的老项目还停在 Java 8,我会先把问题拆成两类。

第一类是“临时试点”。比如你只是想在老系统里加一个内部助手,先完成一次模型调用、一次知识库问答,或者一个简单工具调用,ai4j 这种支持 JDK 8+ 的 SDK 就有现实价值。它可以帮助团队更快证明场景有没有价值。

但我要强调一点:能在 Java 8 里接入,不代表应该把所有 Agent 能力都塞回老系统。

只要开始涉及多工具编排、长期记忆、任务状态、流式输出、权限传递、审计日志和可观测,就应该重新回到架构边界上看问题。短期省下来的新服务成本,很可能会变成后期难拆的耦合。

第二类是“长期演进”。如果你已经确定 Agent 会成为系统的一条新能力线,我更建议独立建设高版本 Java Agent 服务。此时再选择 Spring AI、Spring AI Alibaba、LangChain4j 或 AgentScope-Java,团队会自由很多。

选型时可以按三个问题往下收敛:

  1. 只是要“模型接入 + 工具调用”,还是要“完整 Agent Runtime”?
  2. 系统是不是强 Spring 体系?
  3. 是否真的需要可视化、运行时干预和多智能体协作?

如果只是一个售后摘要助手,未必需要很重的框架。如果要做图纸校审、项目资料分析、代码仓库理解、跨系统执行任务,就要认真考虑 AgentScope-Java 或 Spring AI Alibaba 这类更偏 Agent 平台的方案。

我的建议是:第一条链路不要被框架能力拖着走。

先用最少的框架能力跑通业务闭环。等工具数量、任务复杂度和线上问题真的涨上来,再升级到更完整的 Agent Runtime。

并行架构也不是没有代价

把 Agent 拆成独立服务,可以降低对老系统的侵入,但不会让复杂度消失。

复杂度只是从“升级风险”变成了“分布式协作成本”。

你需要额外处理:

  • 两套运行环境的部署和监控;
  • 新旧服务之间的接口契约;
  • 网络超时、重试、熔断和降级;
  • 用户身份和服务身份的传递;
  • Agent 调用链的日志追踪;
  • 模型不可用时的兜底策略;
  • Token 消耗和调用成本;
  • 提示词、工具和模型版本的管理;
  • 框架快速变化带来的维护成本。

还有一个经常被低估的问题:延迟。一个传统接口可能只需要调用一次数据库,但 Agent 任务可能包含意图识别、工具选择、业务查询、结果整理和模型生成。任何一个环节超时,用户都会感觉系统“卡住了”。

因此,Agent 服务不能只记录最终答案,还要记录每一步发生了什么:用了哪个模型,选了哪个工具,工具参数是什么,业务接口返回什么状态,哪一步耗时最长,是否发生重试,最终结果能否复现。

没有这些信息,Agent 出错时只能看到一句“执行失败”,工程团队很难定位原因。

什么情况下可以直接推动整体升级

并行服务是我对多数存量项目的默认建议,但不是唯一答案。

如果老项目代码规模可控、模块边界清楚、自动化测试覆盖较好、关键依赖都有升级路径,而且团队本来就计划淘汰 Java 8,整体升级可能更合适。

这种情况下,可以把接入 Agent 作为现代化改造后的一个收益,但仍然不建议把所有变化一次上线。更稳妥的顺序是:先完成运行环境和基础框架升级,验证核心业务稳定,再接入 Agent 能力。

如果老系统高度耦合、缺少测试、承担关键生产任务,而 Agent 场景仍在探索,那么先拆独立服务通常更合理。

方案 主要收益 主要代价 更适合的场景
老系统原地升级 技术栈统一,长期维护更简单 改动范围大,验证和回滚成本高 已有升级计划、测试较完整
新建 Java Agent 服务 对业务侵入小,可独立迭代 增加服务协作和运维成本 核心系统稳定、Agent 仍在探索
新建 Python Agent 服务 AI 生态丰富,实验速度快 增加语言和工程体系成本 团队已有 Python 生产经验或依赖特定能力

这张表只是辅助判断。框架选型可以调整,但架构边界一旦混乱,后面很难补救。

我建议从一个最小任务开始验证

如果你的项目正在面对同样的问题,我不建议第一步就讨论“建设企业级 Agent 平台”。

先选择一个小任务:用户确实需要,数据已经存在于业务系统,主要是查询和分析,结果可以人工核对,即使失败也不会修改核心状态,并且两到四周内可以验证价值。

例如:

根据现有售后记录,生成某台设备的故障历史摘要。

围绕这个任务,只需要先完成一条最小链路:

  1. 新建独立 Agent 服务;
  2. 通过网关暴露统一入口;
  3. 在老系统提供一个受控查询接口;
  4. 让 Agent 调用接口并生成摘要;
  5. 补齐身份、日志、超时和结果验证;
  6. 记录准确率、响应时间和实际调用成本。

跑通以后,再决定是否增加知识检索、更多工具、长期记忆、Skills 和写入能力。

这样做的好处是,团队验证的不只是模型效果,还能验证整条工程链路是否成立:用户是否真的会用,业务接口是否稳定,权限边界是否清楚,结果是否可解释,调用成本是否能接受,出错后能否快速定位,新框架是否值得长期投入。

如果这条最小链路都没有产生价值,再复杂的平台也没有意义。

最后的判断

Java 8 老项目接入 AI Agent,最先要解决的并不是 JDK 版本,而是变化如何隔离。

不要为了使用一个新框架,就把核心业务系统、运行环境、依赖体系和 AI 能力全部绑在一次改造里。

更稳妥的路径是:让老系统继续承担稳定的业务规则,让新服务承载快速变化的 Agent 能力,通过网关和受控工具连接两边,从只读、低风险、可验证的任务开始。

如果你准备开始,可以先做三个动作:

  1. 选出一个不修改业务状态的 Agent 场景;
  2. 梳理它真正需要的两到三个业务工具;
  3. 在不升级老系统的前提下,搭出一条独立的新链路。

Agent 的价值,不是强行重写已有系统,而是在不破坏稳定性的前提下,为旧系统增加一种新的理解、调用和协作方式。

我是 WeiWill,深耕软件工程一线,专注 AI 应用落地与 Agent 开发。