1. 从单模型到统一入口Chat Model API 接入的真实痛点很多同学在写完 Spring AI 的第一个 Demo 之后都会遇到一个很现实的问题项目里散落着好几套 API Key。智谱一个、DeepSeek 一个、OpenAI 兼容的又一个每个模型厂商的base-url和鉴权方式还不完全一样。等到要切换模型或者做灰度对比时改配置改到怀疑人生。Spring AI 的 Chat Model API 本身设计得挺优雅ChatModel和StreamingChatModel两个接口把同步和流式都抽象好了具体厂商的实现类只要遵循接口就能无缝替换。但抽象层解决的是代码层面的解耦解决不了密钥管理和 endpoint 统一的问题。你依然要在application.yml里为每个厂商维护一份连接配置。这篇要聊的就是把 Chat Model API 的 endpoint 和 api-key 统一指向 TaoToken用一套 Key 管理多个模型。TaoToken 是一个模型 API 聚合入口官网在 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_end 它提供 OpenAI 兼容的接口格式所以 Spring AI 里基于 OpenAI 协议的那套配置可以直接复用。适合谁呢已经有 Spring Boot 基础、手上跑过至少一个 Spring AI 对话 Demo、现在想把多模型 Key 收拢到一处的开发者。我试过在三个模型之间来回切配置每次都要改 yml、重启、验证效率很低。统一到 TaoToken 之后模型切换变成了改一个model参数的事连接层完全不用动。下面从依赖、配置、Java 配置类到验证请求一步步走完。2. TaoToken 前置准备拿到统一 Key 与确认 OpenAI 兼容端点在动 Spring AI 的代码之前先把 TaoToken 这边的准备工作做完。这一步不复杂但顺序别搞反否则后面配置填错了会浪费排查时间。首先你需要一个 TaoToken 账号然后到控制台创建 API Key。地址是 https://taotoken.net/api-keys 登录后新建一个 Key复制出来先存到安全的地方。这个 Key 就是后面application.yml里要填的api-key。接着确认 endpoint。TaoToken 的 API 基础地址是 https://taotoken.net/api 它兼容 OpenAI 的/v1/chat/completions路径。也就是说Spring AI 的 OpenAI starter 把base-url指向这个地址后请求会正常路由到对应模型。这里有个细节Spring AI 的 OpenAI 实现默认会在 base-url 后面拼接/v1/chat/completions所以你在配置里填的 base-url 应该是https://taotoken.net/api不要自己再加/v1否则会变成/api/v1/v1/...这种重复路径。模型 ID 方面TaoToken 支持多种模型具体可用列表可以在模型对话页面查看地址是 https://taotoken.net/models 。你在配置里填的model值要和平台上的一致比如gpt-4o-mini、claude-3-5-sonnet这类。不同模型的计费和能力有差异选一个你常用的先跑通。如果你还没决定用哪个模型可以先到模型对话页面手动发一条消息确认 Key 和模型都能正常工作再回到 Spring AI 里配置。这一步相当于把变量隔离出来后面出问题就只可能是 Spring AI 配置的问题而不是 Key 或模型本身的问题。注意API Key 不要硬编码进代码仓库。用环境变量注入或者放到配置中心。下面示例里我会用${TAOTOKEN_API_KEY}这种占位符。3. 可复制配置application.yml 与 Java 配置类指向 TaoToken这一节是核心给出可以直接抄的配置片段。分两部分application.yml和 Java 配置类。先看 yml。假设你用的是 Spring AI 的 OpenAI starter依赖是spring-ai-starter-model-openai。在application.yml里这样写spring: ai: openai: api-key: ${TAOTOKEN_API_KEY} base-url: https://taotoken.net/api chat: options: model: gpt-4o-mini temperature: 0.7 max-tokens: 1024这里api-key从环境变量读base-url指向 TaoToken 的 API 地址model填你要用的模型 ID。temperature和max-tokens是可选参数按需调整。如果你用的是spring-ai-starter-model-openai但想同时保留多个模型的配置可以用 Java 配置类手动构建OpenAiChatModelBean。下面这个配置类把连接信息和模型参数都显式写出来方便你理解每个字段的来源import org.springframework.ai.openai.OpenAiChatModel; import org.springframework.ai.openai.OpenAiChatOptions; import org.springframework.ai.openai.api.OpenAiApi; import org.springframework.beans.factory.annotation.Value; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; Configuration public class TaoTokenChatConfig { Value(${spring.ai.openai.api-key}) private String apiKey; Value(${spring.ai.openai.base-url}) private String baseUrl; Bean public OpenAiApi openAiApi() { return OpenAiApi.builder() .baseUrl(baseUrl) .apiKey(apiKey) .build(); } Bean public OpenAiChatModel openAiChatModel(OpenAiApi openAiApi) { OpenAiChatOptions options OpenAiChatOptions.builder() .model(gpt-4o-mini) .temperature(0.7) .maxTokens(1024) .build(); return OpenAiChatModel.builder() .openAiApi(openAiApi) .defaultOptions(options) .build(); } }这段配置的关键点有三个baseUrl指向https://taotoken.net/apiapiKey用统一 Keymodel指定具体模型。三件套齐了Spring 容器里就有了一个可用的OpenAiChatModelBean。如果你项目里同时需要多个模型可以定义多个OpenAiChatModelBean每个用不同的model值然后用Qualifier注入。比如一个用gpt-4o-mini做快速问答一个用claude-3-5-sonnet做长文本生成。连接层共用同一个OpenAiApi只是defaultOptions里的 model 不同。提示OpenAiApi.builder()的baseUrl不要带尾部斜杠Spring AI 内部会处理路径拼接。带斜杠可能导致双斜杠路径部分网关会返回 404。配置写完后启动应用如果日志里没有报OpenAiApi初始化失败说明连接层已经就绪。接下来写一个 Controller 验证调用。4. 验证请求一次对话调用与日志断言配置就绪后写一个最简单的 Controller 来验证 Chat Model API 是否真的能通过 TaoToken 拿到回复。这个 Controller 用OpenAiChatModel的call方法传入一个Prompt然后打印响应内容和元数据。import org.springframework.ai.chat.model.ChatResponse; import org.springframework.ai.chat.prompt.Prompt; import org.springframework.ai.chat.messages.UserMessage; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import org.slf4j.Logger; import org.slf4j.LoggerFactory; RestController public class ChatVerifyController { private static final Logger log LoggerFactory.getLogger(ChatVerifyController.class); private final OpenAiChatModel chatModel; public ChatVerifyController(OpenAiChatModel chatModel) { this.chatModel chatModel; } GetMapping(/verify) public String verify(RequestParam(defaultValue 用一句话介绍 Spring AI) String question) { UserMessage userMessage new UserMessage(question); Prompt prompt new Prompt(userMessage); ChatResponse response chatModel.call(prompt); String answer response.getResults().get(0).getOutput().getText(); log.info(TaoToken 返回内容: {}, answer); log.info(模型: {}, response.getMetadata().getModel()); log.info(Token 使用: {}, response.getMetadata().getUsage()); return answer; } }启动应用后访问http://localhost:8080/verify?question你好观察控制台日志。成功的标志有三个第一返回内容非空是一段正常的中文回复第二日志里模型字段显示的是你配置的 model ID第三Token 使用里有 prompt tokens 和 completion tokens 的数值。如果返回内容正常但 Token 使用为空可能是模型或网关没有返回 usage 字段不影响功能但计费统计会缺失。如果返回内容为空先检查response.getResults()是否为空列表再检查模型 ID 是否正确。日志断言这块你可以在测试类里用assertThat验证返回内容不为空import org.junit.jupiter.api.Test; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import static org.assertj.core.api.Assertions.assertThat; SpringBootTest class ChatModelVerifyTest { Autowired private OpenAiChatModel chatModel; Test void shouldReturnNonEmptyAnswer() { String answer chatModel.call(你好); assertThat(answer).isNotBlank(); } }跑通这个测试说明从 Spring AI 到 TaoToken 的整条链路是通的。接下来可以在这个基础上加多轮对话、流式响应、结构化输出等高级功能。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth接入过程中最容易踩的坑集中在鉴权和路径拼接上。下面按真实报错逐个拆。401 Unauthorized这是最常见的。原因通常是api-key没读到或者值不对。检查环境变量TAOTOKEN_API_KEY是否真的注入到了运行环境。如果你在 IDE 里跑确认 Run Configuration 里加了环境变量如果打包成 jar 跑确认启动脚本里 export 了。还有一种情况是 Key 复制时带了空格或换行建议重新复制一次。另外TaoToken 的 Key 和 OpenAI 官方的 Key 不通用别混用。local proxy failed / connection refused这个报错说明 Spring AI 尝试连接base-url时失败了。先确认base-url写的是https://taotoken.net/api没有多余路径。然后确认你的网络环境能正常访问这个地址可以用curl https://taotoken.net/api/v1/models -H Authorization: Bearer $TAOTOKEN_API_KEY手动测一下。如果 curl 能通但 Spring AI 不通检查是否有代理配置干扰比如http_proxy环境变量指向了一个不可用的地址。reading choices / Cannot deserialize这个报错通常出现在响应格式不符合预期时。Spring AI 的 OpenAI 实现期望响应里有choices数组如果网关返回了错误结构比如{error: {...}}反序列化就会失败。先看完整报错里的 response body确认是模型 ID 写错了还是 Key 权限不够。模型 ID 写错时部分网关会返回 404 或 400body 里会有明确提示。OAuth / token endpoint 相关报错如果你用的是某些需要 OAuth 流程的模型Spring AI 的 OpenAI starter 默认走的是 API Key 鉴权不涉及 OAuth。如果报错里出现 OAuth 字样检查是不是误引入了其他 starter或者base-url指向了一个需要 OAuth 的端点。TaoToken 的 API 走的是 Bearer Token不需要 OAuth 流程。排查顺序建议先 curl 验证 Key 和 endpoint再检查 Spring 配置最后看代码里的 model 参数。把变量隔离能省很多时间。6. 统一 Key 之后的下一步模型对话验证与 Coding Plan链路跑通之后你可以做两件事来巩固这套配置。第一到模型对话页面手动发几条消息对比不同模型的回复风格和速度地址是 https://taotoken.net/models 。这样你能直观感受到同一个 Key 下不同模型的差异方便后续选型。第二如果你打算把 Spring AI 用在长期编码或 Agent 场景里可以了解一下 Coding Plan地址是 https://taotoken.net/coding-plan 。它适合需要持续调用模型、对额度和稳定性有要求的开发场景。接入文档在 https://taotoken.net/doc 里面有更详细的参数说明和示例。回到代码层面统一 Key 之后最直接的好处是你可以在application.yml里只维护一份连接配置模型切换通过ChatOptions的model参数动态指定。比如在 Controller 里根据请求参数切换模型GetMapping(/switch) public String switchModel(RequestParam String model, RequestParam String question) { OpenAiChatOptions options OpenAiChatOptions.builder() .model(model) .temperature(0.7) .build(); Prompt prompt new Prompt(new UserMessage(question), options); return chatModel.call(prompt).getResults().get(0).getOutput().getText(); }这样你只需要一个OpenAiChatModelBean就能在运行时切换不同模型。连接层、鉴权层完全不用动。实测下来这种方式的切换延迟主要来自模型本身的响应时间配置层没有额外开销。最后提醒一点多模型场景下不同模型的max-tokens上限和temperature取值范围可能不同。切换模型时如果传了超出范围的参数部分网关会返回 400。建议在ChatOptions里只设置通用参数模型特有的参数在调用前根据模型 ID 做一次校验。