Spring AI：Java生态的企业级AI应用开发新范式

Spring AI 是一个将人工智能能力无缝集成到 Spring 生态系统的开源项目，旨在为 Java 开发者提供标准化、可移植且易于集成的 AI 应用开发框架。它通过抽象化的 API 设计，屏蔽了底层不同大语言模型（LLM）和 AI 服务的差异，让开发者能够以声明式、模块化的方式快速构建企业级智能应用。

一、Spring AI 核心架构与核心特性

Spring AI 采用模块化架构设计，其核心在于提供一套统一的编程模型，将复杂的 AI 能力封装为 Spring 风格的组件和模板。

1. 核心模块与组件

模块/组件	功能描述	关键类/接口
AI Model	提供与各种大语言模型交互的抽象，是框架的核心。	ChatClient, ChatModel, EmbeddingModel
Prompt Template	支持动态、参数化的提示词构建与管理，遵循 Thymeleaf 风格。	PromptTemplate, ChatOptions
Output Parsers	将模型输出的非结构化文本解析为结构化的 Java 对象（如 POJO、List、Map）。	BeanOutputParser, ListOutputParser
Vector Store	提供与向量数据库交互的抽象，是构建 RAG（检索增强生成）应用的基础。	VectorStore, 支持 Chroma、PgVector、Redis 等。
Function Calling	支持模型调用外部工具或函数，是实现 Agent 能力的关键。	FunctionCallback, ToolCalling
Eval	提供评估 AI 应用输出质量的模块，便于进行自动化测试和性能监控。	Evaluation

2. 核心特性解析

• 多模型支持与可移植性：Spring AI 定义了统一的 ChatClient 和 EmbeddingModel 接口。开发者只需更换配置（如 API Key 和 Base URL），即可在 OpenAI、Azure OpenAI、Anthropic、Ollama（本地模型）乃至国产模型（如智谱、通义千问）之间轻松切换，无需重写业务代码。
• 声明式与模块化开发：秉承 Spring 的“约定优于配置”理念，通过自动配置和 Starter 依赖简化集成。开发者可以像使用 JdbcTemplate 一样使用 AiTemplate 来操作 AI 模型。
• 强大的 RAG 支持：内置了完整的 RAG 流水线支持，包括文档加载、文本分割、向量化、存储与检索，极大简化了知识库问答类应用的开发。
• 结构化输出：通过 OutputParser，可以强制模型将回答格式化为指定的 JSON 结构或 Java Bean，便于后续业务处理。

// 示例：使用 Spring AI 进行简单的对话和结构化输出
@RestController
public class AIController {

    private final ChatClient chatClient;

    public AIController(ChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/chat")
    public String chat(@RequestParam String message) {
        // 1. 简单对话 String response = chatClient.call(message);
        return response;
    }

    @GetMapping("/structured-chat")
    public BookInfo getBookInfo(@RequestParam String topic) {
        // 2. 结构化输出：要求模型返回特定格式的JSON，并自动映射为Java对象
        var outputParser = new BeanOutputParser<>(BookInfo.class);
        String format = outputParser.getFormat();
        String userMessage = """
请推荐一本关于 {topic} 的书籍。
                请严格按照以下格式回复：
                {format}
                """.formatted(topic, format);

        Prompt prompt = new Prompt(new UserMessage(userMessage));
        ChatResponse chatResponse = chatClient.call(prompt); // 假设使用更底层的ChatModel
        String content = chatResponse.getResult().getOutput().getContent();

        // 自动解析为BookInfo对象
        BookInfo bookInfo = outputParser.parse(content);
        return bookInfo;
    }

    // 定义接收结构化数据的Java Bean public record BookInfo(String title, String author, String reason) {}
}

二、核心功能实战：从基础交互到 RAG 应用

1. 模型交互与提示词工程

Spring AI 提供了灵活的提示词构建方式，支持变量替换和上下文管理。

@Service
public class AdvancedChatService {

    private final ChatModel chatModel;

    public AdvancedChatService(ChatModel chatModel) {
        this.chatModel = chatModel;
    }

    public String generateEmail(String userName, String task) {
        // 使用 PromptTemplate 构建动态提示词 PromptTemplate promptTemplate = new PromptTemplate("""
                你是一位专业的秘书。请为{user}起草一封关于{task}的邮件。
                要求语气正式、条理清晰。
                """);
        Map<String, Object> model = Map.of("user", userName, "task", task);
        Prompt prompt = promptTemplate.create(model);

        ChatResponse response = chatModel.call(prompt);
        return response.getResult().getOutput().getContent();
    }
}

2. 构建企业级 RAG 应用

RAG 是 Spring AI 的重点应用场景。以下展示一个从文档入库到智能问答的完整流程。

# application.yml配置示例
spring:
  ai:
    openai:
      api-key: ${OPENAI_API_KEY}
      chat:
        options:
          model: gpt-4
    vectorstore:
      chroma:
        # 配置 Chroma 向量数据库连接
        host: localhost
        port: 8000 collection-name: company-docs

@Service
public class RagService {

    private final VectorStore vectorStore;
    private final ChatModel chatModel;
    private final EmbeddingModel embeddingModel;

    public RagService(VectorStore vectorStore, ChatModel chatModel, EmbeddingModel embeddingModel) {
        this.vectorStore = vectorStore;
        this.chatModel = chatModel;
        this.embeddingModel = embeddingModel;
    }

    // 步骤1：文档入库与向量化 public void ingestDocument(List<Document> documents) {
        // 使用 Spring AI 提供的文本分割器 TextSplitter textSplitter = new TokenTextSplitter();
        List<Document> splitDocuments = textSplitter.split(documents);

        // 为分割后的文档生成向量并存储 vectorStore.add(splitDocuments);
    }

    // 步骤2：基于知识库的问答
    public String answerQuestion(String question) {
        // 2.1 检索：将问题向量化，并从向量库中查找最相关的文档片段 List<Document> relevantDocs = vectorStore.similaritySearch(question);

        // 2.2 增强：构建包含上下文的提示词
        String context = relevantDocs.stream()
 .map(Document::getContent)
                                     .collect(Collectors.joining("\
\
"));
        String promptText = """
                请根据以下上下文信息回答问题。如果上下文没有提供足够信息，请回答“根据已知信息无法回答”。
                上下文：
                %s
                问题：%s
                答案：
                """.formatted(context, question);
        Prompt prompt = new Prompt(new UserMessage(promptText));

        // 2.3 生成：调用模型获得答案
        ChatResponse response = chatModel.call(prompt);
        return response.getResult().getOutput().getContent();
    }
}

3. Function Calling 与 Agent 能力

Spring AI 通过 Function Calling 支持工具调用，这是构建智能 Agent 的基础。

@Component
public class WeatherService {

    // 定义一个可供AI模型调用的“工具”函数
    @Description("根据城市名称获取当前天气") // 描述信息会传给模型
    public String getWeather(@Description("城市名称，例如：北京") String city) {
        // 模拟调用外部天气API return String.format("%s的天气是晴，温度25度。", city);
    }
}

@RestController
public class AgentController {

    private final ChatModel chatModel;
    private final WeatherService weatherService;

    public AgentController(ChatModel chatModel, WeatherService weatherService) {
        this.chatModel = chatModel;
        this.weatherService = weatherService;
    }

    @GetMapping("/agent")
    public String agentChat(@RequestParam String userInput) {
        // 1. 注册工具函数
        var toolCallback = new FunctionCallbackWrapper<>(
                "getWeather", // 工具名 "获取天气信息",
                weatherService,
                wrapper -> wrapper.getWeather(wrapper.getArgument("city", String.class))
        );

        // 2. 构建允许调用工具的对话选项
        ChatOptions options = ChatOptions.builder()
                .withTools(toolCallback) // 注册工具 .withToolChoice("auto") // 让模型自动决定是否调用工具 .build();

        UserMessage userMessage = new UserMessage(userInput);
        Prompt prompt = new Prompt(List.of(userMessage), options);

        // 3. 调用模型。如果模型决定调用工具，Spring AI会自动执行并返回结果。
        ChatResponse response = chatModel.call(prompt);
        return response.getResult().getOutput().getContent();
    }
}
// 当用户输入“北京天气怎么样？”时，模型会识别出需要调用getWeather工具，并传入参数“北京”。

三、企业级应用考量与最佳实践

1. 性能优化与成本控制

挑战	Spring AI 解决方案与最佳实践
高延迟	1. 连接池与超时配置：合理配置 HTTP 客户端连接池和超时参数。 2. 异步调用：使用 ChatModel 的 callAsync 方法进行非阻塞调用。 3. 响应流式输出：对于长文本生成，使用流式响应 (flux) 提升用户体验。
Token 消耗与成本	1. 上下文管理：在 RAG 中优化检索到的文档块大小和数量，避免传入过多无关上下文。 2. 缓存策略：对频繁且结果不变的查询（如某些知识库问答）进行结果缓存。 3. 模型选型：在非核心场景使用性价比更高的轻量级模型。
国产化适配	Spring AI 良好的抽象使其易于适配国产模型。通常只需实现对应的 ChatModel 和 EmbeddingModel，或利用其已支持的供应商（如阿里云、智谱AI）。

2. 生产环境部署与监控

• 配置管理：将模型 API Key、向量数据库连接等敏感信息置于配置中心（如 Spring Cloud Config）或环境变量中。
• 健康检查：利用 Spring Boot Actuator 为 ChatModel 和 VectorStore 添加健康指示器，监控服务可用性。
• 链路追踪与日志：集成 Micrometer 和分布式追踪系统（如 SkyWalking），记录每次 AI 调用的耗时、Token 使用情况和模型选择，便于性能分析和成本核算。

# 生产环境部分配置示例
management:
  endpoints:
    web:
      exposure:
        include: health,metrics,prometheus
  metrics:
    export:
      prometheus:
        enabled: truelogging:
  level:
    org.springframework.ai: DEBUG # 开启Spring AI的调试日志，便于排查问题

四、典型应用场景与案例

Spring AI 适用于多种需要集成 AI 能力的 Java 企业应用场景。

场景	核心需求	Spring AI 实现方案
智能客服	精准、一致地回答产品相关问题，降低人工成本。	基于 RAG 构建企业知识库问答系统，利用内部文档、手册作为上下文来源。
内容生成与润色	自动生成营销文案、邮件、报告摘要或代码注释。	使用 PromptTemplate 定义各类文本的生成模板，结合 OutputParser 获取结构化结果。
智能数据分析	允许用户用自然语言查询数据库或数据报表。	结合 Function Calling，将 SQL 查询或数据分析 API 封装为工具，让模型理解用户意图后调用。
代码助手	在 IDE 或内部开发平台中提供代码补全、解释和重构建议。	集成代码专用模型（如 CodeLlama），通过后端服务提供代码相关的 AI 功能。

案例：金融行业智能投研助手

1. 数据层：将研报、公告、新闻等非结构化数据通过 Spring AI 的文档处理管道向量化后存入向量数据库。
2. 服务层：利用 Spring AI 构建 RAG 服务，当分析师询问“某公司近期财务风险”时，系统自动检索相关文档并生成摘要和分析观点。
3. Agent层：通过 Function Calling 集成外部数据 API（如股票实时价格），实现“查询某公司股价并分析其与最新财报的关联”等复杂任务。

五、未来展望与总结

Spring AI 代表了 AI 能力与成熟企业级开发框架融合的重要趋势。其未来演进可能集中在：

• 对 MCP（Model Context Protocol）的深度集成：提供更标准化、动态化的工具与数据源接入方式，进一步增强 Agent 能力。
• 更完善的多模态支持：不仅限于文本，扩展至图像、音频的生成与理解。
• 与 Spring 生态更深度整合：例如与 Spring Security 结合实现 AI 接口的权限管控，与 Spring Batch 结合实现海量数据的离线向量化处理。

总结：Spring AI 通过提供一套高层抽象和开箱即用的模块，显著降低了在 Java 生态中集成和应用 AI 技术的门槛。它使开发者能够专注于业务逻辑和创新，而非底层模型的复杂性，是构建下一代智能 Java 应用的强大基石。对于已有 Spring 技术栈的团队而言，采用 Spring AI 是实现业务智能化升级的高效、稳健路径。