Java开发者AI转型第三课！Spring AI三大核心角色揭秘+大模型人设打造与高阶调参指南

直奔標竿

593人浏览 · 2026-04-18 10:21:37

直奔標竿 · 2026-04-18 10:21:37 发布

大家好，我是直奔標杆，欢迎来到《Spring AI 零基础到实战》系列的第三课！今天继续和大家一起深耕Spring AI，手把手带你解锁大模型的高阶玩法～

在上一篇《Java 程序员的AI 转型第二课：5行代码无缝接入GPT5.4！Spring AI 环境搭建与ChatClient 极速入门》中，咱们用极简的5行代码，通过ChatClient和ChatModel成功跑通了第一个大模型Hello World，相信很多小伙伴都已经动手实操起来了。

但不少同学私信我一个共性问题：为啥AI回复总显得官方又机械？要是想让它扮演专业Java面试官、二次元萌妹，或者严谨的法律顾问，该怎么操作？另外，有时候AI唠起来没尽头，有时候又会胡言乱语，这又该怎么管控？

今天这节课，咱们就一起扒开大模型对话的底层逻辑，揭秘大模型通信的三大核心角色，再手把手教大家掌握大模型的高阶参数调优（Temperature、Top-P等），帮大家把AI打造成有专属灵魂的“得力助手”！

话不多说，咱们直奔主题，共同学习、共同进步，一起吃透Spring AI～

本节章节目标

认知升级：深度剖析大模型通信底层的三大基本角色（System / User / Assistant），搞懂每个角色的核心作用。
灵魂注入：学会用ChatClient编排System提示词，给AI设定专属人设，让AI不再“千篇一律”。
精准控脑：全面解析并实操LLM核心参数（MaxTokens、Temperature、Top-K/P），轻松掌控AI的创造力与严谨度，适配不同业务场景。

核心流转：角色与参数的炼金术

在动手写代码之前，咱们先通过一张架构图，直观感受下：当输入加上系统指令，再经过各种参数过滤后，是如何在大模型中产生化学反应、输出符合预期的结果的。（大家可结合自己的实操场景，对照理解～）

核心概念一：大模型对话的“角色扮演”游戏

在用药代码调用大模型之前，咱们必须先搞懂一个关键点：目前市面上所有大模型（比如ChatGPT、DeepSeek、通义千问等），都遵循一套通用的消息结构。大模型的对话从来不是简单的“我问你答”，更像是一场由三个角色参与的“剧本杀”，每个角色都有明确的分工。

在Spring AI中，这三个角色对应着不同的Message类型，咱们逐一拆解，大家跟着理解，后续实操会更顺畅：

System (系统) 消息：大模型的“最高指令”

作用：这是大模型的最高指令，也就是咱们常说的系统提示词。它的核心作用是设定大模型的人设、背景、回复规则和语气，大模型会优先且绝对遵循System消息的约束，相当于给AI定“规矩”。

举个实操例子（大家可直接复用修改）：“你是一个精通Spring框架的高级Java架构师，回答必须简洁明了，每一个知识点都要带上可直接运行的代码示例，方便开发者参考学习。”

User (用户) 消息：咱们的“具体需求”

作用：代表咱们开发者（用户）的当前输入，也就是大模型需要直接回答或处理的具体业务问题、需求，是对话的核心触发点。

举个例子：“请问Java 17有哪些新特性？麻烦结合实际开发场景简单说明。”

Assistant (AI) 消息：大模型的“历史记忆”

作用：代表大模型（AI）之前给出的回复。在多轮对话场景中，咱们需要把AI之前说过的话再传回给它，帮它回忆起上下文（这部分内容，咱们会在后续的“记忆增强”章节中详细讲解，大家先有个印象即可）。

举个例子：“Java 17引入了Sealed Classes（密封类）和Pattern Matching（模式匹配），其中密封类可限制类的继承范围，避免滥用继承，实际开发中常用于定义固定的业务枚举类；模式匹配可简化 instanceof 的判断逻辑，减少冗余代码。”

实战：给大模型注入灵魂（System 设定）

在上一节课中，咱们已经体验过基于Fluent API（链式调用）的ChatClient有多优雅，上手难度极低。今天咱们就直接复用这个工具，通过.chat()方法注入最高指令，把AI打造成一个“专业Java面试官”，大家跟着代码实操一遍，印象会更深刻。

在AiChatController中添加如下接口（代码可直接复制，注意包路径和依赖导入，有问题可在评论区留言）：

 @GetMapping("/api/interview")
    public String mockInterview(@RequestParam String question) {
        return this.chatClient.prompt()
                // 1. 注入System消息，设定严厉的面试官人设
                .system("你是一个严格的高级Java面试官，对用户的回答要一针见血指出缺点，不啰嗦、不废话，要求极其苛刻，重点考察Java基础和实战能力。")
                // 2. 注入User消息（用户的回答内容）
                .user(question)
                // 3. 发送请求并获取纯文本响应
                .call()
                .content();
    }

启动项目后，大家可以访问 http://localhost:8080/api/interview?question=面向对象就是封装继承多态，看看这个“专业面试官”会给出怎样的评价～建议大家多测试几个问题，感受下人设设定的效果。

核心概念二：LLM 输出参数调优指南

给AI确立“人设”只是第一步，在实际开发场景中，咱们经常需要控制AI的输出长度、发散程度（也就是创造力）以及词汇丰富度，这时候就需要用到大模型的高阶配置参数了。

在Spring AI中，参数配置有两种方式，大家可根据业务需求选择：一是通过application.yml全局配置（适用于所有接口），二是在代码中针对单次请求动态配置（通过ChatOptions，适用于特殊场景）。下面咱们逐一解析核心参数，结合实操场景说明用法，新手也能轻松上手。

1. MaxTokens (最大输出长度)：控制AI的“话痨程度”

对应配置：spring.ai.openai.chat.options.maxTokens

顾名思义，这个参数限制了模型在一次响应中可以生成的token（词元）的最大数量，直接决定了AI回复的长度，避免出现回复过长或过短的问题。

结合实操场景的取值建议（大家可直接参考）：

低值（5-25）：适用于情感分析、标签分类、布尔值判断（是/否）等简单场景，比如判断用户评论是正面还是负面。
中等值（50-500）：适用于段落摘要、简短说明、简单代码片段生成等场景，比如生成接口文档注释。
高值（1000+）：适用于长篇小说生成、复杂代码编写、长文翻译等场景，比如生成完整的Spring Boot配置类。

2. Temperature (温度)：控制AI的“冷静与狂热”

对应配置：spring.ai.openai.chat.options.temperature

这个参数是控制模型响应随机性（也就是“创造性”）的核心，简单来说：温度越高，AI思维越发散、越“狂热”；温度越低，AI思维越严谨、越“冷静”。其取值通常在0.0到1.0之间（部分模型支持到2.0），大家可根据场景灵活调整。

结合实操场景的取值建议：

较低值（0.0-0.3）：反应极其明确、固定，几乎没有随机性。适合代码生成、数学计算、法律合同分析等对事实和一致性要求极高的场景，避免出现错误答案。
中等值（0.4-0.7）：兼具确定性和创造性，不会太死板也不会太发散，适用于大多数日常对话、客服问答、技术咨询等场景，也是咱们开发中最常用的取值范围。
较高值（0.8-1.0）：答案充满创意、甚至出人意料，随机性强。适合创意写作、头脑风暴、写诗写小说等场景，激发更多灵感。

3. Top-K 和 Top-P (词汇抽样控制)：控制AI的“用词逻辑”

对应配置：spring.ai.openai.chat.options.topP

这两个参数是在微观层面控制AI生成“下一个词”时的挑选逻辑，很多新手容易混淆，咱们用一个通俗的例子拆解，大家一看就懂。

假设大模型在预测下一个词时，脑海里浮现了10个候选词及其概率：猫(30%)、狗(25%)、鱼(15%)、老鼠(10%)、兔子(8%)、鸟(4%)、蛇(3%)、龟(2%)、松鼠(2%)、蝴蝶(1%)。

Top-K（按名次截断）：如果你设置top-k=3，模型只会在概率排名前3的词（猫、狗、鱼）中进行抽样，直接砍掉所有低概率的生僻词，避免出现奇怪的表述。
注：OpenAI原生接口较少暴露此参数，但部分开源模型（如DeepSeek、Llama）支持，大家在使用开源模型时可重点关注。
Top-P（按累积概率截断，又称核采样）：如果你设置top-p=0.7（即70%），模型会将候选词的概率从高到低累加，直到达到70%（猫30%+狗25%+鱼15%=70%），此时模型只会在这3个词中挑选。如果设置top-p=0.9，范围就会扩大到包含“老鼠”和“兔子”（累积概率达到90%）。

最佳实践（重点记！）：通常建议在Temperature和Top-P之间只调整其中一个，不要同时调整，否则AI的输出结果会变得难以预测，不利于业务落地。咱们在开发中，优先调整Temperature即可，满足大部分场景需求。

调整参数的代码演示（实操必备）

首先是通过application.yml全局配置参数，适用于所有接口，大家可根据自己使用的模型（OpenAI、DeepSeek等）修改配置：

spring:
  ai:
    deepseek:
      chat:
        options:
          temperature: 0.1 # 降低温度，保证思维不发散，适合严谨场景
          max-tokens: 50 # 限制最大输出长度，避免回复过长

然后是接口代码（复用之前的ChatClient，大家可直接复制实操）：

    /**
     * 使用YML中的全局配置，适用于固定场景
     * @param message 用户输入
     * @return AI响应结果
     */
    @GetMapping("/api/creative-writer")
    public String writePoem(@RequestParam String message) {
        return this.chatClient.prompt()
                .system("你是一个疯狂的现代派诗人，语言犀利、充满想象力，贴合年轻人的审美。")
                .user(message)
                .call()
                .content();
    }

请求结果（大家可自行测试）：AI会生成简短、犀利的现代诗，符合全局配置的参数要求，不会过于发散，也不会太长。

如果某个接口需要特殊参数配置，咱们可以在代码中动态重写参数，覆盖YML中的默认配置，灵活性更高：

    /**
     * 动态配置参数，覆盖YML中的默认配置，适用于特殊场景
     * @param message 用户输入
     * @return AI响应结果
     */
    @GetMapping("/api/creative-writer2")
    public String writePoem2(@RequestParam String message) {
        return this.chatClient.prompt()
                .system("你是一个疯狂的现代派诗人，语言犀利、充满想象力，贴合年轻人的审美。")
                .user(message)
                // 动态设定参数：调高温度激发创造力，限制最大长度避免冗余
                .options(ChatOptions.builder()
                        .temperature(1.0) // 高温，思维极度发散，提升创意
                        .topP(0.8)
                        .maxTokens(20)    // 限制输出长度，避免写太长
                        .build())
                .call()
                .content();
    }

请求结果（大家可自行测试对比）：和上一个接口相比，AI生成的诗歌会更有创意、更发散，但长度被限制在20个token以内，完美契合动态配置的需求。

通过这两次测试对比，大家应该能明显感受到参数对AI回答的影响——它们就像AI的“方向盘”，直接掌控着AI的创造力与严谨度，大家在实操中一定要多尝试、多调整，找到适合自己业务场景的参数组合。

总结（重点梳理，方便复盘）

本节课，咱们实现了对大模型认知的关键跨越，也是Java程序员AI转型路上的重要一步。借助Spring AI提供的现代化ChatClient，咱们成功扮演了“上帝”的角色，通过配置SystemMessage给AI注入了专属灵魂与人设；同时，咱们拆解了Temperature、Top-P等核心参数的底层逻辑，掌握了控制AI创造力与严谨度的方法。

到这里，咱们已经可以通过“角色扮演”开发出各种实用的单次对话工具了，比如“代码审查助手”“小红书爆款文案生成器”“技术面试模拟工具”等，大家可以结合自己的工作场景，动手开发一个属于自己的AI小工具，巩固本节课的知识点。

但不少同学在实操中会发现一个致命问题：如果你连续问大模型两个关联的问题，比如先问“我叫张三”，再紧接着问“我叫什么名字？”，大模型会无辜地回复：“我不知道你叫什么”。

明明很聪明的AI，为啥却像鱼一样只有“7秒钟的记忆”？其实核心原因是大模型没有“持久化记忆”，下一节课咱们就重点解决这个问题。