1. 项目概述：用一杯咖啡的成本，拥有你的专属AI

想象一下，你有一个完全属于你自己的ChatGPT。它不仅能像普通助手一样对话，还能深刻理解你所在领域的专业术语，比如能和你讨论复杂的医学案例、分析股票K线图，甚至能根据你的个人聊天风格给出情感建议。最关键的是，你的所有对话、你用来训练它的数据，都只留在你自己的设备或服务器上，没有任何隐私泄露的风险。这听起来像是大公司的专属福利？不，今天我要分享的，就是如何用大约一杯星巴克咖啡的钱（几十元人民币）和两个小时的配置时间，亲手训练并部署一个这样的专属开源大语言模型。

这个项目的核心，是利用 Apache DolphinScheduler 这个开源的工作流调度工具，将开源大模型（如Vicuna）的微调、合并、部署等一系列复杂流程，打包成几个可视化的按钮。你不需要是深度学习专家，甚至不需要精通命令行，只需要在网页上点几下，填写几个参数，就能启动一个长达20小时的模型训练任务。之后，再点一下，就能把你训练好的模型部署成一个可以对话的Web服务。整个过程，硬件成本主要是一张RTX 3090级别显卡的20小时租赁费用，软件层面则完全依赖开源生态。

我之所以花时间研究并实践这套方案，是因为在当今AI应用爆发的时代，数据隐私和领域定制化是两大核心痛点。直接使用公有云API固然方便，但敏感数据上云始终让人心存顾虑。而自己从头研究模型训练，又面临着环境搭建、代码调试、资源调度等一系列高门槛问题。DolphinScheduler提供的这套“一站式”工作流，恰好在这两者之间找到了一个平衡点：它降低了技术门槛，同时把控制权完全交还给了用户。接下来，我将拆解整个过程的每一个步骤，并分享我在实操中踩过的坑和总结的技巧。

2. 核心思路与工具选型解析

2.1 为什么选择“微调”而不是“从头训练”？

首先要明确一个概念：我们所说的“训练自己的模型”，在绝大多数个人和小团队场景下，指的是 微调 一个现有的、强大的开源基础模型。

从头训练一个像ChatGPT那样规模的模型，需要数千张顶级GPU、数月时间和海量数据，成本以百万美元计，这显然不现实。而微调则是在一个已经具备强大通用语言能力的基础模型（比如Meta的LLaMA、清华的ChatGLM）之上，用我们自己的、规模小得多的专业数据集进行“针对性复习”。这就像一位已经学完所有通用知识的大学生，我们再用医学教材去教他，让他快速成为一名医学专家。

这种方法的优势极其明显：

  1. 成本极低 ：只需要基础模型和一份高质量的领域数据。
  2. 效果显著 ：模型能快速吸收领域知识，并在保持原有通用能力的基础上，显著提升在特定任务上的表现。
  3. 时间短 ：相对于从头训练，微调所需的时间通常是几小时到几十小时。

在本方案中，我们使用的微调技术是 LoRA 。这是一种参数高效微调方法。传统微调需要更新模型全部数十亿的参数，而LoRA只训练模型内部一些新增的、小型的“适配器”层，原始的大模型参数被冻结不动。这样做的结果是：

  • 显存占用大幅降低 ：一张24GB显存的RTX 3090就能微调70亿参数的模型，而全量微调可能需要多张卡。
  • 训练速度更快 ：要更新的参数少了，自然就快了。
  • 模型产出物小 ：训练得到的LoRA权重文件通常只有几十到几百MB，易于保存和分享。
  • 切换任务灵活 ：同一个基础模型可以搭配不同的LoRA适配器，快速变身为医生、律师或金融分析师。

2.2 核心工具链：DolphinScheduler + 开源模型生态

整个方案的自动化流水线由以下几个关键部分组成：

  1. Apache DolphinScheduler ：这是整个过程的“总指挥”。它是一个可视化的分布式工作流任务调度系统。我们不需要关心如何编写Python脚本去依次执行数据准备、模型下载、训练、合并、部署这些步骤，只需要在它的界面上，将一个预先定义好的、包含这些任务节点的工作流点开运行。DolphinScheduler会负责任务的依赖关系、执行顺序、失败重试和日志收集。它最初用于大数据调度，现在完美适配了AI工作流的需求。

  2. 基础大模型 ：我们选择 Vicuna-7B 作为示例。它是基于LLaMA微调而来的一个对话能力很强的开源模型，在多项评测中表现接近ChatGPT。你完全可以根据许可证和需求，替换成其他模型，如 Chinese-Alpaca-2 、 Qwen 或 ChatGLM3 。在Dolphinscheduler的流程中，这只是一个可配置的参数。

  3. 微调框架 ：工作流内部使用了 alpaca-lora 项目进行LoRA微调。这是一个非常流行且稳定的项目，社区活跃，易于上手。

  4. 部署与服务化框架 ：使用 FastChat 来部署训练好的模型。FastChat提供了生产级的服务化方案，包括模型工作进程、控制器和基于Gradio的Web界面，可以轻松打造一个类似ChatGPT的对话体验。

  5. 云GPU平台 ：为了获得RTX 3090级别的算力，我们选择 AutoDL 这类按量计费的云GPU平台。它的优势在于：

    • 按需使用，成本可控 ：用多久算多久的钱，非常适合实验和短期项目。
    • 环境预配置 ：提供了包含CUDA、PyTorch等深度学习环境的系统镜像，开箱即用。
    • 网络优化 ：通常对国内用户网络友好，下载Hugging Face上的模型速度较快。

这个工具链的组合，将技术复杂度封装了起来，留给用户的是一个清晰的图形界面和几个简单的参数。下面，我们就进入实战环节。

3. 实战准备：云端环境与DolphinScheduler部署

3.1 租赁并配置GPU云服务器

首先，我们需要一个带GPU的运算环境。个人电脑如果没有高端显卡，租赁云服务器是最佳选择。

步骤一：选择实例

  1. 访问AutoDL官网并注册登录。
  2. 进入“算力市场”，在筛选条件中选择 GPU型号为RTX 3090 。3090拥有24GB显存，对于微调7B（70亿）参数的模型来说绰绰有余，是性价比之选。
  3. 注意“镜像”的选择。这是最关键的一步！我们需要选择预装了DolphinScheduler和LLM训练环境的镜像。在社区镜像搜索框中输入： WhaleOps/dolphinscheduler-llm/dolphinscheduler-llm-0521 （或后续更新的版本号）。选择这个镜像，可以省去手动安装所有依赖的麻烦。
  4. 硬盘空间建议扩充到 100GB 左右。因为基础模型文件通常有十几GB，加上训练产生的数据，50GB的基础镜像可能会不够用。
  5. 点击“立即创建”，等待实例启动完成。

注意 ：实例创建后就开始计费了！请提前准备好你的数据和大致流程，避免实例空转产生不必要的费用。在调试和阅读本文时，可以选择“关机不停费”模式，只保留磁盘费用，这比GPU计费便宜得多。

步骤二：获取访问权限 实例启动后，你有两种方式进入系统：

  • JupyterLab ：控制台页面有一个“JupyterLab”按钮，点击会进入一个网页版的开发环境。在里面点击“Terminal”即可打开命令行。适合不熟悉SSH的用户。
  • SSH终端 ：控制台页面也会提供SSH连接命令（形如 ssh -p 12345 root@region-1.autodl.com ），复制后在本地终端执行即可。这种方式更直接，适合习惯命令行的用户。

3.2 初始化DolphinScheduler与元数据导入

登录到服务器后，我们需要启动DolphinScheduler服务，并将预先定义好的大模型训练工作流“安装”进去。

步骤一：导入工作流元数据 DolphinScheduler的所有工作流定义、任务节点信息都存储在数据库中。为了让我们一打开界面就能看到训练Vicuna的现成流程，我们需要将一个预定义的SQL文件导入数据库。

  1. 打开终端，进入DolphinScheduler目录：

    cd /root/apache-dolphinscheduler-3.1.5-bin

  2. 编辑数据导入脚本：

    vim bin/import_ds_metadata.sh

    你会看到脚本内容，核心是几行MySQL命令，用于创建数据库并导入SQL文件。你需要修改其中的连接信息：

    # 设置变量
HOST="xxx.xxx.xxx.xxx"  # 你的MySQL数据库公网IP地址
USERNAME="root"         # 数据库用户名
PASSWORD="your_password" # 数据库密码
PORT=3306               # 数据库端口
DATABASE="ds315_llm_test" # 要创建的数据库名，可保持不变
SQL_FILE="ds315_llm.sql" # SQL文件名，通常已放在当前目录，无需改动

    关键点 ：你需要一个MySQL数据库。你有两个选择：

    • 使用云数据库 ：在阿里云、腾讯云等平台购买一个最基础的MySQL实例（按量付费很便宜），获取其公网地址、端口、用户名和密码。
    • 在AutoDL实例上自行安装 ：在终端执行 apt-get update && apt-get install -y mysql-server 进行安装，然后配置root密码。但请注意，云实例重启后数据可能丢失，仅适用于临时测试。

  3. 修改好HOST和PASSWORD后，保存并执行脚本：

    bash bin/import_ds_metadata.sh

    如果看到成功的提示，元数据就导入完成了。

步骤二：配置并启动DolphinScheduler 现在，我们需要告诉DolphinScheduler去连接我们刚刚灌入了数据的数据库。

  1. 修改环境配置文件： 
    vim bin/env/dolphinscheduler_env.sh
  2. 找到数据库配置部分，修改 SPRING_DATASOURCE_URL 中的HOST和 SPRING_DATASOURCE_PASSWORD 为你刚才设置的值： 
    export DATABASE=mysql
export SPRING_PROFILES_ACTIVE=${DATABASE}
export SPRING_DATASOURCE_URL="jdbc:mysql://HOST:3306/ds315_llm_test?useUnicode=true&characterEncoding=UTF-8&useSSL=false"
export SPRING_DATASOURCE_USERNAME="root"
export SPRING_DATASOURCE_PASSWORD="your_password" # 修改这里
  3. 保存配置，在DolphinScheduler根目录下启动服务： 
    bash ./bin/dolphinscheduler-daemon.sh start standalone-server
  4. 查看启动日志，确认服务是否正常启动： 
    tail -200f standalone-server/logs/dolphinscheduler-standalone.log
    当你看到类似 [INFO] 2024-xx-xx xx:xx:xx.xxx ... Started StandaloneServer in x.xxx seconds 的日志时，说明启动成功。

步骤三：访问Web界面 AutoDL实例通常会开放一个自定义访问端口。在控制台找到“自定义服务”或“访问地址”部分，会看到一个链接。点击后，可能在浏览器中显示404。这是因为DolphinScheduler的Web UI路径是 /dolphinscheduler/ui 。你需要在浏览器地址栏中，在原有链接后手动补上这个路径。

例如，原始链接是 https://region-1.autodl.com/ ，则访问 https://region-1.autodl.com/dolphinscheduler/ui 。 登录账号： admin 登录密码： dolphinscheduler123

成功登录后，进入“项目管理”，你应该能看到一个名为 “vicuna” 的项目，里面预置了三个工作流： training （训练）、 deploy （部署）和 kill_service （停止服务）。我们的所有操作都将在这里进行。

4. 工作流详解与模型训练实操

4.1 训练工作流：从数据到LoRA权重

进入“vicuna”项目，点击 training 工作流定义。你会看到一个流程图，它主要包含两个关键任务：“fine_tune_by_lora”（微调）和 “merge_lora_weights”（合并权重）。运行前，我们需要理解并配置几个核心参数。

点击运行按钮，会弹出参数配置窗口：

参数名 说明 示例/默认值 配置心得
base_model 基础模型 。这是微调的起点，必须是Hugging Face模型ID或本地路径。 TheBloke/vicuna-7B-1.1-HF 这是默认的Vicuna 7B模型。你可以换成 decapoda-research/llama-7b-hf 或其他任何兼容的模型。 重要 ：首次使用某个模型时，系统会自动从Hugging Face下载，耗时较长且可能因网络中断失败。
data_path 训练数据路径 。指向你的训练数据文件，格式为JSONL。 /root/demo-data/llama_data.json 默认提供了一份中文医疗问答数据。你需要将自己的数据整理成相同格式后，修改此路径。
lora_path LoRA权重输出路径 。训练完成后，LoRA适配器权重会保存到这里。 /root/autodl-tmp/vicuna-7b-lora-weight 建议使用 /root/autodl-tmp/ 目录，这是挂载的数据盘，空间大且持久。
output_path 最终模型输出路径 。合并后的完整模型将保存于此。 /root/autodl-tmp/vicuna-7b-output 务必记下这个路径 ，后续部署模型时需要用到。
num_epochs 训练轮数 。整个数据集训练多少遍。 3 对于小数据集（几千条），可以设3-10轮。对于较大的数据，1-3轮可能就够了。轮数太多可能导致过拟合。可以先设为1进行测试。
cutoff_len 文本最大长度 。超过此长度的文本会被截断。 1024 根据你的数据中指令和回答的长度来设定。如果对话很长，可以增加到2048，但这会增加显存消耗和训练时间。
micro_batch_size 微批次大小 。每次前向/后向传播处理的样本数。 4 这是影响显存占用的关键参数。在24G显存的3090上，对于7B模型，通常可设置为4或8。如果训练时出现OOM（内存不足）错误，应降低此值。

配置并启动训练 ： 填写好参数后，点击“运行”。你可以在“工作流实例”页面看到任务开始执行。点击实例，再右键点击具体的任务节点（如 fine_tune_by_lora ），选择“查看日志”，即可实时监控训练过程。

在日志中，你会看到损失值下降、当前训练步数、预计剩余时间等信息。一个典型的训练步骤显示如下：

{'loss': 1.2345, 'learning_rate': 2e-4, 'epoch': 0.18, 'step': 100}

训练完成后，日志会提示“Training completed”并开始执行下一个合并权重的任务。

实操心得 ：

  1. 首次下载模型 ：如果 base_model 是首次下载，日志会卡在“Downloading…”很久，甚至可能因网络超时失败。 不要慌张 。如果任务失败，你可以直接点击该任务，选择“重跑”，下载会从中断处继续。多试几次通常能成功。更稳妥的办法是，先通过 git lfs clone 或 wget 在服务器上手动下载好模型，然后将 base_model 参数改为本地路径（如 /root/autodl-tmp/models/vicuna-7b-v1.5 ）。
  2. 监控GPU状态 ：在AutoDL终端，可以使用 nvidia-smi 命令查看GPU使用情况。训练时，显存占用应接近满负荷，利用率也较高。如果显存占用很低，可能是 micro_batch_size 设得太小。
  3. 中断与继续 ：如果需要中途停止训练，直接在工作流实例页面点击“停止”按钮即可。LoRA训练支持断点续训，但需要修改脚本或使用特定训练库（如PEFT）的功能，当前工作流可能不支持。因此，规划好训练时间很重要。

4.2 准备你的专属训练数据

默认的数据是医疗问答，如果你想训练一个懂股票、懂法律或懂你个人写作风格的模型，就需要准备自己的数据。

数据格式要求 ： 数据文件必须是 JSON Lines 格式（.jsonl），即每一行是一个独立的JSON对象。每个对象包含三个字段：

  • instruction ：给模型的指令。例如：“写一首关于春天的诗”。
  • input ：可选的输入上下文。例如：可以为空，或者“以李白的风格”。
  • output ：期望的模型输出。例如：“春眠不觉晓，处处闻啼鸟...”

一个简单的例子：

{"instruction": "计算以下算式", "input": "15 * 28 等于多少？", "output": "15乘以28的结果是420。"}
{"instruction": "将以下英文翻译成中文", "input": "The rapid development of artificial intelligence is changing the world.", "output": "人工智能的快速发展正在改变世界。"}
{"instruction": "根据我的喜好推荐一部电影", "input": "我喜欢科幻片和悬疑片，最近看过《盗梦空间》和《星际穿越》。", "output": "推荐你看《降临》，它完美融合了科幻概念与悬疑叙事，探讨了语言与思维的关系，深度和观赏性俱佳。"}

数据准备技巧 ：

  1. 质量优于数量 ：几百条高质量、多样化的数据，远胜于数万条重复、低质的数据。确保指令清晰，输出准确、完整。
  2. 领域聚焦 ：如果你想训练一个医疗模型，就全部用医疗问答数据。混合领域的数据会导致模型知识混淆。
  3. 风格模仿 ：如果你想模仿某种写作风格，就提供大量该风格的“指令-输出”对。例如，提供很多首你喜欢的诗歌及其主题（指令），让模型学习这种诗歌风格。
  4. 数据清洗 ：去除HTML标签、特殊字符，统一标点符号。过长的文本可以适当截断或分段。

准备好数据文件后，通过JupyterLab或SCP工具将其上传到服务器，例如 /root/autodl-tmp/my_finance_data.jsonl 。然后在运行训练工作流时，将 data_path 参数指向这个文件。

5. 模型部署、测试与问题排查

5.1 部署工作流：让模型“开口说话”

训练完成后，我们得到了一个合并后的完整模型（位于 output_path ）。下一步就是将其部署成可交互的服务。

回到项目页面，点击 deploy 工作流定义并运行。关键的启动参数是 model ：

  • 如果你想直接体验原始的Vicuna模型，就保持默认值 TheBloke/vicuna-7B-1.1-HF 。
  • 如果你想部署自己刚训练好的模型 ，则将其修改为你训练工作流中设置的 output_path 值，例如 /root/autodl-tmp/vicuna-7b-output 。

运行部署工作流后，它会依次执行三个任务： kill_service （确保没有旧服务残留）、 start_controller 、 add_model_worker 、 start_gradio_web 。

获取访问链接 ： 部署成功后，我们需要找到Web服务的访问地址。

  1. 进入“工作流实例”列表，找到刚刚运行的、以“deploy”开头的实例。

  2. 在实例图中，找到名为 start_gradio_web 的任务节点，右键点击并选择“查看日志”。

  3. 在日志中仔细查找，你会找到类似下面的输出：

    Running on local URL:  http://0.0.0.0:7860
Running on public URL: https://81c9f6ce11eb3c37a4.gradio.live

    0.0.0.0:7860 是服务器本地地址，我们无法直接访问。我们需要的是 gradio.live 这个公共链接。 注意：这个链接每次部署都可能变化！

  4. 复制这个 https://xxxxxx.gradio.live 链接，在浏览器中打开。恭喜，你的私人ChatGPT对话界面就出现了！

5.2 效果测试与迭代优化

现在，你可以和你的模型对话了。问它一些通用问题，测试其基础能力。更重要的是，用你训练数据领域内的问题去考验它。

  • 如果它答得很好 ：说明你的数据和训练参数是有效的。
  • 如果它答非所问或胡言乱语 ：可能的原因有：
    1. 训练数据不足或质量差 ：增加高质量数据。
    2. 训练轮数过多导致过拟合 ：减少 num_epochs 。
    3. 基础模型与任务不匹配 ：尝试不同的 base_model 。
    4. 学习率等超参数不合适 ：当前工作流固定了这些参数。如需调整，需要修改底层训练脚本，这涉及更深入的操作。

一个重要的测试技巧 ：同时打开原始Vicuna模型和你自己训练的模型的对话页面，问同一个专业问题。对比两者的回答，能清晰看出你的微调是否赋予了模型新的领域知识。

5.3 常见问题与排查实录

在实操过程中，你几乎一定会遇到下面这些问题。这里是我的排查记录：

问题现象 可能原因 解决方案
训练任务失败，日志显示 ConnectionError 或 Timeout 下载基础模型时网络连接超时。 1. 重试任务 ：在DolphinScheduler中直接重跑失败的任务，下载会断点续传。
2. 手动下载 ：通过 git lfs clone 或 huggingface-cli 命令在终端提前下载好模型，然后修改 base_model 为本地路径。
训练时日志报错 CUDA out of memory GPU显存不足。 1. 减小 micro_batch_size ：这是最有效的方法，从4改为2或1。
2. 减小 cutoff_len ：缩短文本最大长度，例如从1024改为512。
3. 使用梯度检查点 ：这需要修改训练脚本，在 fine_tune_by_lora 任务的命令中添加 --gradient_checkpointing 参数。
部署后，Gradio链接无法打开或页面空白 端口冲突或网络配置问题。 1. 检查日志 ：确认 start_gradio_web 任务日志显示“Running on public URL”且无报错。
2. 检查AutoDL端口 ：确保AutoDL实例的自定义服务映射到了正确的容器端口（默认是7860）。
3. 使用 kill_service ：先运行 kill_service 工作流，彻底停止所有服务，再重新运行 deploy 。
模型回答速度非常慢 GPU资源被占用或模型加载问题。 1. 检查 nvidia-smi ：看是否有其他进程占用了GPU。确保在部署前已运行 kill_service 。
2. 量化模型 ：考虑使用GPTQ、AWQ等量化技术将模型转换为4bit或8bit，可以大幅提升推理速度并降低显存占用。但这需要修改部署脚本。
自定义数据训练后，模型“忘记”了原有知识 发生了灾难性遗忘。LoRA通常能缓解此问题，但如果数据领域非常狭窄且训练轮数过多，仍可能发生。 1. 降低 num_epochs 。
2. 在数据中混合少量通用问答数据 ，帮助模型保留通用能力。
3. 降低LoRA的学习率 （需修改脚本）。
DolphinScheduler Web UI 登录失败 数据库连接失败或元数据未正确导入。 1. 检查 dolphinscheduler_env.sh 中的数据库IP和密码是否正确。
2. 检查MySQL服务 ：在终端执行 systemctl status mysql 确认数据库正在运行。
3. 重新导入元数据 ：确认 import_ds_metadata.sh 脚本执行成功，且目标数据库中有数据表。

关于成本控制的特别提醒 ：AutoDL实例关机后，GPU费用停止计算，但磁盘空间仍会计费。完成实验后，如果短期内不再使用，最好的做法是：

  1. 将训练好的重要模型文件（ output_path 下的内容）下载到本地。
  2. 在AutoDL控制台“销毁”该实例。 销毁后数据将无法找回 ，请务必提前备份。

6. 进阶思路与扩展可能性

走通整个流程后，你已经掌握了私有化大模型微调的核心技能。但这只是一个起点，你可以基于此做更多探索：

  1. 尝试不同的模型与规模 ：将 base_model 换成更大的 vicuna-13B 或 Llama-2-7b-chat ，效果可能会提升，但同时对显存的要求也更高（可能需要A100）。也可以尝试国产优秀模型如 Qwen-7B-Chat 或 ChatGLM3-6B ，它们在中文场景下可能有更好的初始表现。

  2. 探索不同的微调方法 ：除了LoRA，还有QLoRA（用量化技术进一步降低显存）、Adapter、Prefix-Tuning等方法。你可以在DolphinScheduler中创建新的Shell任务节点，调用不同的训练脚本（如使用 FastChat 官方的训练脚本）来实现。

  3. 集成到自有应用 ：FastChat提供了OpenAI兼容的API接口。部署后，你可以通过类似 http://localhost:8000/v1/chat/completions 的API地址，让你自己开发的应用程序调用这个私有模型，完全替代OpenAI的API。

  4. 构建数据自动化管道 ：DolphinScheduler的强项是调度。你可以设计一个完整的工作流：定期从你的知识库、客服日志、文档中抽取数据，自动清洗、格式化，然后触发模型微调任务，最后自动部署新模型。实现AI助手的持续学习和进化。

  5. 关注模型许可与合规 ：这是非常重要的一点。不同的开源模型有不同的使用许可证（如LLaMA系列是商业受限的，而Qwen、ChatGLM等可能更宽松）。在将其用于商业项目前，务必仔细阅读并遵守其许可证。同时，生成的内容需符合法律法规，避免产生有害或偏见性输出，必要时需在服务端添加内容过滤层。

回顾整个过程，从租赁服务器到模型对话，最耗时的其实是20小时的模型训练等待期，而需要你亲手操作的“技术活”不到两小时。这个方案的价值在于，它为你提供了一把钥匙，打开了低成本、高可控性的个性化AI大门。你可以用它来打磨一个专业的行业顾问，也可以创造一个深谙你个人趣味的聊天伙伴。在AI日益普及的今天，拥有一个“懂你”且“专属于你”的模型，或许不再是遥不可及的幻想，而是一杯咖啡就能开启的现实。

# LoRA
Logo
https://edu.csdn.net/learn/39067/627173?utm_source=2019755004

汇聚全球AI编程工具，助力开发者即刻编程。

更多推荐

cover

一个 API 入口调用多个大模型：AiiOnly客户端 + CC Switch 打通 Codex AI编程流程

avatar AI编程社区
cover

VSCode Claude Code + MiMo 中转免登录完整配置教程（解决原生登录弹窗 + 模型报错）

avatar AI编程社区
cover

从零开始做一个属于自己的 Skill（保姆级教程）

avatar AI编程社区