1. 环境准备与工具安装

第一次接触Qwen2.5模型微调时，我也被各种依赖项搞得头大。经过几次实践，发现用conda管理环境最省心。下面是我在Ubuntu 22.04上验证过的完整配置流程：

先创建专用环境（Python版本建议3.10-3.11）：

conda create -n qwen_finetune python=3.11 -y
conda activate qwen_finetune

LLaMA-Factory的依赖项安装有个小坑：官方文档里的安装命令可能会漏掉torch的正确版本。我推荐用这个组合：

pip install torch==2.1.2 --index-url https://download.pytorch.org/whl/cu118
pip install -e ".[torch,metrics]"  # 在LLaMA-Factory目录下执行

遇到CUDA版本问题时，有个取巧的办法：先运行nvidia-smi查看驱动版本，再到PyTorch官网匹配对应的命令。比如我的RTX 3090需要CUDA 11.8，就选择上面的安装方式。

2. 模型下载与验证

从魔塔(ModelScope)下载模型时，建议直接用官方提供的镜像加速。这是我常用的下载脚本：

from modelscope import snapshot_download
model_dir = snapshot_download('qwen/Qwen2.5-7B-Instruct', cache_dir='./models')

下载完成后一定要做完整性检查！我吃过亏，曾经因为模型文件损坏导致训练报错。验证方法很简单：

from transformers import AutoModel
model = AutoModel.from_pretrained('./models/qwen/Qwen2.5-7B-Instruct', trust_remote_code=True)

如果返回没有报错，说明模型加载正常。记得检查磁盘空间，7B模型解压后需要约15GB空间，训练时还需要额外空间存储中间结果。

3. 数据集处理实战技巧

原始数据转alpaca格式时，90%的问题都出在字段映射上。以商品文案生成为例，假设原始CSV有"商品特性"和"文案"两列，转换脚本应该这样写：

import json

def convert_to_alpaca(input_csv, output_json):
    with open(input_csv) as f_in, open(output_json, 'w') as f_out:
        for line in f_in:
            features, copywriting = line.strip().split(',')
            entry = {
                "instruction": f"根据以下商品特性生成文案：{features}",
                "input": "",
                "output": copywriting
            }
            f_out.write(json.dumps(entry, ensure_ascii=False) + '\n')

convert_to_alpaca('raw_data.csv', 'train_data.json')

关键点在于：

1. instruction要明确任务要求
2. input字段如果不需要可以留空
3. 每条数据必须是一行JSON字符串（jsonlines格式）

对于多轮对话数据，建议改用sharegpt格式。转换模板如下：

{
    "conversations": [
        {"from": "human", "value": "用户输入内容"},
        {"from": "gpt", "value": "模型回复内容"}
    ]
}

4. 配置文件深度定制

微调配置的核心在于qwen2-7b-lora-sft.yaml文件，这几个参数直接影响训练效果：

model_name_or_path: './models/qwen/Qwen2.5-7B-Instruct'
dataset_dir: './data'
dataset: 'qwen_train_data'  # 对应dataset_info.json中的key
output_dir: './output'

lora_target: ['q_proj', 'k_proj', 'v_proj']  # 关键！Qwen2.5的注意力层名称
per_device_train_batch_size: 2  # 根据显存调整
gradient_accumulation_steps: 8  # 模拟更大batch size
learning_rate: 1e-5  # 初始学习率

特别提醒：Qwen2.5的lora_target与LLaMA不同，必须指定为q_proj/k_proj/v_proj。我在第一次训练时没修改这个参数，结果loss完全没下降。

5. 训练与监控实战

启动训练的命令虽然简单，但有几个实用技巧：

CUDA_VISIBLE_DEVICES=0 nohup llamafactory-cli train qwen2-7b-lora-sft.yaml > train.log 2>&1 &

用nohup和&让训练在后台运行，同时：

1. 用tail -f train.log实时查看日志
2. 用nvidia-smi -l 1监控GPU使用情况
3. 用wandb或tensorboard记录训练指标

遇到显存不足时，可以尝试：

• 减小batch_size
• 开启gradient_checkpointing
• 使用bf16混合精度（需要Ampere架构以上GPU）

6. 模型合并与测试

权重合并是最后关键一步，qwen2-7b-merge-lora.yaml需要特别注意：

model_name_or_path: './models/qwen/Qwen2.5-7B-Instruct'  # 原始模型路径
adapter_name_or_path: './output'  # 训练输出的lora权重
export_dir: './merged_model'  # 合并后保存路径

合并完成后，测试脚本要加载合并后的模型：

model = AutoModelForCausalLM.from_pretrained(
    './merged_model',
    device_map='auto',
    trust_remote_code=True
)

我常用的测试方法是构造不同长度的输入，观察生成质量。比如商品文案场景可以测试：

prompts = [
    "生成一款蓝牙耳机的文案：降噪、续航30小时、佩戴舒适",
    "为这款智能手机写描述：6.7英寸OLED屏、1亿像素、120W快充"
]

7. 常见问题排查

1. CUDA out of memory：先尝试减小batch_size，如果还不行，检查是否有其他进程占用显存

2. Loss不下降：

   • 检查lora_target配置是否正确
   • 确认学习率不是太小（建议1e-5到5e-5）
   • 验证数据集格式是否正确

3. 生成结果重复：

   • 调整temperature参数（0.7-1.0）
   • 设置do_sample=True
   • 添加repetition_penalty（1.1-1.5）

4. 训练速度慢：

   • 开启flash_attention（需要安装正确版本）
   • 使用bf16代替fp32
   • 检查数据加载是否成为瓶颈（增加num_workers）

8. 进阶优化技巧

经过多次实验，我发现这些调整能显著提升微调效果：

1. 数据增强：对原始数据进行回译或同义词替换，能提高模型鲁棒性。比如：

   # 简易同义词替换示例
   synonyms = {'便宜': '实惠', '质量好': '品质优良'}
   def augment_text(text):
       for k, v in synonyms.items():
           text = text.replace(k, v)
       return text
   

2. 课程学习：分阶段训练，先简单样本后复杂样本。可以通过数据集的"难度"字段实现

3. 参数高效微调：

   • 尝试不同的lora_rank（8-64）
   • 调整lora_alpha（通常设为rank的2倍）
   • 对embedding层也添加lora适配器

4. 评估策略：

   • 保留5%数据作为验证集
   • 使用BLEU-4和ROUGE指标
   • 人工评估生成结果的流畅性和相关性