实战演示：用 LoRA 技术微调 Qwen2.5-7B 全过程
实战演示：用 LoRA 技术微调 Qwen2.5-7B 全过程
1. 引言
在当前大模型快速发展的背景下，如何高效地对大型语言模型进行个性化定制成为开发者关注的核心问题。直接全量微调（Full Fine-tuning）虽然效果显著，但其高昂的显存消耗和计算成本限制了在普通硬件上的应用。而LoRA（Low-Rank Adaptation）作为一种参数高效微调（PEFT）技术，能够在几乎不损失性能的前提下，大幅降低训练资源需求。
本文将基于预置镜像环境，手把手演示如何使用ms-swift框架，在单张 NVIDIA RTX 4090D 显卡上，仅用十分钟完成对Qwen2.5-7B-Instruct模型的 LoRA 微调全过程。我们将通过修改模型的“自我认知”，使其从默认身份转变为由特定开发者维护的语言模型，实现轻量级个性化定制。
本教程适用于希望快速验证 LoRA 微调流程、探索模型行为控制或构建专属助手的技术人员与研究者。
2. 环境准备与基础验证
2.1 镜像环境概览
本次实验所使用的镜像已预先配置好所有依赖项，极大简化了部署流程。以下是关键组件信息：
- 工作路径：
/root - 显卡要求：NVIDIA RTX 4090D（24GB 显存），其他具备同等显存的 GPU 也可运行
- 基础模型：
Qwen2.5-7B-Instruct，位于/root/Qwen2.5-7B-Instruct - 微调框架：
ms-swift，已安装并可直接调用 - 显存占用：微调过程中约占用 18GB ~ 22GB 显存
该环境专为 LoRA 指令微调（SFT）优化，确保在有限资源下实现高效训练。
2.2 原始模型推理测试
在开始微调前，建议先验证原始模型是否能正常加载和响应。执行以下命令进行基础推理测试：
cd /root CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048说明： -
--model：指定模型名称或路径。 ---model_type：明确模型类型为qwen，便于框架正确解析。 ---stream：启用流式输出，实时查看生成内容。 ---temperature 0：关闭随机性，保证输出确定性。 ---max_new_tokens 2048：限制最大生成长度。
预期结果：模型应能正常对话，并以“我是阿里云开发的...”等语句回应关于自身身份的问题。此步骤确认环境无误后，即可进入下一步微调操作。
3. 自定义身份微调实战
3.1 数据集准备
我们通过一个简单的 JSON 文件来定义微调数据，目标是让模型学会回答“你是谁？”、“谁开发了你？”等问题时，返回自定义的身份信息。
如果镜像中未预置self_cognition.json，可通过以下命令创建：
cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF提示：实际应用中建议包含至少 50 条样本以增强记忆稳定性。
3.2 执行 LoRA 微调
使用swift sft命令启动指令微调任务。以下为针对单卡 4090D 优化的完整参数配置：
CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot核心参数解析：
| 参数 | 说明 |
|---|---|
--train_type lora | 使用 LoRA 方法进行微调，仅更新低秩矩阵，节省显存 |
--num_train_epochs 10 | 训练轮数设为 10，因数据量小需多次迭代强化记忆 |
--per_device_train_batch_size 1 | 单卡批次大小为 1，结合梯度累积提升有效批量 |
--gradient_accumulation_steps 16 | 梯度累积步数为 16，等效于 batch size = 16 |
--lora_rank 8 | LoRA 的秩（rank）设为 8，平衡效率与表达能力 |
--lora_alpha 32 | 缩放因子，通常设置为 rank 的 4 倍 |
--target_modules all-linear | 对所有线性层应用 LoRA，最大化影响范围 |
--torch_dtype bfloat16 | 使用 bfloat16 精度，兼顾精度与速度 |
--output_dir output | 权重保存目录 |
训练完成后，适配器权重将保存在/root/output目录下，文件夹名包含时间戳和检查点编号（如checkpoint-xxx）。
4. 微调效果验证
4.1 加载 LoRA 适配器进行推理
微调结束后，使用生成的 LoRA 权重进行推理，验证模型是否成功“改变认知”。请替换实际生成的检查点路径：
CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048注意：
--adapters参数指向的是 LoRA 权重目录，而非原始模型。
4.2 验证示例
向模型提问以下问题，观察其回答是否符合预期：
- 用户输入：
你是谁？ - 期望输出：
我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。
若模型能够稳定输出自定义身份描述，则表明 LoRA 微调成功生效。这证明即使仅使用少量样本，也能有效引导模型行为，实现个性化的角色设定。
5. 进阶技巧：混合数据微调
为了在保留通用能力的同时注入特定知识，可以采用混合数据集的方式进行训练。例如，将自定义身份数据与开源指令数据混合，既能保持模型泛化能力，又能强化特定行为。
以下为参考命令：
swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --gradient_accumulation_steps 16 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --output_dir output_mixed \ --warmup_ratio 0.05说明： - 使用
#后缀限制每个数据集采样数量（如#500表示取前 500 条）。 - 总体 epoch 数减少至 3，避免过拟合。 - 输出目录设为output_mixed，便于区分不同实验。
此方法适合构建既专业又通用的领域助手，推荐在生产环境中使用。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。