Qwen3.5 LoRA vLLM 部署：动态挂载 LoRA 与 OpenAI 兼容 API
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 10/10 篇 训练 + 验证 生产可调用 HTTP API 业务 App / 小程序 / 语音网关 本系列采用 方式 B：动态挂载 LoRA，不写 merge_lora.py 合并流程。基座 ~8.7 GB 与 adapt...
阅读全文 →标签
LoRA
推荐阅读专题：LoRA 老年情感陪伴微调
Qwen3.5 LoRA 踩坑：thinking 链路与 flash-attn 配置
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 9/10 篇 第 08 篇推理验证 Qwen3.5 特有问题清单 第 10 篇 vLLM 请求参数 本篇问题不是 LoRA 特有，但会在「验证像失败」「API 输出英文」时误判为「微调无效」。 1. 要解决的实际问题Qwen3.5 相比 Qw...
阅读全文 →Qwen3.5 LoRA 效果验证：verify_lora.py 原理与 Mac 实测
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 8/10 篇 第 07 篇 loss 收敛 定性结论：是否「更温柔、少说教」 第 09 篇 Qwen 特有问题 · 第 10 篇 vLLM 上线 loss 低 ≠ 产品可用。 本篇是上线前最后一道人工可读的关卡。 1. 要解决的实际问题第 0...
阅读全文 →Qwen3.5 LoRA 训练曲线怎么读：750 step 实盘 loss 复盘
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 7/10 篇 第 06 篇训练完成 指标解读、是否收敛的判断 第 08 篇定性验证 · 决定是否加 epoch 本篇只解读已有日志，不编造曲线。所有数字可 grep all_logs.log 复核。 1. 要解决的实际问题训练跑完后常见疑问：...
阅读全文 →Qwen3.5-4B 单卡 LoRA SFT 实战（下）：SFTTrainer 与训练循环
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 6/10 篇 第 05 篇 Dataset 就绪 final_lora/、15 个 checkpoint 第 07 篇读日志 · 第 08 篇 verify 本篇是唯一会改 LoRA 权重的代码段。跑完应看到： 1✅ 单卡微调完成！LoRA 权...
阅读全文 →Qwen3.5-4B 单卡 LoRA SFT 实战（上）：Tokenizer、基座与 LoRA 配置
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 5/10 篇 第 04 篇环境就绪 Tokenizer、基座、LoraConfig、Dataset 第 06 篇 SFTTrainer.train() 本篇结束时：模型已在 GPU 上，LoRA 配置已定义，数据已是 {"t...
阅读全文 →Qwen3.5-4B LoRA 微调环境：PyTorch、TRL 与基座模型准备
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 4/10 篇 第 03 篇原理 可运行的 GPU 环境 + 基座路径 第 05 篇 python train_lora_single.py 环境不对的表现不是「报错退出」，而是 bf16 不支持 silently 变慢、模型路径软链接断裂训到一...
阅读全文 →Qwen3.5-4B LoRA 原理：只训练 0.25% 参数与 r/alpha 配置
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 3/10 篇 第 02 篇数据进入模型 理解 r/alpha/target_modules 第 05–06 篇 Trainer 配置 · 第 10 篇 vLLM --max-lora-rank 读本篇后再打开 train_l...
阅读全文 →Qwen3.5 LoRA 训练集设计：1000 条 JSONL 与老年心理模型
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 2/10 篇 第 01 篇场景定义 可训练的 JSONL 规范 第 05 篇 apply_chat_template · 第 08 篇 SYSTEM_PROMPT 数据错误会直接体现在 loss 上，但更隐蔽的是格式错误：模型学会了特殊 tok...
阅读全文 →Qwen3.5-4B LoRA 老年情感陪伴：为什么用 LoRA 而非全参微调
0. 系列闭环 本篇位置 上游 本篇产出 下游 第 1/10 篇 业务场景定义 技术选型结论、项目边界 第 02 篇数据格式 → 第 05 篇训练脚本 本系列只走一条链路：JSONL 数据 → train_lora_single.py → final_lora → verify_lora.py...
阅读全文 →