I IT 面试题库
用 LoRA 微调大模型时出现灾难性遗忘与过拟合,如何诊断并缓解?
高级故障排查题算法工程师机器学习工程师LLM应用开发工程师后端开发工程师LoRA微调灾难性遗忘过拟合PEFT
题目
考察点:参数高效微调(PEFT)中的典型风险——灾难性遗忘与过拟合,以及对应的诊断与缓解手段。
参考答案
内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 45 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解
要点:
- 先诊断再下药:灾难性遗忘表现为通用能力(如指令遵循、其他任务)在微调后明显下降,可用一组「保留集」评测前后差异定位;过拟合则表现为训练集 loss 持续下降、但验证集/下游任务指标先升后降,或对新样本泛化差。两者要分开看,不能混为一谈。
- 缓解灾难性遗忘:LoRA 只训练低秩适配矩阵、冻结主干,本身已大幅降低遗忘面;必要时加入 replay(混合一小部分通用/预训练数据共同训练)、降低学习率、缩小可训练秩 r,或在正则上约束 ΔW 偏离主干的幅度。
- 缓解过拟合:增加高质量指令数据多样性、做数据去重与清洗;用早停(monitor 验证集)、对 LoRA 权重加权重衰减;适当降低 rank 与 alpha、缩短训练步数;必要时做多轮小批量而非一次性灌入。
- 验证闭环:微调后以统一评测集(含原任务 + 新任务)做前后对比,确认新能力增益大于通用能力损失,再上线;线上用 A/B 与人工抽查持续监控,发现退化及时回滚到基座或上一版适配器。
题目与答案就在本页;收藏、批注和错题重练在应用内