本文目录
从数据构造到 LoRA 训练:数据格式、显存估计、灾难性遗忘、token-参数拐点、效果评估
本页介绍训练营项目的学习方向;完整教程与代码暂未公开。请先阅读下方对应公开教程,再按需要咨询课程安排。
不调 API,亲手把一个基座模型「调」成你领域里的专家
微调几乎是每个大模型岗都会被问到的硬通货:面试官想确认的不是你会不会喊 LoRA,而是你有没有真正趟过「数据怎么造、显存怎么算、训练崩了怎么救、效果怎么量化」这条完整链路。
这部分计划从「要不要微调」这个判断开始,继续讨论数据、训练、评估与常见失败。内容公开前只展示学习范围,不把尚未验证的结果包装成个人经历。
为什么 + 选型
- 什么场景该微调、什么场景别微调
- 领域 LLM 微调的标准化流程
数据工程(最容易被忽视、却最决定成败)
- 微调数据格式到底怎么构造
- 怎么从领域语料造出高质量数据集
- 多轮对话数据怎么造
- Function Calling 数据怎么造
训练与调优
- 显存到底要多少、怎么估
- 不同任务 LoRA 需要多少数据
- 用 token-参数曲线找训练「拐点」
- SFT 阶段怎么缓解灾难性遗忘
- 微调后「复读机」怎么治
评估 + 简历
- 怎么量化评估微调效果(而不是靠感觉)
- 微调项目在简历里怎么写、面试怎么讲
学习成果
目标是能讲清「问题 → 数据方案 → 训练调优 → 评估证据」;只有亲自完成并留有记录的部分,才适合写进个人简历。
适合谁
想进大模型训练/算法岗、或被问微调就发怵的同学
想跟着老师完成项目
需要项目实现、代码复盘和面试指导,可以了解大模型训练营的课程安排。