搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「训练框架」找到 11 条内容
按专题浏览 →匹配题目:请分享你在大模型微调方面的实践经验,包括使用过的微调方法(如全参数微调、LoRA、Adapter等)、数据准备、训练框架、遇到的挑战及解决方案。
匹配正文:…模型在线试、试完打分更直接。 我自己的看法是,这道题答到"代价"就已经比大多数人深了,DPO 那段是加分项,时间不够可以不展开。 训练框架用的是 verl。启动的时候优势估计选 grpo,critic 关掉,框架自带的 reward model 也关掉,分数由项目自己的 Verifier 返回。 这几个开关能说出来,面试官就知道你真跑过。 放到项目里可以这样答: 我们训的是售后操作 Agent,一条轨迹要调好几次工具,最后由 Verifier 给整条轨迹打一个分。我用的是 G…
匹配正文:…ask 的概念(哪些 token 算 loss)。真实训练里,要把轨迹 tokenize、构造 attention mask、对接训练框架(SFT / GRPO),工程上复杂得多;这个小实验只为让你看懂「为什么这么做」。 🧭 你刚才看到的,等于真实系统的什么? 你手标的 model/tool = 真实训练里的 loss mask(哪些 token 参与梯度)。真实系统会自动按角色标记、按模型的 tokenizer 切分。理解了「为什么 mask observation」,你…
学习内容与项目面试,在同一条路上。