匹配正文：连续预训练后出现灾难性遗忘，是指领域数据上的能力提升伴随原有通用能力、对齐行为或其他领域能力下降。它不是看到训练loss下降就能判断，而要在CPT前后用同一组通用、领域、安全和指令遵循评测比较，并排除评测噪声与数据污染。成因通常包括训练分布大幅偏向新领域，新数据梯度与旧能力所需参数方向发生干扰，以及学习率、训练步数或优化器状态让参数漂移过大。数据重复和领域风格过窄也会放大偏移。把它只解释成有限容量被新知识挤占并不充分，更不能断言浅层语法、中层语义和高层推理会按固定顺序受损。…

#连续预训练#灾难性遗忘#知识保留

项目实战·模型微调

大模型微调实战

匹配正文：从数据构造到 LoRA 训练:数据格式、显存估计、灾难性遗忘、token-参数拐点、效果评估本页介绍训练营项目的学习方向；完整教程与代码暂未公开。请先阅读下方对应公开教程，再按需要咨询课程安排。不调 API，亲手把一个基座模型「调」成你领域里的专家微调几乎是每个大模型岗都会被问到的硬通货:面试官想确认的不是你会不会喊 LoRA，而是你有没有真正趟过「数据怎么造、显存怎么算、训练崩了怎么救、效果怎么量化」这条完整链路。这部分计划从「要不要微调」这个判断开始，继续讨论数据…

#项目实战#大模型微调实战

面试题·模型训练· 安克科技

大模型微调方法怎么选?

匹配标题与标签：…参数微调 vs LoRA vs Adapter 实战经验,数据准备与训练框架模型训练 LoRA 全参数微调数据工程训练框架灾难性遗忘 2026真题大模型微调方法 LoRA 微调 Adapter 微调微调训练框架大模型训练与微调安克科技

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#LoRA#全参数微调#数据工程

面试题·模型训练· 美团

LLM 训练哪步最难?

匹配标题与标签：LLM 训练哪步最难? 数据清洗、并行策略、损失收敛等环节挑战性对比模型训练数据工程训练稳定性超参数调优显存优化灾难性遗忘 2026真题 LLM 训练挑战大模型训练难点数据清洗并行策略大模型训练与微调美团

#数据工程#训练稳定性#超参数调优

面试题·RLHF与对齐· 网易

SFT、偏好优化与 RL 怎么衔接?

匹配标题与标签：…衔接? 经典后训练流程、数据迭代、replay 和再次 SFT 的证据边界 RLHF与对齐 SFT RLHF 语言退化对齐训练灾难性遗忘 2026真题 SFT 偏好优化 RL 流程大模型后训练流程 PPO-ptx 后训练数据迭代能力回退强化学习与RLHF 网易

#SFT#RLHF#语言退化

面试题·模型微调

全量微调和 LoRA 微调怎么选?

匹配正文：…与激活预算：7B并不直接决定必须多卡A100，LoRA也不保证24GB足够；需说明基座精度、序列、batch与分片/检查点配置。灾难性遗忘：LoRA冻结基座不等于启用adapter后通用能力不下降；两种方法都要做通用/安全回归。未合并且无其它基座改动时，可停用adapter恢复基座行为。可先用较低成本的LoRA建立实验基线；数据量与任务名称不能单独决定选型，用质量、回归和资源预算比较是否需要全参。给出「默认 LoRA,必要才全量」的决策框架,比背参数更加分核心概念全…

#入门#基础概念#LoRA微调

求职指南·求职

大模型应用开发岗一天在做什么?细分岗位画像

匹配正文：…解评估体系模型改了到底有没有变好指标、评估集、人工复核、线上反馈失败样例分析为什么新模型某些场景退化数据覆盖、过拟合、灾难性遗忘研究生和算法背景更容易切这个方向。后端同学也能靠应用项目逐步靠近,但不建议一开始就把自己包装成微调专家。先讲清 RAG/Agent 场景,再说明你理解什么时候需要微调,会更可信。读 JD 时用这张表判断岗位类型 JD 关键词更可能是哪类岗位你该准备什么知识库、问答、向量库、检索、引用 RAG 工程 RAG 项目、检索/重排/评估…

#求职#职业转型

面试题·模型训练· 网易

SFT 置信度下降影响

匹配正文：…logit 正则会抑制极端 logits；class weighting 也会改变有效先验。优化与模型：学习率过大、分类头重置、灾难性遗忘、冻结策略、训练不足、weight decay 和 dropout 都可能缩小 logit margin。实现与校准：重复 softmax、temperature 配置、train/eval mode、label map、checkpoint 和 dtype 不一致都会造成假象。应在同一测试集同时看 accuracy/F1、NLL、B…

#模型校准#标签平滑#温度缩放

求职指南·求职

大模型岗面试流程全解:每一轮考什么、怎么准备

匹配正文：…调用与规划(Function Calling、ReAct、失败恢复、多步编排)。微调方向:LoRA/QLoRA 原理、数据构造、灾难性遗忘。推理方向:KV Cache、量化、批处理与吞吐优化。这些在领域八股速通里按模块整理好了,题库入口在 /questions,每道题有书面答案和口语版讲法。练的重点是「能顺畅讲出来」,不是「看懂点头」——面试是口试,看懂和讲清楚之间差一个数量级。技术二面:系统设计 + 边界试探结论:二面从「你做过什么」升级到「给你个新问题你怎么从零…

#求职#职业转型

面试题·模型训练· 字节

SFT vs 预训练:核心区别在哪?

匹配正文：…据规模与混合策略也通常不同，但没有某个训练方式的固定参数。 SFT 风险包括示范错误被直接模仿、长回答或固定措辞偏置、训练集复述、灾难性遗忘、领域过拟合、拒答失衡和模板泄漏。所谓“复读机”需要区分训练样本记忆、解码重复、数据重复和提示模板问题，再分别处理去重、数据多样性、正则、混合预训练数据、学习率与解码。 SFT 适合有高质量目标输出、希望稳定格式或行为、无需大量在线探索的任务，也是许多偏好优化或 RL 的初始化。复杂推理和安全对齐并非必须使用 RLHF/DPO；可选方法包…

#监督微调#预训练对比#复读机问题

面试题·模型训练· 网易

SFT 后置信度下降怎么办?

匹配正文：…thing、蒸馏软标签、Mixup、熵或 logit 正则；class weighting 改变有效先验；学习率过大、分类头重置、灾难性遗忘或训练不足；dropout、weight decay 与冻结策略改变；推理阶段重复 softmax、temperature、eval mode、label map、checkpoint 或 dtype 不一致。修复必须跟随诊断。如果准确率稳定且 NLL/ECE 改善，保持现状可能更合理。如果只是概率尺度系统性偏差，在独立校准集拟合 te…

#模型校准#过拟合#温度缩放

面试题·模型训练· 网易

SFT 后置信度下降原因

匹配正文：…t 尺度。Label smoothing 鼓励非目标类保留概率质量，但不是严格的概率硬上界。模型与优化：分类头重置、学习率过大、灾难性遗忘、冻结层组合或训练不足都可能缩小类别间 logit margin。LoRA 的低秩本身不能推出“必然平均化”。实现：train/eval mode、dropout、BatchNorm 统计、label map、重复 softmax、temperature、checkpoint 与 dtype 不一致。修复先做数据与代码消融，再决定训…

#模型校准#温度缩放#标签平滑

面试题·模型训练· 字节

CPT数据清洗与时间序列一致性

匹配正文：…化的领域，还可保留时间字段做分桶评测，观察旧知识保持与新知识获取，而不是把所有时间差异压成一个总体loss。这样才能区分更新有效和灾难性遗忘。

#CPT#数据工程#数据清洗

面试题·Agent· 美团

多轮 Agent RL 难在哪?

匹配正文：…轮对话的信用分配问题（credit assignment）工具调用/动作执行的奖励稀疏性用户反馈的在线收集与利用训练稳定性与灾难性遗忘的平衡模拟环境与真实部署的分布差异核心挑战与解决思路 1. 多轮对话的信用分配问题：奖励通常在对话结束后才获得，难以定位哪一步决策出了问题。方案：采用细粒度奖励建模：对每轮回复进行即时评估（流畅度、相关性）引入蒙特卡洛树搜索（MCTS）或Actor-Critic架构，利用价值函数估计中间状态使用RNN/Transformer…

#美团#Agent 强化学习#多轮对话 RL

面试题·模型微调· 美团

RAG检索偏差怎么缓解?

匹配正文：…自适应向量微调收集新文档的点击/转化反馈，用对比学习微调embedding模型（LoRA轻量更新）关键：混合采样新旧数据，防止灾难性遗忘 4. 分布感知的重排序训练阶段引入领域标签，推理时检测query分布，动态调整检索策略监控新文档的检索占比，低于阈值时触发告警落地关键监控看板：新文档命中率、头部结果多样性指标 A/B实验：灰度验证策略效果，避免全量风险学习建议建议掌握RAG基础架构，理解检索偏差成因，学习持续学习、向量重排序、数据分布监控等技术，结合实际案…

#美团#模型微调#RAG检索偏差

面试题·模型微调

什么是微调(SFT)?和预训练有什么区别?

匹配正文：…识是质量远比数量重要:几千条精标数据往往胜过几十万条脏数据。入门后可以继续追:SFT 之后的 RLHF/DPO 对齐、微调导致的灾难性遗忘,以及 LoRA 等参数高效微调方法。

#入门#基础概念#SFT 微调

面试题·多模态· 美团

Agent 发展路径分哪几个阶段?

匹配正文：…持续学习（近期目标）特征：具备数字/物理环境感知，能从执行反馈中学习核心挑战：多模态 grounding、长期记忆的有效检索、灾难性遗忘突破点：具身智能（Embodied AI）、向量记忆+知识图谱混合架构、在线适应（如Voyager的技能库）阶段四：自主目标设定与价值对齐（远期愿景）特征：基于用户模糊意图自主定义目标，具备自我改进能力核心挑战：目标的可解释性、价值对齐的安全性、权力寻求行为突破点：递归自我改进的安全框架、宪法AI（Constitutional …

#美团#评估与监控#Agent

面试题·Prompt· 字节

Agent 能力怎么系统提升?

匹配正文：…精细设计避免奖励黑客社会学习多Agent交互、观察其他Agent策略世界模型构建内部环境模拟器，支持想象与规划核心挑战：灾难性遗忘与分布外泛化的平衡，需结合正则化与记忆回放五、系统性整合示例用户请求 → 意图理解 → 任务分解 → [工具检索/选择 → 执行 → 观察]循环 ↑___________________________________________↓ ↓ 失败时触发 Reflexion 经验写入记忆 → 周期性离线训练更新策略字节/百度实际场景：…

#字节#百度#评估与监控

面试题·多模态· 得物

多模态大模型网络结构怎么搭?

匹配口述回答：…下文。可以通过分块、动态分辨率或区域选择控制带宽，但每种设计都要检查小目标、OCR和跨图关系。若视觉编码器也参与微调，训练显存、灾难性遗忘和视觉特征漂移都要重新评估，不能沿用冻结配置的结论。先拆视觉编码器桥接和LLM 讲LLaVA两阶段训练范围说明BLIP-2的Q-Former 说明Flamingo的Resampler与cross-attention 比较信息带宽和成本约4分钟三种桥接模块如何在视觉信息带宽与语言模型改造成本之间取舍。可继续讨论视觉token压缩、…

#视觉编码器#投影层/连接器#多模态对齐

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配口述回答：…选择，计算快、效果稳。如果垂直领域有标注数据，比如金融合同或医疗病历，我会用BERT-based做领域微调，用[[LoRA]]避免灾难性遗忘。OpenAI的text-embedding-3开箱即用，多语言支持好，但成本按量计，适合快速验证。SBERT-WK能捕捉不同层级语义，但实际用得少，因为大部分场景单层就够了。接下来是向量索引和数据库。索引结构我重点说两个：[[HNSW]]和[[IVF]]。HNSW是图索引，查询快、精度高，但构建慢、吃内存，适合百万级以下的静态库。IV…

#字节#文档处理#向量检索