模型训练学习资料:面试题。从实际问题进入,按自己的基础选择需要的内容。
共 43 条内容
仅靠训练集损失判断收敛的局限性及替代方案
GPU 卡数、机器数需求分析,影响资源的关键因素
成因分析:重复样本如何加剧,从优化与数据分布角度
学习内容与项目面试,在同一条路上。
数据清洗、并行策略、损失收敛等环节挑战性对比
学习率、批量大小、数据增强策略针对分辨率与类别不平衡的调优
线性 CFM 路径的 target velocity、等价式与 Gaussian path 边界
SFT/DPO 任务中 instruction、input、output 字段定义与适配
数据设计原则、标注流程与质量保障机制详解
评估手段、人工校验与自动化指标保证分层准确性
数学原理与结构设计详解,对比全量微调优势
无用户数据时设计原则、标注流程与质量验证方法
VAE 和扩散模型中 Reparameterization Trick 的原理与作用
大规模语言模型数据来源、去重、过滤、分词等关键步骤
LoRA、Adapter 等方法对比,适用场景与优缺点详解
变分推断、模型蒸馏、RL中KL散度的典型应用
参数高效微调中 GLoRA 的原理、改进与适用场景
连续预训练后通用能力退化成因与风险,如何缓解
分步训练策略的设计依据与扩散模型反向过程原理
从采集到格式标准化,保证时间序列一致性的关键步骤