搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
共 1039 条内容
梯度检查点、模型并行、量化等关键技术详解
从架构、训练目标到应用场景,4 个维度系统对比
背景、技术方案、个人贡献与复盘经验,STAR 法则拆解
学习内容与项目面试,在同一条路上。
输入数据、标签构造、损失函数设计及RLHF中奖励信号来源
无用户数据时设计原则、标注流程与质量验证方法
PPOTrainer、model、ref_model、reward_model 在 RLHF 中的角色与交互
自回归推理中 KV-Cache 显存占用分析及优化策略
大模型训练中 ZeRO、混合精度、梯度检查点的典型场景
图像分割为 patch 并映射为 token 序列的完整流程
比较样本复用、分布校正与在线 rollout,并区分 DPO 离线偏好优化
从建模目标、训练效率、推理特性三角度分析优势
VAE 和扩散模型中 Reparameterization Trick 的原理与作用
生成模型中连续归一化流的核心机制与应用
Multi-Head Latent Attention 原理及推理优化机制
模型选择偏差与泛化能力评估,合并的风险
NER 任务中 BERT 与 CRF 各自作用、联合训练及优势
大规模语言模型数据来源、去重、过滤、分词等关键步骤
三种策略优化方法原理对比,RLHF 对齐场景适用性分析
RLHF 中三种策略优化方法的原理、实现与优缺点对比
大模型中两种标准化方法的原理、计算与适用场景对比
区分注意力计算、KV Cache 与 DeepSpeed ZeRO 训练状态分片
架构思想、代表模型(CLIP/Flamingo/Qwen-VL)及训练方法概述
LoRA、Adapter 等方法对比,适用场景与优缺点详解
变分推断、模型蒸馏、RL中KL散度的典型应用