页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「softmax采样」找到 12 条内容
按专题浏览 →匹配正文：标准自回归解码使用离散token 在第i步，模型输出词表logits，经softmax得到分布。解码器按贪婪、采样、top-k、top-p或Beam Search选出一个或若干候选token id。对单条生成路径，第i+1步通常把已选id查embedding后作为新输入，并缓存该路径对应的K/V。 训练时teacher forcing通常输入真实前缀token；推理输入模型自己选出的token。Exposure bias来自这两种前缀分布的差异，不是来自token离散化。 能…
匹配正文：…进阶版：User侧加Transformer建模行为序列，Item侧保持轻量（物料更新频繁，需快速推理） 损失函数：Sampled Softmax或Cosine + Margin Loss，配合温度系数τ调节分布锐度 3. 负采样策略 1. Batch内负采样：实现简单，但分布有偏（热门item过度采样） 2. 全局负采样：从全库采样，需配合logQ修正 3. Hard Negative Mining：线上召回TopK但未点击的样本加入训练 4. 混合策略：1:1:1的easy…
匹配正文：…变成向量后,方向越接近越相似;能解释为什么用余弦而不是欧氏距离。不用手算高维点积 概率与期望 必须懂 理解"模型输出是概率分布""采样温度是什么意思""期望大概是加权平均"的直觉。不用推贝叶斯公式 评估指标含义 必须懂 精确率、召回率、Recall@k、MRR、忠实度(faithfulness)各自衡量什么、什么时候看哪个,能读懂评估报告。不用背公式推导 梯度的直觉 必须懂 知道梯度是"往哪个方向调参数能让误差变小"的指南针,理解学习率大了会震荡。不用手推链式法则 反向传播逐…
学习内容与项目面试，在同一条路上。