搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「token是什么」找到 156 条内容
按专题浏览 →匹配追问:如果一定要用MSE训练语言模型,可能会出现什么问题? 交叉熵与KL散度的关系是什么? 在扩散模型中为什么可以用MSE来预测噪声? 场景切入 假设你在做电商的智能客服,需要预测用户下一句会问什么,比如从‘退货流程’里推测‘运费谁出’。你觉得用MSE还是交叉熵来训练这个分类模型?为什么交叉熵更常用? 层层追问 你训练分类模型时一般用什么损失函数?……那为什么不用MSE呢?……对于大语言模型的next token prediction,MSE的梯度有什么问题?……所以交叉熵的优势在…
匹配正文:…和回归集,按任务分桶统计准确率、校准、拒答、证据支持率和端到端成功率。 反馈闭环:点赞点踩默认只能归因到整条响应;若要定位到步骤或token,必须额外收集span标注、步骤评价或可回放trace。反馈经审核后再进入数据或规则版本。
匹配正文:…码影响随机性与格式,不保证事实正确。Contrastive Decoding 比较 expert 与较弱 amateur 模型的 token 分数,抑制两者都容易给出的退化候选;它不是简单重复惩罚,也不是事实保证。 后处理与评测:按断言核验来源、使用规则/分类器过滤、对高风险输出拒答或转人工。水印用于来源追踪或识别生成文本,不会降低幻觉本身。评测应分开测 factuality、faithfulness、偏见、有害内容、越狱、隐私与工具越权,并覆盖正常与对抗流量。 图解 LLM…
学习内容与项目面试,在同一条路上。