搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「量化」找到 297 条内容
按专题浏览 →匹配追问:…“我要退货”,你同时有两个候选分布:一个是从历史对话统计的意图分布P,另一个是当前模型预测的分布Q。如果这两个分布差异很大,你怎么量化?具体用KL散度的话,你觉得重点是惩罚Q在哪些地方犯错? 层层追问 两个概率分布之间的差异你怎么衡量?……那为什么不用欧氏距离?……如果P是真实分布,Q是近似分布,KL散度非对称性在实际中会有什么影响?比如变分推断里为什么用反向KL而不是正向? 直球架构 请直接讲KL散度的本质定义和非对称性,然后分别说明在变分推断、知识蒸馏和RLHF/PPO中…
匹配口述回答:…大模型在智能客服或推荐解释场景里,最大的技术瓶颈我觉得不是推理成本,而是效果稳定性。推理成本可以通过[[KV Cache]]、模型量化来压,但效果波动,比如同一个问题今天答对明天答错,对用户体验伤害很大。所以我会更关注线上[[RAGAS]]指标和bad case追踪,确保每个版本上线前有足够的回归测试。 团队协作方面,我想了解算法和工程的协作模式。比如模型上线后的A/B实验和监控体系怎么设计?是算法团队自己写服务,还是交给工程团队封装?我最怕的是模型效果在离线指标上很好看,但…
匹配追问:CPT与SFT在遗忘问题上有何本质区别 有哪些缓解灾难性遗忘的具体技术方案 如何设计实验来量化评估遗忘程度 场景切入 假设我们刚用医疗数据对模型做了一轮CPT,上线后发现它突然“不会说人话了”,比如问它“帮我查一下订单状态”,它回了一堆医学术语。你觉得这是怎么回事? 层层追问 CPT之后模型通用能力下降,你觉得可能是什么原因?……那数据分布差异具体会怎么影响?……如果现在要你评估风险,你会从哪些方面去考虑? 直球架构 请分析连续预训练后模型出现灾难性遗忘的成因,以及在实际应用…
学习内容与项目面试,在同一条路上。