搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding」找到 558 条内容
按专题浏览 →匹配口述回答:…务学习。因为CTR、CVR、ROI共享用户和广告的特征,但各自的优化目标不一样。我会用 MMoE 或者PLE这种结构,底层共享[[embedding]],上层每个任务有自己的专家网络和门控。这样模型能学到通用表示,又不会让某一个任务主导梯度。不过这里有个坑:如果直接不加约束地联合训练,ROI这种稀疏目标很容易被CTR这种密集目标带偏。所以我会加一个 动态任务权重,比如用不确定性加权或者Pareto优化,让模型在训练过程中自动调节各任务的loss比例。 再一个,模型层面还可以用…
匹配口述回答:…我会把它分成三块。第一块是相关性,这个最直接,用 [[BM25]] 加一个语义相似度,比如 [[Bi-Encoder]] 算出来的向量余弦,然后过一个简单的 MLP 压到 0 到 1 之间。第二块是点击率,但注意,这里有个坑,原始 CTR 是有位置偏置的,排在前面的天然容易点。所以我会用 IPS 或者 EM 做位置去偏,得到一个无偏的 CTR 估计。第三块是用户满意度,我主要看停留时长,因为它是比较直接的满意度信号,但停留时长是长尾的,我会取对数变换,比如 log(1+dwe…
…所以一般是DPP重排加曝光过滤,再配合探索流量扶持,比如给新内容一些保底曝光。但DPP的相似度矩阵怎么定义很关键,用内容标签还是用向量相似度,效果差别很大,这个我后面可以展开聊。 所以我的结论是,ROl问题没有银弹,我会把训练阶段的负采样优化和解码阶段的Top-p采样看作基础配置,然后根据业务特点叠加DPP或者MMR。核心思路是让模型在利用已有知识的同时,保留足够的探索空间,这样用户满意度才能长期稳住。 本质是生成式推荐在探索-利用间的失衡 Repetition像复读机,Ov…
学习内容与项目面试,在同一条路上。