搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding 调优」找到 77 条内容
按专题浏览 →匹配正文:…零 实际意义 抑制关键词堆砌:词频超过阈值后贡献趋平,防止SEO作弊 公平对待长短文档:技术文档vs短回答都能合理竞争 参数可解释调优:k_1/b可根据领域数据优化(如新闻vs论文库) 在RAG中,BM25常与向量检索混合使用(如Elasticsearch + 向量DB),利用其精确匹配优势弥补语义检索的模糊性问题。 学习建议 建议系统学习该知识点
匹配口述回答:…那些排在前面但没被点击的样本当强负例,逼模型区分模糊边界。另一个是动态负采样,早期用简单负样本稳定训练,后期切到hard负样本精细调优。还有一个坑是:如果全局负采样做得太猛,热门item会被过度打压,所以得控制采样比例。 再说[[Embedding]]质量。我比较看重的两个手段:一个是对比学习,比如用Dropout构造正样本对,拉近相似item的表征,这在长尾场景特别有效。另一个是[[知识蒸馏]],用大模型生成的软标签指导[[双塔]]模型,保留细粒度语义关系。举个例子,电商场…
匹配正文:…饱和(上限k1+1) 文档长度 无显式处理 显式归一化 IDF 简单对数 平滑处理(+0.5避免负值) 长文档友好性 差 好 参数调优 无 有k1/b可调 RAG中的应用场景 混合检索架构:BM25做粗排召回 + 向量模型做精排重排 稀疏检索基线:与稠密向量形成互补,捕获精确匹配信号 关键词敏感场景:法律条文、医学术语等需要字面精确匹配的领域 实时检索:无需神经网络推理,毫秒级响应 局限性 无法处理语义鸿沟("苹果"→公司/水果) 需配合同义词扩展或向量检索补足语义能力
学习内容与项目面试,在同一条路上。