搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「BM25长度归一化」找到 10 条内容
按专题浏览 →匹配正文:BM25 的核心思想 BM25 是经典概率相关性排序方法之一,对每个查询词累加 IDF 权重,并用可调的词频饱和与文档长度归一化控制得分。常用形式为: \text{Score}(D,Q)=\sum_{q_i\in Q}\text{IDF}(q_i)\cdot\frac{f(q_i,D)(k_1+1)}{f(q_i,D)+k_1(1-b+b|D|/\text{avgdl})} 实践中常用非负 IDF 变体,例如 \log(1+(N-n_i+0.5)/(n_i+0.5));具体公…
匹配正文:BM25 评分 常用 Okapi BM25 形式为: score(D,Q)=Σ IDF(q) × f(q,D)(k1+1) / [f(q,D)+k1(1-b+b|D|/avgdl)] 其中 f(q,D) 是词频,|D| 与 avgdl 是当前文档和语料平均长度,k1 控制词频饱和速度,b 控制长度归一化强度。IDF 有多种实现;原始概率形式可写为 log((N-n+0.5)/(n+0.5)),也有 log(1+(N-n+0.5)/(n+0.5)) 等非负变体。回答时应说明所用…
…长度,avgdl:平均文档长度 k_1 \in [1.2,2.0]:控制词频饱和速度(通常取1.5) b \in [0,1]:控制长度归一化强度(通常取0.75) IDF计算: IDF(q_i) = \ln\frac{N-n(q_i)+0.5}{n(q_i)+0.5} 相比TF-IDF的主要改进 改进点 TF-IDF问题 BM25解决方式 词频饱和 词频线性增长,高频词过度加权 引入饱和函数 \frac{f(k_1+1)}{f+k_1},词频收益递减 长度归一化 长文档天然占…
学习内容与项目面试,在同一条路上。