搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Rerank」找到 339 条内容
按专题浏览 →匹配正文:…号 语义连贯:处理跨页断句、表格换行,必要时用VLM提取图片/图表信息 元数据保留:记录文档来源、章节标题、时间戳,用于后续过滤和重排序 二、文本分块:粒度与上下文的权衡 策略 原理 适用场景 注意点 固定长度 按token/字符数切分,带重叠窗口 通用场景,实现简单 固定长度与重叠窗口都只作为候选配置,具体大小由文档结构、Embedding输入限制和同一评测集上的证据完整率、召回与成本共同决定 递归分块 先按段落/句子边界,再递归细分 结构清晰的文档 优先保证语义边界完整 …
匹配正文:…→ 向量入库 → 索引构建 在线阶段 用户Query → Embedding编码 → 向量相似检索 → Top-K召回 → (可选Rerank)→ 上下文组装 关键技术点 1. 文本分块策略 将固定长度、递归切分与语义分块作为候选,按段落或句子保留边界 块大小权衡:太小丢失上下文,太大引入噪声 将无重叠、短重叠和较长重叠放进同一评测集,比较边界召回与冗余成本 2. Embedding模型选择 通用场景:BGE、GTE、E5系列 垂直领域建议微调,使用领域语料对比学习 多语言场…
匹配正文:…uery) return weighted_fusion(dense_score, sparse_score, alpha) # 重排序(Rerank) cross_encoder = CrossEncoder('bge-reranker-base') candidates = vector_db.search(query, top_k=100) reranked = cross_encoder.rank(query, candidates)[:10] 关键指标:召回率@K、…
学习内容与项目面试,在同一条路上。