搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「重排」找到 340 条内容
按专题浏览 →匹配正文:…号 语义连贯:处理跨页断句、表格换行,必要时用VLM提取图片/图表信息 元数据保留:记录文档来源、章节标题、时间戳,用于后续过滤和重排序 二、文本分块:粒度与上下文的权衡 策略 原理 适用场景 注意点 固定长度 按token/字符数切分,带重叠窗口 通用场景,实现简单 固定长度与重叠窗口都只作为候选配置,具体大小由文档结构、Embedding输入限制和同一评测集上的证据完整率、召回与成本共同决定 递归分块 先按段落/句子边界,再递归细分 结构清晰的文档 优先保证语义边界完整 …
匹配正文:…→ 向量入库 → 索引构建 在线阶段 用户Query → Embedding编码 → 向量相似检索 → Top-K召回 → (可选Rerank)→ 上下文组装 关键技术点 1. 文本分块策略 将固定长度、递归切分与语义分块作为候选,按段落或句子保留边界 块大小权衡:太小丢失上下文,太大引入噪声 将无重叠、短重叠和较长重叠放进同一评测集,比较边界召回与冗余成本 2. Embedding模型选择 通用场景:BGE、GTE、E5系列 垂直领域建议微调,使用领域语料对比学习 多语言场…
匹配正文:…本,避免新旧块同时命中或已删除内容继续被检索。 分块不是单独决定检索上限的唯一因素;解析质量、嵌入模型、查询分布、过滤、索引参数和重排都会改变结果。 嵌入模型怎么选 不要按“中文/通用”直接绑定一个固定模型。先确认语言、领域、许可证、托管边界、最大输入、向量维度、归一化与查询/文档编码约定,再在目标数据盲测。只有模型文档明确要求时才加入 query/document 前缀。 降维、量化、蒸馏和领域微调都会改变精度与维护成本。384 维够用、PCA 压到 128 损失很小都不是…
按学习路线查看教程、项目和面试题。