搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Chunk 向量化」找到 50 条内容
按专题浏览 →匹配正文:…版本”和“当前发布版本”分开。新版本在后台写完并校验,通过一次状态切换对外发布;失败时旧版本继续服务。这样即使一次写入只完成部分 Chunk,半成品也不会进入在线检索。 每个任务阶段要记录输入版本、开始与结束时间、输出数量、错误类型和重试次数。确定性错误,比如不支持的格式或字段映射错误,不应该反复重试;暂时性网络超时才适合有限重试。 文档任务需要怎样的状态机? 只有“处理中”和“已完成”两个状态,很难描述真实入库过程。 一份文档可以经历已接收、等待解析、解析中、等待向量化、写…
匹配正文:…/段落边界切分 递归分块 长文档层次化结构 先按章节,再按段落 滑动窗口 需要上下文连贯 比较无重叠、短重叠和较长重叠 关键细节:chunk size 必须低于实际嵌入模型的输入限制,并在同一评测集比较;过小可能造成语义碎片化,过大可能稀释关键信息。 二、嵌入模型选择 选型维度: 通用场景:sentence-transformers/all-MiniLM-L6-v2(轻量,384维) 中文场景:BAAI/bge-large-zh、智谱Embedding-2 领域适配:领域数据…
匹配正文:…候选方案,在同一评测集上回放 作用:缓解答案跨越切分边界时的信息丢失 代价:重复索引会放大存储、召回冗余和重排成本 实现:记录每个chunk在原文中的起止位置与父级结构,便于合并、去重和溯源 向量化写入流程 原始文档 → 清洗(去噪/格式标准化)→ 结构化解析(提取标题/表格/代码块) ↓ 产生多组分块候选 → 在固定问题集上评测 → 生成chunk元数据(来源、位置、类型) ↓ Embedding模型编码 → 按实际显存、限流和失败重试能力确定批量大小 → 写入向量库 ↓ …
学习内容与项目面试,在同一条路上。