搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding」找到 565 条内容
按专题浏览 →匹配正文:…混合、章节层级明确 实现与维护复杂度更高 实践建议:先按标题、段落、列表、表格或代码边界产生候选,再对过长单元二次拆分。具体长度受embedding模型输入限制、查询类型和上下文预算共同约束。 重叠策略(Overlap) 作用:当答案跨越切分边界时,补回相邻上下文 选择方法:把零重叠、短窗口和较长窗口放到同一评测集比较,不预设固定比例 成本:索引体积增加、相似chunk重复召回、重排与生成输入变长 配套处理:保留原文起止位置与父级结构,召回后按来源和位置去重、合并 保障语义完…
匹配正文:… 1. 显式对话状态管理 对话状态 = {主题实体集合, 用户意图, 未解决问题, 已确认事实} 每轮用轻量模型抽取状态更新 状态向量化后参与检索相似度计算 2. 分层检索策略 层级 内容 权重动态调整 当前轮 用户最新query 意图切换时↑ 近轮上下文 前2-3轮关键信息 追问场景↑ 全局摘要 历史对话压缩 长对话时↑ 3. 查询重写与扩展 共指消解:将"它"、"这个"替换为具体实体 意图感知扩展:根据对话状态补充隐含条件 时间衰减:早期轮次信息权重指数下降 4. 检索结…
匹配正文:…规则必须通过召回回归,避免提前丢失正确文档。 HNSW 通过搜索宽度在延迟与召回间取舍;IVF 通过桶数和探测数取舍;PQ 可减少向量存储与带宽,但会引入量化误差。 热点 query、embedding 和结果可以按语料与模型版本缓存;更新后必须正确失效。 检索服务独立扩缩容,并记录 Recall@K、P95/P99、缓存命中和资源使用。 生成阶段 continuous batching 提高 GPU 利用率,但要按长度或截止时间调度,避免长请求拖累短请求。 KV Cache…
学习内容与项目面试,在同一条路上。