搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「延迟」找到 588 条内容
按专题浏览 →匹配正文:…拼接输入) 计算 离线计算文档向量 实时计算查询-文档交互 复杂度 O(1) 向量相似度 O(n) 深度交互计算 目标 高召回、低延迟 高精度、强相关性 核心优势:交叉注意力能捕捉"查询词与文档词"的细粒度匹配关系,准确判断真正相关的内容。 对生成质量的影响 过滤噪声:剔除表面相似但实际无关的文档,减少幻觉 提升相关性:确保送入LLM的上下文高度契合用户意图 优化Token效率:重排后取Top-3即可,避免冗长上下文稀释注意力 典型方案 轻量:Cross-Encoder(如B…
匹配正文:…过滤:先用关键词/NER匹配缩小候选集,再向量检索 查询扩展:用LLM改写用户问题,生成多个检索query 落地权衡 场景 策略 延迟敏感(<200ms) 纯HNSW,放弃重排序;或本地部署小模型 精度优先 交叉编码器+多路召回(向量+关键词+图谱) 长记忆(>10万条) 分层存储:热数据内存向量库,冷数据磁盘索引 学习建议 建议系统学习该知识点
匹配正文:…适用场景 交叉编码器(Cross-Encoder) Query+Doc拼接输入,Transformer输出相关性分数 精度要求高、延迟可接受 ColBERT 延迟交互,token级相似度计算,兼顾效率和精度 中等延迟、长文档场景 多路融合 向量检索 + BM25 + 稀疏向量(如Splade)结果融合 数据分布复杂、单一通道不足 LLM-based重排 用GPT-4/Claude等直接打分或生成排序理由 极高精度需求、成本不敏感 工程实践要点 候选集大小:通常取向量检索Top…
按学习路线查看教程、项目和面试题。