搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「延迟」找到 588 条内容
按专题浏览 →匹配正文:…────────┘(检索)→ 重排 → 组装Prompt → LLM → 答案 工程要点:离线追求覆盖全、更新快;在线追求召回准、延迟低。两者解耦,可独立迭代优化。
匹配正文:…正确性。 生成侧:答案正确性、Faithfulness、引用准确率、拒答质量。 工程侧:索引新鲜度、吞吐、P50/P95/P99 延迟、成本和失败率。 延迟目标必须依据产品 SLO、硬件和模型确定,不能把“向量检索低于 50ms、整体 P99 低于 500ms”作为所有 RAG 系统的通用标准。 结论:RAG 的技术实现是一条带版本、权限、评测和回滚能力的证据链,而不是固定的组件清单。 图解 RAG 系统核心组件怎么搭?图解
匹配正文:…M25:利用词项匹配、IDF 和长度归一化,擅长专有名词、编号、短语和必须字面命中的查询;速度取决于索引、语料与部署,不能称为“零延迟”。 向量召回:用 embedding 表达语义相似,能补充同义改写和字面不重合的结果,但可能弱化精确实体或数值约束。 Cross-Encoder:联合编码 query-document,通常能刻画更细的交互相关性,但每个候选都要前向计算,只适合重排有限候选。 融合策略 两路召回先各取候选并按文档 ID 去重。RRF 只使用排名,避免直接比较不…
按学习路线查看教程、项目和面试题。