页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「Embedding 优化」找到 339 条内容
按专题浏览 →匹配正文：…出来后却可能迅速结束。如果前置检索很快、答案很长，TTFT 不错，总耗时仍然很长。 要看清首字响应，可以先把链路拆成 Query Embedding、向量检索、Prompt 构建和网络、队列、I/O 等系统开销。一条完整的线上时间线还要加上路由、关键词召回、融合、Rerank、模型排队、预填充和第一个 Token。 首字响应与总耗时的区别 TTFT 只到第一个 Token，总耗时还包含后续生成。优化前要先确认用户抱怨的是哪一段等待。 如果所有阶段只记一个 response_t…
匹配正文：答案要点 向量检索优化：HNSW索引、量化压缩、分区策略 重排序策略：Cross-Encoder、ColBERT、多阶段排序 查询扩展：HyDE、Query Rewriting、子查询分解 混合检索方案：向量+关键词融合 实际落地中的工程权衡 一、向量检索优化 索引层面 HNSW（Hierarchical Navigable Small World）：主流近似最近邻算法，平衡召回与速度；关键参数M（邻居数）和ef（搜索宽度）需根据数据规模调优 量化压缩：PQ（Product …
匹配正文：…） 最近N轮对话，存Redis/Memory，毫秒级访问 原始文本，不做压缩，保证上下文连贯 情节记忆（温数据） 历史会话片段，存向量数据库（Milvus/Pinecone） 按时间窗口分片，配合HNSW索引 + IVF量化 元数据过滤：时间范围、主题标签、情感标记 语义记忆（冷数据） 压缩后的知识图谱/用户画像，存图数据库或宽表 定期摘要生成，淘汰低价值细节 检索优化手段 手段 实现 混合索引 向量相似度 + 倒排索引（关键词）+ 时间索引，三路召回后精排 分层检索 先粗筛…
学习内容与项目面试，在同一条路上。