搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding向量检索」找到 256 条内容
按专题浏览 →匹配口述回答:…忆的检索如果太慢,会拖死整个Agent。所以上线前我会特别关注检索延迟和召回率,通常用[[Hybrid Search]]把关键词和向量结合起来,不然纯向量检索在冷门实体上容易丢。 工具调用和执行引擎我放一起说。工具这块,关键是统一接口,所有工具按OpenAPI规范描述,description要写精准,因为LLM靠它选工具,写模糊了就会乱调。执行引擎是个状态机,从待执行到工具调用到结果观察,再判断是否继续。举个例子,在电商客服场景里,用户问'我的退款怎么还没到'。Agent先规…
匹配口述回答:…对话记录,按时间序列存,方便回溯。第三层才是长期记忆,这里又可以细分成三类:用户画像,用结构化数据存,比如偏好、习惯;事件记忆,用向量存重要交互片段,比如用户投诉过某个功能;知识记忆,用户专属的知识,可以结合 [[RAG]] 来搞。 具体存储上,用户画像我倾向用关系型或者文档数据库,支持原子更新。事件记忆必须用 [[Vector Database]],同时带上元数据,比如时间戳、主题标签,不然纯向量检索容易跑偏。原始对话压缩归档,定期拿来生成摘要。 检索这块,我不会只用向量相…
…粗排用大块保召回,精排用小块保精准,配合[[Rerank]]效果更好。 落地风险也很明显。前提是分块策略要和检索方式匹配。如果只做向量检索,语义分块比固定长度好;但如果混合了[[BM25]]关键词检索,固定长度分块反而可能因为词频统计更均匀而表现更好。常见失败场景是,分块切得太碎,导致检索时上下文丢失,生成结果出现[[Hallucination]]。上线我会特别关注分块数对[[向量库]]规模和推理延迟的影响,分块数太多,检索延迟会飙升。 另外,我现在比较关注动态分块,就是根据…
学习内容与项目面试,在同一条路上。