搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG 向量检索」找到 220 条内容
按专题浏览 →匹配正文:…地点"的POI关联 实时性权衡:交通状况不存长期记忆,只存"用户偏好避开高速"这类规则 成本权衡:摘要用7B模型,主推理用70B;向量检索用HNSW索引,召回 latency <50ms 学习建议 建议从RAG和Agent架构基础入手,理解向量检索、摘要模型和分层记忆设计模式,结合论文与开源项目(如MemGPT)实践核心流程。
匹配正文:…升 重要性采样:基于点击/停留时长计算行为得分,Top-K检索 任务感知选择:Agent规划时,用当前query检索相关历史(类似RAG) 工程实现:维护双记忆结构 热记忆:最近1-2天行为,全量放入prompt 冷记忆:历史行为向量化存入HNSW索引,按需检索Top-10 三、上下文管理优化 KV Cache复用:对固定历史前缀预计算并缓存,避免重复编码 稀疏注意力:Longformer/BigBird模式,降低O(n^2)复杂度 分页调度:vLLM的PagedAttent…
匹配正文:答案要点 明确必要性:历史信息确实会干扰决策,尤其是动态环境中 列举2-3种具体实现机制(时间衰减、重要性评分、主动遗忘) 说明与RAG/向量检索的结合方式 提及实际落地中的权衡(衰减参数调优、计算开销) 必要性判断 有必要,尤其在两类场景: 动态环境:工具API、业务规则频繁变更,旧记忆会误导决策 长会话Agent:上下文累积后,早期无关信息稀释有效信号 但注意区分:事实性知识(用RAG外挂)vs 交互记忆(会话上下文),后者才是衰减机制的主战场。 三种实现方式 机制 核心…
学习内容与项目面试,在同一条路上。