面试题 · 知识图谱
搜索「检索优化」匹配到口述回答，相关段落已展开。查看匹配内容 ↓
在agent系统中，长期记忆通常以何种形式存储？当历史记录规模极大时，可以采用哪些方法（如向量索引、分层存储、摘要压缩等）来优化记忆的检索效率和响应速度？
Agent系统的长期记忆通常采用分层混合存储：
| 层级 | 存储形式 | 适用场景 |
|---|
按学习路线查看教程、项目和面试题。
| 工作记忆 | 上下文窗口/Redis | 当前对话轮次、临时变量 |
| 短期记忆 | 向量数据库（Milvus/Pinecone） | 近期对话Embedding、语义检索 |
| 长期记忆 | 图数据库（Neo4j）+ 对象存储 | 用户画像、持久化知识、原始对话日志 |
关键设计：原始对话存对象存储（低成本），语义向量存索引库（快速检索），关键实体关系抽成知识图谱（复杂推理）。
实际参考：MemGPT的"虚拟上下文管理"、LangChain的VectorStoreRetrieverMemory都是典型实现。
场景切入
假设我们在做一个智能客服Agent，用户之前问过退款流程，隔了一周又来问退货地址。Agent应该记住之前的对话历史，但用户历史可能有上万条。你会怎么存储和检索这些长期记忆，才能既快又准地找到相关上下文？
层层追问
Agent系统的记忆你怎么管理？……历史记录多了之后，检索会变慢，你有哪些优化方法？……比如向量索引、分层存储、摘要压缩这些，你具体怎么取舍和落地的？
直球架构
设计一个Agent的长期记忆模块，存储形式可以选向量库、知识图谱或数据库。当记忆规模达到百万级时，如何通过索引、压缩或分层等手段保证检索效率在百毫秒内？请给出你的架构方案和权衡点。
这道题其实问的是agent怎么在对话里记住有用信息，同时不把系统拖垮。长期记忆的存储形式，说白了就是分层混合：工作记忆搁上下文窗口或Redis，短期记忆用[[向量数据库]]比如Milvus，长期记忆得把原始日志扔对象存储，语义向量放索引库，关键实体关系抽成[[知识图谱]]。真正落地的时候，很少只用一种，都是混着上。
先说一下存储形式。对象存储便宜，存原始对话；向量库做语义检索；知识图谱用来做复杂推理，比如用户说了‘我上次买奶粉送了个玩具’，你光靠向量可能找不准，但图谱里实体关系一查就出来了。但这里有个前提：你得有稳定的[[NER]]和[[关系抽取]]，否则图谱质量不行，反而拖慢检索。
再来说大规模记忆的优化。我重点讲两个策略。第一个是分层索引。按时间分区，近期数据优先检索，冷数据下沉到低成本存储。多粒度索引也挺实用，对话级粗筛，句子级细筛，实体级精准定位，逐层过滤，能省不少计算。第二个是摘要压缩。增量摘要很有效，每N轮对话生成一个运行摘要，替代原始记录。层次摘要更好，日摘要、周摘要、主题摘要，形成树状结构，检索时从上往下找。我偏向用增量摘要加关键信息提取，把用户偏好、决策结论、待办事项抽成结构化字段存起来。
检索优化上，我常用两阶段检索：先用[[HNSW]]做近似召回Top-K，再用[[Cross-Encoder]][[重排序]]，最后截断上下文。查询扩展也很有用，把当前Query扩展成‘近期主题+用户偏好+时间约束’的复合查询，召回率能提不少。写入优化不能忘，异步批处理走消息队列，避免阻塞主链路；增量[[Embedding]]只对新内容编码，别全量重建。
落地的时候有几个权衡点。延迟和召回率是经典矛盾，实时场景用近似检索，离线分析用精确检索。存储成本上，原始对话压缩存OSS，成本不到1%；向量索引控制维度，比如从768降到256，召回率降得不多但成本省一半。一致性也很关键，用户禁忌这类关键记忆得强一致性存储，普通对话可以最终一致。
这里有个延伸点：当历史记录规模极大时，比如千万级对话，分层索引的冷热数据迁移策略其实很讲究，迁移太频繁影响性能，太慢又浪费资源。我一般用时间衰减加访问频率双维度打分，动态调整冷热阈值，再配合预加载热数据到内存，效果比较稳。
所以我会把长期记忆看成缓存加持久化的混合体，核心是平衡成本、延迟和召回率。我更倾向用分层摘要加向量检索混合的方案，配合异步写入和冷热迁移，这样既保证响应速度，又控制成本。