搜索大模型内容

Agent 长短期记忆如何分层?

匹配正文：逻辑分层 Agent 记忆应按职责划分：工作记忆保存当前目标、约束和近期工具结果；会话或情景记忆保存任务状态、事件和未完成事项；长期记忆只沉淀经确认、可复用且允许保存的偏好与事实。这是逻辑职责，不要求每层使用固定数据库。写入与读取交互或工具结果先经过候选提取、结构校验、去重、来源、权限与敏感信息检查，再带时间和版本写入结构化库、文本库或向量索引。新请求按身份与任务作用域做关键词、向量和结构化混合检索，再按相关性、时效性、重要性和权限重排，在上下文预算内注入。事实、原文和…

#字节#Agent#Agent 记忆架构

Agent 长期记忆存储结构

第 1 / 3 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：存储架构设计：三层记忆体系分层存储结构工作记忆：对话上下文，用KV Cache或滑动窗口，毫秒级访问短期记忆：当前会话的完整记录，Redis/内存，支持快速CRUD 长期记忆：跨会话的海量历史，向量数据库+图数据库混合，持久化存储混合存储方案长期记忆 = 向量存储(语义检索) + 关系数据库(结构化过滤) + 对象存储(原始对话) 检索效率优化索引层面 HNSW/IVF-PQ：亿级向量毫秒级ANN检索，内存-磁盘分层分区策略：按用户+时间窗口分片，避免全量扫描 …

#字节#蚂蚁#向量检索

Agent 长期记忆存哪里?

匹配正文：答案要点区分短期记忆与长期记忆的设计边界向量数据库、键值存储、摘要记忆三种方案的核心原理与适用场景从检索延迟、存储成本、上下文窗口限制三个维度分析权衡提及MemGPT、LangChain等主流实现作为案例支撑指出多层级混合架构是当前工业界主流实践 Agent长期记忆的三种主流实现及权衡： 1. 向量数据库（Vector DB）原理：对话历史分块→Embedding→相似度检索优势：语义检索能力强，支持模糊匹配劣势：延迟高（10-100ms级），存在"中间丢失"…

#字节#百度#Agent

#Agent#Deep Research#项目实战

Agent 长期记忆架构与更新策略

匹配正文：答案要点区分短期记忆与长期记忆的层级设计支持多维度检索的记忆存储结构增量更新与定期总结的更新策略记忆注入大模型的上下文管理机制解决记忆冲突与遗忘的优先级策略架构组成：三层记忆体系 1. 工作记忆（Working Memory）当前对话窗口的原始上下文直接送入大模型的标准输入 2. 短期记忆（Short-term Memory）最近N轮对话的完整记录按时间序列存储，支持快速回溯 3. 长期记忆（Long-term Memory）用户画像：偏好、习惯、人口属…

#字节#百度#Agent

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配追问：摘要把关键数字压错了，系统怎样发现？向量记忆为什么会召回语义相近但语境错误的旧对话？短期记忆和长期记忆分别存在哪里？用户要求删除记忆时，索引和持久库怎样同步？

#RAG#生成与对话#RAG 记忆模块

项目实战·RAG

第 8 章:多轮对话与记忆管理

匹配正文：…亲眼看到"没记忆,多轮里的'它'就无解;有记忆才接得住" ✓ 看懂记忆模块是什么:它是和检索模块并行的"动态上下文来源" ✓ 分清短期记忆(本次会话)和长期记忆(跨会话、用户画像) ✓ 学会对话历史怎么选、上下文怎么裁剪(截断 vs 摘要) ✓ 理解长期记忆的管理:用户画像、遗忘机制、存储选型 ✓ 讲清 LangChain / LlamaIndex 的记忆方案区别本章按三段式组织,不同基础的读者各取所需: 段落给谁看内容占比 🚀 Part 1 · 主线实战零基础,…

#RAG#检索#项目实战

面试题·Agent· 高德

Agent记忆分层与RAG检索

匹配正文：…记忆体系工作记忆（Working Memory）最近2-4轮对话，直接拼接进prompt 包含当前任务状态、工具调用中间结果短期记忆（Short-term Memory）当前会话内的历史（数小时级）按对话轮次分块，维护时间索引和主题标签长期记忆（Long-term Memory）跨会话的持久化知识（天/周/月级）存储于向量数据库，支持语义检索多维度检索策略维度实现方式权重场景语义相似度对话Embedding + 向量检索（如HNSW）用户询问历史…

#高德#Agent#向量检索

面试题·评估· 得物

AI Agent 四大瓶颈怎么破?

匹配正文：…化格式（ReAct增强）注意力可视化：展示决策时关注的记忆片段和工具文档人机协同确认：高风险操作前请求用户确认，暴露决策逻辑长期记忆瓶颈与改进核心问题上下文窗口硬限制，历史会话无法全量加载向量检索召回率低，关键记忆"丢失" 记忆更新与遗忘策略粗糙改进方向分层记忆架构：工作记忆（上下文）+ 短期记忆（session级向量库）+ 长期记忆（知识图谱+摘要）记忆重要性评分：基于访问频率、用户显式标记、时间衰减综合打分主动记忆整理：离线任务定期合并、摘要、去重历史…

#得物#评估与监控#Agent

面试题·知识图谱· 字节

向量索引 vs 分层存储怎么选？

匹配正文：…缩、时间衰减）工程权衡（延迟vs召回率、存储成本）实际落地经验（如MemGPT、LangChain Memory的实现思路）长期记忆的存储形式 Agent系统的长期记忆通常采用分层混合存储：层级存储形式适用场景工作记忆上下文窗口/Redis 当前对话轮次、临时变量短期记忆向量数据库（Milvus/Pinecone）近期对话Embedding、语义检索长期记忆图数据库（Neo4j）+ 对象存储用户画像、持久化知识、原始对话日志关键设计：原始对话存对…

#字节#Agent 长期记忆#向量索引

面试题·知识图谱· 字节

向量库 vs 知识库 vs 符号记忆？

匹配正文：答案要点区分短期记忆与长期记忆的技术边界向量数据库的embedding检索机制及局限性结构化知识库（知识图谱/数据库）的优缺点外部符号记忆的定义与典型实现三种方案的组合使用策略与选型依据长期记忆的三种主流方案 1. 向量数据库（语义记忆）原理：对话历史、文档等编码为embedding，按语义相似度检索优点：支持模糊匹配、语义关联、非结构化数据缺点：数值/逻辑查询弱，存在幻觉召回，无法精确推理场景：开放域问答、相似案例检索、个性化对话风格学习 2. 结构化知…

#字节#Agent#Agent 长期记忆

项目实战·Agent

第 4 章:多轮对话与长程记忆管理

匹配正文：… 这一章你会学到什么 ✓ 跟着做:用零依赖代码跑通一个「带滑动窗口记忆 + 指代消解」的多轮对话,亲眼看「它」怎么被补全 ✓ 看懂短期记忆 vs 长期记忆的分工,以及为什么「把全部历史塞给模型」是错的 ✓ 掌握短期记忆的三种历史选择策略,以及「截断 vs 摘要」的取舍 ✓ 理解长期记忆:外部记忆库怎么写入 / 检索 / 更新 / 遗忘,以及用户画像怎么做 ✓ 学会多轮指代消解:把「那它呢」补全成一句能独立检索的问题 ✓ 想清记忆和上一章「演进报告 / ReSum」的关系:一个…

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：答案要点区分短期记忆（上下文窗口）与长期记忆（外部存储）的技术路径至少提及2-3种具体架构方案（如Memory Bank、MemGPT、RAG-based Memory）说明记忆检索的关键设计（索引策略、相关性计算、遗忘机制）体现对Agent任务持续性的理解（多轮状态保持、目标追踪）有实际落地考量（延迟、存储成本、一致性）核心思路大模型记忆机制的本质是突破固定上下文窗口的限制，实现信息的跨会话持久化与高效检索。我从三个层面展开：一、架构层：原生上下文扩展长上…

#得物#Agent#大模型记忆机制

Attention 在 Agent 多轮对话有哪些局限?

匹配正文：…模型：RWKV、Mamba，以RNN式隐状态替代KV Cache，支持无限长上下文记忆增强分层记忆：工作记忆（当前上下文）+ 短期记忆（会话摘要）+ 长期记忆（向量数据库检索）显式记忆写入：关键信息（实体、约束、计划）结构化存储，按需检索注入工程策略动态上下文压缩：基于重要性分数的token剪枝、分层摘要（如Hierarchical Attention）检索增强生成：将历史对话编码为向量，实时检索相关片段补充上下文学习建议建议先掌握Attention和Tran…

#字节#淘天#Agent

Agent 组件如何协同完成复杂任务?

匹配正文：…交替，"我想→我做→我观察"循环 ToT（思维树）：多路径探索，保留最优解 2. 记忆模块（Memory）类型功能典型实现短期记忆当前对话上下文、任务状态滑动窗口、摘要压缩长期记忆用户偏好、历史经验、领域知识向量数据库（如Milvus）、知识图谱 3. 工具调用（Tool Use）流程：LLM生成结构化调用指令 → 解析执行外部API → 结果回填上下文关键：Function Calling机制让模型学会"何时调用、传什么参数" 4. 执行与反馈（Act…

面试题·Agent· 高德

Agent记忆分层：摘要与检索协同

匹配正文：核心架构：三层记忆体系工作记忆(Working Memory) → 短期记忆(Short-term) → 长期记忆(Long-term) (当前对话窗口) (小时-天级) (永久存储) 20-100轮摘要+关键事件向量库+结构化存储各层设计要点 1. 工作记忆（热数据）保留原始对话的最近N轮（如50轮）直接注入prompt，保证即时连贯性触发条件：token数>阈值或对话轮数>上限时，触发下沉 2. 短期记忆（温数据）增量摘要：每K轮用轻量模型生成"发生了什么…

#高德#Agent#Agent 记忆管理

Agent 规划记忆工具调用机制

匹配正文：…n-and-Solve 2. 记忆系统（Memory）类型作用实现工作记忆当前对话上下文、中间结果上下文窗口直接承载短期记忆近期多轮会话摘要滑动窗口+LLM压缩长期记忆用户画像、领域知识向量数据库+结构化存储 3. 工具调用（Tool Use）统一接口：{name, description, parameters}标准化Schema 动态发现：MCP协议或类似机制，支持运行时工具注册容错设计：超时重试、降级策略、人工确认兜底 4. 执行与反馈（Ex…

#百度#Agent#Agent 系统设计

Agent 组件如何实现自主决策与学习?

匹配正文：…推理+行动交错）动态调整：根据执行反馈重新规划（如工具调用失败时换备用方案） 2. 记忆（Memory）类型作用典型实现短期记忆当前对话上下文、任务状态滑动窗口、摘要压缩长期记忆历史经验、用户偏好、领域知识向量数据库（如用embedding存成功案例）工作记忆当前步骤的中间结果显式的状态变量 3. 工具调用（Tool Use） Function Calling：LLM生成结构化参数调用外部API（搜索、计算、数据库等）工具选择：根据任务意图匹配最优…

Agent 核心模块怎么协同?

匹配正文：…"，规划为：查天气→分析温度/降雨→给出建议 2. 记忆机制（Memory）职责：状态持久化与上下文管理类型功能典型实现短期记忆当前对话上下文窗口缓存、摘要压缩长期记忆用户偏好、历史经验向量数据库存储+检索工作记忆任务执行中的中间状态结构化变量/数据库 3. 工具调用（Tool Use）职责：扩展LLM能力边界 Function Calling：LLM生成结构化参数，调用外部API（搜索、计算、数据库等）工具注册：通过Schema描述工具功能，让…

Agent 架构怎么从零设计?

匹配正文：…即Prompt工程，需包含使用场景、参数约束、常见错误 3. 记忆三级架构层级存储用途工作记忆当前对话上下文即时推理短期记忆最近N轮摘要会话连贯性长期记忆向量库+知识图谱用户偏好、领域知识 4. 自我反思机制执行后强制验证：结果是否回答原始问题？失败触发重规划，最多3次回退一个关键取舍不追求完全自主，而是"人在环路"的可干预设计——关键决策点保留人工确认，这是落地安全性和可控性的平衡。学习建议建议系统学习该知识点

#百度#Agent#AI Agent 架构设计

面试题·Agent· 腾讯

Agent 核心定义与关键能力

匹配正文：…理将复杂任务拆解为多步骤，动态调整执行路径（如ReAct：Thought→Action→Observation循环）记忆机制短期记忆（对话上下文）+ 长期记忆（向量库存储历史经验）环境感知接收工具返回的结果，形成"执行-观察-再决策"的闭环架构特征用户请求 → 规划模块（Planning）→ 工具选择 → 执行调用 → 观察结果 ↑___________________________________________↓ （反馈循环，可能多轮）控制流：传统模型是…

#腾讯#Agent#Agent 定义

Agent 核心机制怎么工作?

匹配正文：…ents": {"query": "..."}} # 系统执行 → 结果回填 → 模型继续推理 3. 记忆设计类型作用实现短期记忆单轮对话上下文窗口缓存长期记忆跨会话知识积累向量数据库存储+检索 4. 规划能力单Agent：任务分解（将复杂目标拆为子步骤）多Agent：角色分工（规划者、执行者、验证者协作）与RAG的本质区别 RAG Agent 交互方式单次检索+生成多轮工具调用循环决策能力无，被动响应有，主动规划适用场景知识问答复杂任…

Agent 规划记忆工具分工

匹配正文：答案要点明确Agent四大核心组件（规划、记忆、工具、行动）及其功能能区分短期记忆与长期记忆理解ReAct等推理-行动循环机制说明工具调用的实现方式（Function Calling）提及多Agent协作场景 AI Agent系统的核心架构可拆解为四大组件： 1. 规划模块（Planning）将复杂任务拆解为可执行的子步骤常用方案：CoT（思维链）、ReAct（推理+行动交替）、ToT（树状搜索）关键能力：自我反思、错误修正、动态调整计划 2. 记忆模块（Me…

#百度#Agent#Agent 规划记忆工具分工