第 4 章:多轮对话与长程记忆管理

本文目录

📊 学习时长:55-70 分钟 🎯 完成后能力:讲清多轮对话 / 长程任务里记忆怎么管(短期 vs 长期、历史选择、裁剪 vs 摘要、外部记忆与遗忘、指代消解),并能跑通一个带记忆 + 指代消解的多轮对话 demo 🔗 关联面试题:5 道(覆盖 5 个角度,见 Part 3)

这一章你会学到什么

✓ 跟着做:用零依赖代码跑通一个「带滑动窗口记忆 + 指代消解」的多轮对话,亲眼看「它」怎么被补全
✓ 看懂短期记忆 vs 长期记忆的分工,以及为什么「把全部历史塞给模型」是错的
✓ 掌握短期记忆的三种历史选择策略,以及「截断 vs 摘要」的取舍
✓ 理解长期记忆:外部记忆库怎么写入 / 检索 / 更新 / 遗忘,以及用户画像怎么做
✓ 学会多轮指代消解:把「那它呢」补全成一句能独立检索的问题
✓ 想清记忆和上一章「演进报告 / ReSum」的关系:一个管「对话记忆」,一个管「单次调研的工作状态」

本章按三段式组织:

段落给谁看内容占比
🚀 Part 1 · 主线实战 零基础,想先跑起来记忆概念 + 带记忆/指代消解的多轮 demo ~50%
🎯 Part 2 · 面试深度 想讲透、备战面试历史选择 / 裁剪vs摘要 / 长期记忆 / 用户画像 / 存储 + 私货 ~40%
🏆 Part 3 · 验收串题 检验学到位没关联面试题 + 自检清单 ~10%

段落	给谁看	内容	占比
🚀 Part 1 · 主线实战	零基础,想先跑起来	记忆概念 + 带记忆/指代消解的多轮 demo	~50%
🎯 Part 2 · 面试深度	想讲透、备战面试	历史选择 / 裁剪vs摘要 / 长期记忆 / 用户画像 / 存储 + 私货	~40%
🏆 Part 3 · 验收串题	检验学到位没	关联面试题 + 自检清单	~10%

🚀 Part 1 · 主线实战 ｜ ~50% 这部分零依赖,直接跑。你会看到多轮对话里两个绕不开的问题,指代和上下文,怎么被记忆模块解决。

先讲个真实场景(这是本章的「为什么」)

前几章的 Agent,处理的都是「一个问题、一轮调研」。但真实的调研助手是多轮对话的,工程师会接着追问。这时两个问题立刻冒出来:

问题一:指代。 第一轮聊完「Qdrant」,第二轮他问:「那它支持元数据过滤吗?」这句话单独拿去检索,知识库根本不知道「它」是谁,直接抓瞎。

问题二:上下文塞不下。 聊了几十轮之后,如果把所有历史都拼进 prompt,很快就超过模型的上下文窗口;就算没超,塞太多旧的、无关的,反而会干扰当前这一轮的生成(还记得「Lost in the Middle」吗)。

一句话:单轮看检索,多轮看记忆。 记忆模块的核心工作就两件:「选」(哪些历史该带上)和**「补」**(把指代、省略补全成能独立理解的问题)。这一章就讲这两件事。

放大查看图解 ↗

概念 1:短期记忆 vs 长期记忆

记忆分两层,管的东西完全不同:

放大查看图解 ↗

短期记忆:当前这次对话的最近几轮,解决「上下文连贯」(知道刚才聊了啥)。随会话结束而清空。
长期记忆:跨会话持久保存的东西,用户是谁、有什么偏好、历史上问过哪些重要问题。下次再来,系统还「记得」他。存在外部库里,按需检索。

为什么不能「把全部历史都塞给模型」?

新手最容易的想法:把所有历史拼进 prompt 不就行了?两个硬约束让你不能这么干:

放大查看图解 ↗

超窗口:模型一次能读的 token 有上限,对话一长直接超。
Lost in the Middle:就算没超,塞太多内容时,模型对中间部分的注意力会显著下降,关键信息淹没在一堆旧对话里,反而答不好。

所以记忆模块必须有策略地选和裁,而不是无脑全带。

概念 2:指代消解

指代消解,就是结合对话历史,把「它 / 这个 / 那个」这类指代,补全成一句能独立理解、能直接拿去检索的问题。

放大查看图解 ↗

「那它支持元数据过滤吗」→ 补全成 →「那 Qdrant 支持元数据过滤吗」。补全后,这句话不依赖上下文也能检索了。

🛠️ 跟着做:带记忆 + 指代消解的多轮对话

下面这段零依赖代码,实现了一个最朴素的记忆模块:滑动窗口(只保留最近 N 轮,更旧的压成摘要)+ 指代消解(把「它」换成最近提到的实体)。新建 mem_demo.py:

# 零依赖,直接 python mem_demo.py
WINDOW = 2  # 滑动窗口:上下文只保留最近 2 轮,更旧的压成摘要

class Memory:
    def __init__(self):
        self.history = []          # [(用户问, 助手答), ...]
        self.summary = ""          # 挤出窗口的旧轮,压成摘要
        self.last_entity = None     # 最近提到的实体(用于指代消解)

    def add(self, user, bot, entity=None):
        if entity:
            self.last_entity = entity                 # 记住最近的实体
        self.history.append((user, bot))
        while len(self.history) > WINDOW:             # 超窗口 → 最旧一轮挤出、压进摘要
            old_u, _ = self.history.pop(0)
            self.summary += f"用户先前问过「{old_u}」;"

def resolve(query, mem):                              # 指代消解:把"它"换成最近实体
    if "它" in query and mem.last_entity:
        return query.replace("它", mem.last_entity)
    return query

mem = Memory()
mem.add("Qdrant 部署复杂吗?", "Qdrant 单容器即可起,部署很轻。", entity="Qdrant")

q2 = "那它支持元数据过滤吗?"
print("轮2 用户原话:", q2)
print("轮2 指代消解后:", resolve(q2, mem))           # 用最近实体补全「它」
mem.add(q2, "支持,Qdrant 的 payload 过滤很强。")

mem.add("pgvector 呢?", "pgvector 复用 PostgreSQL,中小规模够用。", entity="pgvector")

print("\n=== 第 3 轮后的记忆状态 ===")
print("摘要(被挤出窗口的旧轮):", mem.summary or "(空)")
print("最近", WINDOW, "轮(进上下文):", [u for u, _ in mem.history])
print("最近实体(供指代消解):", mem.last_entity)

运行

python mem_demo.py

你应该看到(确定性输出,你跑出来一模一样):

轮2 用户原话: 那它支持元数据过滤吗?
轮2 指代消解后: 那Qdrant支持元数据过滤吗?

=== 第 3 轮后的记忆状态 ===
摘要(被挤出窗口的旧轮): 用户先前问过「Qdrant 部署复杂吗?」;
最近 2 轮(进上下文): ['那它支持元数据过滤吗?', 'pgvector 呢?']
最近实体(供指代消解): pgvector

看明白了三件事:① 指代被补全了(它 → Qdrant);② 最旧那轮被挤出窗口、压成了摘要;③ 最近实体随对话更新(从 Qdrant 变成 pgvector)。这就是记忆模块「选 + 补」的最小骨架。

🐛 跑不通看这里

「它」没被替换?确认轮 1 的 add 传了 entity="Qdrant",真实系统是用模型 / NER 自动抽实体,这里手动传是为了让你看清机制。

摘要是空的?把 WINDOW 调小(比如 1),或多 add 几轮,旧的才会被挤出。

🛠️ 动手实验:把窗口从 2 改成 1

把 WINDOW = 2 改成 1,再跑。你会看到更多旧轮被压进摘要,进上下文的只剩最近 1 轮。这就是「滑动窗口」在调节「记多少」,窗口越小越省 token、但越容易忘掉刚才的事。这个取舍,就是短期记忆设计的核心。

📌 说清楚:这是教学最小实现。三处简化:① 指代消解只处理「它」、用规则替换(真实系统用小模型 / LLM 做,能处理「这个」「上一个」等各种指代);② 实体靠手动传入(真实系统自动抽取);③ 摘要是字符串拼接(真实系统用 LLM 概括)。机制是真的,工程化见 Part 2 和后面章节。

🧭 你刚才做的,等于真实系统的什么?

你的滑动窗口 + 摘要 = 短期记忆的历史选择 + 裁剪;

你的 resolve() = 指代消解(本质是一种 Query 重写,信息来源是对话历史);

你的 last_entity = 一个极简的对话状态。真实系统会把这套做得更聪明(模型抽实体、LLM 摘要、相关性召回历史)。