面试题 · Prompt
搜索「LLM API 调用」匹配到口述回答，相关段落已展开。查看匹配内容 ↓
请解释什么是AI Agent，并描述设计一个具备任务规划、工具调用和记忆能力的智能Agent的关键组件与实现思路。
AI Agent 是以大模型为"大脑"的自主决策系统，与传统LLM的关键区别在于：LLM是"问-答"的单轮响应，而Agent能自主感知环境、规划任务、调用工具并持续迭代，直到完成目标。
学习内容与项目面试，在同一条路上。
| 类型 | 作用 | 实现方式 |
|---|---|---|
| 短期记忆 | 当前对话上下文 | 滑动窗口的Conversation Buffer |
| 长期记忆 | 跨会话知识积累 | 向量数据库（如Milvus/Chroma）+ Embedding检索 |
| 实体记忆 | 关键信息抽取 | 结构化存储（知识图谱/数据库） |
用户输入 → 规划模块拆解任务 → 循环执行（推理→选工具→调用→观察）
↓
记忆模块实时读写 ← 完成/失败判断 → 输出结果关键设计：设置最大迭代次数防止死循环，引入人类确认节点处理高风险操作。
场景切入
假设你在做一个电商客服助手，用户说“帮我查上周的订单，然后退款”。这个助手不能只回答一次，得自己拆任务、查订单、执行退款。你会怎么设计这么一个自主决策的系统？
层层追问
大模型现在能做很多事，但一般都是一问一答。如果想让模型自己规划步骤、调用工具、记住之前做过什么……你觉得核心要加哪些东西？……那这些组件具体怎么配合，能举个例子吗？
直球架构
请解释AI Agent的定义，并设计一个具备任务规划、工具调用和记忆能力的智能Agent。关键组件有哪些？实现思路是什么？比如如何避免死循环、怎么管理短期和长期记忆。
这道题其实是在问，怎么让大模型从一次性的问答，变成一个能主动干活、持续迭代的决策系统。我理解AI [[Agent]]的核心，就是用LLM当大脑，加上规划、工具、记忆这三个模块，让它能自己拆解任务、调用外部能力、记住上下文，最终完成一个目标，而不是只回一句话。
具体说一下三个组件。先说任务规划，这是Agent的灵魂。纯靠LLM直接输出最终答案，面对复杂任务很容易跑偏。所以我会用**[[ReAct]]模式**，就是推理和行动交替循环。每一步模型先想当前要做什么推理，然后决定调用哪个工具，拿到观察结果后再想下一步。这样就能把一个大问题拆成多个小步骤。实现上，我会在[[系统提示]]里给一个结构化的few-shot示例，要求输出格式是JSON，包含thought、action、action_input和observation字段。这样模型输出的格式可控，后面好解析。另外，[[CoT]]思维链也可以结合进去，让模型在thought字段里做逐步推理。
再说工具调用。光会规划没用，得能真正干活。这里我采用[[Function Calling]]这种标准化协议，每个工具都要定义好名称、描述和参数Schema，用JSON Schema描述。模型根据用户意图和当前状态，生成一个函数调用请求，系统路由到对应的函数去执行，比如查数据库、发API请求，然后把结果返回给模型继续决策。这里有个坑：工具的描述必须清晰准确，否则模型可能选错工具。另外，工具返回的结果也可能有噪声，所以我会在系统里加一层简单的校验，比如检查返回格式是否合法。
然后是记忆系统。Agent不能做完就忘，尤其多轮对话或长期任务。我把记忆分成两层。短期记忆就是当前对话的上下文，用[[滑动窗口]]，比如保留最近的10轮对话，避免token超限。长期记忆用于跨会话的知识积累，比如用户的历史偏好或之前任务的结果。我会用[[向量数据库]]，把关键信息[[embedding]]后存进去，需要时做相似度检索。实现上可以用Chroma或Milvus，检索时结合时间戳过滤，保证时效性。
举个例子，一个客服退款Agent。用户说“我上周买的订单号12345的商品坏了，要退款”。Agent先规划：第一步，调用订单查询工具获取订单详情；第二步，根据商品状态和退款政策判断是否可退；第三步，调用退款接口。每一步都是ReAct循环。短期记忆记住当前对话的上下文，长期记忆可能记住这个用户之前有过类似投诉，可以更快处理。
最后说落地风险。首先，死循环是大问题。如果模型反复调用同一个工具，或者推理陷入死胡同，必须设最大迭代次数，比如10步，超时强制退出并返回当前结果。其次，工具调用本身可能失败，比如接口超时或返回错误，所以要有重试机制和降级策略，比如重试3次后返回默认结果。还有，长期记忆的检索质量直接影响效果，如果embedding模型选得不好，或者向量数据库索引参数没调好，可能召回不相关的内容，反而误导Agent。所以上线前我会用一批标注好的query做召回率测试，确保Recall@K达标。
另外，我最近也在思考，如果Agent需要同时处理多个独立子任务，比如客服既要查订单又要查物流，那用单Agent串行效率太低了。可能得引入多Agent协作，每个Agent负责一个领域，再有个协调Agent调度。不过这样通信成本和一致性控制会更复杂，这块我还在摸索。
总的来说，我会把Agent看成是LLM能力的延伸，核心是让模型从被动回答变成主动执行。但前提是工具可靠、记忆准确、有安全兜底。否则看起来智能，实际上一用就崩。