面试题 · Agent
搜索「LLM 评测」匹配到口述回答，相关段落已展开。查看匹配内容 ↓
请结合当前技术进展，谈谈你对AI Agent发展的整体趋势的理解，并分析其在实际应用中面临的主要技术与工程挑战。
1. 架构演进三阶段
2. 技术进展亮点
| 模块 | 关键进展 |
|---|
按学习路线查看教程、项目和面试题。
| 规划 | 从CoT到ToT（思维树），再到基于LLM的MCTS搜索 |
| 记忆 | 短期工作记忆（上下文压缩）+ 长期向量记忆 + 知识图谱结构化记忆 |
| 工具调用 | Function Calling标准化，MCP协议推动工具生态互通 |
| 安全 | 沙箱执行、权限分级、人机协同确认机制 |
技术层面
工程层面
当前Agent处于"Demo惊艳、量产困难"阶段。短期看，人机协同的半自主模式（Copilot形态）比全自主更可行；长期需突破世界模型和因果推理能力，才能真正实现复杂任务闭环。
场景切入
假设你做电商客服Agent，用户问完订单状态，过了一会又说“帮我退款”，中间还聊了别的。你现在的Agent能自己判断该调退款接口还是先确认吗？这种多步工具调用的场景，你觉得当前Agent落地的最大瓶颈在哪？
层层追问
你理解的AI Agent现在发展到什么阶段了？……单Agent能力越来越强，但好像一放到真实业务里就各种问题。你觉得多Agent协作是不是必然方向？……那从技术到工程，真正卡住落地的关键挑战有哪些？
直球架构
结合最近技术进展，说说AI Agent的整体趋势，并重点分析它在实际应用中面临的主要技术和工程挑战。比如规划可靠性、延迟成本、评估困难这些，你具体怎么看？
好，这道题我觉得本质是在问：[[Agent]]从Demo到量产，到底卡在哪儿了？不是技术能不能做到，而是怎么在真实业务里稳定、低成本地跑起来。我分两块说：趋势和挑战。
先说趋势。整体上是从“单Agent能力增强”走向“多Agent协作”。单Agent这块，早期是简单的[[ReAct]]模式，就是推理加行动循环。现在呢，规划能力进化很快，从[[Chain-of-Thought]]到[[Tree-of-Thoughts]]，再到基于LLM的MCTS搜索，说白了就是让Agent不只走一条路，而是像下围棋一样，模拟多条路径再选最优。记忆方面，短期靠上下文压缩，长期靠[[向量数据库]]加[[知识图谱]]，把结构化知识也管起来。工具调用这块，[[Function Calling]]已经标准化了，最近[[MCP]]协议出来，工具生态互通性会好很多。
多Agent协作是另一个方向，比如AutoGen、MetaGPT这些框架，把任务拆成角色分工，一个Agent写代码，另一个测试，第三个做部署，它们之间定好通信协议。这个模式特别适合复杂任务，但有个坑：协调成本。如果任务简单，强行上多Agent反而增加延迟和失败率。所以我会画一条边界：单Agent能搞定的，绝不拆成多Agent，只有任务本身天然需要多角色、多步骤协作时，比如软件开发或科研辅助，才用多Agent。
举个例子，客服退款场景。一个Agent处理退款，需要调用订单查询、库存检查、规则匹配、支付回滚好几个工具。如果单Agent做，规划链一长就容易出错，比如先查了库存，再查订单，但订单状态变了，前面查的库存就废了。这种时候，多Agent协作就更有优势：一个Agent专门查订单，另一个算退款金额，第三个执行退款，各自维护状态，通过消息同步。但前提是通信协议要可靠，否则一个Agent发错消息，全乱套。
接下来是核心挑战，技术和工程都有。技术层面，规划可靠性还是老大难。长程任务错误累积，一步错步步错，尤其在复杂约束下，最优解搜索本质上是NP-hard的。工具调用也有模糊地带：LLM有时候不知道该用工具还是直接回答，选错工具的概率不低。多Agent协调里，目标冲突和责任归属很难理清，两个Agent都觉得自己对，怎么办？
工程挑战更现实。最痛的是延迟和成本的矛盾。多轮工具调用加推理链，响应时间轻松上秒级，Tree-of-Thoughts搜索更放大延迟。Token消耗也很难控制，一个复杂任务可能烧掉几万Token。另一个大问题是可观测性：Agent决策是个黑盒，出错了很难定位是规划错了、工具返回错了、还是模型[[幻觉]]。生产环境要SLO，没有可观测性根本不敢上线。
所以落地时，我特别关注评估困境。任务完成率、用户满意度、成本效率，这几个目标经常冲突，追求完成率就得让Agent多试几次，但成本就上去了。目前没有统一评测标准，大家都是自己定指标。
其实这里有个更深的问题：Agent的“世界模型”和“因果推理”能力还很弱。比如，如果Agent不理解“退款后库存会回滚”这个因果关系，它可能做出错误决策。短期我更倾向人机协同的半自主模式，就是Copilot形态，Agent给出建议，人来做最终决策。这样既提升效率，又把风险控制在可接受范围。
总的来说，我的判断是：当前Agent处于Demo惊艳、量产困难阶段。全自主Agent在开放场景还不太靠谱，但限定领域的半自主Agent已经能落地了。如果让我选，我会优先解决可观测性和评估问题，再逐步提升自主度。