面试题 · 多模态
搜索「RAG 评估体系」匹配到口述回答，相关段落已展开。查看匹配内容 ↓
请系统阐述智能Agent在大模型应用中的主要优势与局限性，并结合当前技术趋势分析其未来发展方向和潜在挑战。
1. 从"问答"到"执行"的跃迁
2. 关键能力拆解
| 能力 | 说明 |
|---|---|
| 任务分解 |
学习内容与项目面试，在同一条路上。
| 将复杂目标拆解为可执行的子步骤 |
| 动态规划 | 根据中间结果调整执行路径（ReAct模式） |
| 工具编排 | 灵活组合多源工具，而非固定pipeline |
| 多轮决策 | 具备状态记忆，支持长程交互 |
可靠性瓶颈
工程痛点
发展方向
核心挑战
个人判断：未来1-2年，垂直领域的轻量Agent（如客服、数据分析）会先落地，通用Agent仍需突破可靠性瓶颈。
场景切入
假设你要做一个电商智能客服，用户说‘帮我查一下上周的订单，然后退款’，系统得自己去查订单、调用退款API。你觉得这种Agent跟普通的RAG问答比，优势在哪？实际落地时又怕出什么问题？
层层追问
现在大模型做任务型对话，你觉得它比RAG强在哪里？……那如果让Agent自己拆步骤、调工具，会不会容易出错？……怎么保证它不会越权或者费用失控？
直球架构
从系统架构角度，分析一下智能Agent相比RAG的核心优势，以及当前的主要局限。再结合Multi-Agent、具身智能这些趋势，说说未来方向和潜在挑战。
这道题其实是在问，[[Agent]] 到底解决了 [[RAG]] 解决不了的问题，以及它自己的坑在哪。我先说清楚边界：RAG 适合的是信息密集但流程固定的场景，比如企业 SOP 查询，你问它退货运费谁承担，它把政策文档拉出来生成回答就行。但 Agent 呢，它做的是从理解到规划到执行再到反思的闭环，说白了，它不满足于回答，它要替你把事办了。举个例子，客服场景里用户说“我买了两个手机，其中一个有划痕，我要退那个有问题的”，RAG 只能解释退货政策，但 Agent 能自己调订单 API 查出两个订单号，再调退货接口创建售后单，中间还可能发现一个订单已过退货期，它得动态调整策略，比如转补偿方案。这个能力差异就是本质区别。
具体说一下 Agent 的核心优势。首先是任务分解，把“处理这个退货”拆成查订单、验证时间、生成单号、通知仓库。其次是工具编排，它不像固定 pipeline 那样写死调用顺序，而是根据中间结果动态选，比如发现用户是会员，就额外调一个免运费券接口。再一个是多轮决策，它能记住前面说过什么，比如用户说“我不要换货，就要退”，后面就不会再问是否换货。这些能力加在一起，让 Agent 从问答工具变成了执行者。
但这里有个大坑，就是 可靠性会级联放大。你第一步规划错了，后面全崩。比如 [[Function Calling]] 时参数格式写错，JSON 里多了一个逗号，整个工具调用就失败，而且 Agent 可能自己不会修，直接卡死。再一个，延迟和成本是硬伤。一次任务可能要调 LLM 三四次甚至更多，每次几百毫秒，加上外部 API 耗时，响应轻松过秒，用户体验很难受。成本上，Token 消耗随着步骤指数增长，商业化场景下很难承受。还有一个安全边界的问题：Agent 自主调用工具，万一它自己去执行了删除订单的接口怎么办？你很难在 prompt 里把所有边界都定义清楚，常见失败场景就是 Agent 越权操作。
所以落地时我特别关注前提条件：工具接口必须是幂等的，而且要有审核层。比如写操作先走审批，读操作才放行。不满足这些，Agent 上线就是定时炸弹。
再说说技术趋势。现在比较热的是 [[Multi-Agent]]，比如 MetaGPT 那种，让一个 Agent 当产品经理，一个当工程师，一个当测试，模拟团队协作。这个思路挺好，但工程复杂度也上来了，Agent 之间通信协议、任务分配、冲突解决，都是新问题。另一个方向是 Agent 即服务 AaaS，就是把工具市场标准化，让 Agent 能像装 App 一样调第三方能力。还有跟具身智能结合，让 Agent 控制机器人，从数字世界走到物理世界。
这里我提一个现在特别头疼的问题：评估体系。现有 benchmark 都是单任务，比如测工具调用准确率，但端到端流程的评估几乎没有。你怎么衡量一个 Agent 在 10 步任务里表现好不好？每一步的中间结果怎么打分？这个问题不解决，Agent 的迭代就只能靠人工看日志，效率极低。
所以我的判断是，未来一到两年，垂直领域的轻量 Agent 会先落地，比如客服、数据分析这些场景，因为流程相对固定，容错率高。但通用 Agent 还得等，核心是可靠性瓶颈和评估体系这两个坎必须跨过去。我更倾向先把 Agent 看成 RAG 的增强插件，在 RAG 搞不定的执行环节引入它，而不是一上来就搞全自主的 Agent 系统。