搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG 评估」找到 315 条内容
按专题浏览 →匹配口述回答:…用token消耗大,响应时间激增。还有安全边界,工具权限管控、沙箱隔离机制还不成熟,万一Agent调了不该调的API就麻烦了。另外评估困难,端到端效果很难量化,缺乏统一benchmark。 举个例子,自动化运维场景,Agent可以做故障根因分析。比如系统告警了,Agent先感知到告警信息,然后规划:查日志、查指标、查变更记录,每一步调用对应工具,最后综合判断根因。这听着很美好,但落地前提是工具接口稳定、权限严格控制。常见失败场景是Agent查日志时返回数据太大,模型上下文窗口…
匹配正文:…导模型理解任务模式;关键在示例分布覆盖边缘case 动态示例检索:用Embedding从示例库召回相似case,比静态示例更精准(RAG+Prompt结合) 三、推理增强 CoT(思维链):在示例中展示"Let's think step by step"的推理过程,激发模型逐步思考,适合数学、逻辑题 Self-Consistency:对同一问题采样多条推理路径,投票取多数答案,降低单条CoT的随机性 ToT(思维树):维护多条推理分支,用评估函数剪枝/扩展,适合需要探索的复杂…
匹配正文:…并行执行子任务,通过消息总线通信 记忆机制设计 短期记忆:对话上下文窗口管理,关键信息提取 长期记忆:向量数据库存储历史经验,支持RAG式检索 工作记忆:当前任务相关的临时状态维护 推理策略优化 推理范式选择 CoT(思维链):复杂推理任务,显式生成中间步骤 ReAct:需要工具调用的场景,推理与行动交替进行 ToT(思维树):多路径探索,用投票或评估选择最优解 效率优化 自适应推理深度:简单任务用单步CoT,复杂任务扩展推理步数 推理预算控制:设置token上限或调用次数阈…
学习内容与项目面试,在同一条路上。