搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「大模型 Agent 系统」找到 296 条内容
按专题浏览 →匹配追问:…单”,Agent需要调用订单API。你会怎么设计这个Agent的整体架构?从感知输入到最终回复,有哪些关键层? 层层追问 你在设计Agent的时候,一般怎么组织它的能力?……如果Agent需要调用多个工具,怎么让LLM知道什么时候该用哪个?……那如果工具调用失败了,Agent能自己恢复吗?……再往细了说,给LLM的prompt里,工具描述怎么写才不容易出错? 直球架构 直接讲一下设计一个Agent系统时,从整体架构到内部prompt设计,应该遵循哪些原则和方法?比如架构分几层…
匹配口述回答:…缩如果删掉关键约束,模型会突然决策变差;长期记忆如果没有时效和权限过滤,还可能拿到过期或不该看的信息。 第四类是模型服务层,比如 LLM 首 token 延迟变高、队列堆积、限流、输出格式不稳定。Agent 是多次调用模型的系统,一个请求里可能调用好几轮,所以模型服务的小抖动会被放大。 监控体系我会分三层。基础设施层看 GPU 利用率、队列长度、模型调用延迟、错误率。Agent 运行时层看单任务迭代次数、工具调用次数、工具成功率、上下文 token 数、重试次数、循环中断次数…
学习内容与项目面试,在同一条路上。
匹配标题与标签:Agent 短任务和长任务怎么记?工作记忆、长期记忆与任务状态怎样分层 从当前上下文、工作记忆、长任务状态与 Checkpoint 到跨会话长期记忆,讲清窗口、摘要、检索、更新、冲突、遗忘和隐私。 Agent Agent 记忆与存储 Agent 长期记忆设计 Agent 短期记忆 Agent 任务状态 Agent Memory 面试题 大模型记忆系统