页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「Agent 调用安全」找到 4 条内容
按专题浏览 →匹配题目：在AI Agent系统中，如何设计和实现可供Agent调用的外部工具（如搜索、计算器、数据库接口）？请说明工具定义格式、注册机制与调用安全控制。
匹配追问：场景切入 假设你在做一个智能客服 agent，它需要调用查询订单、修改地址、退款等多个工具。你怎么设计一个工具系统，让 agent 能灵活地添加新的工具，又保证调用安全，比如防止它误删用户数据？ 层层追问 Agent 要调用外部工具，你一般怎么描述一个工具让它理解？……如果工具数量多了，怎么管理它们的版本？……那权限呢，怎么控制哪些 agent 能用哪些工具？ 直球架构 设计一个可扩展、安全且易维护的 Agent 工具系统，包括工具注册、描述规范、权限控制、版本管理，以及如何…
匹配口述回答：…文窗口长度，历史对话太多会超出模型限制，所以我用摘要压缩，必要时用 [[Sliding Window]] 只保留最近几轮。二是工具调用安全，敏感操作比如退款、修改订单，我会加人工确认沙箱，权限管控严格。三是Prompt版本管理，关键业务Prompt入版本库，上线前A/B测试，灰度切换。 说到这，有个延伸点值得讨论：Agent的长期记忆和短期记忆怎么协同，比如当长期记忆检索结果和当前对话冲突时，模型怎么抉择？ 总的来说，我更倾向轻量级Agent设计，不堆太多层，够用就好。因为层…
学习内容与项目面试，在同一条路上。