页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「大模型 Agent 系统」找到 296 条内容
按专题浏览 →匹配正文：…/ TensorRT-LLM 已经做好了,你通常是用而不是自己写。本章帮你理解「它为你解决了什么」。 🧭 你刚才看到的,等于真实系统的什么? 你模拟的「槽位」= GPU 上同时在解码的请求位置。真实系统里,槽位数受显存(尤其 KV Cache)限制,请求长度事先不知道。但「槽位一空就补人、别让 GPU 闲着」这个核心思想,和 vLLM 的 continuous batching 完全一致。 🎯 Part 2 · 面试深度 ｜ ~45% 这部分把推理优化和 Agent 上线…
匹配正文：…当前配置。路由目的与工具能力不匹配，需要在执行前拒绝或建议换工具。 Python 的表达式合法，但输入数据来自尚未核验的搜索摘要。系统应阻止把候选线索包装成精确计算。 语义校验不必全部依赖另一个大模型。高风险、稳定规则适合程序判断；开放语义可以用小模型或主模型给出候选，再通过状态和规则约束。 错误返回应该怎样写，模型才会修？ “Invalid arguments”信息太少。 一个可修复错误应包含错误类别、字段路径、当前值、期望约束和下一步建议。 例如：“参数 top_k 超过…
学习内容与项目面试，在同一条路上。
匹配正文：Deep Research 的一次回答，可能依赖多次搜索、页面访问和计算。 链路一旦足够长，工具失败就会成为系统必须面对的正常状态，无法继续按偶发例外处理。 Search 可能超时或限流，Visit 可能遇到页面不存在、访问受限或正文抽取为空，Scholar 可能只返回不完整元数据，Python 可能因为输入、资源或沙箱规则失败。 报错至少是可见的；更危险的是系统“为了继续”掩盖错误。Agent 可能把搜索摘要当正文，换一个不相关页面凑证据，重复调用同一工具，甚至在没有资料时…