页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「LLM Agent 工具调用」找到 222 条内容
按专题浏览 →匹配正文：…互设计：澄清请求应携带上下文（"地图服务暂不可用，您指的是A商场还是B餐厅？"），避免重复提问。 五、工程落地要点 可观测性：每个工具调用埋点（latency、status、retry_count） 配置化：重试参数、降级开关支持动态调整 兜底Prompt：明确告知LLM当前处于降级状态，约束其生成行为 学习建议 建议掌握常见网络异常处理方法，理解重试与降级的设计权衡，结合实际场景练习容错流程设计。 参考资料 HTTP语义RFC9110 HTTP429与Retry-After…
匹配口述回答：…500ms的，别让它阻塞主链路。动态扩缩容按QPS来，冷启动靠预置实例。 这里其实有个更深的点：缓存和并行只能解决一部分问题，如果LLM生成本身慢，那还得从模型层面优化，比如用更小的模型或者量化。我一般上线前会先埋点，定位到底是LLM生成慢、工具调用慢还是网络传输慢，再针对性优化。 所以我的整体判断是：对于高频请求的Agent，我会先做依赖分析和延迟埋点，然后并行化独立的工具，对重复请求做多级缓存，再配合优先级调度和资源隔离。如果只让我选一个最优先的，我倾向先做缓存，因为性价…
核心问题分析 RAG与Agent结合时，延迟和正确率问题呈乘法放大效应——Agent的多步决策特性使RAG缺陷被反复累积。 一、响应延迟的成因与优化 延迟来源 具体成因 优化方案 检索层 向量库冷启动、跨地域查询、Embedding计算 预加载热数据到内存；本地缓存高频Query的Embedding；采用HNSW+量化索引 Agent决策层 ReAct多轮迭代、工具调用链过长、LLM推理本身 设置最大迭代阈值；并行化独立工具调用；用小模型做意图路由，大模型仅做最终生成 编排开…
学习内容与项目面试，在同一条路上。