页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「检索」找到 638 条内容
按专题浏览 →匹配正文：…，缺乏显式推理过程，黑盒决策 相比纯提示工程的优势 维度 纯提示工程 ReAct 信息来源 静态上下文，一次性输入 动态获取，按需检索/计算 错误处理 错就错，无法中途修正 观察反馈→重新推理→调整策略 可解释性 黑盒输出 显式思维链，可追溯决策路径 复杂任务 长上下文易迷失 分步拆解，每步聚焦子目标 关键机制 1. 自我验证与修正 Thought: 用户问2024年某政策，我的知识截止2023，需要搜索 Action: Search[2024年新能源汽车购置税政策] Obs…
匹配正文：…出映射 TTL+版本号，高频工具设30s-5min LLM输出缓存 相似query的完整推理链 语义相似度匹配，embedding检索 前缀缓存 多轮对话的KV Cache vLLM自动管理 3. 请求调度优化 优先级队列：区分实时/异步任务，VIP用户走独立队列 批量合并：相同工具的请求攒批（batch=4-8），提升GPU利用率 背压机制：队列长度超阈值时快速拒绝或降级 4. 资源分配 工具分级：慢工具（>500ms）单独部署，避免阻塞主链路 动态扩缩容：工具服务按QPS…
匹配正文：…率问题呈乘法放大效应——Agent的多步决策特性使RAG缺陷被反复累积。 一、响应延迟的成因与优化 延迟来源 具体成因 优化方案 检索层 向量库冷启动、跨地域查询、Embedding计算 预加载热数据到内存；本地缓存高频Query的Embedding；采用HNSW+量化索引 Agent决策层 ReAct多轮迭代、工具调用链过长、LLM推理本身 设置最大迭代阈值；并行化独立工具调用；用小模型做意图路由，大模型仅做最终生成 编排开销 服务间RPC、序列化、状态同步 同机部署检索与…
学习内容与项目面试，在同一条路上。