搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG Prompt 设计」找到 203 条内容
按专题浏览 →匹配正文:…升 重要性采样:基于点击/停留时长计算行为得分,Top-K检索 任务感知选择:Agent规划时,用当前query检索相关历史(类似RAG) 工程实现:维护双记忆结构 热记忆:最近1-2天行为,全量放入prompt 冷记忆:历史行为向量化存入HNSW索引,按需检索Top-10 三、上下文管理优化 KV Cache复用:对固定历史前缀预计算并缓存,避免重复编码 稀疏注意力:Longformer/BigBird模式,降低O(n^2)复杂度 分页调度:vLLM的PagedAttent…
匹配口述回答:…,每个Agent专注自己的事,理解诉求的只做情感分析和意图识别,查规则的去匹配政策,最后汇总给执行Agent。这样每个Agent的提示词可以很精炼,出错也能定位到具体哪个环节。 这里有个延伸点:什么时候不该拆? 如果任务本身很简单,或者子任务之间耦合太紧密,强行拆成多Agent反而引入通信开销和一致性难题。比如一个简单的FAQ问答,单Agent加[[RAG]]就够,拆成两个Agent反而慢。所以我的判断是:只有当任务存在正交的职责边界且需要持续协作时,才引入多Agent复杂度…
匹配正文:…先用状态机。 工具层:工具 schema、参数校验、权限、超时、幂等、重试、熔断和结果校验。 记忆与知识层:短期状态、长期记忆与 RAG 分开治理,并执行租户隔离和删除策略。 安全与人工层:敏感动作审批、最小权限、提示注入防护和审计。 观测层:记录 trace、模型与 Prompt 版本、工具输入输出、token、延迟、错误码和回退路径。 教学假设:数据分析 Agent 假设系统接收自然语言分析请求。流程可以是:识别数据域 → 检索 schema 和口径 → 生成查询计划 →…
学习内容与项目面试,在同一条路上。