搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG vs 大模型」找到 157 条内容
按专题浏览 →匹配正文:…───────────────────────────────────┤ │ 推理引擎层 │ ReAct/CoT规划器 │ │ (LLM Core) │ 意图识别与槽位填充 │ ├─────────────────────────────────────┤ │ 能力层 │ 工具注册中心 │ │ (Tools) │ 记忆管理(短期/长期) │ │ │ 知识检索(RAG) │ ├─────────────────────────────────────┤ │ 执行层 │ 工具执行…
匹配正文:…w-shot示例:2-3个典型场景的标准推理轨迹 3. 动态上下文层(Runtime Context) 工具描述:仅注入相关工具(RAG检索筛选),非全量 历史轨迹:关键节点摘要 + 最近3轮完整对话 状态变量:当前步骤数、已用token、用户偏好 三、关键落地技巧 问题 解法 上下文过长 滑动窗口 + 关键信息提取(LLM二次压缩) 工具选择错误 增加工具使用条件说明 + 负例Few-shot 循环/死锁 Prompt显式限制最大步数 + 强制终止规则 幻觉累积 Obser…
匹配正文:…1h 强一致(版本控制) 低频高危(定价策略) 人工审核+灰度发布 天级 强一致 落地挑战与应对 延迟与效果权衡 问题:向量检索+LLM生成链路过长(>500ms) 解法:检索结果缓存(LRU+语义去重);预计算热门查询的RAG结果;异步预填充 一致性保障 向量库与实时库的数据对齐:统一事件时间戳,检索时带valid_time过滤 模型幻觉vs知识冲突:显式标注知识来源,冲突时优先级排序(实时库 > 向量库 > 模型参数) 效果评估闭环 离线:分布漂移前后的KL散度变化、检索…
学习内容与项目面试,在同一条路上。