搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding 质量」找到 400 条内容
按专题浏览 →匹配正文:…对比 维度 SFT RAG 知识更新灵活性 差。需重新训练,成本高、周期长 优。知识库热更新,分钟级生效 推理准确性 依赖训练数据质量,易幻觉 可控。检索结果可溯源、可干预 部署复杂度 相对简单,单模型推理 复杂。需向量库+检索+重排序+生成多模块 泛化能力 强。内化知识,复杂推理更连贯 弱。依赖检索质量,知识片段间推理易断裂 性能上限分析 SFT上限:受限于参数容量和训练数据天花板。模型无法记住无限知识,且知识冲突时易产生幻觉。适合模式学习(风格、格式、推理链)而非事实记忆…
匹配正文:…的工具(计算器、搜索引擎、数据库) 关键:训练模型识别"知识边界",对不确定信息主动触发检索 二、训练策略层面 SFT阶段 构造高质量事实性数据集:引用来源明确、可验证的问答对 引入"拒绝回答"样本,训练模型在不确定时表达不确定性 RLHF/DPO优化 奖励模型需加入事实准确性维度,不仅看流畅度 使用RAG增强的偏好数据:对比"有检索支持的回答"vs"纯参数记忆回答" 三、推理优化层面 解码策略 约束解码:用知识图谱或检索结果约束token生成空间 Self-Consiste…
匹配正文:…纯对话任务可粗粒度 三、上下文建模:状态追踪机制 结构化状态表示:将历史工具返回、中间结论编码为模型易解析的格式(JSON/XML嵌入Prompt) 位置敏感设计:关键信息(如最新Observation)放在Prompt尾部,利用位置偏置 截断策略:超长上下文时,保留摘要而非简单截断——需同步训练摘要模块 四、质量验证:动态执行闭环 训练数据必须通过真实执行验证: 工具调用是否可解析执行 执行结果与标注Observation是否一致 多轮后是否收敛到正确终态 数据迭代:建立"…
学习内容与项目面试,在同一条路上。