搜索大模型内容

架构与训练怎么提升多轮一致性?

匹配正文：…示显式记忆机制短期记忆（Context Window）：最近K轮完整对话长期记忆（External Memory）：关键信息向量库（摘要、实体、用户画像）记忆写入：每轮用轻量encoder提取关键信息，更新至FAISS/HNSW索引记忆读取：当前query检索Top-N相关记忆，拼接至输入二、训练策略优化多阶段训练阶段目标数据特点预训练长文档建模书籍、长文章，4K→32K→128K渐进扩展 SFT 对话能力高质量多轮数据，平均10-20轮，含角色一…

← 上一页第 15 / 24 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#模型微调#多轮对话一致性

RAG检索偏差怎么缓解?

匹配正文：问题本质新文档与历史文档的分布差异会导致：① embedding空间不对齐（语义相近但向量距离远）；② 检索结果被历史文档主导（索引偏置）；③ 相关性打分失效。技术策略 1. 动态索引与增量更新新文档单独建索引，检索时多路召回（历史索引+增量索引），结果融合排序美团外卖场景：新商家/新菜品实时入增量索引，避免全量重建延迟 2. 查询重写与扩展用LLM将用户query改写为多个视角（时间敏感型、通用型），分别检索后聚合例："附近好吃的" → 扩展为"2024新店推荐…

#美团#模型微调#RAG检索偏差

Tool Calling 技术路径怎么选?

匹配正文：一、三大技术路径对比方法核心机制适用场景优劣势提示工程在prompt中嵌入工具描述（JSON Schema），靠ICL能力生成调用工具少、调用简单、快速上线零成本，但复杂场景易幻觉、格式不稳定微调增强用<tool_call>标注数据SFT，训练模型输出结构化调用工具多、领域专用、高稳定性要求准确率高，但需标注数据、灵活性差代理框架 ReAct/Plan-and-Execute循环，LLM作为推理引擎决策多步推理、动态规划、复杂Agent 可解释性强…

#百度#模型微调#Tool Calling 实现

Reranker 训练数据怎么构造?

匹配正文：…确认的支持证据、可靠点击或业务结果，但点击日志必须校正位置偏置和曝光偏置。易负样本用于学习基本主题边界；难负样本应从 BM25、向量召回或旧 Reranker 的高分误召回中挖掘。难负样本必须复核假阴性，避免把实际相关文档当负样本。批内负样本也要防止不同 query 共享答案导致误标。 3. 数据切分与去泄漏按 query、文档来源、时间或用户场景切分训练集和评测集，避免同一问题改写、近重复文档或同一事件跨集合泄漏。线上日志应保留采样策略、召回器版本和曝光位置，便于重放…

#美团#重排与优化#Reranker 训练数据

面试题·模型微调· 联通

RAG/蒸馏/微调怎么选?

匹配正文：…需针对性选择。主流技术方法 1. 检索增强（RAG）核心思路：外接知识库，将生成约束在检索到的证据上标准流程：查询改写 → 向量检索 → 重排序 → 上下文增强生成关键优化：多路召回、HyDE（假设文档嵌入）、Self-RAG（反思token）局限：检索失败时幻觉反而加重，需配合置信度校准 2. 微调策略事实性SFT：用高质量QA对训练，强化"不知道就拒绝" 偏好对齐：RLHF/DPO中引入事实性奖励，惩罚幻觉输出知识蒸馏：从大模型蒸馏事实性强的推理链到小模型 …

#联通#大模型幻觉缓解#检索增强

面试题·模型微调· AIlab

RAG 检索精度提升的三大陷阱

匹配正文：…、稀疏/稠密/混合召回。只有正确文档已经进入候选集时，Cross-Encoder 等重排器才可能改善高位排序；否则应先修召回。 Embedding 微调、难负样本和索引参数必须分别做消融，避免同时改动后无法归因。生成层对候选证据做去重、冲突检测、上下文预算和位置安排。 Prompt 明确证据边界、引用格式和证据不足时的行为。分开测答案正确性、引用支持率、faithfulness、覆盖率与拒答，不能只看语言流畅度。高风险输出可增加规则、NLI/验证器或人工确认。系统…

#AIlab#检索器优化#RAG 优化

RAG 工作原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程：索引-检索-生成三阶段向量检索与语义匹配原理关键优化技术（分块策略、重排序、混合检索） RAG vs 微调的选择场景实际落地中的挑战与解决方案一、RAG核心工作原理 RAG = 检索（Retrieval）+ 生成（Generation），解决大模型知识时效性和幻觉问题。三阶段流程：索引阶段：文档切分 → Embedding编码 → 向量数据库入库检索阶段：用户Query向量化 → 相似度搜索 → Top-K召回生成阶段：Query +…

#字节#RAG 系统架构#RAG 工作原理

#百度#RAG 端到端工作流程#RAG 从查询到答案怎么工作？完整流程与可靠性边界

RAG 端到端工作流程

匹配正文：答案要点 RAG核心原理：检索+生成的两阶段架构系统组件：索引模块、检索模块、生成模块工作流程：查询向量化、相似度检索、上下文拼接、LLM生成核心优势：缓解幻觉、知识实时更新、可溯源、降低微调成本基本原理 RAG（Retrieval-Augmented Generation）将外部知识检索与大模型生成结合，解决纯生成模型的知识截止和幻觉问题。核心思想：不依赖模型参数记忆知识，而是动态检索相关文档作为上下文，让模型基于检索结果生成回答。系统架构模块功能索引模块…

RAG 技术原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程（索引-检索-生成）的完整理解向量数据库选型与优化要点检索策略（稠密/稀疏/混合）的权衡实际落地中的关键挑战（幻觉、时效性、多跳推理） RAG与微调的结合思路一、技术原理 RAG的核心思想：用外部知识弥补大模型的知识截止和幻觉问题，把LLM从"闭卷考试"变成"开卷考试"。标准流程三步走：索引（Indexing）：文档切分→Embedding编码→向量库存储检索（Retrieval）：Query向量化→相似度搜索→Top-K召回生成（Ge…

#字节#RAG 最佳实践#RAG 技术原理

领域RAG应用链路怎么搭?

匹配正文：答案要点领域数据清洗与结构化（非结构化文档解析、表格/图表处理、领域术语标准化） Embedding模型选型与微调（通用vs领域模型、对比学习微调）检索架构设计（多路召回、重排序、查询改写）生成环节优化（Prompt工程、上下文压缩、引用溯源）端到端评估体系（检索准确率、生成忠实度、领域专家评估）一、数据准备：领域知识工程化文档解析与结构化非结构化：PDF/Word用Unstructured/MinerU解析，保留标题层级、表格结构多模态：医疗影像报告需OCR…

#字节#领域 RAG#RAG应用搭建

RAG 检索噪声 3 大策略

匹配正文：答案要点数据构建：文档切分策略、元数据标注、负样本构造检索优化：混合检索、查询改写、Embedding微调后处理：重排序模型、上下文压缩、置信度过滤评估数据集：MS MARCO、Natural Questions、HotpotQA、自建业务数据集数据构建层面文档切分优化按语义边界切分（标题、段落），避免硬截断；重叠窗口保留上下文连贯性构建多级索引：摘要级 + 细节级，先粗筛再精确定位数据质量提升清洗低质量文档，添加领域-specific的元数据标签（时间、…

#字节#RAG 检索噪声#RAG 数据构建

RAG 深度与局限怎么破?

匹配正文：…，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体表现典型场景检索质量瓶颈语义匹配≠相关性，Top-K可能漏关键信息专业术语、多义词上下文碎片化长文档切块导致逻辑断裂技术文档、法律条款推理能力边界弱于多跳推理、数值计算、跨文档归纳财报分析、科研综述系…

#美团#RAG 局限性#RAG 优化方向

RAG 检索与生成流程详解

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（Query改写、向量检索、重排序、上下文融合） RAG vs 微调的选择权衡典型应用场景举例典型实现方式离线阶段：知识库构建文档解析：处理PDF/Word/网页等多格式，提取结构化文本文本分块：按语义或固定长度切分，通常256-512 tokens，保留段落边界向量化：用Embedding模型（如BGE、M3E）将chunk转为向量索引存储：存入向量数据库（Milvus、Fais…

#字节#检索生成流程#RAG 实现

#SFT#RAG 知识更新#SFT vs RAG 知识更新

Prompt Engineering 关键原则有哪些?

匹配正文：…练成本，直接挖掘模型固有能力。三大关键技巧与实例 1. 少样本学习（Few-shot Learning）原理：在Prompt中嵌入输入-输出示例，激活模型的上下文学习能力。翻译任务示例：输入：苹果 → 输出：apple 输入：香蕉 → 输出：banana 输入：人工智能 → 输出：？关键：示例需覆盖边界情况，格式保持一致，通常3-5个足够。 2. 思维链（Chain-of-Thought, CoT）原理：显式引导模型输出推理过程，而非直接给答案，显著提升复杂推理任…

#百度#模型微调#Prompt工程

面试题·模型微调

SFT vs RAG 知识更新

匹配正文：…热更新，分钟级生效推理准确性依赖训练数据质量，易幻觉可控。检索结果可溯源、可干预部署复杂度相对简单，单模型推理复杂。需向量库+检索+重排序+生成多模块泛化能力强。内化知识，复杂推理更连贯弱。依赖检索质量，知识片段间推理易断裂性能上限分析 SFT上限：受限于参数容量和训练数据天花板。模型无法记住无限知识，且知识冲突时易产生幻觉。适合模式学习（风格、格式、推理链）而非事实记忆。 RAG上限：受限于检索精度和上下文长度。再强的生成模型也救不回错误的检索结果。适合…

面试题·模型微调

生成质量差怎么调优?

匹配正文：…成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few-shot示例：在Prompt中嵌入2-3个高质量输入-输出样例角色设定：赋予模型特定身份（"你是严谨的医学助手"）提升一致性 2. 上下文处理优化问题技术手段文档过长/噪声多重排序（Rerank）：用Cross-Encoder对检索结果二次排序上下文窗口溢出语义压缩：用LLM提取关键句，或滑动窗口分段处理多文档冲突冲突检测+源标注：要求模型标注引用来源，显式处…

#RAG 生成质量#指令遵循#生成模块调优

怎么提升对话模型事实一致性?

匹配正文：…，核对是否存在于权威源置信度阈值：对低置信度回答触发"我需要查询更多信息" 四、外部知识集成（RAG核心）检索环节混合检索：向量相似度 + BM25关键词 + 知识图谱路径查询改写：HyDE（假设文档嵌入）、子查询分解增强环节重排序：Cross-encoder精排，过滤噪声文档上下文压缩：只保留与问题相关的文档片段生成环节引用生成：强制模型标注信息来源，便于溯源和人工审核实际权衡场景推荐方案高频、事实稳定预检索+缓存，减少实时检索延迟时效性强实…

#百度#模型微调#评估与监控

#字节#动态Prompt训练数据#Prompt微调数据构建

动态Prompt训练数据怎么构建?

匹配正文：…纯对话任务可粗粒度三、上下文建模：状态追踪机制结构化状态表示：将历史工具返回、中间结论编码为模型易解析的格式（JSON/XML嵌入Prompt）位置敏感设计：关键信息（如最新Observation）放在Prompt尾部，利用位置偏置截断策略：超长上下文时，保留摘要而非简单截断——需同步训练摘要模块四、质量验证：动态执行闭环训练数据必须通过真实执行验证：工具调用是否可解析执行执行结果与标注Observation是否一致多轮后是否收敛到正确终态数据迭代：建立"…