匹配正文：…arge、BGE-M3通用能力强；领域数据充足时微调（如PubMedBERT医疗版）微调方法：对比学习+难负例挖掘，batch内动态难负例提升显著多路召回架构用户Query → 查询改写（HyDE/扩展）→ 向量检索（Dense）+ 关键词检索（BM25）→ 融合排序 → 精排模型（Cross-Encoder）→ Top-K上下文金融领域加粗体匹配规则（如"第X条"精确命中）重排序用bge-reranker或轻量LLM打分三、生成模块：可控输出 Prompt工程 …

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…询改写）结合实际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配正文：…M）：对中间推理步骤打分，解决稀疏奖励问题 DPO/RLHF：人类偏好标注"哪种工具选择更合理"，对齐复杂场景下的决策偏好 3. Prompt与系统层优化动态示例选择（Dynamic Few-shot）：根据用户意图检索相似的成功案例工具描述优化：用LLM自动生成工具文档，迭代测试哪个描述调用成功率最高业界优秀案例及技术特点应用核心特点 OpenAI GPTs/Assistant API Function Calling原生支持，结构化输出强制JSON schema…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#快手#Agent#Agent 调优

面试题·模型微调

LLM 标签约束解码

匹配正文：…输出非法标签的样本打低分特殊token：给每个标签分配专用token，降低混淆方案选型建议场景推荐方案快速验证/标签少提示工程 + 后处理生产环境/要求高可靠约束解码 + SFT微调标签动态变化后处理为主，避免重训模型实际落地我倾向组合使用：SFT提升基础能力 + 约束解码保底线 + 后处理兜底。

#约束解码#标签集合#LLM 标签约束解码

面试题·模型微调

生成质量差怎么调优?

匹配口述回答：…让模型自己反思生成质量，比如 [[Self-RAG]] 的思路。它不是在生成后校验，而是在生成过程中就判断要不要检索、要不要引用，动态调整。我觉得这可能是下一代[[RAG]]的方向，比静态调参更灵活。所以整体上，我会把这个问题看成一条迭代链路：先诊断根因，再按成本从低到高尝试，每一步都要有评估指标，比如忠实度、连贯性。我更倾向于先用Prompt和上下文处理解决80%的问题，剩下20%再考虑微调。毕竟微调一次成本不低，而且维护起来也麻烦。定位生成问题，区分检索 Prompt…

#RAG 生成质量#指令遵循#生成模块调优

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：…RAG、Self-RAG等 RAG核心定位 RAG = 检索(Retrieval) + 生成(Generation)，用外部知识库动态增强LLM，解决知识时效性和幻觉问题，无需重新训练模型。三阶段实现流程 1. 离线知识库构建文档解析：PDF/Word/网页 → 文本块（Chunking，控制256-512 tokens）向量化：Embedding模型（如BGE、M3E）将文本转为稠密向量索引存储：写入向量数据库（Milvus/Pinecone/Elasticsear…

#字节#检索生成流程#RAG 技术原理

面试题·Prompt· 华为

思维链(CoT)什么时候用?

匹配正文：…隐式推理显式化，通过"思考→行动→观察"的循环，利用自回归特性逐步生成中间状态。示例对比（数学应用题）：方式输入输出标准Prompt "小明有5个苹果，给了小红2个，又买了3个，现在有几个？" "6个"（可能错） CoT Prompt "让我们一步步思考：[问题]" "初始5个→给掉2个剩3个→再买3个→3+3=6个" 关键：中间步骤（5-2=3, 3+3=6）成为显式上下文，降低跳步错误概率。常用变体 Zero-shot CoT：加一句"Let's think …

#华为#思维链 CoT#Chain-of-Thought 使用场景

面试题·Prompt· 商汤科技

Agent 行为模式有哪些？

匹配口述回答：… 可以这样走：先想可能物流异常，然后调物流API查轨迹，观察到签收地址不对，再想可能是配送错误，接着调客服系统发起退款。整个过程是动态的。在此基础上还有 [[Reflexion]]，它加了一层自我反思。Agent做完一轮后，会评估行动结果，把经验写进记忆，下次类似情况就不会犯同样的错。比如同样客服场景，Reflexion 会发现“上次查物流时忘了核对收货人姓名”，于是把“先核对收货人”作为经验存下来。不过代价是更慢、更复杂。但现实落地中，我其实更倾向用 [[Functio…

#商汤科技#Agent#Agent 行为模式

面试题·Prompt· 字节

ReAct 架构原理与失败场景

匹配标题与标签：ReAct 架构原理与失败场景 Agent 中推理与行动循环的工作流程与优势解析 Prompt 字节百度 Agent ReAct 架构 Agent 设计推理与行动字节

#字节#百度#Agent

面试题·Prompt· 哔哩哔哩

CoT 思维链由哪些部分构成?

匹配标题与标签：CoT 思维链由哪些部分构成? 结合实例说明 CoT 结构特点与逻辑演进方式 Prompt b站 Chain-of-Thought 结构 CoT 组成部分思维链逻辑演进哔哩哔哩

#b站#Chain-of-Thought 结构#CoT 组成部分

面试题·Prompt· 字节

AI Agent 核心特点与局限

匹配标题与标签：AI Agent 核心特点与局限从自动化到智能服务,Agent 的优势、瓶颈与未来展望 Prompt 字节评估与监控 Agent AI Agent 核心特点 Agent 优势与局限 Agent 发展潜力字节

#字节#评估与监控#Agent

面试题·Prompt

封闭标签分类如何约束解码?

匹配口述回答：…型的语义理解能力，又要严格控制输出范围，不能让它自由发挥。我一般会按可控性和成本，把方法分成四类来权衡。先说最直接的，就是直接在提示词里把类别列出来，让模型选。这个简单，但问题也很明显，格式不稳定，模型可能自己造个不在列表里的词，或者输出一堆废话。所以它只适合类别少、要求不高的场景，比如给用户评论打个「好评」「中评」「差评」这种。再一个是[[思维链]]，就是让模型先推理再给结论。这个好处是可解释性强，比如客服退款场景，你可以让模型先分析用户退款理由是否合理，再输出「同意」…

#Logit Bias#约束解码#封闭集合标签分类

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配标题与标签：Agent 性能优化：架构与推理陷阱架构设计、推理策略、工具调用三大维度优化 Prompt 百度 Agent Agent 性能优化 AI Agent 架构 Agent 推理策略 Agent 工具调用百度

#百度#Agent#Agent 性能优化

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配正文：…索器固定或独立训练，生成模型无法反馈优化检索联合训练，生成loss可回传优化检索编码器知识存储检索结果作为硬提示（hard prompt）拼接检索向量通过注意力机制软融合（soft fusion）核心区别：RAG将检索从"前置预处理"转变为"模型内部运算"，典型如Dense Passage Retrieval + BART/GPT的联合优化。二、信息融合机制传统方法检索Top-K文档直接拼接到输入上下文问题：上下文长度爆炸、文档边界干扰、无法区分信息重要性 …

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…题问题传统LLM RAG方案知识幻觉参数化记忆，容易"编造" 检索提供事实依据，可溯源知识时效性训练后无法更新知识库动态更新，无需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配正文：…度搜索→Top-K召回向量数据库（Milvus、Faiss、ES）生成（Generation）拼接"Query+检索结果"→Prompt工程→LLM生成大模型+Prompt模板如何提升两大能力 1. 事实准确性生成时提供可溯源的参考文本，约束模型"基于证据回答" 避免参数知识中的事实性错误（如"2024年美国总统是谁"） 2. 知识覆盖动态接入私有/实时数据（企业文档、最新新闻）无需重新训练即可更新知识，成本远低于微调一句话总结 RAG = 搜索引擎 + 大…

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…）显式存储用户画像、对话摘要状态跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯性和一致性具体实现要点：摘要压缩：用轻量模型实时生成轮次摘要，替代原始历史一致性约束：在prompt中注入"系统指令"和"已确认事实"列表显式验证：关键决策前让模型自检"是否与之前回答冲突" 学习建议建议系统学习该知识点

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· 美团

外挂数据库怎么提升大模型准确性?

匹配正文：结论：可以，这是动态RAG的典型应用场景核心实现思路层级关键设计数据层流式数据接入（Kafka/Flink）→ 增量构建向量索引，避免全量重建检索层多路召回（向量+关键词+规则）+ 实时性加权，新数据优先排序融合层检索结果注入Prompt，标注数据来源时间戳，让模型感知时效性反馈闭环用户点击/转化数据回流，动态调整索引权重和切分策略相比纯模型/静态RAG的优势时效性：分钟级数据可见，解决大模型知识截止问题准确性：数据分布漂移时，检索结果自动跟随变化…

#美团#外挂数据库增强#外挂数据库

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：RAG 的三代演进架构 1. Naive RAG（基础架构）架构：离线建索引 → 向量检索 → 直接拼接Prompt → LLM生成核心特征：检索与生成硬耦合，一次检索即生成无反馈机制，检索错误直接传导到输出代表：早期DPR+GPT-3方案适用：事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…、混合检索精排过滤粗排结果→相关性打分→筛选重排序模型、多样性控制、阈值截断生成合成上下文+Query→LLM生成答案 Prompt工程、引用溯源、幻觉抑制关键瓶颈与优化策略瓶颈1：检索延迟高（P99>500ms）根因：向量库规模大、索引结构低效、网络IO 优化方案：索引层： HNSW换IVF-PQ（牺牲1-2%召回换10x速度）；分片+路由缓存层：热点Query结果缓存（Query哈希去重）计算层： GPU加速向量计算；Embedding模型轻量化…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 字节

RAG 原理与核心架构

匹配正文：…、稀疏检索（BM25）、混合检索重排序精排候选，提升相关性 Cross-Encoder、ColBERT 生成融合将检索结果与Prompt结合，约束生成上下文拼接、引用标注、多文档融合策略三大优势的技术机制 1. 事实准确性提升机制：检索结果为生成提供"事实锚点"，LLM从参数记忆转向上下文引用效果：可追溯来源，降低事实性错误 2. 动态知识更新机制：知识库与模型解耦，新文档入库即可生效，无需重新训练场景：金融政策、产品手册等高频更新场景 3. 幻觉缓解机制…

#字节#重排与优化#RAG 原理与核心架构

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…BERT（延迟交互，效率平衡）多阶段漏斗：向量召回Top100 → BM25粗排 → Cross-Encoder精排Top10 动态重排：结合用户反馈的在线学习排序上下文融合优化上下文压缩：LLMLingua选择性压缩、重排序后截断关键片段多文档处理：去重合并、按相关性加权融合、构建结构化上下文（表格/树状）长上下文利用：Lost in Middle问题缓解，关键信息放首尾生成环节优化 Prompt工程：明确引用格式要求、 few-shot示例引导结构化输出生成…

#字节#RAG迭代优化#RAG 优化

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配正文：…索二、生成层优化上下文处理上下文压缩：LLM摘要过滤冗余，或训练专用压缩模型引用溯源：要求模型标注答案来源，便于事实核查动态截断：按相关性分数加权拼接，非简单Top-K截断提示工程角色设定：明确"基于提供的参考资料回答，不知道则说不知道" Few-shot示例：展示引用格式和拒答样例思维链：先让模型分析哪些文档相关，再生成答案三、流程层优化自适应RAG 检索判断：LLM先判断是否需要检索（Self-RAG风格）迭代检索：生成中发现信息不足，主动发起二次检…

#AIlab#RAG流程优化#RAG 优化