匹配正文：…，需降低推理成本 Auto-CoT 自动聚类生成多样化推理示例缺乏人工标注时提升Few-shot效果选型建议简单任务（分类、摘要）：Zero-shot + 清晰指令复杂推理（数据分析、决策）：CoT/ToT，权衡效果与成本工具集成（搜索、推荐）：ReAct + Function Calling，注意异常处理链规模化部署：考虑Prompt Tuning或转向SFT降低推理成本提示工程的优势是快速迭代、零训练成本，但天花板明显——当提示长度超过1k tokens或需…

#小红书#提示工程方法#Prompt 技术

面试题·Prompt· 字节

Agent系统Prompt设计：架构与机制

匹配正文：…轨迹 3. 动态上下文层（Runtime Context）工具描述：仅注入相关工具（RAG检索筛选），非全量历史轨迹：关键节点摘要 + 最近3轮完整对话状态变量：当前步骤数、已用token、用户偏好三、关键落地技巧问题解法上下文过长滑动窗口 + 关键信息提取（LLM二次压缩）工具选择错误增加工具使用条件说明 + 负例Few-shot 循环/死锁 Prompt显式限制最大步数 + 强制终止规则幻觉累积 Observation必须严格基于工具返回，禁止臆造 …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节#Prompt工程#Agent

面试题·Prompt· 美团

Prompt 设计方法论怎么用?

匹配正文：…提及安全性和边界case处理核心方法论：任务驱动 + 结构化设计一、任务分类与设计策略任务类型设计重点典型技巧生成类（摘要、创作）控制风格与长度角色设定 + 输出格式模板抽取类（NER、关系）明确实体定义与边界 Few-shot示例 + 负例说明分类/判断消除歧义，定义标准选项枚举 + 置信度要求推理类（数学、逻辑）引导思考过程 CoT思维链 + Step-by-step指令二、最佳实践（按优先级） 1. 角色与上下文锚定你是一位资深电商客服…

#美团#Prompt工程#Prompt 设计方法论

面试题·Prompt· 字节

ReAct 架构原理与失败场景

匹配正文：…根据当前状态选择下一步 Action，环境返回 Observation，新的观察再进入下一轮决策。工程实现可以记录简洁的计划或决策摘要，但不需要向用户暴露隐藏 Chain-of-Thought。工作流程解析任务和当前状态，生成下一步可执行计划。从允许的工具集合中选择 Action，并输出满足 Schema 的参数。执行工具，得到带来源、状态码和错误信息的 Observation。根据观察更新状态，判断完成、继续、重试、换工具、请求确认或安全终止。达到完成条件后，根…

#字节#百度#Agent

面试题·Prompt· 美团

ReAct 框架怎么实现推理+行动?

匹配正文：…藏 Chain-of-Thought。生产实现可以保留可审计的结构化字段：当前目标、所选工具、参数、执行状态、证据引用和简短决策摘要。内部推理文本既不保证忠实，也可能暴露提示、隐私或安全策略，不能把完整 Thought 当成可解释性证明。服务端执行循环服务端根据用户和对象权限给出当前可用工具 schema；模型返回结构化的 tool_call、respond、ask_for_confirmation 或 stop 候选；服务端重新校验工具名、参数、权限、预算和幂等键…

#美团#评估与监控#Agent

面试题·Prompt· 字节

Coding Agent 表现差怎么排查?

匹配正文：…多轮迭代后原始需求被稀释，出现需求漂移无关信息干扰：检索返回的噪声代码片段误导生成改进策略分层上下文：需求描述 + 相关文件摘要（由代码图谱生成）+ 具体修改点代码关键信息锚定：将原始需求、约束条件固定在prompt首尾，每轮重申动态检索：根据当前修改目标实时检索相关代码，而非一次性加载系统性改进思路建议构建诊断-归因-干预的闭环：先通过日志分析bad case分布，识别主导因素，再针对性优化。避免同时改动多个变量导致效果不可归因。

#字节#百度#Agent

面试题·Prompt· 美团

Agent 工具调用链路怎么搭?

匹配正文：…ll_id），支持多轮工具链 6. 错误处理策略（分层）层级处理方式参数错误回传模型自纠正，限3次工具执行失败返回错误摘要，询问用户或切换备选工具系统异常优雅降级：直接回复"该功能暂不可用" 7. 进阶：ReAct模式扩展 Thought → Action(工具调用) → Observation → ... → Final Answer 适合多步推理场景，每步显式输出思考过程

#美团#Agent#LLM Agent 工具调用

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…限表现缓解思路检索失效召回文档不相关或遗漏混合检索（BM25+向量）、查询重写、重排序上下文爆炸多文档超出窗口限制摘要压缩、分层检索、长上下文模型多跳推理弱需跨文档关联时易断链引入知识图谱、迭代检索（Self-RAG）生成与检索耦合模型过度依赖或忽略检索内容训练时加入"无相关信息"样本、调整prompt权重典型失败案例：用户问"对比A和B产品的差异"，若检索分别返回A、B的独立介绍而无直接对比文档，模型难以自行归纳差异——这是RAG在综合推理类…

#淘天#阿里#RAG 架构

面试题·RAG· 字节

高风险垂直领域 RAG 如何设计？

匹配正文：…件资料应最小化、去标识并按用途授权；不能把真实病例、咨询或判例材料默认放进共享向量库。删除、权限收紧和资料废止要传播到原文、索引、摘要和缓存。解析时保留条款层级、章节、表格、脚注、版本与引用位置。检索结果必须能回到原始证据，而不是只返回脱离条件的文本块。 3. 检索与候选资格关键词、向量、结构化规则、知识图谱和重排都是候选组件。是否采用由错误切片决定：法规编号、药品名和精确条款可能受益于词法匹配；自然语言改写可能受益于语义检索；实体关系查询可能需要结构化数据。不存在所有专…

#RAG#高风险应用#医疗

面试题·RAG· 字节

RAG 检索增强技术有哪些？

匹配正文：…索引层面优化分块策略：按语义切分（而非固定长度），保证chunk内语义完整元数据过滤：先按时间、类别等标签过滤，缩小检索范围摘要索引：存储chunk摘要+原文，用摘要做向量检索减少噪声一句话总结：检索质量 = 查询理解（改写）× 召回广度（混合检索）× 排序精度（重排），三环节缺一不可。学习建议建议系统学习该知识点

#字节#HyDE#RAG 检索质量

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配正文：…LM+图像生成+代码执行）优先选LlamaIndex 企业知识库场景：海量文档（10万+）的高效检索需要精细控制检索策略（分层摘要、知识图谱增强）数据源多样且需要自动化解析（非结构化+半结构化混合）实际趋势生产环境中两者常组合使用：LlamaIndex负责数据层（索引+检索），LangChain负责应用层（Agent编排+工具调用）。LlamaIndex也推出了llama-index-agent模块，边界正在模糊，但原生优势领域依然分明。学习建议建议系统学习该知…

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配正文：…erank）：用Cross-Encoder替代Bi-Encoder做精排，过滤低相关性文档上下文压缩：用LLM或专用模型对长文档摘要，减少噪声信息占比多路召回融合：向量检索 + 关键词检索 + 图谱召回，取交集或加权融合降低单路噪声动态阈值：根据查询难度自适应调整top-k数量，难查询多召回、易查询严过滤二、生成阶段：增强鲁棒性置信度引导生成：让模型输出引用来源并给出相关性评分，低置信度时主动降权或拒绝回答反事实训练（Counterfactual Training…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…. 一致性冲突模型前后回答矛盾（先否定后肯定）人设/风格不一致关键技术手段层级技术方案作用上下文管理滑动窗口 + 摘要压缩解决超长对话，保留关键信息记忆机制分层记忆（工作记忆/长期记忆）显式存储用户画像、对话摘要状态跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯性和一致性具体实现要点：摘要压缩：用轻量模型实时生成轮…

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· OPPO

搜索评分如何融合点击与停留?

匹配正文：…分别建模相关性、用户满意度，再融合为最终分数。核心特征与建模特征类型具体指标建模方式相关性 BM25、语义相似度、标题/摘要匹配度独立子模型输出 S_{rel} \in [0,1] 点击率历史CTR、位置去偏后的CTR 用IPS或EM方法消除位置偏置用户满意度停留时长、跳出率、二次点击停留时长用对数变换：\log(1+dwell\_time) 归一化方法 Min-Max：适用于有明确边界的特征（如BM25分数） Z-Score：适用于近似正态分布的特征 S…

#OPPO#评分函数归一化#Scoring Function 设计

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：… 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假设文档嵌入）、Query2Doc 精排策略：Cross-encoder重排、多路召回融合上下文处理：Recomp压缩、选择性上下文适用：企业知识库、产品手册等噪声多、需精排的场景 3. Modular RAG（模块化/Agent化）架构：检索与生成解耦，支持多轮迭代、主动决策关键能力：模块…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 蚂蚁

时间窗口对话系统：约束与取舍

匹配正文：…事件的时间距离（如"3轮对话前"）多轮任务执行、复杂指令跟随技术层面的影响上下文管理分层存储：热数据（窗口内）→ 温数据（摘要压缩）→ 冷数据（归档/丢弃）时间感知的注意力：对超出窗口的token施加位置编码惩罚或掩码动态窗口滑动：非均匀采样，近期密集、远期稀疏模型推理输入构造时需显式注入时间戳元信息（如[2024-01-15 09:23] 用户: ...）长上下文模型中，利用NTK-aware插值或YaRN适配时间跨度变化 RAG增强向量检索 + 时间衰…

#蚂蚁#时间窗口对话#时间窗口对话系统

面试题·RAG· 小红书

生成式推荐系统未来怎么发展？

匹配正文：…化 4. 应用场景：多模态生成推荐小红书特有优势：图文/视频内容可直接作为生成目标演进方向：从"推荐现有笔记"到生成个性化内容摘要、组合生成穿搭方案等关键挑战挑战应对思路 ID空间巨大采用语义ID或分层编码实时性要求边缘部署+云端大模型协同多样性-准确性权衡引入可控生成（Constrained Decoding）学习建议建议系统学习该知识点

#小红书#生成式推荐趋势#生成式推荐系统

面试题·RAG· 蚂蚁

时间窗口对话管理机制

匹配正文：…单完成等业务事件触发。并发消息要使用版本号、原子更新或锁，避免两个节点同时创建边界。超时阈值必须由业务体验和安全要求确定。 3. 摘要与历史恢复超窗内容可以生成摘要，但摘要是有损且可能出错。应保留结构化事实、来源消息 ID、生成模型版本和回查入口；金额、权限、承诺和安全状态等关键字段应从权威存储读取，而不是只相信摘要。 4. 安全与可观测性金融、客服等场景要让会话超时与身份授权解耦：上下文仍在不代表授权仍有效。监控窗口命中率、摘要使用率、跨会话污染、恢复失败和上下文 to…

#蚂蚁#会话时间窗口#时间窗口对话管理

面试题·RAG

RAG 检索准但回答差怎么调?

匹配正文：…导致幻觉未针对RAG场景做SFT对齐系统性调优策略层级具体措施检索后处理重排序（Rerank）优化文档顺序；冲突检测与摘要融合；上下文压缩（如LLMLingua）提示优化添加"基于以下文档回答"前缀；明确引用格式要求；设置拒绝回答的兜底策略模型层面 RAG专用SFT数据训练；调整temperature/top-p；尝试更大的上下文窗口模型系统架构引入Self-RAG或Corrective RAG，让模型主动判断检索质量快速验证路径先通过人工检查拼接后…

#上下文组织#生成质量调优#RAG 生成质量差

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…改写：用LLM做Query2Doc扩展，医疗场景做症状标准化对齐四、生成融合：上下文组装与约束上下文压缩：用LLM对检索片段做摘要，控制token数引用锚定：强制生成时标注来源片段ID，法律场景需输出"依据《XX法》第X条" 后处理校验：领域规则引擎过滤（如药物禁忌冲突检测）五、端到端优化评估体系：检索用Recall@K，生成用答案相关性和事实准确性（医疗用人工医生标注）迭代闭环：错误案例回流，持续微调Embedding和Reranker 学习建议建议先掌握RA…

#字节#重排与优化#RAG 链路优化

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配正文：…（如BGE、GTE系列） 2. 粒度设计场景策略事实性记忆句子级，保证原子性事件序列段落级，保留时序上下文用户画像摘要级，人工构造结构化描述 3. 时效性编码对时间敏感记忆，将时间戳、相对时间（"3天前"）显式注入文本或作为附加特征三、检索策略优化索引结构选择 HNSW：延迟敏感场景，图索引保证低延迟 IVF-PQ：内存受限场景，量化压缩降本 DiskANN：超大规模，内存-磁盘混合多阶段检索 pipeline 粗排（向量相似度，Top-K=100） …

#高德#重排与优化#文档处理

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…：精排策略：交叉编码器（Cross-Encoder）重排；LLM-as-Reranker（小模型打分）上下文压缩：检索结果摘要压缩；动态截断（按相关性加权）生成增强：引用标注训练（让模型明确依据）；拒绝回答机制（低置信度时触发）影响：答案准确率提升，但重排增加50-100ms延迟瓶颈4：系统级权衡优化方向延迟准确率成本适用场景缓存优先 ↓↓↓ → ↓ 高频Query主导混合检索 ↑ ↑↑ → 专业领域知识库 LLM重排 ↑↑ ↑↑↑ ↑↑ 高精…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…/128K）、信息密度不均技术方案：文本切片策略：按语义段落/滑动窗口，非固定长度上下文压缩：LLMLingua选择性压缩、摘要式压缩引用标记：为生成内容附加来源，便于溯源 5. 生成与后处理提示工程：明确指令（"仅基于以下文档回答"）、Few-shot示例约束格式生成控制：温度参数、重复惩罚、结构化输出（JSON模式）质量影响：幻觉抑制依赖上下文相关性与指令遵循能力的平衡各环节协同关系检索质量是天花板，生成能力是地板——检索不准则生成必错，检索准确但生成指…

#阿里云#重排与优化#向量检索

Agent任务规划+工具调用原理

提示工程有哪些核心方法?

Agent系统Prompt设计：架构与机制

Prompt 设计方法论怎么用?

ReAct 架构原理与失败场景

ReAct 框架怎么实现推理+行动?

Coding Agent 表现差怎么排查?

Agent 工具调用链路怎么搭?

RAG 核心架构与工作流程

高风险垂直领域 RAG 如何设计？

RAG 检索增强技术有哪些？

LangChain vs LlamaIndex 场景怎么选？

RAG 检索噪声怎么处理?

豆包等产品多轮一致性挑战与方案?

搜索评分如何融合点击与停留?

RAG 模型分类有哪些?

时间窗口对话系统：约束与取舍

生成式推荐系统未来怎么发展？

时间窗口对话管理机制

RAG 检索准但回答差怎么调?

专业领域RAG链路优化陷阱

向量数据库怎么支撑 Agent 记忆?

RAG 瓶颈在哪一步

RAG流程：检索到生成各阶段陷阱