匹配口述回答：…产环境里，我倾向用动态示例检索，从示例库里用[[Embedding]]召回最相似的几个，比固定示例准得多。但代价是多了检索这一步，延迟会高。接下来说推理增强，这是处理复杂任务的核心。[[Chain-of-Thought]]是最经典的，让模型一步步推理，数学题、逻辑题特别好使。但它的随机性也比较大，所以后来有[[Self-Consistency]]，跑多条推理路径再投票，稳定性提升不少。再复杂一点的任务，比如要探索多种决策路径的，可以用[[Tree-of-Thoughts]]…

#阿里#Prompt工程#Prompt 优化方法

面试题·RAG· 百度

RAG 索引构建管线

匹配口述回答：…我一般会先做粗召回，用段落级索引把相关的文档块找出来，然后再用句子级索引做精排，这样既快又准。但这也引出一个问题：两层索引的存储和延迟怎么平衡？所以整体上，我不会一开始就堆所有优化。我会先分析 bad case，看是'召不回'还是'召不准'。召不回，可能分块太大或者 Embedding 模型不够好；召不准，可能元数据过滤没做或者重排不够。我更倾向先定位瓶颈，再针对性优化，而不是一股脑全上。一句话点题：索引优化本质是解决'怎么存'和'怎么找'的匹配问题分块策略：语义切分 …

← 上一页第 24 / 25 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配口述回答：…有一个值得注意的点：当数据量超过百万级时，LlamaIndex的索引构建和更新会成为瓶颈，这时候要考虑分层索引或增量更新，否则检索延迟会飙升。所以我的判断是，我更倾向数据驱动的思路。因为LLM应用的核心瓶颈往往不是流程复杂，而是数据质量和检索精度。我会把LlamaIndex作为数据底座，LangChain作为上层的调度层。如果只能选一个，我选LlamaIndex，因为大多数场景下，先把检索做好，比先把流程做复杂更重要。本质是问LLM应用的两条路：工作流编排 vs 数据检索…

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配口述回答：…模型在生成过程中自己判断要不要去检索，而不是每次固定检索。这个对专业领域很有价值，因为有些问题模型本身就知道，不需要检索，能省不少延迟。但它的可靠性还需要验证，比如模型误判了该检索却没检怎么办。所以整体上，我会把 RAG 看成一种「知识库在前、模型在后」的协作模式，核心是让模型做它擅长的事，理解和生成，而把事实性交给检索。前提是检索质量要足够高，否则模型再强也是白搭。我更倾向在检索层多下功夫，而不是在生成层硬约束。一句话定位：本质是知识库与LLM的边界划分检索模块：多…

#字节#专业领域RAG#RAG 系统设计

面试题·RAG· 字节

RAG 检索增强技术有哪些？

匹配口述回答：…要本身也有精度损失，所以我会保留原文，在精排阶段用原文打分。最后说说落地时的取舍。我不会把所有方法都堆上去，因为每加一层都意味着延迟和成本。我更倾向先分析业务场景：如果是FAQ类问题，查询改写和混合检索就够了，重排可以不要；如果是复杂推理，比如企业SOP合规文档，我会加上查询分解和重排。上线前我会特别关注两个风险：一是改写引入的[[幻觉]]，二是混合检索的融合权重不合理导致召回偏科。我会用一批历史query做回放，对比Recall@K和最终回答质量，调好再上线。这里有个延…

#字节#HyDE#RAG 检索质量

面试题·RAG· 哔哩哔哩

CTR/CVR/ROI 冲突怎么协调?

匹配口述回答：…ROI掉到警戒线以下，强化学习会主动降低出价，宁可牺牲一点CTR也要保住ROI。这里有个前提，就是你的数据回流要够快。如果CVR延迟超过一天，强化学习根本学不到实时反馈。常见失败场景是，广告主用长转化链路，比如汽车试驾，CVR延迟一周，那强化学习就没什么用，还是得靠离线模型加人工规则。所以落地时我会特别关注两个点。先说， A/B测试不能只看均值，还要看分布。比如ROI均值提高了，但方差变大，说明有些广告主受益、有些受损，长期可能生态恶化。我会同时看广告主留存率和投诉率。再…

#哔哩哔哩#CTR/CVR/ROI多目标#CTR CVR ROI 冲突

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配口述回答：…索结果，比如 [[Self-RAG]] 和 [[Corrective RAG]]。这类方案让生成过程更灵活，但代价是推理链路变长，延迟和成本得权衡。如果面试官感兴趣，我可以展开说说。最后说落地风险。这些方法不是堆上去就有效，得看场景。比如重排对延迟敏感的应用就不太友好，可能得用 [[ColBERT]] 这种兼顾效率和精度的方案。反事实训练如果噪声分布和线上不一致，效果会大打折扣。我的判断是，先把检索阶段的净化做扎实，比如重排加混合检索，这步收益最稳，再根据线上 badcas…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 小红书

新用户冷启动：生成式推荐与Embedding

匹配口述回答：…[[Bi-Encoder]]或者轻量的排序模型，把候选[[重排]]一下。这个架构的优点是冷启动阶段效果好，但代价是多了生成这一步，延迟会高。如果对实时性要求特别高，比如首页推荐必须在50毫秒内返回，那生成式召回可能撑不住，得换成更轻量的策略，比如直接基于画像的向量检索。我最近在思考一个问题：生成式推荐在冷启动阶段表现不错，但用户行为积累多了以后，怎么平滑过渡到传统协同过滤？直接切换会不会导致推荐结果断层？这个我还没完全想透，但感觉可以用模型[[蒸馏]]或者渐进式融合来解决。…

#小红书#新用户冷启动#生成式推荐

面试题·RAG· 美团

外挂数据库怎么提升大模型准确性?

匹配口述回答：…足，建议暂停接单”。但这里有个坑。高并发写入时，向量索引的图结构更新很麻烦。你不能每来一条新数据就重建整个[[HNSW]]图，那延迟扛不住。我会把追加和删除分开处理：追加直接插入，删除用软删除加后台异步重建，用双缓冲影子索引保障实时性。另外，外卖场景里地理位置是硬过滤条件，检索时必须先按经纬度圈定范围，再在圈内做向量相似度，否则召回的商户在隔壁区就没意义。冷启动也是个问题，新商户没有向量积累，我会用结构化字段兜底，比如品类、价格区间先匹配，等积累足够点击数据后再建向量。还…

#美团#外挂数据库增强#外挂数据库

面试题·RAG· 蚂蚁

时间窗口对话系统：约束与取舍

匹配口述回答：…实现，如果用户主动说“记住这个”，系统得有能力突破时间窗口，把那个点标记为持久记忆。三是性能，RAG 检索如果每次都要扫全量日志，延迟会很高，所以得做冷热分离，热数据在内存，冷数据在磁盘。所以我的判断是，不能把时间窗口当成一个死规则，它更像一个动态的、可配置的软约束。我更倾向把时间感知做成系统的一个可插拔模块，根据业务场景灵活调整。比如客服场景偏重时效性，窗口可以短一点；企业 SOP 问答偏重准确性，窗口可以长一点甚至全量。另外，这里其实有一个更深的点：时间窗口和用户意图…

#蚂蚁#时间窗口对话#时间窗口对话系统

面试题·RAG· 蚂蚁

时间窗口对话管理机制

匹配口述回答：…来，先清掉窗口外的历史，再写入新消息；读取上下文时也按当前服务端时间过滤一遍。这里一定不能信客户端时间，否则用户改本地时间或者网络延迟都会让窗口判断失真。会话边界判断我不会只看一个时间差。比较稳的做法是多条件触发：用户超过一定时间没说话，开启新会话；当前会话轮数超过上限，也要截断；如果发生业务事件，比如订单已完成、人工客服接管、支付结束，也可以主动关闭会话。这样比单纯“10 分钟超时”更符合业务。生产环境还要考虑状态存在哪里。单机可以放内存，多实例就不能这么做了，一般用 …

#蚂蚁#会话时间窗口#时间窗口对话管理

面试题·RAG· 字节

大模型输出怎么检测和过滤?

匹配口述回答：…额不能大于订单金额，状态必须是‘已退款’或‘退款中’之一。这里我会用规则引擎来校验，不通过就触发重新生成，但重试次数要有限制，不然延迟会爆炸。第三层是业务层，比如用户权限、场景约束。比如只有 VIP 用户才能申请加急退款，普通用户走普通流程。这一层校验不通过，我会直接拦截并返回友好提示，而不是重试，因为业务规则是硬约束。再一个重点是内容安全过滤。敏感信息，像手机号、身份证号，我会用正则加模型识别来检测。合规方面，可以调用第三方审核 API，比如阿里云绿网。对于 [[Hall…

#字节#大模型输出过滤#大模型输出检测

面试题·检索· 小红书

RAG 检索偏差怎么系统性解决?

匹配口述回答：…互，能抓到字面匹配信号。但交叉编码器慢，所以我会做级联，先用轻量模型粗筛到top100，再用重模型精排到top5。这样既保精度又控延迟。但重排也有边界：如果检索出来的文档本身全是噪声，重排也救不了，它只能从好文档里挑更好的。第三层生成控制。这是最后一道防线。我会加一个置信度门控，如果检索文档和query的相似度低于某个阈值，直接触发“知识不足”提示，让模型说不知道而不是瞎编。还有证据验证，要求模型生成时显式引用文档片段，再用NLI模型检查生成内容跟证据是否一致。如果多文档结…

#小红书#美团#重排与优化

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配口述回答：…户问‘苹果有什么新品’，向量可能把水果苹果的文档排前面，但Cross-Encoder能根据上下文判断用户要的是电子产品。不过重排有延迟成本，所以我会把它放在最后几位的候选集上，而不是全量。查询侧优化也很关键。用户问题往往短、模糊，我会用LLM做查询改写，比如把‘退款多久’扩展成‘退款处理时效是几个工作日’。还有个技巧叫HyDE，先生成一个假设文档再检索，能拉近查询和文档的语义距离。但这里有个风险：如果LLM改写错了，比如把‘苹果’错误扩展成‘水果’，反而会引入噪音。所以我会…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…景里的细微差别。另外，计算资源后置也是一个很实际的好处。重排只处理Top K，成本可控；如果全库都用Cross-Encoder，那延迟和计算量都受不了。举个例子，在电商客服场景里，用户问“订单超时未发货怎么退款”，如果只靠向量检索，可能召回一堆“退款流程”和“发货政策”的文档，但重排模型能更精确地判断哪篇文档里同时提到了“超时”和“退款”的逻辑关系，把最对症的那条置顶。这里有个坑，就是重排模型本身也有前提和风险。首先，它的效果依赖召回的覆盖度，如果第一阶段没把相关文档捞进…

#字节#Rerank模型#RAG Rerank

面试题·检索· 百度

RAG 工作原理与核心组件

匹配口述回答：…AG]]，让模型自己判断要不要检索、检到什么程度，甚至生成时反思检索结果够不够。比如模型发现当前上下文已经能回答，就不去检索，减少延迟。这种动态策略对长对话场景特别有用，但实现起来需要额外训练，对推理效率也有挑战。所以整体来看，RAG 不是一套固定流水线，更像一套可插拔的组件。我的倾向是：先保证索引和检索的基础质量，再根据场景逐步加 Rerank、查询改写这些优化。如果上线前发现召回的片段质量波动大，我会优先排查切分粒度和 Embedding 模型的选择，而不是一上来上复杂…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 字节

专业领域RAG数据与检索优化？

匹配口述回答：…断是否需要额外检索，比如用[[Self-RAG]]或者[[Agentic RAG]]，这样能减少无效检索，但实现复杂度高，需要平衡延迟和效果。一句话定位：RAG落地是系统工程，不是搭积木预处理：结构化保留与多粒度切分检索：混合召回加重排，划清场景边界生成：引用溯源与不确定性处理评估闭环与持续优化约4分钟让模型在生成过程中主动判断是否需要额外检索，比如Self-RAG或Agentic RAG，能减少无效检索但实现复杂。面试官可能会追问Self-RAG和Agent…

#字节#领域RAG架构#RAG 系统架构

面试题·检索· 字节

RAG 架构组件与失败场景

匹配口述回答：…在生成后加一层验证，比如用另一个轻量模型检查答案是否忠实于检索文档，或者用[[Self-RAG]]让模型自己反思。但这就涉及成本和延迟的权衡了，不是所有场景都需要。最后说说我的判断。RAG落地的前提是知识库质量够高，如果文档本身错误百出，再好的RAG也没用。所以我会把RAG看作一个系统工程，检索是上限，生成是下限，检索质量决定了你能拿到多好的信息，而生成只是把这些信息组织好。我更倾向于在检索和重排序上多花功夫，而不是在Prompt上雕花。一句话定位RAG本质分块与Emb…

#字节#RAG组件协同#RAG 系统架构

面试题·检索· 小红书

RAG 局限性怎么破?

匹配口述回答：…检索结合起来，再做个 [[重排]]，用 [[Cross-Encoder]] 把候选文档精排，把噪声过滤掉。这里的风险是，重排本身有延迟，如果QPS高，得控制候选数量，不然响应时间会崩。然后是生成阶段。文档捞回来了，但可能太长，关键信息被淹没，模型反而开始“自由发挥”，也就是 [[Hallucination]]。比如客服回答里，模型把两个政策混在一起编了个新规则。我的做法是引入 [[Self-RAG]]，让模型在生成时自己判断：这个片段要不要引用？引用哪个来源？如果模型不确定…

#小红书#RAG局限性#RAG 局限性

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…线在线分离，知识库更新走离线Pipeline，不影响在线服务。缓存策略也很关键，热门法条预加载，相似Query结果缓存，能大幅降低延迟。监控看板我会盯着检索命中率、生成引用率和用户满意度三个指标，形成反馈闭环。其实还有一个延伸点：当知识库频繁更新时，增量更新和检索质量之间怎么平衡？比如新法出台，旧法废止，怎么保证检索实时性又不影响召回？这块我有些实践经验，可以详细展开。 RAG本质是知识边界问题数据预处理：分块策略和术语对齐检索优化：混合检索加重排生成优化：引用溯源和…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 美团

RAG 架构怎么搭?

匹配口述回答：…。再一个优化点是多轮对话，上一轮已经查过的内容，下一轮没必要重复检索，可以维护一个检索历史缓存，新的query先和历史做融合，减少延迟。整体来看，检索质量决定了RAG的上限。所以我会把更多精力放在检索侧的Query改写和Rerank上，生成侧反而相对成熟，调好Prompt和温度就行。还有一个延伸方向是让模型自己判断检索质量，比如 [[Self-RAG]] 或者 [[Corrective RAG]]，模型不仅能基于检索结果生成，还能主动说「这部分资料不够，我需要再查一下」。这个…

#美团#检索器生成器协同#RAG 架构

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配口述回答：…改写成本：用户 query 经常很短或者有歧义，比如“怎么退”，需要先让模型扩写成“退货流程是什么”，但这会多一次 LLM 调用，延迟和成本都要考虑。其实 [[Naive RAG]] 和 Advanced [[RAG]] 的核心区别不在于索引，而在于检索策略。比如 [[Self-RAG]] 让模型自己判断是否需要检索、检索结果是否够用，不够就迭代检索多次。这个方向我觉得比单纯优化 Embedding 模型更有价值，因为它解决了“什么时候该查、查几次”这个根本问题。所以整体…

#美团#RAG架构#RAG 系统架构

面试题·检索· 高德

语义检索向量数据库构建流程

匹配口述回答：…写，解决语义鸿沟。第二步是两阶段检索，向量召回Top-K之后，用[[Cross-Encoder]]做精排，这一步能显著提升精度，但延迟也高，所以K不能设太大。第三步是缓存，热门Query的向量结果和Embedding结果都缓存起来，能挡住大部分重复请求。其实还有一个经常被忽略的点，评估。线上效果好不好，光看Recall@K不够，还要关注用户实际点击行为和业务指标。比如在客服场景，用户搜了之后有没有解决问题，比召回率更重要。这个评估体系怎么搭，我觉得比检索本身更考验工程能力。…

#高德#评估与监控#向量数据库构建

CoT 提示怎么写?

Prompt 优化方法有哪些?

RAG 索引构建管线

LangChain vs LlamaIndex 架构差异？

医疗法律RAG架构怎么搭？

RAG 检索增强技术有哪些？

CTR/CVR/ROI 冲突怎么协调?

RAG 检索噪声怎么处理?

新用户冷启动：生成式推荐与Embedding

外挂数据库怎么提升大模型准确性?

时间窗口对话系统：约束与取舍

时间窗口对话管理机制

大模型输出怎么检测和过滤?

RAG 检索偏差怎么系统性解决?

RAG检索不准的失败场景与优化

RAG 为什么需要 Rerank?

RAG 工作原理与核心组件

专业领域RAG数据与检索优化？

RAG 架构组件与失败场景

RAG 局限性怎么破?

领域 RAG 架构如何控幻觉?

RAG 架构怎么搭?

RAG 检索器与生成器如何协同？

语义检索向量数据库构建流程