匹配口述回答：…题、或者因果推断。模型很容易跳步，中间算错一步，后面全错。第二类是工具调用和 [[Agent]] 决策，比如 [[ReAct]] 模式，思考、行动、观察必须按顺序来，模型有时候会跳过观察直接给结论，或者幻想一个不存在的工具去调用。第三类是对可解释性要求高的业务，比如医疗诊断、金融风控，你输出不能是个黑盒，得有一条清晰的推理链条让人能追溯。具体怎么实现呢？我常用的有三种方式，但真正落地的时候往往是组合着来。第一种是结构化的 [[Chain-of-Thought]] 提示，就是…

#华为#逻辑推理引导#逻辑引导

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配口述回答：…iss]]或者Milvus。检索就是拿到用户问题后，也转成向量，去库里找最相似的Top-K个块。生成就是把找回来的上下文和问题拼成提示词，交给大模型生成答案。但这里有个边界问题。RAG最适合的是事实密集型场景，比如企业内部的SOP、合规文档、或者客服政策。反过来，如果你想让模型改变说话风格，比如变得更幽默，或者学会一个特定任务的行为模式，那微调更合适。真正落地的时候，其实很少只用一种。举个例子，客服场景里，用户问退款政策，你不能让模型瞎编，得从最新的政策文档里检索出准确条款…

#百度#RAG核心组件#RAG 技术原理

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…调Embedding和Reranker 学习建议建议先掌握RAG基础流程，再结合垂直领域特点学习文档分块、向量检索、重排序模型和提示工程，多参考医疗/法律类RAG实战案例。

← 上一页第 5 / 5 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#重排与优化#RAG 链路优化

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配口述回答：…能全塞进去，得按相关性排序，截断超长部分。如果文档本身很长，可以用摘要压缩，或者做多轮检索，第一次先找大概方向，第二次再精准定位。Prompt设计上，我明确告诉模型“基于以下参考信息回答，如果信息不足就说不知道”，并且要求输出引用标记，比如[doc_id]，这样能溯源，也方便用户验证。还有一个关键点是拒答机制：如果所有检索结果的相关性都低于某个阈值，模型必须拒绝回答，不能胡编。这个阈值需要反复调，设太高容易拒答，设太低幻觉又冒出来。最后说一个容易忽略的点：检索失败时的回退策…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配口述回答：…又不想堆内存，那就 IVF-PQ。现在说它怎么跟生成器配合。流程很简单：query 进检索器，捞出 top-K 文档，然后拼到 prompt 里喂给生成器。但这里有几个坑。先看上下文窗口限制，文档太多太长会截断，所以得按相关性排序，截到窗口能装下为止。然后看置信度过滤，相似度低于某个阈值的文档直接扔掉，不然噪声会让模型胡说八道。另外还要看 [[Rerank]]，就是加一个 [[Cross-Encoder]] 对检索结果重新排序，因为双塔的分数不一定准，重排能显著提升 top…

#字节#Retriever#RAG Retriever

面试题·推理优化· 京东

推理框架硬件支持对比

匹配口述回答：…以及插件扩展，但量化和功能支持仍随硬件变化。SGLang 也面向高性能 serving，前缀缓存和调度对多轮、共享 system prompt 的负载可能有优势，需要用真实流量证明。TensorRT-LLM 针对 NVIDIA 做模型、kernel、量化和 in-flight batching 优化，流程可导入 Hugging Face checkpoint、转换权重并构建引擎，也在推进更高层服务接口。工程门槛来自版本、模型兼容、构建和回归，不是一个固定 ONNX 必经步骤。…

#vLLM#TensorRT-LLM#llama.cpp

面试题·项目与经历· 美团

信息抽取：规则 vs LLM

匹配追问：…入假设现在从半结构化文档中抽取既有固定格式字段，也有依赖上下文的长尾语义。你会怎样组合规则、LLM 和人工审核？层层追问固定模式为什么适合规则？……语义变化大时 LLM 的优势和风险是什么？……JSON 合规是否代表内容正确？……高风险字段怎样校验、审计和回退？直球技术请比较规则与 LLM 信息抽取的适用场景、准确性、维护成本、延迟、可审计性和错误边界，并设计混合架构与评测。

#规则引擎#LLM应用#成本优化

面试题·评估· 字节

LLM 幻觉与安全风险怎么缓解?

匹配口述回答：…事实支持、安全分类、越狱、隐私和工具越权。【90秒主答】训练数据要记录来源、许可、时间、去重、隐私和敏感类别，避免把错误或有害模式直接放大。SFT 可以教模型遵循格式、引用证据和拒答边界；偏好数据可比较帮助性与安全性。DPO 使用同一 prompt 下的 chosen 与 rejected，并依赖冻结 reference policy 的对数概率比直接更新 policy，不需要先训练一个显式 reward model。若偏好标签偏差、覆盖不足或把过度拒答标成更安全，模型仍…

#幻觉检测#内容安全#RLHF

面试题·评估· 快手

LangChain 关键组件与流程?

匹配口述回答：…要这种单步任务，你定义好输入输出，链式调用就行。[[Agent]]是动态决策的，它自己选择工具和步骤，典型的就是[[ReAct]]模式，思考、行动、观察循环，直到任务完成。Tool封装了外部能力，比如搜索、计算、调用API，扩展模型边界。Memory管理对话历史，有Buffer、Summary、Vector三种策略。Retriever是文档检索接口，专门给[[RAG]]用的。你问工作流程，我拿ReAct举个例子。用户输入进来，Agent先思考，决定要调用什么工具，比如搜索某…

#快手#评估与监控#Agent

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：…没有哪个模块默认该上。比如正确文档没进候选，先修覆盖和召回；候选已有答案但位置低，再考虑融合或重排；上下文正确而回答仍错，才检查 Prompt、生成模型或验证器。 Modular 或 Agentic RAG 把检索、工具、验证、重试与路由组成受控工作流，适合多步、多源和需要动态补证据的任务。代价是路径更难复现，也容易循环、越权和成本失控，所以要限制最大步骤、工具权限、总预算，并保留人工节点。选型时我会从 Naive 基线出发，在同一评测集上逐步加模块，分别看 Recall@K…

#淘天#重排与优化#Naive RAG