匹配口述回答：我会把大模型瓶颈拆成模型能力和工程系统两层，而不是只说算力贵。训练侧首先受计算、显存、跨机通信和高质量数据供给影响。服务侧则要分别看首token延迟、逐token延迟、吞吐、峰值显存和能耗。量化、蒸馏、并行、连续批处理都可能有帮助，但没有一种方法能脱离模型、硬件和请求分布给出固定收益。另一类是可靠性。语言模型优化的是条件概率，不是事实一致性，因此可能生成流畅但错误的内容。工程上要按任务组合检索、工具调用、引用、结构化约束和独立验证，并保留拒答与人工升级。这里不能把多采样一致…

#计算效率#幻觉问题#长上下文

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配题目：请解释什么是RAG（Retrieval-Augmented Generation），并说明它如何通过引入外部知识来提升语言模型的生成准确性和事实一致性。

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节

#外部知识检索

#RAG 原理

面试题·RAG· 字节

RAG 二次生成怎么提升安全性?

匹配正文：…作用机制与实例 1. 敏感内容过滤（输入侧净化）场景：用户查询含诱导性提问（如"如何制作违禁品"），检索可能返回边缘知识机制：大模型基于安全对齐训练，识别检索内容的敏感属性，拒绝合成或输出安全提示抖音实例：直播话术RAG中，检索到历史违规案例后，模型生成"该表述存在违规风险，建议替换为..."而非直接复现 2. 事实一致性增强（输出侧校验）机制：利用模型推理能力交叉验证多源检索片段，识别矛盾信息实例：医疗问答RAG中，检索到A文档"药物X每日最大剂量200mg"、B…

#抖音#RAG输出安全#RAG 二次生成

面试题·模型架构· 安克科技

GPT vs BERT 核心区别在哪?

匹配正文：…输入的上下文表示，但原始 BERT 不是自回归生成器。它也不是开箱即用的 faithfulness 或事实核验器；只有在 NLI、事实一致性或特定判别数据上训练，并经过域内校准后，BERT 类模型才可承担相应分类环节。选型看输出形式和成本：需要逐 token 生成与上下文学习时选生成模型；需要低延迟固定标签、向量编码或 token 标注时，encoder-only 往往更经济。两者都可通过微调扩展任务，不能用“GPT 只会生成、BERT 只会分类”作绝对边界。图解 GPT…

#自回归模型#自编码模型#Transformer

面试题·知识图谱· 海尔

数据/架构/推理/工具怎么选?

匹配口述回答：这道题其实问的是，大模型生成的东西怎么保证它不瞎编。[[幻觉]]本质上是模型在事实一致性上出了问题，不可能彻底根除，但我们可以从数据、架构、推理和工具几个层面层层设防，把风险压到可接受的范围。先说数据层面。这里最根本的思路是让模型在训练阶段就见更多真东西。比如做高质量数据筛选，把网上那些矛盾、过时、明显错误的信息过滤掉。另一个方向是注入[[知识图谱]]，把结构化的知识，比如企业产品规格、政策条款，跟文本一起训练。这样模型对事实的敏感度会高很多。但这里有个坑：数据清洗成本非…

#海尔#幻觉治理#大模型幻觉缓解

面试题·RAG

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：… Faithfulness。 Faithfulness：每个事实能不能被本轮证据支持 Faithfulness 常被翻译为忠实度或事实一致性。它关注生成答案与检索上下文之间的关系。评估时，可以先把答案拆成若干可核查的事实陈述，再检查每一条能否在本轮上下文里找到直接支持。没有证据支撑的事实，即使听起来合理，也不能算忠实。这个指标解决了一个典型问题：模型可能答对，但答对的原因不是 RAG。比如知识库没有召回正确原文，模型凭自身知识给出正确结论。答案正确性可以通过，Faithf…

#RAG#评测与上线#RAG 评估指标

面试题·评估· 美团

RAG 指标权衡与阈值

匹配正文：…ecall@K 相关文档是否被召回知识库场景优先保召回，客服场景可适当降低 MRR/NDCG 排序质量，高相关文档是否靠前影响LLM输入质量，但计算成本高上下文相关性召回内容与query的语义匹配度需过滤噪声，避免无关信息干扰生成二、生成质量指标指标意义实践考量答案相关性回答是否切题，有无答非所问最基础指标，但无法检测幻觉事实一致性生成内容是否与检索文档一致最关键指标，需用NLI模型或人工校验信息覆盖率是否完整回答用户问题多跳问答场景尤为重…

#美团#评估与监控#RAG 指标权衡与阈值

面试题·评估· 淘天

RAG 核心指标优先级

匹配正文：…在检索 NDCG：考虑排序质量，排在前面的文档相关性权重更高精确率：避免引入过多噪声文档干扰生成二、生成质量指标（决定体验）事实一致性（Faithfulness）：答案是否忠实于检索到的文档，最关键，直接对应幻觉问题答案相关性（Answer Relevance）：是否回答了用户问题，而非泛泛而谈上下文利用率：模型有没有有效利用检索内容，而非依赖参数记忆三、端到端自动化指标 RAGAS：无需人工标注，用LLM打分评估忠实度和相关性 ARES：基于合成数据训练评判模型…

#淘天#评估与监控#RAG 核心指标优先级

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配正文：…间一致性：相邻轮次回答的embedding余弦相似度约束角色一致性：系统prompt嵌入与每轮输出的对比学习，防止"人格分裂" 事实一致性：与检索到的记忆做 entailment 验证，惩罚矛盾输出三、数据构造方法质量维度轮次分布：5-10轮占40%，20轮以上占20%，覆盖不同深度一致性标注：人工标注"是否同一说话人风格""是否前后矛盾" 负样本构造：故意改写第N轮回答使其与第1轮冲突，训练判别能力合成数据策略用强模型生成种子对话，人工精标关键轮次 Self-…

#字节#模型微调#多轮对话一致性

面试题·模型微调

生成模型回答不准怎么调?

匹配正文：…FT：构造"检索上下文→忠实回答"数据对，重点训练拒答能力（上下文不足时明确说不知道）和引用生成 RLHF/DPO：奖励模型加入"事实一致性"维度，惩罚幻觉领域适配：若检索内容含大量领域术语，需补充领域预训练 4. 系统级方案生成后校验：用NLI模型或LLM自检"回答是否被上下文蕴含" 多模型路由：简单问题用小模型，复杂/高风险问题触发大模型+严格校验关键检查点调优前务必确认：检索片段的格式是否统一（PDF解析残留乱码、表格转文本丢失结构是常见隐形杀手）。

#生成模型调优#上下文利用#RAG 生成不准确

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配口述回答：…险是混合检索的权重调参很敏感，上线后我会监控召回率，如果某个召回源一直空结果，要降权甚至关掉。检索出来Top100，不能直接塞给大模型。重排序的核心是做漏斗。第一步用BM25或[[Bi-Encoder]]粗排，快速过滤到Top20，第二步用[[Cross-Encoder]]精排到Top10。Cross-Encoder精度高但慢，所以漏斗能兼顾延迟和效果。这里有个坑：如果精排模型没针对你的文档领域微调，排序结果可能还不如粗排。所以我会在离线用领域数据做[[Distillati…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 美团

RAG 流程各阶段怎么拆?

匹配口述回答：这道题问的是[[RAG]]的完整工作流，其实本质是在问：怎么把大模型的知识边界和实时性不足这个短板，用外部知识库补上，同时还要控制[[幻觉]]。不是简单拼凑，而是每个环节都要做取舍。先说检索之前，有个预处理。用户的问题往往不规整，比如“上次那个退款怎么还没到”，这里“上次”指代什么？得先做查询改写，把指代消解掉，拆成“订单号xxx的退款进度”。这一步不做，后面检索全是错的。然后进入检索，这是最核心的部分。很多人以为向量检索就够，但实际落地，纯向量语义检索在专有名词、订单号…

#美团#评估与监控#RAG 工作流程

面试题·知识图谱· 腾讯

GraphRAG适用场景 vs 传统RAG 有哪些?

匹配口述回答：…度和可解释性，但如果数据变化快，维护图结构的成本会很高。说到混合，其实还有一个有意思的点：GraphRAG的社区摘要生成本身依赖LLM，这又引入了[[Hallucination]]风险。如果摘要总结不准确，全局查询就会出错。所以我在设计时，会对社区摘要做一层[[Faithfulness]]校验，用事实一致性检查过滤掉幻觉内容，再返回给用户。所以总的来说，我会把GraphRAG看成传统RAG的一个强力补充，而不是替代。它特别适合那些'为什么'和'如何关联'的问题，但前提是数…

#腾讯#知识图谱#GraphRAG vs RAG

面试题·检索· 小红书

RAG 局限性怎么破?

匹配口述回答：这道题我觉得它问的不是[[RAG]]的原理，它本质是在问：怎么让大模型在不知道的情况下不要瞎编，同时还要高效、可信。RAG是个好办法，但落地时有很多坑，我主要从检索、生成和边界这三个角度来讲。先说检索。最理想的情况是用户问什么，数据库里就有最匹配的文档。但实际往往有语义鸿沟，比如用户说“退款流程”，库里存的可能是“售后政策”，[[Embedding]] 没对齐就匹配不上。更糟的是检索噪声，Top-K里混进一堆无关文档，把关键信息稀释了。举个例子，电商客服场景，用户问“满减优…

#小红书#RAG局限性#RAG 局限性