匹配口述回答：…el 选择和回退比例，把不支持的 shape 单独测延迟与正确性，避免离线基准很快、线上大量请求却走慢路径。先区分数学计算和访存重排解释分块与 online softmax 拆开 FLOPs、内存和 I/O 按训练、prefill、decode 实测约3分钟 FlashAttention 的收益由具体 shape、片上存储和 kernel 支持共同决定，理论 I/O 优势不能替代实测。面试官可能继续问：怎样为不同 head dimension 和序列长度选择分块，并公…

#Flash Attention#内存优化#注意力机制

面试题·模型架构· 海尔

Encoder vs Decoder 核心区别?

匹配口述回答：…件都通过causal self-attention传递。它没有独立的源序列编码阶段。Encoder-only模型常用于分类、检索、rerank和token标注，decoder-only常用于开放生成，encoder-decoder适合输入输出边界明确的条件生成；这些是常见适配，不是说某类结构绝对不能做其他任务。还要区分训练和推理。自回归decoder在推理时通常逐token生成，因为下一个token依赖前一个结果；训练使用teacher forcing时，整段目标已知，可以…

#Transformer#Encoder-Decoder架构#自注意力机制

面试题·模型架构· 商汤科技

幻觉一致性延迟诊断

…temperature为零反复生成同一路径，就没有真正的多样性。幻觉要沿证据链定位。可能是知识本身不在模型里，也可能是召回漏掉、重排错了、上下文被截断，或者模型读到证据后仍越界生成。频繁变化的价格、政策和库存更适合放在RAG或受控数据库中，让答案带来源并做规则或工具验证。知识编辑适合研究或少量、边界清晰的事实修正，但不能取代可追溯数据源。 ROME也要描述准确。它通过定位与事实关联的MLP计算，并对权重矩阵做定向的低秩更新来改变特定关联，不是找到一个神经元后改一个数。连续编…

← 上一页第 13 / 15 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

匹配口述回答：

#幻觉问题#输出一致性#推理延迟

面试题·项目与经历· 京东

普通经历如何讲成就感

匹配口述回答：…功还受问题理解、答案格式和工具链影响。提高召回可能带来更多干扰，但这不是召回与幻觉之间的天然定律，需要在目标数据上调 top-k、重排和上下文组织。所谓低于固定召回率系统必然崩溃也没有通用依据。意义部分说明这件事带来的可迁移方法，例如从追单一分数变成建立证据链，从一次性交付变成持续监控。再坦诚一项局限和下一次会提前做的动作。真实规模不大没有关系，只要背景、本人行动、结果和反思能够互相验证，就足以构成有说服力的成就案例。选择证据最完整的真实事件说明本人目标和约束讲清行动…

#行为面试#自我认知#项目复盘

面试题·Agent· 字节

海量历史记录怎么索引优化？

匹配口述回答：…不够再通过链接取原始详情。检索优化这块，我重点讲两个手段。第一是混合索引，刚才提到了，向量加关键词加时间，三路召回后做一个 [[Rerank]]。第二是分层检索，先用粗量化的向量中心做粗筛，再用原始向量精排。这就像找书先看分类架号，再在架子上找具体书，能省掉很多无效计算。落地时有个常见失败场景：如果记忆重要性不做动态衰减，一条三年前的旧对话权重还和今天一样，检索结果就会被过时信息污染。所以我会算一个重要性分数，等于初始权重乘以时间衰减因子再乘以访问频次。高频访问的保留完整…

#字节#蚂蚁#Agent

面试题·Agent· 高德

旅行Agent怎么拆解任务?

匹配口述回答：…动换方案。所以整体上，我会把多Agent架构看成一种「分工但又互相校验」的机制，RAG是它的感知器官。我更倾向于在验证阶段做[[重排]]，而不是在编排阶段做大量检索，因为先粗筛再精排效率更高。如果面试官感兴趣，我可以聊聊具体怎么设计版本化快照的回滚机制。本质问的是多Agent拆解与动态知识融合三层Agent架构：需求解析、行程编排、验证优化 RAG增强：静态库+动态库，嵌入ReAct推理链状态管理与回环迭代落地风险与取舍约4分钟用户临时变更时，用Tree-of-…

#高德#Agent#旅行Agent

面试题·Agent· 百度

Agent 规划记忆工具调用机制

匹配口述回答：…会回流优化RAG的索引策略，比如哪个文档被频繁引用但总是答不对，说明索引质量有问题，我会调整 [[Chunk]] 策略或者加 [[重排]]。这里我其实有个困惑还没完全想透，就是当工具调用链特别长的时候，中间任意一步失败，重规划的成本很高。我目前的做法是给每个子任务设一个最大重试次数，超了就整条链路回滚，但感觉有点粗暴。有没有更好的做法，比如只回滚到失败的前一个依赖节点？最后说说落地风险。前提是工具的接口定义必须稳定，如果工具经常变，模型学到的调用模式就全废了。我见过一个失…

#百度#Agent#Agent 系统设计

面试题·Agent· 百度

Agent 核心组件架构

匹配口述回答：…，显式更新这些槽位。长期记忆我用 [[Vector Database]] 存历史对话和知识，但有个前提：检索回来的信息必须做 [[重排]]，不然混进噪声反而干扰决策。工具调用这块，说白了就是给LLM装插件。关键机制是 [[Function Calling]]，模型输出结构化JSON，我这边解析执行，再把结果塞回上下文。但有个容易忽略的点：工具描述要写得像给新同事看的操作手册，参数名、返回值格式、什么情况会报错，都得写清楚。比如对接搜索API，我会在描述里加一句“如果搜索结果…

#百度#Agent 核心组件架构#Agent 系统架构怎么搭？规划、记忆、工具与行动

面试题·Agent· 百度

多智能体 Memory 机制怎么用?

匹配口述回答：…，比如把生鲜退款的案例推给数码产品退款，反而会误导决策。常见失败场景是，记忆库越来越大，检索噪声也越来越高。所以上线我会特别关注 ReRank 和过滤策略，保证召回的都是高相关的经验。多智能体场景下，Memory 还有个特殊作用：协作共享。不同智能体可以同步关键信息，避免重复探索。但这里有一个棘手的问题，冲突消解。比如两个智能体对同一类订单的退款策略记录不一致，怎么办？我倾向用版本控制加共识机制，比如按时间戳或投票决定采纳哪个。说到共享，其实有个更深的点：智能体之间的记忆…

#百度#Agent#多智能体 Memory

面试题·文档处理· 百度

RAG ANN 索引优化

匹配口述回答：…to 曲线，而不是套固定参数。为了补回 ANN 的近似损失，可以先取得更大的候选集，再用原始向量或 cross-encoder 重排。Embedding、距离函数、归一化和文档分块也会影响端到端召回，不能把所有问题都归因于索引。最后还要验证增量写入、删除、分片和过滤。高选择性过滤如果处理顺序不当，会同时伤害召回和延迟。索引版本化、影子构建和原子切换可以降低更新风险。我还会回放生产查询和过滤条件，观察删除墓碑累积后召回是否下降，再用双索引灰度切换验证新版本，避免重建期间读到…

#百度#文档处理#RAG ANN 索引优化

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配口述回答：…候用稀疏向量？比如订单号检索，稀疏向量或者关键词匹配更准；而意图理解，稠密向量更好。真正稳定的RAG系统，往往是稠密加稀疏再加[[重排]]，但重排会增加延迟，所以需要根据业务场景做取舍。所以整体上，我会把Embedding模型选型看成是工程和效果的平衡，没有银弹。我更倾向先用小规模数据做离线评测，选一个基线，然后根据线上bad case迭代。本质问技术选型与工程落地的平衡 Embedding选型策略：任务驱动，混合使用向量化入库流程：分块、向量化、元数据、索引落地风险…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·文档处理· 字节

医学论文与法律条文切块

匹配口述回答：…成检索质量的基础设施，它不是一次设定就完事的，需要根据文档类型、查询场景和模型能力持续调优。如果面试官想问，我可以再聊聊怎么用[[Rerank]]来提升召回后的排序质量，或者怎么评估chunk策略的好坏。这道题本质问的是语义完整性与检索效率的平衡先讲通用分块策略，划清边界：固定长度 vs 结构感知 vs 语义分块重点讲专业领域特化：法律条文按条款硬切，医学按IMRAD结构切落地风险：重叠窗口、chunk大小与embedding模型匹配收尾取舍：我会把chunk策略看…

#字节#医学论文与法律条文切块#医学论文和法律条文为什么要用不同的切块策略

面试题·文档处理· 腾讯

RAG 文档 Chunk 划分策略怎么选?

匹配口述回答：…]] 指标里的上下文精度，如果重复率太高就加大步长。另外，块大小不能超过 LLM 的上下文窗口，但也不能太小，否则信息密度低，[[Rerank]] 也救不回来。还有一个方向我最近在关注，就是智能分块，比如用 LLM 自己判断断点，或者对 Markdown、JSON 按语法树切分。这个在代码或表格场景里效果很好，但代价是延迟和成本。如果面试官感兴趣，我可以展开讲讲结构化分块怎么跟元数据标注结合，来提升检索精度。所以总结一下，我不会把 chunk 策略看成孤立的选择，我更倾向…

#腾讯#文档处理#RAG Chunk 划分

面试题·文档处理· 百度

分块策略怎么影响检索?

匹配口述回答：…切，再对每个章节用语义分块按段落切，这样既保留了文档结构，又保证了段落语义完整。检索时粗排用大块保召回，精排用小块保精准，配合[[Rerank]]效果更好。落地风险也很明显。前提是分块策略要和检索方式匹配。如果只做向量检索，语义分块比固定长度好；但如果混合了[[BM25]]关键词检索，固定长度分块反而可能因为词频统计更均匀而表现更好。常见失败场景是，分块切得太碎，导致检索时上下文丢失，生成结果出现[[Hallucination]]。上线我会特别关注分块数对[[向量库]]规模…

#百度#文本分块#chunking 策略

面试题·文档处理· 百度

常用分块方法有哪些?

匹配口述回答：…比如有的20 tokens有的500 tokens，那就要调整递归的层级参数。其实还有一个方向值得深挖，就是分块策略怎么和 [[Rerank]] 配合。比如语义分块切出来的块，有时边界还是不够准，如果后面接一个 [[Cross-Encoder]] 重排，就能把切得不好的块里真正相关的片段捞出来。但这就引出另一个问题，重排的延迟怎么控制，对吧？所以总的来说，我更倾向把分块看成一套可配置的管道，而不是一个固定的算法。先根据文档类型选主策略，再用重叠和重排兜底，最后用线上指标比…

#百度#文本分块策略#RAG chunking

面试题·文档处理· 安克科技

RAG文本向量化：分块与嵌入陷阱

匹配口述回答：…语义匹配，稀疏向量比如[[BM25]]适合关键词精确匹配，真正落地常常两者混合。我倾向用[[混合检索]]，把两条路的结果合并再[[重排]]，这样既能抓住语义也能兜底精确匹配。如果面试官追问，我会补充一点：RAG的向量化质量最终要靠端到端评测，不是单看召回率。我常用[[RAGAS]]框架，从[[Faithfulness]]、[[Context Precision]]等维度评估生成质量，再反推索引和检索的瓶颈。这样能避免“召回好但生成差”的脱节问题。一句话定位：RAG向量化本…

#安克科技#RAG 文本向量化#分块策略

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配口述回答：这道题讨论的是工程方案，不需要编造“曾经在某业务提升了多少”。第一步先把端到端 trace 拆成排队、召回、重排、上下文组装、prefill、decode 和工具等待。召回与生成使用的资源不同，应该独立定位和扩缩容。召回侧可以先做安全的元数据或关键词过滤，再做向量召回，但必须验证过滤不会漏掉正确证据。HNSW 的搜索宽度、IVF 的桶与探测数都在召回和延迟之间取舍；PQ 能节省存储与带宽，但会带来量化误差。热点 query、embedding 和结果缓存要绑定语料、模型和…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 字节

RAG 为何要二次生成?

匹配口述回答：…也召回来，因为都是优惠券。我会加上关键词权重，甚至用[[Hybrid Search]]把向量和[[BM25]]结合起来，再经过[[Rerank]]把最相关的顶上去。而且上线前我会特别关注chunk的边界是否合理，以及大模型会不会忽略检索内容、自己瞎编，这是常见的失败场景。说到幻觉控制，我最近在关注一个方向：让大模型在生成时能主动判断检索内容是否足够，如果不够就触发多轮检索，而不是硬凑答案。比如[[Self-RAG]]那种思路，让模型自己决定要不要搜、搜什么。这其实又回到了[…

#抖音#RAG 二次生成#向量检索 vs 大模型生成

面试题·评估· 美团

RAG 仍会幻觉的原因

匹配口述回答：…。所以落地时我特别关注检索质量，会把RAG看成一种系统而非单一模型。我会优先做[[混合检索]]，关键词加向量双路召回，再配合[[重排]]提高精度。同时，如果场景对时效性要求高，比如客服政策经常变，我会搭配微调，让模型记住高频更新的知识，RAG负责低频冷门知识。另外生成后验证也很重要，用事实核查模型或者人工抽检，形成完整防线。总的来说，我更倾向把RAG定位成幻觉的缓解手段而不是根治方案。上线前我会重点监控召回率和精确率，上线后持续分析bad case，看是检索问题还是生成问…

#美团#检索证据质量#RAG 仍会幻觉的原因

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…更严重的幻觉。所以上线我会特别关注召回率和相关性，常用[[Hybrid Search]]，就是关键词加向量两条路一起走，再配合[[Rerank]]筛一遍。再一个，提升事实准确性。RAG的生成结果可以追溯到具体的检索片段，这叫Grounding机制。用户追问时，你能说出是参考了哪份文档的哪句话。另外Top-K检索能拿到多个相关片段，它们可以交叉验证。比如两个文档都说同一个参数，那可信度就高；如果互相矛盾，模型需要判断或触发质疑。这里有个常见失败场景：检索为空或质量太差时，模型…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 科大讯飞

RAG 解决了 LLM 哪些局限?

匹配口述回答：…检索本身也不能只靠向量相似度，我通常会把[[Hybrid Search]]，就是向量加[[BM25]]关键词，结合起来，再经过[[Rerank]]重排，才能把最相关的那几段送到模型面前。再一个，RAG的评估也是个头疼事。你不能只看模型回答得顺不顺，还得看它有没有忠实于检索到的文档，有没有忽略关键信息。我倾向用[[RAGAS]]这类框架做自动化评估，但最终还是得人工抽检。所以，我会把RAG看成是让大模型在真实业务里落地的必选项，但不是银弹。它解决了知识时效和幻觉的问题，但前…

#科大讯飞#阿里#RAG 架构

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…混进一堆噪声，模型反而更容易被带偏。所以我会在检索阶段做 [[Hybrid Search]]，把关键词和向量结合起来，再加上 [[Rerank]] 把最相关的文档排到前面。而且上线后我会特别关注一个失败场景：当检索结果为空时，模型会退化成纯生成，那幻觉率会飙升。我的做法是加一个拒答逻辑，如果最高分文档的相关度低于某个阈值，直接回复“没有找到相关信息”，而不是让模型硬猜。再说解码策略，这是成本最低、见效最快的手段，但效果有限。比如 Contrastive Decoding，它…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 字节

RAG 二次生成怎么减少幻觉?

匹配口述回答：…，你约束得再严也没用。所以我会先确保检索链路靠谱，比如用 [[Hybrid Search]] 把关键词和向量结合起来，再配合 [[Rerank]] 把最相关的片段顶上去。另外，温度调整也得小心，如果检索匹配度高的部分温度设太低，生成内容可能过于死板，像在念原文，用户体验不好。所以我的整体思路是：把提示工程、约束生成、生成后验证三层叠起来，同时持续监控检索召回率和[[忠实度]]指标。比起花里胡哨的提示词，我更看重检索质量和硬约束的兜底能力。说到验证，其实还有一个方向是让模型…

#抖音#约束生成#RAG 幻觉

面试题·评估· 快手

LangChain 链式调用原理

匹配口述回答：…本身逻辑混乱，再好的检索也救不了。上线后我会监控用户反馈，如果发现回答不准确，可能得加[[Hybrid Search]]或者做[[Rerank]]。一句话定位：面向LLM的编程框架核心抽象：模型接口、检索、链、Agent、内存、回调链式调用：Runnable协议和LCEL Agent执行循环与模块化价值落地风险与取舍约4分钟 LangChain适合快速原型和复杂编排，但生产环境建议自己封装一层薄抽象，避免过度抽象和黑盒风险。面试官可能会追问：你在生产环境具体怎么封…

#快手#评估与监控#Agent