匹配追问：…几篇相关文档，但发现排序不太准。你觉得这种情况下，加一个重排序模型有必要吗？为什么？层层追问 RAG里你一般怎么做检索？……只靠向量召回够不够？……如果召回了100篇，怎么挑出最相关的5篇给大模型？……你觉得重排序在这中间能解决什么问题？直球架构请解释为什么在RAG系统的初步检索后需要一个重排序模型。它的核心作用是什么？相比只做向量检索，重排序带来了哪些优势？

#字节#Rerank模型#RAG Rerank

面试题·检索· 快手

匹配正文：…成才能开始生成流式输出卡顿：检索与生成串行执行，破坏实时体验长尾超时：复杂查询触发多轮检索或重排序时超时根本原因链路级联：向量检索 → 重排序 → 上下文组装 → 生成，各环节串行叠加重排序瓶颈：Cross-encoder精度高但延迟大（百毫秒级），成为关键路径上下文膨胀：检索Top-K文档后，长上下文导致Prefill阶段计算量激增准确率挑战表现召回不足：用户问题与文档语义不匹配，漏掉关键信息噪声干扰：检索到相关但非答案的片段，导致生成 hallucin…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 字节

两阶段 vs 端到端怎么选?

匹配正文：…定位错误来源（是检索错了还是生成错了？）字节场景下的实践倾向字节业务（抖音搜索、豆包）通常选两阶段为主，端到端为辅：主链路：向量召回 + 重排序 + 生成（保证可控）快速路径：小知识场景走端到端（降低延迟）关键优化：用稠密+稀疏混合召回提升首阶段质量，减少后续压力

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#两阶段检索与端到端生成#两阶段检索

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：这道题其实在问一个很本质的问题：[[RAG]]系统里，向量检索和LLM[[重排序]]之间到底是什么关系？很多人以为向量搜到最相似的文档就完事了，但真正落过地就会知道，相似度和相关性是两回事。先说向量检索的边界在哪里。[[Embedding]]模型做的是把文本映射到高维空间，距离近的语义上相似，但相似不等于能回答用户问题。举个例子，用户问“退款政策是什么”，向量检索可能召回一篇讲“退货流程”的文章，因为词向量接近，但文章里根本没提退款金额和时间限制，这种文档对LLM来说就是噪…

#字节#向量召回与重排#RAG 重排序

面试题·检索· 美团

混合检索怎么提升 RAG 召回?

匹配追问：…返回关键词结果，漏掉商品描述里的“iPhone 15”怎么办？你可能会想，能不能把两种检索结合起来？层层追问你用的检索方式主要是什么？……那如果用户搜的是同义词或者口语化表达，效果怎么样？……有没有想过把关键词匹配和语义向量检索结合在一起？具体怎么设计？直球架构解释一下混合检索的设计动机，对比BM25和稠密检索的工作原理，包括它们相似度度量的差异，以及为什么混合后能提升RAG的召回效果。

#美团#混合检索#混合检索 Hybrid Retrieval

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配追问：…“我的订单什么时候到”，你从知识库里检索相关文档再生成回答。那你这个检索模块具体是怎么从用户问题拿到那几段最相关的文档的？输入输出是什么？层层追问 RAG系统里检索那部分你一般怎么设计？……比如用户问题里有个“它”，你怎么找到对应的文档？……更具体的，你用的是稀疏检索还是稠密检索？为什么？直球架构请详细解释RAG系统中检索模块的工作机制，包括它的输入输出、采用的模型类型（稀疏还是稠密）、依赖的组件比如向量数据库和索引结构，以及它如何与生成模块协作来提升回答质量。

#字节#Retriever#RAG Retriever

面试题·检索· 哔哩哔哩

召回 vs 粗排怎么分工?

匹配正文：…。协同关系候选库 → 多路召回或 ANN → 合并去重 → 可选粗排 → 精排 → 约束与多样性重排召回可来自协同过滤、双塔向量、图、热门或业务规则。粗排可用轻量 GBDT、浅层网络或蒸馏模型，并应覆盖精排所依赖的主要目标。若粗排标签、特征或目标与精排不一致，会产生选择偏差，把后续本可识别的优质项提前删除。视频推荐可以并行召回关注作者、历史兴趣、相似内容与探索候选；粗排再估计点击、观看或满意度。小候选池或轻量精排可能直接省略粗排。验收应画出候选深度、召回率和延迟成本曲…

#哔哩哔哩#召回与粗排#召回与粗排区别

面试题·检索· 字节

召回模型怎么搭建?

匹配追问：…到索引，关键环节怎么设计？层层追问召回模型你一般怎么搭？……双塔结构里user和item特征怎么处理？……负样本你怎么选？……向量建索引用哪种方案？直球架构请描述推荐召回双塔模型的搭建流程，包括特征工程、模型选型、负采样策略和向量索引构建，每个环节的核心设计逻辑是什么？

#Tiktok#负采样与向量索引#召回模型搭建

面试题·模型训练· 百度

DDPM vs Flow Matching: 采样效率与优缺点?

匹配正文：…ching 在连续归一化流 ODE dx_t/dt=v_t(x_t) 下，预先选择从基分布到数据分布的概率路径，并回归该路径的条件向量场。它可选择 diffusion conditional path，也可选择 OT displacement path 等，不等于只学习直线。训练与采样 DDPM 训练通常是随机时间步的 Monte Carlo 估计；经典祖先采样按反向时间步迭代，DDIM、DPM-Solver 等可改变采样步数。 Flow Matching 训练也随机采 t…

#扩散模型#流匹配#生成模型

面试题·模型架构· 海尔

位置编码为什么重要?

匹配正文：…入排列具有置换等变性，模型需要额外信号区分 token 顺序。常见方法包括： learned absolute position embedding：位置查表后与 token 表示相加，超过表长没有已学习向量； sinusoidal absolute encoding：按位置和频率计算 sin/cos，可在数学上生成更长位置，但模型未必学会训练长度外的行为； relative position bias/embedding：按 token 间距离或方向修改 attention…

#位置编码#Transformer#自注意力机制

面试题·模型架构· 字节

LLaMA为何选RMSNorm?

匹配题目：…ion 在实现机制、计算效率和训练稳定性方面有哪些主要区别？目前主流的大模型（如LLaMA系列）更倾向于使用哪种归一化方法？其优势是什么？

#Layer Normalization#RMS Normalization#归一化技术

面试题·模型架构· 海尔

Encoder vs Decoder 功能区别?

匹配正文：…er-only：读取有效输入的双向上下文，输出通常是[B,L_src,D]的一组hidden states，而不是天然压成单个固定向量。分类时可再池化。 Encoder-decoder：encoder把源序列编码成随源长度变化的memory；decoder对目标前缀做causal self-attention，并用cross-attention读取整段memory。机器翻译属于典型场景。 Decoder-only：没有独立encoder，把条件和输出前缀放进同一因果序列。训…

#Seq2Seq#Encoder-Decoder#Transformer

面试题·模型架构· 百度

VQ-VAE 码本塌缩治理

匹配追问：…se）问题如何解决，有哪些改进方法如VQ-VAE-2、DALL-E的改进？ VQ-VAE与扩散模型（Diffusion）的结合思路是什么，比如Stable Diffusion的VAE编码器？为什么离散隐空间比连续隐空间更适合与自回归生成模型结合？场景切入假设现在训练一个 VQ-VAE，重建损失继续下降，但码本只剩少量 code 被频繁使用。你会怎样确认是 dead codes 或 codebook collapse，并选择治理手段？层层追问码本向量怎样通过梯度或 E…

#VQ-VAE#变分自编码器#离散隐空间

面试题·项目与经历· 美团

项目难题怎么定位与解决?

匹配追问：如果方案效果不达预期，你会如何迭代优化这个过程中最大的技术挑战是什么，如果重来你会怎么改进如何平衡技术理想与业务 deadline 的压力场景切入假设现在一个问答系统上线后在某类请求上效果变差，但根因未知。你会怎样从指标定义、数据切片和端到端链路开始定位，而不是先猜某个模型问题？层层追问先确认现象是否可复现……再按哪些维度分桶？……召回、排序、生成和系统实现怎样分别做最小对照？……证据指向根因后如何灰度和回滚？直球技术请结合一个真实经历，或明确说明采用假设场景…

#问题定位#工程实践#跨团队协作

面试题·模型训练· 得物

LoRA 微调效果差怎么排查?

匹配正文：…投影、加入输出投影或FFN，会产生不同容量和成本。不同层也可能需要不同预算，AdaLoRA等方法尝试自适应分配。是否解冻norm、embedding或lm head同样是实验变量，不能按深层更重要的口号直接决定。若使用QLoRA，还要把量化误差、计算dtype、量化范围和普通LoRA区分开。QLoRA并不推出需要更大rank；模型能否恢复质量取决于基座、任务和目标模块。训练不稳时检查学习率、梯度、序列长度和数据，而不是用rank补偿所有问题。最终会同时比较prompt基线…

#LoRA#参数高效微调#故障排查

面试题·模型训练· 字节

MSE vs 交叉熵损失怎么选?

匹配正文：…上的离散类别，交叉熵等价于最大化观测 token 的条件对数似然，能够直接训练完整类别分布。把 one-hot token 当连续向量做 MSE 会引入不合适的几何和饱和梯度。蒸馏可使用软目标交叉熵或 KL，回归价值、embedding 或连续属性时仍可使用 MSE。图解 MSE vs 交叉熵损失怎么选?图解

#损失函数#交叉熵#MSE

面试题·评估· 百度

自动 vs 人工评价怎么选?

匹配题目：在评估大语言模型时，常用的自动评价指标和人工评价标准有哪些？它们各自的优缺点是什么？

#BLEU#ROUGE#BERTScore

面试题·模型训练· 百度

Flow Matching 线性目标速度

匹配题目：… Conditional Flow Matching 路径的 target velocity，应如何定义和计算？这一目标的训练含义是什么，换成带时变方差的 Gaussian path 时又有哪些边界？

#Flow Matching#扩散模型#概率流

面试题·多模态· 百度

MoE 专家网络怎么动态路由?

匹配追问：如果采用软路由，如何保证专家负载均衡避免 collapse 到单一专家？这种设计与传统 timestep embedding 的区别和联系是什么？在多模态场景下，文本条件如何与噪声水平共同影响路由决策？场景切入假设一个多模态扩散模型包含高噪与低噪两个专家，并且噪声日程已知。你会用 t、sigma 还是 log-SNR 作为主路由信号？硬路由与软路由分别怎样实现和验证？层层追问固定日程下怎样表示当前噪声水平？……除时间信号外能否加入共享特征或条件向量？……硬路由和 …

#扩散模型#MoE#噪声调度

面试题·模型架构· 美团

Transformer 架构核心组件原理

匹配正文：原始Transformer：encoder-decoder 输入token embedding与位置编码相加后进入N层encoder。每层包含multi-head self-attention和逐位置FFN；每个子层外有残差、dropout和LayerNorm。原始论文使用Post-LN： LayerNorm(x + Sublayer(x)) 不是现代Pre-LN的 x + Sublayer(LN(x))。 Decoder每层依次包含masked self-attention…

#Transformer#自注意力机制#位置编码

面试题·模型架构· 安克科技

GPT vs BERT 核心区别在哪?

匹配正文：…ERT 类模型才可承担相应分类环节。选型看输出形式和成本：需要逐 token 生成与上下文学习时选生成模型；需要低延迟固定标签、向量编码或 token 标注时，encoder-only 往往更经济。两者都可通过微调扩展任务，不能用“GPT 只会生成、BERT 只会分类”作绝对边界。图解 GPT vs BERT 核心区别在哪?图解

#自回归模型#自编码模型#Transformer

面试题·模型训练· 百度

重参数化技巧怎么解决梯度问题?

匹配追问：重参数化技巧与Score Matching、Flow-based模型的联系与区别是什么在离散变量场景下（如VQ-VAE），重参数化技巧失效，有什么替代方案扩散模型中的重参数化与VAE中的有何具体差异场景切入假设你在做一个电商推荐系统，用户历史行为编码成向量，但模型需要从高斯分布中采样来增加多样性。你直接用采样操作，梯度传不过去，怎么办？层层追问 VAE 里从分布采样那一步怎么训练的？……采样操作不可导对吧？……那你有什么办法让梯度回传？……重参数化具体怎么做的？直…

#重参数化技巧#VAE#扩散模型

面试题·多模态· 得物

多模态大模型怎么理解？

匹配正文：…表示，但不要求所有模态从一开始就在同一个共享空间。常见结构包括：双塔对齐：CLIP用图像编码器和文本编码器，经对比学习得到可比较embedding，适合检索和零样本分类。桥接模块：BLIP-2用Q-Former连接冻结视觉编码器与冻结LLM；投影器也可把视觉特征映射成语言模型token。 Cross-attention：Flamingo先用Perceiver Resampler整理视觉特征，再由语言模型中的gated cross-attention读取，视觉和文本可保留不…

#多模态融合#视觉语言模型#对比学习

面试题·模型架构· 百度

DDPM vs Flow Matching: 建模与训练差异?

匹配口述回答：…数值积分混成一个结论。我还会检查端点约定和时间方向。代码里噪声端是零时刻还是一时刻、网络预测速度还是噪声、solver 积分方向是什么，必须完全一致。很多实现错误并不是理论选择错了，而是训练目标与推理方向写反。用一维玩具分布画出轨迹、检查起点和终点，是上线大模型前很便宜也很有效的验证。比较反向扩散和向量场学习解释两者的随机时间训练澄清随机、确定性与多样性说明直线路径和最优传输边界约3分钟条件路径的几何形状不等于边缘生成轨迹，求解速度还取决于向量场曲率与数值误差。…

#生成模型#扩散模型#流匹配