匹配口述回答：…回退，不至于完全盲猜。这三层通过一个注意力融合网络合并，再去做回复生成或商品推荐。训练优化是重头戏。我分三步走。第一步是[[监督微调]]，用高质量客服对话数据，给模型注入基础对话能力，同时加入一个<用户画像>的特殊token，让模型学会看人下菜碟。第二步构造同一用户画像和对话上下文下的可靠偏好对。第三步比较训练路径：[[DPO]]直接优化策略与reference下的偏好概率差，不要求单独训练显式奖励模型；若用[[PPO]]式RLHF，才另建奖励模型、在线采样与价值估计流程。…

#淘天#用户偏好建模#偏好感知对话系统

面试题·检索· 字节

RAG 重排作用与实现

匹配口述回答：…T]]，用late interaction机制，在token级别做MaxSim，速度和精度比较平衡，适合对延迟要求更高的场景。我的选择倾向是：如果业务对精度要求极高，比如金融风控合同检索，必须用Cross-Encoder；如果延迟敏感，比如实时对话，用ColBERT或[[蒸馏]]版MiniLM。当然，真正落地常常是两者结合，先用ColBERT粗排到Top-50，再用Cross-Encoder精排到Top-5。这里有个坑：重排模型一定要和召回模型在训练数据分布上对齐，否则重…

#字节#Cross-Encoder重排#RAG 重排作用与实现

面试题·检索· AIlab

RAG 流程：检索、融合、生成

…域效果很差。比如金融风控合同里“不可抗力”这个词，通用模型可能把它跟自然灾害关联，但业务上它更多指政策变更。所以我会建议用领域数据微调Embedding，或者退一步，加上 [[BM25]] 做 [[Hybrid Search]]。索引存储我倾向用 [[Faiss]] 加 [[HNSW]] 图索引，因为它的召回率和延迟平衡得好，但如果业务需要过滤元数据，比如只查某个品类的文档，那 Elasticsearch 更灵活。再来看在线检索。用户问“我的订单怎么还没发货”，直接拿这个q…

← 上一页第 7 / 7 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配口述回答：

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 高德

RAG 组件功能与数据流向?

匹配正文：…化、索引存储）在线检索生成流程（查询向量化、相似度检索、上下文组装、LLM生成）关键技术环节（分块策略、Embedding模型选择、重排序优化、检索结果融合）能区分Naive RAG与Advanced RAG的差异 RAG完整工作流程一、离线知识库构建（Indexing）步骤功能关键技术文档加载解析PDF/Word/网页等多源格式 OCR、表格识别、版式分析文本分块将长文档切分为语义完整的片段固定长度/递归/语义分块；块大小通常256-512 toke…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配正文：…y → 查询改写（可选）→ 向量检索（Top-K）→ 重排序（可选）→ 上下文拼接 → LLM生成关键组件详解组件作用典型选择 Embedding模型语义编码 BGE-large、GTE、E5 向量数据库近似最近邻搜索 Milvus、Weaviate、pgvector 检索策略提升召回质量稠密+稀疏混合、多路召回重排序模型精排优化 Cross-Encoder、ColBERT 生成模型最终答案生成 GPT-4、Claude、本地LLM 进阶优化手段查询改…

#字节#RAG系统实现#RAG 实现

面试题·检索· 美团

RAG 架构怎么搭?

匹配正文：…的协同机制协同点具体做法信息注入检索结果直接拼入Prompt的system/user消息中动态截断按token预算动态选择能容纳的最相关文档数置信度过滤 Rerank分数低于阈值时，触发"知识不足"回复多轮协同多轮对话中维护检索历史，避免重复检索关键优化方向查询侧：Query2Doc、Step-back prompting扩展查询语义检索侧：稀疏+稠密混合召回（BM25 + Dense），多索引融合生成侧：Self-RAG、Corrective RA…

#美团#检索器生成器协同#RAG 架构

面试题·检索· 网易

BM25+向量+Cross-Encoder 怎么组合?

匹配正文：…时间和业务过滤条件。候选规模、RRF 参数和最终 Top-K 都应通过离线 Recall/nDCG、端到端问答质量、延迟和成本共同选择。数据变化时持续监控两路召回贡献、重排增益和失败查询，不能把任一固定组合称为所有 RAG 系统的“黄金标准”。图解 BM25+向量+Cross-Encoder 怎么组合?图解

#网易有道#BM25向量Cross-Encoder#BM25 向量召回 Cross-Encoder

面试题·检索· 360

RAG 召回准确性：三大失败场景

匹配口述回答：…端到端评估像[[RAGAS]]那种，是测最终答案好不好，这跟检索评估是两码事，我一般分开看。然后说检索模型优化。这里有个很实际的选择：用关键词还是向量。关键词检索像 [[BM25]]，对专有名词、订单号这类精确匹配特别稳，可解释性强，但语义理解弱。向量检索 [[Embedding]] 语义能力强，但领域不匹配时效果会崩。真正落地我倾向 [[混合检索]]，把 BM25 和向量分数加权融合，或者用 RRF 合并排名。举个例子，在企业SOP合规文档场景，员工问“报销流程”，关键词…

#360#召回质量评估#RAG 召回优化

面试题·检索· 小红书

中文知识库检索选型

匹配口述回答：…。所以我上线前一定会做对比实验，拿一批真实query，人工标注相关文档，算 Recall@K。如果召回率不达标，我会考虑用对比学习微调，负样本采‘难负例’，比如同batch其他样本或者BM25高分但不相关的文档。还有一个点值得注意：向量的维度选择对检索精度和存储成本影响很大。比如你用768维还是384维，在召回率上差异可能不大，但索引大小和查询延迟能差好几倍。这个取舍在实际工程里特别关键，但不是所有场景都需要高维向量。所以总结下来，我会把RAG检索看成一场‘关键词与语义’…

#小红书#稀疏与稠密检索#中文知识库检索选型

面试题·模型架构· 百度

AI 论文怎么读?核心思想+创新点

匹配追问：…作，你怎么看它的发展趋势你提到的启发具体怎么落地，遇到过什么困难场景切入假设团队准备复现一篇你确实读过的近期 AI 论文。请选择一篇，说明它解决的问题、核心方法、实验依据、局限，以及你会先验证哪一个可落地启发。层层追问最近完整读过哪篇论文？……它的基线和关键创新是什么？……结论由哪些实验支持？……哪些内容是论文没有证明的？……如果迁移到你的工作，会先做什么最小实验？直球技术介绍一篇你真实读过的 AI 或大模型论文，按问题、方法、证据、局限和工作启发五部分作答。

#论文阅读#技术追踪#学术敏感度

面试题·推理优化· 京东

DeepSpeed 核心特性与架构怎么用?

匹配追问：…(FSDP)的核心区别是什么？ DeepSpeed在千亿参数模型训练中遇到过哪些稳定性问题，如何解决？如果显存足够，为什么有时仍选择ZeRO-2而非ZeRO-1？场景切入假设要在 8 张 80GB GPU 上微调一个 65B 模型，基础配置无法直接放入显存。你会怎样组合 ZeRO、混合精度、activation checkpointing、并行和 offload，并先核算哪些内存项？层层追问 DeepSpeed 解决哪些训练系统问题？……ZeRO-1/2/3 分别分片…

#DeepSpeed#分布式训练#ZeRO优化器

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配口述回答：…走RAG；而风控合同场景，我会更看重精度，哪怕多花点时间。最后，我始终认为RAG不是一个孤立的组件，它和 Prompt 设计、模型选择、甚至微调策略都要协同考虑。 RAG落地本质是检索和生成的权衡检索层的延迟与精度矛盾上下文管理中的信息丢失 Agent决策链的级联错误我的优化思路与取舍约4分钟知识库频繁更新时，增量索引的实时性和一致性平衡，以及双缓冲影子索引的实践面试官可能会追问增量索引的具体实现细节，比如如何处理删除、如何保证查询一致性、如何做校验回放。

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 蚂蚁

Agent项目经验怎么突出亮点?

匹配口述回答：…降级】，我会把关键状态与失败分支讲清楚。【事实填空】当时的基线是【真实方案和结果】。我比较过【备选方案】，因为【真实约束和证据】选择【实际方案】。改动后【真实指标】从【真实基线】变为【真实结果】，样本量或流量为【】，观察窗口为【】；代价是【延迟、成本或复杂度变化】。最典型的失败是【真实 bad case】，目前通过【重试、幂等、检查点、权限确认、降级或人工】处理。【证据自检】这些结论必须能对应【提交记录】【实验表】【trace 或监控】【故障复盘】。如果只能解释团队整体结…

#蚂蚁#AI Agent 项目经验#大模型业务落地

面试题·Prompt· 字节

电商Prompt设计陷阱

匹配追问：…t系统，要求：角色锚定、输入输出结构化、加少样本示例，并且能控制输出格式稳定。说说你的具体方案，包括如何组织prompt内容和示例选择策略。

#字节#Prompt工程#电商 Prompt 设计

面试题·Prompt· 美团

ReAct 框架怎么实现推理+行动?

匹配口述回答：…起来，用思考指导行动，用观察修正思考，所以比单独用哪个都好。但真正落地的时候，我一般不会只用ReAct，还会结合[[RAG]]或者微调。比如RAG适合知识密集型任务，ReAct适合需要多步推理和工具调用的场景，很多时候是两者一起上，先用RAG检索知识，再用ReAct做推理和行动。举个例子，客服退款场景。用户说“我买了个商品，订单号是12345，但没收到货，我要退款”。模型先Thought：用户要退款，我需要查订单状态和物流信息。然后Action：查询订单系统，返回订单已发货…

#美团#评估与监控#Agent

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配口述回答：…]]先粗筛再精排。从架构演进角度看，RAG的本质是把知识从模型参数里搬到了外部存储。传统LLM知识固化在参数里，更新一次就要全量微调，成本极高。RAG让模型能力保持稳定，知识动态更新，这对电商这种有千万级SKU、价格分钟级变动的场景特别关键。说白了，RAG实现了模型能力和知识存储的解耦。不过这里有一个值得深入的点：当检索到的知识和模型参数里记住的知识冲突时，RAG其实缺乏显式的消解机制。比如模型参数里记得某个产品是199元，但知识库里刚更新成179元，模型该信谁？这其实涉…

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·检索· 小红书

RAG 检索偏差怎么系统性解决?

匹配口述回答：…成内容跟证据是否一致。如果多文档结论冲突，就让模型输出“存在不同说法”并列出依据，别强行综合。这里有个值得深挖的点：重排序的模型选择很大程度上决定了整个链路的精度天花板。如果重排模型本身在领域数据上没做过微调，那即使检索召回率很高，重排也可能把好文档排到后面。所以落地时我会特别关注重排模型的领域适配，比如用领域内的query-doc对做继续训练。最后说下我的取舍。如果资源有限，我会把重排序作为标配，因为它性价比最高，在不改检索和生成的情况下，能直接提升topK质量。生成端…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配口述回答：…]的实现架构，其实本质上是在问：你怎么让大模型在回答时能拿到最新、最准确的外部知识，而不是完全依赖它训练时记住的那些东西。RAG和微调的区别就在这里，微调是往模型脑子里塞知识，但更新成本高、容易遗忘；RAG是把知识挂在外面，需要时再查，这样知识更新和模型解耦。整体架构分两条线：离线把知识库建好，在线做检索和生成。先说离线部分，核心就是把文档变成可检索的向量。文档解析这块，PDF、网页、Word格式不一样，我一般会保留标题层级和表格位置，因为这些对后面[[分块]]很重要。分块…

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…段：文档解析、分块、Embedding、向量存储在线阶段：Query理解、检索、重排、上下文融合、生成边界划分：RAG vs 微调，关键词 vs 向量，固定分块 vs 语义分块落地风险：分块策略、检索质量、拒答处理可延伸点：分块粒度对检索的影响约4分钟分块粒度对检索质量的直接影响，以及动态调整策略面试官可能会追问分块的具体策略，比如如何根据文档类型自动选择切分方式，或者如何评估分块效果。

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 美团

推荐结果多样性怎么控制?

匹配口述回答：…度度量，如果[[embedding]]质量不行，相似度算不准，重排反而会打乱排序。所以我会先确保embedding模型在业务数据上微调过。训练阶段我也会做多目标优化。在loss里加一个多样性正则项，惩罚生成结果之间的互信息，让模型学会输出差异化的内容。另外对比学习也很有用，拉近正样本对、推远负样本对，这样embedding空间分布更广，自然能生成更多样化的结果。但训练优化周期长，适合新模型从零训的场景；如果是上线后快速迭代，还是解码阶段和后处理更立竿见影。最后是业务层的兜底。…

#美团#多样性控制#推荐多样性