匹配标题与标签：RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？先拆 TTFT 全链路，再讨论批处理、缓存、ANN 索引、并行召回和流式输出，避免用“加机器”掩盖真正瓶颈。 RAG RAG 评测与上线 RAG 首字响应 RAG 延迟优化 TTFT Milvus 性能 RAG 项目面试

#RAG#评测与上线#RAG 首字响应

面试题·Agent· 阿里

RAG+Agent 延迟与准确率成因

匹配标题与标签：RAG+Agent 延迟与准确率成因落地场景中响应慢、结果不准的成因与优化方案 Agent 阿里云 Agent RAG Agent 延迟优化 RAG 准确率提升 Agent 落地技术问题阿里

#阿里云#Agent#RAG Agent 延迟优化

面试题·检索· 快手

匹配正文：…述gap大上下文噪声：Top-K检索结果混入无关文档，稀释有效信号多跳失败：复杂问题需跨文档推理，单轮检索覆盖不全优化思路延迟优化预检索策略：热点query缓存、用户画像预加载常用知识检索加速：向量量化(IVF-PQ)、图索引(HNSW)、检索结果缓存流式生成：首token返回后chunk输出，降低用户感知延迟并行化：检索与LLM调用解耦，工具调用异步化正确率优化混合检索：向量+关键词+知识图谱多路召回，RRF融合查询改写：HyDE生成伪答案再检索，解决…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·多模态· 淘天

截图 RAG 怎么理解界面组件?

匹配口述回答：…结构化组件解析：用多模态模型或专用UI检测检索设计：双路索引，混合搜索生成增强：上下文组装与引用溯源落地风险：知识库构建和延迟优化约4分钟组件多时用GraphRAG建模层次关系，提升检索精度面试官可能追问GraphRAG的具体实现，比如如何构建图结构，以及与传统RAG的对比

#淘天#多模态#多模态 RAG

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配正文：…确性要求极高（医疗、金融）关键权衡：候选集大小：通常取Top-K=20~100做重排，K太大延迟爆炸，太小可能漏掉优质doc 延迟优化：可用轻量交叉编码器（如MiniLM）、蒸馏模型，或GPU batch推理级联策略：多轮重排（粗排→精排→LLM pointwise打分）平衡效果与成本一句话总结重排是用计算换精度的关键设计，让RAG从"找得到"进化到"找得准"。学习建议建议先掌握RAG基本流程，理解检索与排序的区别，再学习典型重排模型（如Cross-Encode…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 重排序怎么选?

匹配正文：…00~200重排，平衡召回与成本级联过滤：先用轻量模型（如bge-reranker-base）粗排，再用大模型精排Top-20 延迟优化：交叉编码器可蒸馏为tiny版本，或用ONNX/TensorRT加速；ColBERT支持PLAID索引进一步提速一句话总结：重排序是RAG从"可用"到"好用"的关键投入，建议至少部署轻量交叉编码器，高价值场景叠加LLM重排。学习建议建议系统学习该知识点

#字节#重排与优化#RAG Re-ranking

面试题·检索· 美团

RAG 系统有哪些常见陷阱?

匹配正文：…、多路召回、重排序优化上下文处理：窗口长度控制、冗余去重、相关性过滤生成阶段：prompt工程、引用溯源、幻觉抑制系统层面：延迟优化、缓存策略、离线评估体系一、检索质量分块策略按语义分块优于固定长度，可用LLM辅助判断边界块大小一般256-512 tokens，需保留上下文重叠（overlap）表格/代码等特殊内容需单独处理，不能粗暴切分 Embedding与召回领域数据务必微调embedding，通用模型域外效果差多路召回：向量检索 + 关键词（BM25…

#美团#RAG常见陷阱#RAG 系统陷阱

面试题·文档处理· 小鹏

RAG 分块长度与重叠如何取舍?

匹配题目：在RAG（检索增强生成）系统中，如何优化文档的分段策略以提高检索质量和生成效果？请讨论分段长度、重叠策略和语义完整性的权衡。

#小鹏#RAG 文档分段#检索增强生成分段策略

面试题·评估· OPPO

意图识别在 RAG 中怎么用?

匹配口述回答：…在实际工程里挺有挑战的。总的来说，我把意图识别看成RAG系统的守门员，它做得好，检索和生成才能事半功倍。一句话定位：意图识别是RAG的路由中枢检索准确性：方式选择与查询改写生成质量：上下文筛选与幻觉防控落地风险：前提与常见失败场景工程师取舍：倾向Agentic RAG和轻量级初分约4分钟意图识别与外部工具联动时，如何保证调用链路的可靠性和延迟控制。面试官可能会追问Function Calling的具体实现、错误处理策略，或者延迟优化方法。

#OPPO#RAG 意图识别#RAG

面试题·多模态· 淘天

多模态 RAG 架构设计

匹配口述回答：…底。一句话点本质：多模态RAG核心是跨模态对齐和检索早期伪多模态方案与局限真多模态主流框架：ColPali、Qwen-VL-RAG、LlamaIndex 架构差异：Embedding层、检索策略适用场景与选型建议落地风险与工程取舍约4分钟多模态RAG的重排序环节，用小跨模态Cross-Encoder做二次排序能提升效果但增加延迟，如何权衡。面试官可能会追问重排序的具体实现、延迟优化方案、或者与其他Rerank方法的对比。

#淘天#多模态#多模态 RAG 架构设计

面试题·Prompt· 字节

RAG Generator Prompt 整合原理

匹配口述回答：…理策略和生成后处理最后收尾加个可延伸点约4分钟当文档数量多到上下文窗口装不下时，单纯截断会丢信息，可以考虑用Agentic RAG让模型主动二次检索。面试官可能会追问Agentic RAG的实现细节、延迟优化、或者和普通RAG的对比。

#字节#Prompt工程#RAG Generator Prompt

面试题·检索· 字节

RAG 重排作用与实现

匹配口述回答：…解决语义精排和多路融合问题 Cross-Encoder和ColBERT的选择业务落地：客服退款场景风险与工程考量结尾：重排是RAG精度的最后一道关卡约4分钟用大模型直接做重排的成本和适用场景面试官可能追问大模型重排的具体实现、延迟优化、是否值得用

#字节#Cross-Encoder重排#RAG 重排作用与实现

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配口述回答：…任何一个环节出问题，答案质量都会崩。我更倾向在离线阶段多花功夫做文档清洗和质量校验，而不是上线后靠prompt来救。一句话定位：RAG本质是解决知识时效性与幻觉的平衡文档处理与分块：固定切分vs语义切分，业务场景选型检索与排序：混合检索+重排，召回率与精确率取舍上下文构建与生成：窗口压缩、引用溯源、拒答机制工程落地风险：检索失败场景、一致性校验、延迟优化约4分钟检索失败时的自检与回退策略，模型主动决策而非被动拼接面试官可能会追问：这种自检机制具体怎么实现？会不…

#百度#文档切分与检索#RAG 实现流程

项目实战·RAG

第 10 章:系统评估与上线优化

匹配正文：…度) 【评估维度与方法】评估 RAG / Agent 系统通常用哪些指标和方法?请说明评估的维度。中等 → 【MRR 指标】 RAG 里 MRR(平均倒数排名)怎么定义?它在评估时有什么特殊意义? 基础 → 【评估数据集设计】如何设计和构建高质量评估数据集?数据采集、标注流程、负样本怎么处理? 中等 → 【检索段评价体系】衡量召回阶段质量有哪些成熟的离线与在线评估指标? 较难 → 【高并发延迟优化】高并发场景下,如何从架构/算法/工程角度优化召回段和生成段的延迟? …

#RAG#检索#项目实战

面试题·文档处理· 百度

常用分块方法有哪些?

匹配正文：…nt-specific）：利用标题、段落等天然边界，适合结构化文档重叠窗口（Overlap）策略缓解边界信息丢失问题文本分块是RAG系统的关键预处理环节，直接影响检索质量和生成效果。常用策略可分为以下几类： 1. 固定长度分块（Fixed-size Chunking）按固定token数或字符数切分，具体长度作为候选变量优点：实现极简，便于批量处理，向量化效率高缺点：硬截断可能切断句子语义，边界信息易丢失适用：快速原型、对语义连贯性要求不高的场景 2. 递归分块（R…

#百度#文本分块策略#RAG chunking

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配标题与标签：高并发 Agent 延迟卡在哪? 召回与生成阶段架构设计、算法、工程三角度策略评估高德 Agent Agent 系统延迟优化高并发 Agent 架构召回阶段优化生成阶段优化高德

#高德#Agent#Agent 系统延迟优化

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配正文：…分层机制推理层面：CoT/ReAct优化、推理预算分配、自适应深度工具层面：工具选择策略、并行调用、结果缓存与容错系统层面：延迟优化、成本控制和可观测性架构设计优化模块化与分层架构将Agent拆分为规划层、执行层、记忆层、工具层，降低耦合采用多Agent协作：主Agent负责任务分解，子Agent并行执行子任务，通过消息总线通信记忆机制设计短期记忆：对话上下文窗口管理，关键信息提取长期记忆：向量数据库存储历史经验，支持RAG式检索工作记忆：当前任务相关的…

#百度#Agent#Agent 性能优化

面试题·RAG· 小红书

生成式推荐的序列原理

匹配标题与标签：生成式推荐的序列原理生成式推荐自身的 item tokenization 和自回归原理 RAG 小红书 Item Tokenization 生成式推荐的序列原理生成式推荐是什么？Item Tokenization 与序列生成原理生成式推荐判别式推荐 Generative Recommendation 小红书

#小红书#Item Tokenization#生成式推荐的序列原理

面试题·模型架构· 商汤科技

幻觉一致性延迟诊断

匹配追问：如果幻觉问题在RAG场景下依然严重，你会如何优化检索和生成的协同机制输出不一致在API高并发场景下如何设计缓存策略推理延迟优化中，Prefill和Decode阶段的瓶颈分别是什么场景切入假设你在做一个电商客服助手，用户问‘昨天下单的什么时候发货’，模型答了‘已发货’，但实际上订单还在备货中。这种不一致怎么修？你从采样策略到模型训练层面会怎么处理？层层追问大模型上线后你一般怎么排查问题？……如果发现回答经常前后矛盾或者胡编乱造，你会从哪些方向去找原因？……那具体到训…

#幻觉问题#输出一致性#推理延迟

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配口述回答：…效果、成本和工程复杂度。我先给个框架：选型完全取决于场景，不同场景对向量质量的要求差别很大。先说场景。如果是做语义检索，比如[[RAG]]里的召回，那肯定优先选专门优化过句子相似度的模型，像BGE、M3E这种，它们用对比学习训练出来的向量，余弦相似度能很好反映语义相关性。但如果你只是做文本分类或聚类，通用BERT就够用了，甚至可以用更轻量的模型，没必要上大模型。具体说一下核心参数。维度是个典型trade-off：768维或者1024维效果确实好，但存储和检索成本会翻倍；如…

#百度#向量检索#Embedding 模型选型