匹配正文：核心问题分析 RAG与Agent结合时，延迟和正确率问题呈乘法放大效应——Agent的多步决策特性使RAG缺陷被反复累积。一、响应延迟的成因与优化延迟来源具体成因优化方案检索层向量库冷启动、跨地域查询、Embedding计算预加载热数据到内存；本地缓存高频Query的Embedding；采用HNSW+量化索引 Agent决策层 ReAct多轮迭代、工具调用链过长、LLM推理本身设置最大迭代阈值；并行化独立工具调用；用小模型做意图路由，大模型仅做最终生成编排开…

#阿里云#Agent#RAG Agent 延迟优化

面试题·评估· 蚂蚁

RAG多轮对话怎么防知识遗忘?

匹配正文：…下文漂移（主题偏离）的本质差异提出显式对话状态管理机制设计动态检索策略而非单次检索说明查询重写/扩展的具体方法给出评估多轮RAG效果的指标问题本质多轮RAG的两个核心挑战：知识遗忘：早期轮次的关键信息未被当前检索利用上下文漂移：用户意图变化导致检索偏离当前需求技术方案 1. 显式对话状态管理对话状态 = {主题实体集合, 用户意图, 未解决问题, 已确认事实} 每轮用轻量模型抽取状态更新状态向量化后参与检索相似度计算 2. 分层检索策略层级内容权重…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#蚂蚁#RAG 多轮对话#知识遗忘

面试题·文档处理· 美团

RAG 知识库搭建流程?

匹配口述回答：这道题我觉得本质上不是在问流程，而是在问你怎么在检索质量、存储成本和响应延迟之间做取舍。搭建[[RAG]]知识库，我一般会按预处理、[[分块]]、[[向量化]]、索引构建、检索优化这几个环节来走，但每个环节都有很多坑，我重点说几个。先说文档预处理。这一步核心是格式解析和清洗。比如PDF，如果是文本型的，用PyPDF2或者python-docx直接提取就够；但如果是扫描件，那就必须走[[OCR]]，我会用PaddleOCR或者EasyOCR。这里有个坑，OCR识别率不是100…

#美团#RAG 知识库搭建#文档预处理

面试题·评估· 字节

BGE-M3 vs BM25 怎么选?

匹配题目：在RAG系统中，如何评估并选择BGE-M3向量检索与BM25关键词检索方案？请说明关键评估指标（如Recall@k、MRR、响应延迟）及其权重考量。

#抖音#BGE-M3 vs BM25#RAG 检索方案评估

项目实战·RAG

第 10 章:系统评估与上线优化

匹配正文：… vs 线上指标离线评估:用评估集在本地跑,算 Recall/MRR/准确率:上线前反复优化用。线上指标:系统真跑起来后看的:响应延迟(P95/P99)、QPS 吞吐、用户满意度:上线后盯着不出事。离线评估与线上指标解决不同问题。通常先用离线数据筛掉明显不合格的方案,再通过灰度、监控和人工复核观察真实流量表现;高风险场景还需要更严格的上线门槛。具体顺序与覆盖范围应按风险、数据可得性和发布策略确定。 🛠️ 跟着做:30 行算出 Recall@k 和 MRR Step 1…

#RAG#检索#项目实战

面试题·RAG· 美团

分布漂移下外接数据库怎么增强模型?

匹配正文：…变化极快（商家上下架、库存波动）。我们采用：实时库兜底：Redis存储当前可用商家ID，向量检索后过滤，避免推荐已下线商家分层RAG：城市级热向量常驻内存，长尾向量按需加载，平衡内存与召回最终效果：分布漂移检测准确率>85%，知识更新后头部badcase下降40%，P99延迟控制在200ms内。学习建议建议先掌握RAG基础架构，理解向量数据库与实时数据流集成原理，结合实际业务场景思考数据更新频率与模型响应延迟的权衡。

#美团#分布漂移#外接数据库增强

面试题·模型架构· 商汤科技

幻觉一致性延迟诊断

匹配追问：…你会从哪些方向去找原因？……那具体到训练和推理阶段，有哪些可落地的修复手段？直球架构大模型训练或推理中，输出不一致、幻觉严重、响应延迟高是典型缺陷。请系统性地列出每种缺陷的根因和对应的解决方法，并简要说明原理，比如确定性采样、RAG、投机采样这些。

#幻觉问题#输出一致性#推理延迟

面试题·Agent· 百度

Agent 系统性能优化陷阱

匹配正文：…ll/SLM），复杂推理才调大模型投机解码（Speculative Decoding）、KV Cache复用加速生成常见查询走RAG缓存，避免重复推理上下文压缩动态裁剪历史，只保留关键决策节点摘要机制：每N轮对话生成状态摘要，替换原始对话外部工具集成稳定性保障工具调用加超时熔断（Circuit Breaker），超时自动降级失败重试+指数退避，区分可重试错误（网络）与业务错误结果验证工具返回结构化校验（JSON Schema），异常时触发重执行或换工具 …

#百度#Agent#Agent 性能优化