匹配正文：… 1)先给出答案 2)标注引用编号 3)不确定时说明"信息不足" 3. 长度优化策略截断：按句子边界截断，保留前N个token 摘要压缩：用轻量模型对长文档生成摘要后注入动态选择：根据问题类型选择片段级（细粒度）或文档级（粗粒度） 4. 可追溯性保障强制引用格式：要求模型输出[1] [2]等引用标记后置校验：生成后匹配引用编号与实际检索内容，过滤幻觉引用对输出质量的影响策略直接影响精准筛选减少噪声干扰，降低幻觉概率结构化模板提升回答连贯性和格式一致性来…

#字节#Prompt工程#RAG Prompt 设计

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…限表现缓解思路检索失效召回文档不相关或遗漏混合检索（BM25+向量）、查询重写、重排序上下文爆炸多文档超出窗口限制摘要压缩、分层检索、长上下文模型多跳推理弱需跨文档关联时易断链引入知识图谱、迭代检索（Self-RAG）生成与检索耦合模型过度依赖或忽略检索内容训练时加入"无相关信息"样本、调整prompt权重典型失败案例：用户问"对比A和B产品的差异"，若检索分别返回A、B的独立介绍而无直接对比文档，模型难以自行归纳差异——这是RAG在综合推理类…

#淘天#阿里#RAG 架构

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…. 一致性冲突模型前后回答矛盾（先否定后肯定）人设/风格不一致关键技术手段层级技术方案作用上下文管理滑动窗口 + 摘要压缩解决超长对话，保留关键信息记忆机制分层记忆（工作记忆/长期记忆）显式存储用户画像、对话摘要状态跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯性和一致性具体实现要点：摘要压缩：用轻量模型实时生成轮…

← 上一页第 2 / 2 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· 蚂蚁

时间窗口对话系统：约束与取舍

匹配正文：…事件的时间距离（如"3轮对话前"）多轮任务执行、复杂指令跟随技术层面的影响上下文管理分层存储：热数据（窗口内）→ 温数据（摘要压缩）→ 冷数据（归档/丢弃）时间感知的注意力：对超出窗口的token施加位置编码惩罚或掩码动态窗口滑动：非均匀采样，近期密集、远期稀疏模型推理输入构造时需显式注入时间戳元信息（如[2024-01-15 09:23] 用户: ...）长上下文模型中，利用NTK-aware插值或YaRN适配时间跨度变化 RAG增强向量检索 + 时间衰…

#蚂蚁#时间窗口对话#时间窗口对话系统

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…：精排策略：交叉编码器（Cross-Encoder）重排；LLM-as-Reranker（小模型打分）上下文压缩：检索结果摘要压缩；动态截断（按相关性加权）生成增强：引用标注训练（让模型明确依据）；拒绝回答机制（低置信度时触发）影响：答案准确率提升，但重排增加50-100ms延迟瓶颈4：系统级权衡优化方向延迟准确率成本适用场景缓存优先 ↓↓↓ → ↓ 高频Query主导混合检索 ↑ ↑↑ → 专业领域知识库 LLM重排 ↑↑ ↑↑↑ ↑↑ 高精…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 美团

RAG 完整工作流程怎么跑?

匹配正文：…关键作用：弥补双塔向量检索的语义鸿沟 4. 上下文构造格式组装：按相关性排序，添加文档标识（如[Doc 1]）长度控制：截断、摘要压缩、或分层检索（摘要→全文）去重与连贯性：处理重复段落，保证上下文逻辑流畅 5. 生成答案构造Prompt：系统指令 + 检索上下文 + 用户问题模型生成时结合上下文约束，输出带引用的答案 6. 后处理（可选）答案与来源的归因校验置信度判断，触发"无法回答"兜底核心权衡：检索阶段重召回、生成阶段重精准，中间靠重排序桥接。学习建议…

#美团#RAG全链路#RAG 工作流程

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配正文：… 过滤策略相关性阈值截断、元数据过滤（如只查最近1年文档）四、上下文构建与生成上下文组装：按相关性排序，标注来源；超长时采用摘要压缩或多轮检索 Prompt设计：明确指令"基于以下参考信息回答，若信息不足请说明" 生成优化：引用溯源：要求模型输出引用标记 [doc_id] 拒答机制：检索结果相关性均低于阈值时，不编造答案关键权衡召回率 vs 精确率：业务问答优先精确率（宁可少答），知识探索优先召回率；延迟敏感场景可牺牲精排深度。

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配正文：…切分、语义切分、Agentic切分三、核心挑战检索精度：语义鸿沟导致召不准，需多路召回+重排序上下文瓶颈：长文档超出窗口，需摘要压缩或层级索引知识时效性：静态索引难更新，需增量索引+版本管理幻觉与归因：模型不看检索内容瞎编，需强制引用溯源多跳推理：复杂问题需多次检索，引入ReAct/ToT等Agent架构实际落地中，检索质量决定RAG上限，建议先做检索评测（Recall@K、MRR）再优化生成。

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 百度

RAG 文档处理与检索策略怎么搭？

匹配正文：…"我不知道" 多轮RAG：迭代检索补充信息典型痛点问题解法检索失效混合检索 + Query扩展 + 重排序上下文过长摘要压缩、分层检索幻觉严格引用约束、答案后校验

#百度#RAG检索策略#RAG 系统架构

面试题·检索· 字节

RAG架构：检索器与重排序策略

匹配正文：…迟与精度折中多任务Reranker：同时优化相关性、时效性、权威性提升效果的关键技术问题解决方案上下文过长截断检索结果摘要压缩、层次化检索（先章节后段落）多跳推理迭代检索（IRCoT）、知识图谱增强幻觉与归因检索结果显式引用、置信度阈值过滤冷启动/新文档增量索引、实时向量更新管道落地权衡延迟：按业务SLO分别测编码、检索、重排、TTFT与生成TPOT；完整回答时长受输出长度影响，不套统一500/100/400ms预算。成本：Embedding调用…

#字节#向量库与重排序#RAG 架构设计

面试题·检索· 快手

LLM怎么融入推荐系统？序列建模与排序

匹配正文：…间对齐 2. 序列建模：长行为序列处理方案做法问题直接输入将N条行为拼成超长prompt 上下文窗口限制、推理成本爆炸摘要压缩 LLM先压缩历史为兴趣标签信息损失、压缩策略设计分层架构传统模型做短期，LLM做长期兴趣多源信息融合复杂快手场景：视频消费序列极长（数百上千），需结合SIM-style采样 + LLM语义理解 3. 召回/排序：生成式 vs 判别式生成式召回（如TIGER、P5）： LLM直接生成候选物品ID或描述优势：打通多任务、冷启动友…

#快手#LLM推荐架构#LLM 推荐系统

面试题·Agent· 字节

Attention 在 Agent 多轮对话有哪些局限?

匹配口述回答：…容。所以真正落地时，我更倾向于把架构优化和记忆增强结合起来。记忆增强这块，我把它分成三层：工作记忆就是当前上下文，短期记忆用会话摘要压缩，长期记忆用[[Vector Database]]检索。关键信息比如实体、用户约束、中间结果，我会显式结构化存储，按需检索注入。举个例子，在商家满减政策咨询场景里，用户可能问了好几种优惠叠加规则，Agent需要记住哪些组合已经确认过。我会把“满200减30”、“可叠加店铺券”这些约束写进长期记忆，每次回复前检索当前会话最相关的几条，注入到[…

#字节#淘天#Agent

面试题·文档处理· 百度

Chunking 策略怎么选?

匹配口述回答：…、段落、句子或条款切。它能保留完整语义，适合论文、产品文档、合同、技术手册。但问题是块大小不稳定，有的章节很长，需要再做递归切分或摘要压缩。 [[滑动窗口]]是用固定窗口加步长往前滑。窗口长度与 overlap 都只是待测试变量；它可能缓解边界信息丢失，也会带来冗余，必须在同一评测集比较召回、答案质量、索引体积和去重成本。重叠分块是一个候选方案，相邻块保留一部分重叠区域。它可能比纯固定切分更不容易断语义，但也会增加索引和去重成本；是否适用要和无重叠方案放在同一评测集比较。 …

#百度#文档处理#Chunking 策略

面试题·评估· 蚂蚁

Agent 系统哪些模块最易出问题?

匹配口述回答：…如发券、退款、发消息，如果没有幂等和确认机制，可能造成真实业务损失。第三类是上下文和记忆层。历史消息不断膨胀会让延迟和成本上升；摘要压缩如果删掉关键约束，模型会突然决策变差；长期记忆如果没有时效和权限过滤，还可能拿到过期或不该看的信息。第四类是模型服务层，比如 LLM 首 token 延迟变高、队列堆积、限流、输出格式不稳定。Agent 是多次调用模型的系统，一个请求里可能调用好几轮，所以模型服务的小抖动会被放大。监控体系我会分三层。基础设施层看 GPU 利用率、队列长…

#蚂蚁#Agent#AI Agent 稳定性

面试题·评估· 百度

Reflection vs Memory 如何影响决策?

匹配口述回答：…值，比如只有结果置信度低于0.8时才触发反思。再补充信息过载，记忆库如果只进不出，检索效率会越来越低，所以我会设计遗忘机制或者定期摘要压缩。另外，我最近在思考一个问题，就是反思的深度和广度怎么平衡。反思太浅，发现不了根本原因；反思太深，又可能过度拟合到一次失败上。这个在协同场景下还会被放大，因为一个智能体的过度反思可能会误导整个群体。这个我还没有特别成熟的方案，但觉得值得深入。所以总的来说，我更倾向于把反思和记忆看作一个整体方案来设计，而不是两个独立模块。反思的质量决定了…

#百度#Agent#多智能体系统

面试题·Prompt· 字节

Agent架构设计原则？

匹配口述回答：…统一编码成模型能理解的形式。这里有个关键点：不是所有输入都要完整塞给模型，我会先做意图识别，粗粒度分类加槽位抽取，然后对历史对话做摘要压缩，控制上下文窗口长度。这个压缩很关键，不然对话一长，模型就分不清重点了。然后是规划层，这是Agent的大脑。我会用 [[ReAct]] 或者 [[Chain-of-Thought]] 模式让模型一步步推理，把复杂任务拆成子任务。比如客服退款场景，用户说“我买的东西没收到，我要退款”，规划层会把任务拆成：先查订单状态，再确认物流信息，然后判…

#字节#Prompt工程#Agent

面试题·Prompt· 腾讯

Agent任务规划+工具调用原理

匹配口述回答：…我设了最大步数，超时就熔断，返回中间结果或者报错。三是记忆太长会超Token，我会用[[滑动窗口]]，只保留最近几轮，或者对历史做摘要压缩。另外有个延伸点，就是当Agent需要同时调多个工具时，比如查订单的同时还要查用户信用分，我倾向于让LLM先规划一个子任务列表，再并行执行，而不是串行一步步走。这样能大幅提升效率，但对LLM的规划能力要求更高，也更容易出错。所以我会把Agent看成LLM能力的外延，核心不是模型多强，而是控制循环和工具链的鲁棒性。我更倾向先搭一个简单但可…

#腾讯#Agent#Agent 系统设计

面试题·Prompt· 美团

Agent 四大基础能力详解

匹配口述回答：…款异常处理，风险和取舍约4分钟多轮交互中，如何在保持上下文的同时避免记忆过载面试官可能追问记忆管理的具体策略，比如滑动窗口、摘要压缩、或结合检索的混合记忆方案

#美团#评估与监控#Agent

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配口述回答：…。这样每层能独立优化，比如记忆层出问题不会拖垮整个流程。记忆这块我特别看重分层设计：短期记忆就是对话窗口管理，用[[滑动窗口]]或摘要压缩；长期记忆走[[向量数据库]]存历史经验，配合[[RAG]]检索；工作记忆是当前任务的临时状态，像栈一样推入弹出。这里有个坑：不要所有记忆都塞进向量库，短期和工作记忆放内存，长期才持久化，否则延迟受不了。推理策略上，我一般用[[ReAct]]，因为Agent场景需要交替推理和行动。复杂任务我会加[[Chain-of-Thought]]显式…

#百度#Agent#Agent 性能优化

面试题·RAG· 蚂蚁

时间窗口对话管理机制

匹配口述回答：…的内容压缩成摘要，关键实体比如订单号、用户偏好、已确认条件单独结构化存储。这样模型既不会被超长历史拖慢，也不至于忘掉关键事实。但摘要压缩要谨慎。它不是越短越好，因为一旦把关键约束压没了，后面模型会答得很自信但其实错了。所以我会给摘要加字段化输出，比如“用户目标、已确认信息、未解决问题、敏感状态”，并且保留原始消息索引，必要时能回查。总结一下，我的设计原则是：时间窗口做兜底，业务事件做主导，短期上下文保完整，长期信息做摘要和结构化记忆。这样既能控制成本和延迟，又能保证对话连…

#蚂蚁#会话时间窗口#时间窗口对话管理