匹配正文：…rch 成本应拆成哪些组成，Trace 怎样从 task 关联到模型和工具 span，估算成本与供应商账单如何对账，怎样定位重试、长上下文和缓存失效，又如何避免为了降本牺牲证据与答案质量？为什么“总 Token”远远不够？第一，它看不到输入和输出差异。长上下文反复输入可能是主要消耗，输出却很短。只看合计无法判断应该压缩历史还是缩短报告。第二，它看不到模型差异。同样 token 数在不同模型、地区、批处理或缓存定价下成本不同。第三，它看不到工具成本。搜索、网页解析…

#Deep Research#上线成本与评估#Deep Research 成本

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：…ry Bank、MemGPT、RAG-based Memory）说明记忆检索的关键设计（索引策略、相关性计算、遗忘机制）体现对Agent任务持续性的理解（多轮状态保持、目标追踪）有实际落地考量（延迟、存储成本、一致性）核心思路大模型记忆机制的本质是突破固定上下文窗口的限制，实现信息的跨会话持久化与高效检索。我从三个层面展开：一、架构层：原生上下文扩展长上下文模型采用Ring Attention、StreamingLLM等改进注意力机制，将有效窗口从4K扩展到1…

#得物#Agent#大模型记忆机制

面试题·Agent· 阿里

主流 LLM 应用产品怎么选?

← 上一页第 2 / 2 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：…搜索、文档解析、代码生成插件生态、API编排、多轮任务执行关键差异：通义的RAG强调"知识广度"（覆盖全网+上传文档），星火的Agent强调"行动深度"（理解意图→拆解步骤→调用工具→完成闭环）。二、场景与体验分析通义千问场景：通用问答、学习辅助、内容创作体验优势：响应快、支持1000万字长文档、中文理解细腻技术-价值结合：RAG确保事实准确性，降低幻觉；长上下文窗口解决"读不完材料"的痛点讯飞星火场景：智能办公、教育硬件、医疗问诊体验优势：语音交互自然、…

#阿里#科大讯飞#Agent

面试题·Agent· 高德

ReAct 框架核心优势在哪?

匹配正文：…索/计算错误处理错就错，无法中途修正观察反馈→重新推理→调整策略可解释性黑盒输出显式思维链，可追溯决策路径复杂任务长上下文易迷失分步拆解，每步聚焦子目标关键机制 1. 自我验证与修正 Thought: 用户问2024年某政策，我的知识截止2023，需要搜索 Action: Search[2024年新能源汽车购置税政策] Observation: 2024年延续免征... Thought: 确认信息准确，可以回答 2. 工具组合推理模型自主决定调用顺序，如…

#高德#Agent#ReAct 框架

面试题·Prompt· 科大讯飞

Prompt 设计原则有哪些?

匹配正文：…契约】Schema、字段含义及校验失败后的处理关键优化顺序先建立固定评测集和 bad case 分类，再修改 Prompt。长上下文只注入相关证据，并记录截断和检索策略。 Few-shot 示例覆盖正常、模糊、拒绝和格式边界，避免只放成功样本。结构化输出使用 Schema 校验和有限重试，不能只依赖自然语言要求。 Prompt 版本与模型版本、评测集版本一起记录，通过回归测试再发布。不应默认要求模型输出隐藏推理过程；复杂任务可以要求简洁的依据或检查步骤，但生产系统更…

#科大讯飞#阿里#Prompt工程

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：答案要点延迟挑战：检索耗时、多轮调用、大模型生成慢正确率挑战：检索不准、上下文噪声、多跳推理失败根因分析：向量检索局限、长上下文稀释、工具链复杂优化思路：预检索策略、重排序、缓存机制、混合检索延迟挑战与根因瓶颈环节具体表现根因检索阶段向量库查询+重排序耗时高大规模向量ANN搜索精度-速度trade-off，跨模态检索更慢工具调用 Agent多轮Planning-Action循环每次LLM调用串行，工具响应不可控生成阶段长上下文导致首token延迟…

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· 快手

RAG 延迟准确率根因

匹配正文：…开销、大上下文处理）准确率挑战的具体表现（召回不足、噪声干扰、多跳推理失败）及根因（语义鸿沟、文档切分策略、动态知识更新滞后） Agent场景的特殊性（多轮交互累积、工具调用与检索的耦合）延迟挑战表现首Token延迟高：用户发起请求后需等待检索完成才能开始生成流式输出卡顿：检索与生成串行执行，破坏实时体验长尾超时：复杂查询触发多轮检索或重排序时超时根本原因链路级联：向量检索 → 重排序 → 上下文组装 → 生成，各环节串行叠加重排序瓶颈：Cross-enco…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

求职指南·RAG

企业知识库 RAG 架构项目模拟面试

匹配正文：…RAG 数据处理与索引流程?。 4. tradeoff · tradeoff 为什么采用这套 RAG 架构，而不是关键词搜索、直接长上下文、微调或更简单的问答流程？考察重点：验证选型来自真实约束和对比，而不是技术名词堆砌。至少两个候选方案、真实约束与放弃原因质量、时延、开发和维护成本下一步：metrics。配套学习：垂直领域 RAG 完整架构、Agent 中 RAG 瓶颈怎么破?。 5. metrics · metrics 你所说的效果改善具体是哪一个指标？基线、评…

#模拟面试#简历项目#连续追问

求职指南·求职

大模型系统设计和编码环节怎么准备

匹配正文：…个多步 Agent / 工作流(如深度调研助手) 任务拆解、工具调用、记忆、循环终止、失败重试 Deep Research 这类 Agent 怎么设计设计一个高并发大模型推理服务批处理、KV Cache、并发调度、显存、限流降级服务化章和推理优化题库设计一个带评估的内容审核/分类系统 Prompt 分类 vs 微调、评估指标、误报漏报权衡模型架构题库设计一个低成本的长文档摘要/问答长上下文 vs 分段检索、token 成本、缓存 RAG 系统怎么从零搭起准…

#求职#职业转型

面试题·Agent· 字节

多轮对话上下文遗忘怎么解?

匹配口述回答：…我会特别关注压缩率和Recall之间的平衡，用一批标注好的历史对话做离线验证。还有一个有意思的延伸点：最近有工作把记忆模块和[[Agent]]结合，让模型自己决定什么时候存、什么时候忘，而不是固定压缩策略。这个方向我觉得挺有潜力的，但复杂度也上来了。所以整体上，我更倾向于把多轮对话的问题看成记忆和状态的管理问题，而不是单纯堆长上下文。架构上记忆模块和分层注意力打底，再根据场景需求叠对话状态追踪或角色嵌入，这样既稳又能灵活扩展。问题本质：长序列下的记忆与状态管理上下文遗…

#字节#Agent#多轮对话上下文遗忘

面试题·评估· 小红书

RAG 有哪些主要缺陷?

匹配正文：…界）、层次索引（摘要+详情）、多粒度召回二、生成阶段的缺陷 3. 上下文利用不足（Lost in the Middle）模型对长上下文中间位置信息遗忘，关键证据在prompt中间时被忽略改进：重排序把关键文档放首尾、压缩/摘要减少长度、显式引用机制 4. 知识冲突与幻觉检索内容与大模型参数知识矛盾时，模型可能"固执己见"或随机选择改进：置信度校准、检索内容高亮标记、source attribution强制引用三、系统层面局限 5. 延迟与成本检索+重排+生成链路…

#小红书#RAG 局限性#RAG 缺陷

面试题·评估· 美团

Coding vs GUI vs Search 谁先落地?

匹配口述回答：这道题其实问的是大模型[[Agent]]的'手眼脑'，编程是逻辑执行，GUI是环境交互，搜索是知识获取，看哪个能力先跑通商业闭环。我的判断是编程能力最可能短期大规模落地，但实际场景里往往是编程加搜索一起上。先说技术成熟度。编程这块，模型生成的代码有编译器或解释器给确定性的对错反馈，形成'生成-验证-修正'的可靠循环。Agent 调API写脚本，错了编译报错，修完再跑，这个闭环在Copilot上已经被验证了。搜索能力，像Perplexity那种检索加总结的pipeline也挺…

#美团#Agent#Agent 能力对比

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…索后聚合 3. 生成层：上下文工程检索结果按相关性重排序，关键信息置首尾（利用位置偏置）上下文压缩：用更小模型提取关键句，缓解长上下文噪声 4. 系统层：反馈闭环用户点赞/点踩数据回流，微调Embedding模型（领域适配）检索失败检测：当置信度低于阈值，触发主动澄清或转人工技术边界与选型 RAG不是万能解，需与SFT、Agent协同：高频稳定知识 → SFT内化到模型参数动态/海量知识 → RAG外挂复杂任务执行 → Agent+RAG（检索作为工具之一） …

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 字节

动态Prompt训练数据怎么构建?

匹配正文：…否合理、Action是否正确调用对比级 RL/DPO训练同一状态下，优/劣响应的偏好对关键决策：是否对"中间步骤"打标签——Agent任务建议细粒度，纯对话任务可粗粒度三、上下文建模：状态追踪机制结构化状态表示：将历史工具返回、中间结论编码为模型易解析的格式（JSON/XML嵌入Prompt）位置敏感设计：关键信息（如最新Observation）放在Prompt尾部，利用位置偏置截断策略：超长上下文时，保留摘要而非简单截断——需同步训练摘要模块四、质量验证：动…

#字节#动态Prompt训练数据#Prompt微调数据构建

面试题·RAG· 百度

对话模型准确性怎么提?

匹配正文：…e），让模型自主决定何时检索、如何使用 Toolformer范式：预训练阶段嵌入API调用能力，将外部工具调用内化为模型原生能力长上下文优化 NTK-aware RoPE、YaRN 等方法用于扩展可处理的上下文；具体长度和质量取决于模型及训练配置。更长窗口能减少截断，但不能代替检索质量与事实核验。二、训练策略层面数据质量提升指令微调数据：过滤低质量指令，引入思维链（CoT）数据增强推理能力知识边界标注：明确标注"已知/未知"样本，训练模型识别知识盲区对齐训练 DP…

#百度#对话模型准确性#模型架构优化

面试题·RAG

Deep Research vs RAG 怎么选?

匹配正文：…度匹配，依赖静态索引关键优化：分块策略、重排序、Hybrid Search Deep Research 架构：Planning Agent + Tool Use + Memory 核心机制：动态生成子问题（Decomposition）基于中间结果决定下一步检索方向多源信息整合与交叉验证典型实现：ReAct/CoT + 浏览器工具 + 长上下文整合应用场景对比 RAG适合 Deep Research适合企业内部知识库问答行业调研、竞品分析客服机器人、文档助手 …

#Deep Research#RAG#Deep Research vs RAG

面经·项目面试

SFT 样本有答案，训练目标却可能被截掉

匹配正文：…算内。沿实际输入处理路径统计，才能让长度上限和最后留下的答案落在同一个口径上。向左截断，为什么会留下开头？我核对的是一个用于 Agent 训练的本地代码包，其中包含基于 verl 的 SFT 数据集实现。它的多轮SFT数据集按pad_mode分成两条处理路径。这个参数决定填充方式，也决定长度处理代码进入哪个分支，因此不能只看truncation的名字。在RIGHT分支里，短序列会在右侧补齐；遇到超长序列，再判断截断方向。设置left时去掉左边，保留尾部；设置right时…

#SFT#数据处理#截断

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…检索失效召回文档不相关或遗漏混合检索（BM25+向量）、查询重写、重排序上下文爆炸多文档超出窗口限制摘要压缩、分层检索、长上下文模型多跳推理弱需跨文档关联时易断链引入知识图谱、迭代检索（Self-RAG）生成与检索耦合模型过度依赖或忽略检索内容训练时加入"无相关信息"样本、调整prompt权重典型失败案例：用户问"对比A和B产品的差异"，若检索分别返回A、B的独立介绍而无直接对比文档，模型难以自行归纳差异——这是RAG在综合推理类问题上的天然瓶颈。 …

#淘天#阿里#RAG 架构