匹配正文：…段必须叫 collected_at，保留旧字段，空值跳过”。如果最后这句话在一千个字符之后，摘要模型连它都看不到。这时候，让总结提示词多强调一次“不要遗漏用户约束”，也无法补回输入里不存在的内容。排查应该先展开实际送入摘要函数的文本，看关键条件在哪一步消失，而不是直接换一个更强的总结模型。沿这个分支做一个离线检查：给原压缩函数传入二十四条消息，把三条条件放在第一条消息的一千一百个字符之后，用固定返回文本代替模型调用。传入摘要函数的内容里，三条条件已经全部消失。这次检查能…

#Agent#上下文压缩#记忆管理

面试题·Agent· 百度

工具调用方法怎么选?

匹配口述回答：…，最后生成回复。它的优点是透明可解释，容错性强，失败了可以重试，而且不需要特殊训练。但延迟高，token消耗大，需要精心设计 [[System Prompt]] 来约束行为。第三种是通用Tool Use，像 [[Toolformer]] 这类方案，模型在生成文本里内嵌特殊标记，比如 [TOOL: calculator] 2+2 [/TOOL]，后处理提取执行。这主要是给开源模型用的，它们没有原生Function Calling能力。好处是不用改模型架构，通过prompt加后…

#百度#Agent#大模型工具调用

面试题·Agent· 百度

Agent 规划记忆工具分工

匹配口述回答：…体规划，再ReAct执行每一步，这样既保证逻辑连贯，又允许动态调整。然后是记忆。记忆分两种：短期记忆就是当前对话的上下文，靠[[System Prompt]]和多轮历史维护；长期记忆是跨会话的知识积累，比如用户的历史偏好或者企业政策，我一般用[[Vector Database]]加[[RAG]]来存和检索。这里有个常见的坑：很多人以为长期记忆只存事实就好，但其实要区分知识类型。比如客服场景，退款规则是静态知识，适合向量检索；但用户的历史行为是动态的，更适合用结构化数据库。所…

← 上一页第 2 / 2 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#Agent#Agent 规划记忆工具分工

面试题·Agent· 字节

工具集设计关键因素?

匹配口述回答：…参数的情况。调用机制上，我会分三块。先说意图识别，我一般用[[Function Calling]]机制，模型自己选工具，但我会在system prompt里给一些few-shot例子，比如“用户说查天气，优先调用get_weather”。接着说参数校验，模型填的参数不一定是合法的，我会做一层JSON Schema校验，缺失的让模型追问用户，不合法的报错让模型重试。再补充执行安全，敏感操作比如发邮件、扣款，我会放到沙箱里执行，或者加一道人工确认。这里有个常见的坑：工具调用失…

#字节#Agent#Agent 工具集设计

面试题·Agent· 淘天

LangChain vs AutoGPT vs BabyAGI 怎么选?

匹配口述回答：…一下午搭个原型看看 Agent 循环能不能跑通。AutoGPT 我会非常谨慎，它演示效果惊艳，但真要落地，你得自己改很多，加 [[System Prompt]] 约束、改工具接口、做状态持久化。我更愿意把它当成一个灵感来源，而不是直接拿来上线的框架。题目本质：框架选型看控制力与自主性的取舍边界划分：LangChain适合可控生产，AutoGPT/BabyAGI适合探索业务场景：客服退款流程中混用LangChain编排与AutoGPT探索落地风险：自主循环易失控，需预算…

#淘天#Agent#LangChain vs AutoGPT

面试题·评估· 美团

RAG 仍会幻觉的原因

匹配口述回答：…说。先看事实锚定，这一步在工程上很关键，就是让生成内容绑定到检索回来的文档上。模型被强制照着说，而不是编着说。再看上下文约束，通过system prompt告诉模型只基于提供的文档回答，配合instruction tuning让模型学会忠实于上下文。最后看来源可追溯，生成时带上引用标记，方便人工核验，形成一个生成加验证的闭环。举个例子，客服场景。用户问退款政策，模型如果只靠参数记忆，可能把七天无理由说成十五天。但RAG会先去知识库检索最新版退款规则，然后生成时直接引用具体条…

#美团#检索证据质量#RAG 仍会幻觉的原因

面试题·评估· 字节

专业领域 RAG 链路怎么搭?

匹配口述回答：…业缩写，比如心梗、PCI，如果不扩展，向量可能匹配不上。所以我会做同义词扩展，把缩写还原成全称。生成优化是最后防线。我会在 [[System Prompt]] 里强制要求引用来源，格式像「根据《XX指南》第X条」这样，不允许无来源输出。同时用约束解码，禁止生成索引里没有的信息，比如设一个医学安全词表，拦截不存在的药品名。另外，检索结果有时很长，我会用 LLM 自己做上下文压缩，去冗余，只保留关键证据链。评估不能只看常规指标。检索质量我关注 Recall@K，生成质量我关注…

#字节#RAG 全链路#RAG 技术链路

面试题·评估· 京东

RAG 缓解哪类幻觉?

匹配口述回答：…检索回来的就是噪声，反而会加剧幻觉。最后是生成可控性，模型得能忠实于检索到的内容，而不是过度依赖自己的参数知识去自由发挥。这跟[[System Prompt]]的设计、上下文窗口的利用、指令遵循能力都有关系。举个例子，客服退款政策。用户问“我买的东西降价了，能退差价吗”，如果模型没有检索到最新的退差价规则，它可能凭训练数据里的旧规则说“可以”，但实际公司政策已经改成“仅限未发货订单”。RAG的做法是把最新的政策文档[[切块]]存到[[向量库]]里，检索出相关条款，然后让模型…

#京东#知识型幻觉#RAG 幻觉

面试题·RAG· 字节

上下文错误时怎么保证输出准确?

匹配口述回答：…束模型行为。一个很实用的做法是引用锚定，强制模型在生成时标注信息来源，比如“根据[文档A]……”，这样方便追溯。另外我还会在 [[System Prompt]] 里显式要求模型识别上下文中的冲突信息并报告，这叫矛盾检测提示。再配合置信度阈值，如果模型对输出不确定，就让它说“我不知道”或者请求人工确认。这里有个坑：如果阈值设得太高，很多正确回答也被过滤了，所以得根据业务容忍度调。输出层做后验校验也很关键。比如对生成内容里的数字、日期、人名，用独立模型或规则库做事实性验证。还有…

#字节#错误上下文处理#RAG 上下文错误

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配口述回答：…让模型自己摘要。另外，我会在上下文里加引用标记，比如“[来源：文档3]”，这样生成时可以溯源，方便排查[[幻觉]]。最后是生成。提示工程很重要，我会在 [[System Prompt]] 里明确说“只基于以下文档回答，不知道就说不知道”，再给一两个 [[Few-shot]] 例子约束输出格式。生成时调低温度到0.1左右，减少随机性。生成的质量取决于上下文相关性和指令遵循能力的平衡，上下文再准，指令不清照样答非所问。说到幻觉，其实有一个常见场景是用户问“这个政策什么时候改的…

#阿里云#重排与优化#向量检索

面试题·推理优化· 京东

推理框架硬件支持对比

匹配口述回答：…CPU 等平台以及插件扩展，但量化和功能支持仍随硬件变化。SGLang 也面向高性能 serving，前缀缓存和调度对多轮、共享 system prompt 的负载可能有优势，需要用真实流量证明。TensorRT-LLM 针对 NVIDIA 做模型、kernel、量化和 in-flight batching 优化，流程可导入 Hugging Face checkpoint、转换权重并构建引擎，也在推进更高层服务接口。工程门槛来自版本、模型兼容、构建和回归，不是一个固定 ONN…

#vLLM#TensorRT-LLM#llama.cpp

面试题·模型训练· 字节

SFT vs 预训练:核心区别在哪?

匹配口述回答：… 【90秒主答】预训练样本通常是连续文档或代码，目标是预测每个位置的下一个 token，数据覆盖广、步数和计算量大。SFT 把 system、user、assistant 消息格式化成模型模板，常把 user 和 padding 位置 mask 掉，只对 assistant 回答计算交叉熵；有些多轮配置会监督多个 assistant 回合，所以要看实现。两者并非一个用无监督 loss、一个用完全不同监督 loss，核心差异在数据来源、监督 token、目标行为、训练强度和评…

#监督微调#预训练对比#复读机问题

面试题·Agent· 美团

多智能体系统核心技术难点

匹配口述回答：…但也可能产生负效应，比如多个智能体竞争资源导致死锁。实际上线时，我会特别关注这个风险，引入显式的约束层或价值对齐机制，比如用 [[System Prompt]] 限定行为边界，或者用 [[ReAct]] 让智能体在执行前先推理一步，避免冲突。所以整体来看，我更倾向于把多智能体系统看作一个分层决策框架，核心是平衡全局最优和局部敏捷，架构、数据、性能提升都围绕这个取舍来设计。一句话点题：多智能体本质是平衡全局最优与局部敏捷架构选择：集中式、分布式、混合式的边界与美团外卖案例…

#美团#Agent#多智能体系统