匹配口述回答：…功率丢掉。我一般会从三层防护来设计，从预防到硬约束再到兜底，每一层解决不同的问题。先说第一层，Prompt工程。这层是预防性的，成本最低。我会在Prompt里给两三个格式样例，明确说必须严格遵循某个JSON格式，甚至让它扮演一个严格的JSON生成器角色。但这层只能提高概率，不能保证100%听话，所以不能只靠它。第二层是结构化输出，这才是真正的硬约束。能用模型原生能力就用，例如具体模型/API支持并启用的strict工具schema。普通Function Calling不一…

#字节#Prompt工程#大模型输出过滤

面试题·Prompt· 百度

LLM Agent组件有哪些功能?

匹配口述回答：…辑链固定的场景，比如客服退款流程；ReAct 更适合需要外部信息实时反馈的，比如查库存、调价格；ToT 在需要搜索多条路径时用，但成本很高。真正落地时我一般会混合，比如先用 CoT 做粗拆分，再对不确定的步骤用 ReAct 去查外部数据。这里有个前提：模型本身得有足够强的推理能力，否则拆出来的步骤要么太粗、要么逻辑跳步，后面全崩。再一个是记忆模块。很多人以为记忆就是存对话历史，其实分短期和长期。短期就是当前会话上下文，靠 [[Sliding Window]] 或 [[KV …

#百度#Agent#Agent 系统组件

面试题·Prompt· 百度

Agent 核心组件怎么协作?

匹配口述回答：…单场景用 CoT 就够了，但一旦遇到商品状态异常、需要查物流和库存价格，我就会上 ReAct，让模型动态决定先查哪个系统。ToT 成本太高，通常只在策略类场景才用。再一个是工具调用模块。这个说白了就是模型通过 [[Function Calling]] 输出一个结构化的 JSON，告诉系统要调什么函数、传什么参数，系统执行完再把结果喂回去。这里有个常见的坑：模型可能会幻构出根本不存在的函数名或参数，尤其是参数类型或范围容易错。所以上线前一定要做参数校验和 schema 约束，…

← 上一页第 29 / 30 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#百度#Agent#Agent 核心组件

面试题·Prompt· 百度

Reflection 机制怎么提升协作?

匹配口述回答：…，遇到报错就触发 Reflexion 反思，再结合 [[Chain-of-Thought]] 做深度推理。这里有个坑：反思有额外成本。每次反思都要调模型，计算开销不小。如果任务简单，比如只是查个天气，反思反而拖慢速度。前提是任务复杂度够高，或者出错成本大。上线时我会特别关注反思触发条件，比如设个置信度阈值，低于 0.7 才反思，或者只对失败任务反思。还有一个常见失败场景是反思过度，模型陷入循环，越改越差。我会加一个最大迭代次数，比如 3 轮，超了就取最优结果。说到触发条件…

#百度#Agent#Reflection 机制

面试题·Prompt· 商汤科技

ReAct 范式核心思想与工作流程

匹配口述回答：…In-Context Learning]] 或者 [[Few-shot]] 就够了，没必要上 ReAct，因为循环调用会增加延迟和成本。说到这，其实有个有意思的点：ReAct 和 [[Function Calling]] 经常被一起用，但它们的角色不一样。ReAct 是决策框架，决定什么时候调用什么工具；Function Calling 是工具调用的具体实现，把自然语言请求转成结构化的 API 调用。所以真正落地的时候，我倾向于用 ReAct 做顶层规划，底层用 Funct…

#商汤科技#Agent#ReAct 范式

面试题·Prompt· 哔哩哔哩

CoT 思维链由哪些部分构成?

匹配口述回答：…条链，而是树状探索，可以回溯剪枝。对于复杂规划任务，比如写一个多步骤的代码，Tree-of-Thoughts效果更好。但代价是推理成本高很多，所以我会根据任务复杂度权衡：简单的多步推理用CoT，复杂规划用Tree-of-Thoughts。所以总的来说，我更倾向把CoT看作一个推理增强工具，而不是通用解决方案。它的价值在于让模型的思考过程可解释、可调试，但前提是模型本身有推理基础，并且我们愿意为推理成本买单。一句话定位：CoT本质是给模型搭显式推理脚手架核心组成：问题理解…

#b站#Chain-of-Thought 结构#CoT 组成部分

面试题·Prompt· 百度

AI Agent 三大组件原理

匹配口述回答：…流，那用单Agent串行效率太低了。可能得引入多Agent协作，每个Agent负责一个领域，再有个协调Agent调度。不过这样通信成本和一致性控制会更复杂，这块我还在摸索。总的来说，我会把Agent看成是LLM能力的延伸，核心是让模型从被动回答变成主动执行。但前提是工具可靠、记忆准确、有安全兜底。否则看起来智能，实际上一用就崩。 AI Agent本质是LLM从被动响应到自主决策的跃迁任务规划：ReAct循环加结构化输出工具调用：Function Calling标准化协议…

#百度#Agent#AI Agent 设计

面试题·Prompt· 字节

Policy 模型错误决策怎么防?

匹配口述回答：…衡点挺有意思的。整体来说，我更倾向于把Policy系统的可靠性看作一个系统工程，训练、验证、约束、监控缺一不可，而且每个环节都有成本和收益的取舍，比如训练阶段数据标注成本高，监控阶段告警阈值设太严容易误报。所以我会把重点放在验证和约束上，因为这两个环节直接兜住线上风险，性价比最高。一句话定位：这道题本质是问如何确保Agent大脑的可靠性和安全训练阶段：RLHF+对抗训练，但前提是数据质量验证阶段：离线到在线，红队测试不能省约束阶段：硬规则兜底，场景区分监控阶段：指…

#字节#Agent#Policy 模型

面试题·RAG· 美团

分布漂移下外接数据库怎么增强模型?

匹配口述回答：这道题其实本质在问，当线上数据分布快速变化时，怎么用外挂知识库低成本地保持模型效果，而不是频繁重训。因为重训成本高、周期长，而分布漂移又很常见。所以核心思路是：感知漂移，然后动态更新外挂知识，让模型在推理时能引用最新信息。具体架构上，我把它拆成三层。第一层是漂移感知层，需要持续监控输入分布和业务指标，比如用 KL散度检测特征偏移，或者看模型置信度是不是突然变低、转化率有没有骤降。一旦触发阈值，自动采样并进入审核或自动入库，这样能快速响应。第二层是知识更新层。这里有个关键…

#美团#分布漂移#外接数据库增强

面试题·RAG· 百度

RAG 索引构建管线

匹配口述回答：…边界反而不稳定，这时候固定长度加重叠窗口反而更稳。重叠窗口是否启用、保留多长都应作为候选变量，用同一评测集验证边界证据、召回与冗余成本。举个例子，客服系统里查退款政策，用户问的是'七天无理由'，但政策里那句话前面是'本店支持'，后面是'但需商品完好'，如果切断了，向量可能只匹配到'七天无理由'，但丢了'完好'这个条件，召回的结果就不准确。所以我会根据业务场景选：召回不足就扩分块，准确率低就缩分块加过滤。再一个就是 Embedding 层。模型选型上，通用场景用现成的 BGE…

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配口述回答：…t和Chain，适合多步骤复杂任务 LlamaIndex核心是索引和检索，适合大规模文档问答实际落地常组合使用，并注意检索质量和成本风险我会倾向数据驱动，把LangChain当调度层约4分钟百万级数据量时LlamaIndex的索引构建和更新会成为瓶颈，需要分层或增量方案面试官可能追问：具体怎么设计分层索引？增量更新有哪些策略？

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 字节

RAG 检索增强技术有哪些？

匹配口述回答：…而查订单号或错误码，关键词权重大一些。还有一种增强是[[稀疏检索]]，像SPLADE这种学习式稀疏向量，能弥补纯向量的盲区，但实现成本高，我一般只在长尾实体查询时才考虑。然后是排序和索引。召回阶段一般拿到Top-K，但精度不够，需要精排。我会用 [[Cross-Encoder]] 对Top-50做[[重排]]，因为它做交互打分，精度高很多。但慢，所以我会做多阶段级联：先用向量快速召回Top-200，再用BM25过滤掉明显不相关的，最后用Cross-Encoder精排Top-…

#字节#HyDE#RAG 检索质量

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配口述回答：…是加一层 [[重排]]，用 [[Cross-Encoder]] 把召回的候选文档逐对打分，过滤掉那些低相关的。这招效果很稳，但计算成本高，一般只对 top 几十的候选做，不会全量做。还有一种做法是上下文压缩，用个小模型或者 LLM 对长文档做摘要，减少噪声信息占比。举个例子，企业 SOP 合规场景，文档里可能夹杂了历史版本说明和废弃流程，压缩之后只保留当前有效条款，生成准确率明显提升。再一个，我比较推荐搞 [[混合检索]]，就是向量检索加 [[BM25]] 关键词检索，甚至…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配口述回答：… 和 [[RLHF]] 也能针对性优化。SFT 用多轮对话数据让模型学会看历史，RLHF 则用偏好对齐，让模型避免前后矛盾。但训练成本高，而且模型学了也不一定稳定，所以落地时我更倾向用推理侧的手段兜底。具体到业务场景，比如电商客服的退款流程。用户第一轮说“我要退款”，第二轮说“订单号是123”，第三轮问“钱什么时候退”。模型如果没记住退款意图，第三轮可能当成新问题去查订单物流，那就错了。所以我的做法是：用摘要压缩保留对话脉络，同时用状态表维护退款意图和订单号，最后在prom…

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配口述回答：…优惠”，语义上能和“满300减50”这种文档匹配上，BM25 可能就漏了。但双塔有个大坑：离线建索引快，在线检索也快，但训练和调优成本高，而且对长尾 query 效果不稳定。如果训练数据覆盖不全，比如新出的促销活动，向量召回可能直接跑偏。所以工业界通常不会只用向量，而是 [[混合检索]]，BM25 和向量两条路都走，结果合并或加权，保证召回率高。再精排阶段，用深度学习模型做交互式匹配。最典型的就是 [[Cross-Encoder]]，把查询和文档拼成 [CLS] query…

#OPPO#查询文档相关性#语义匹配

面试题·RAG· OPPO

时间窗口对话管理机制

匹配口述回答：…要时能回查。总结一下，我的设计原则是：时间窗口做兜底，业务事件做主导，短期上下文保完整，长期信息做摘要和结构化记忆。这样既能控制成本和延迟，又能保证对话连续性和安全边界。会话生命周期本质滑动窗口实现边界判定双因子生产级坑与LLM结合可延伸点：超时恢复的摘要策略约4分钟摘要压缩不是简单省 token，它会改变模型可见事实，所以要有结构化字段和回查机制。如何评估摘要质量、如何处理超时后的会话恢复、如何设计 Redis TTL 与数据库归档。

#蚂蚁#会话时间窗口#时间窗口对话管理

面试题·RAG· 字节

大模型输出怎么检测和过滤?

匹配口述回答：…AG]]或[[Self-Refine]]能力怎么结合？比如让模型自己先检查一遍输出再返回，这能减少很多后处理负担，但代价是延迟和成本。怎么权衡，我觉得值得深入探讨。所以整体上，我更倾向于把输出质量控制看作一个系统工程，不是单靠某一个环节。源头约束要强，校验要分层，异常要有预案，最后用数据反哺。这样上线我才放心。本质定位：输出质量是系统最后一道防线源头控制：结构化约束与Function Calling 多层级校验：语法、语义、业务三层过滤异常处理与降级：重试、兜底、人…

#字节#大模型输出过滤#大模型输出检测

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配口述回答：…多。生成器优化方面，基座模型我会选领域微调过的，比如Huatuo-LLM或ChatLaw，或者用通用模型加[[LoRA]]微调，成本低效果好。关键是在[[SFT]]数据里强调引用溯源，训练模型生成时主动引用原文，比如“根据《XX法》第X条”。生成时用Prompt模板做硬约束：必须声明不确定性，标注引用来源，对超范围问题直接拒答。解码参数我会调低temperature到0.3左右，再开重复惩罚，避免模型车轱辘话。落地时有两个关键保障机制。一是[[幻觉]]检测，用NLI模型校…

#字节#领域RAG架构#专业领域 RAG

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配口述回答：…过才原子切换。千万别原地动图索引，否则召回质量会断崖式下跌。所以整体上，我会把检索模块看成是一个权衡系统，核心是在召回率、延迟、成本之间找平衡点。没有银弹，关键是根据业务场景做配置和取舍。本质是查询与文档的语义对齐查询预处理：改写、HyDE、扩展向量化：模型选型、截断、指令前缀检索：HNSW、元数据过滤、混合检索排序：多路召回、重排、去噪落地权衡与风险约4分钟知识库频繁更新时，增量索引的工程实现与风险：分新增、删除、修改三类处理，用双索引和回放验证保证稳定性…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配口述回答：…‘苹果有什么新品’，向量可能把水果苹果的文档排前面，但Cross-Encoder能根据上下文判断用户要的是电子产品。不过重排有延迟成本，所以我会把它放在最后几位的候选集上，而不是全量。查询侧优化也很关键。用户问题往往短、模糊，我会用LLM做查询改写，比如把‘退款多久’扩展成‘退款处理时效是几个工作日’。还有个技巧叫HyDE，先生成一个假设文档再检索，能拉近查询和文档的语义距离。但这里有个风险：如果LLM改写错了，比如把‘苹果’错误扩展成‘水果’，反而会引入噪音。所以我会加置…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配口述回答：…[[Faithfulness]]校验事实一致性。如果置信度低，我会拒绝回答或让用户确认。这里有个风险：Self-RAG会增加延迟和成本，所以只适用于高精度场景，比如风控合同审核，而普通问答用[[Naive RAG]]就够了。另外，系统级迭代里，我特别关注检索空结果率。如果空结果率高，说明索引或query改写有问题，我会反过来调检索策略。比如结合[[Knowledge Graph]]做[[实体链接]]，把‘退款失败’映射到具体错误码，再精准检索。这块其实可以做成一个闭环：空结…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 字节

RAG 检索优化:重排序怎么用?

匹配口述回答：…关系密集的问答时比纯向量检索强很多。比如企业合规文档里，一个条款可能引用另一个条款，图结构能显式建模这种依赖关系。但它的构建和维护成本也更高，不是所有场景都适用。所以整体上，我更倾向把RAG检索看成多路召回加精排过滤的管线，而不是依赖单一技术。上线前我会特别注意分层检索的延迟预算，以及重排序模型的大小和[[蒸馏]]。如果离线评估时 [[Faithfulness]] 指标不达标，我会优先调重排序和过滤的阈值，而不是盲目加召回路数。本质是召回与排序的工程问题检索前：查询…

#字节#混合检索#RAG 检索优化

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配口述回答：…近在关注的方向：当知识库频繁更新时，离线建库和在线检索之间的延迟怎么处理。比如电商大促期间，满减政策每小时变一次，如果重建整个索引成本太高，增量更新又可能影响召回一致性。这块我目前是先把新旧版本分层存储，查询时做版本合并，但实时性还是不够理想。所以整体上，我会把RAG看成一套需要根据场景动态调整的管线。比如客服场景，召回率比延迟更重要，我会用重排加多路召回；但如果是实时问答机器人，延迟敏感，我会牺牲一点召回率，只用向量检索加轻量级过滤。没有银弹，只有取舍。 RAG本质是给L…

#AIlab#RAG工作流#RAG 技术流程

LLM 输出格式如何强校验?

LLM Agent组件有哪些功能?

Agent 核心组件怎么协作?

Reflection 机制怎么提升协作?

ReAct 范式核心思想与工作流程

CoT 思维链由哪些部分构成?

AI Agent 三大组件原理

Policy 模型错误决策怎么防?

分布漂移下外接数据库怎么增强模型?

RAG 索引构建管线

LangChain vs LlamaIndex 架构差异？

RAG 检索增强技术有哪些？

RAG 检索噪声怎么处理?

豆包等产品多轮一致性挑战与方案?

查询文档相关性怎么算?

推荐不准的分层诊断

时间窗口对话管理机制

大模型输出怎么检测和过滤?

医疗法律 RAG 架构关键环节

RAG Retriever 工作流程详解

RAG检索不准的失败场景与优化

RAG 系统迭代优化方向有哪些?

RAG 检索优化:重排序怎么用?

RAG 流程：检索、融合、生成