匹配正文：…gent（智能体）运行时的决策引擎，核心循环：Thought → Action → Observation 实现ReAct模式：模型生成推理轨迹（Thought），决定调用工具（Action），观察结果（Observation），循环直至完成任务与Chain的区别：Chain是静态管道，Agent是动态决策模块化设计价值层面具体体现模型无关统一接口支持OpenAI、Anthropic、本地模型等组件可插拔换模型、换向量库、换工具只需改配置记忆管理 Conv…

#快手#评估与监控#Agent

面试题·评估· 小红书

用户兴趣建模：数据与特征陷阱

匹配正文：…时间衰减加权处理历史行为，近期行为权重指数级提升。三、推荐算法选型召回层（多路并行）协同过滤：ItemCF捕捉"看了又看" 向量召回：双塔模型（User Tower + Item Tower），用户embedding实时更新图召回：基于社交关系的GraphSAGE 精排层主模型：DeepFM / DIN（引入注意力机制处理行为序列）多目标：点击+互动+时长联合优化（MMoE结构）四、模型更新策略模式触发条件适用场景全量更新每周/月基模型重训，捕捉长期…

#小红书#评估与监控#用户兴趣建模

面试题·评估· 淘天

偏好感知系统架构怎么选?

匹配正文：…数据构建偏好数据收集显式标注：人工对同一prompt的多个response进行排序（A>B>C），用Bradley-Terry模型建模隐式反馈：点击率、停留时长、是否复制/分享，需设计position bias消除机制多维度标注：有用性、安全性、事实性、风格一致性，避免单一分数的信息损失数据质量控制标注者一致性检验（Kappa系数>0.6）困难样本挖掘：模型置信度接近0.5的pair优先标注领域覆盖：电商场景需覆盖售前咨询、售后、比价等细分场景二、模型架构 …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#淘天#偏好感知对话系统#对话系统训练数据

面试题·评估· 阿里

Agent 工具调用用 Workflow 吗？

匹配正文：…Workflow避免LLM规划失效需求变化周期<1周 → 动态Agent降低迭代成本需要人机协同审批 → Workflow显式嵌入人工节点工程实践建议渐进式引入：先用LLM生成执行轨迹，沉淀高频路径为Workflow模板混合架构：Workflow负责主干流程，特定节点内嵌LLM决策（如条件分支的判断逻辑）逃生舱设计：Workflow执行失败时，降级到动态Agent兜底学习建议建议系统学习该知识点

#阿里云#评估与监控#Agent

面试题·评估

RAG 检索语义相似但无关怎么解?

匹配正文：…法问题本质分析这种现象叫**"语义相关但任务无关"**，典型场景：查询"苹果手机的电池寿命"，检索到"苹果的营养价值" 两者embedding相近（都是"苹果"），但用户意图完全不同核心矛盾：Embedding模型训练目标（语义相似）与RAG业务目标（任务相关）存在错位。解决策略（分层处理） 1. 查询侧优化查询重写（Query Rewriting）：用LLM扩展/澄清用户意图，如"苹果→苹果公司/Apple Inc." HyDE（假设文档嵌入）：让模型先生成假设…

#Embedding#Rerank#RAG 检索相关性

面试题·评估· 美团

RAG 解决了哪些问题?

匹配正文：…检索质量依赖、上下文长度限制） RAG核心原理 RAG = 检索（Retrieval）+ 生成（Generation），本质是给大模型外挂一个可动态更新的知识库：离线阶段：文档切分 → Embedding模型编码 → 存入向量数据库在线阶段：用户Query向量化 → Top-K相似度检索 → 拼接Prompt上下文 → LLM生成答案关键优势：知识可实时更新，无需重新训练模型。我项目中解决的3个核心问题问题具体场景 RAG解决方案效果知识幻觉客服系统回答产品…

#美团#混合检索#RAG 技术

面试题·模型微调· 京东

300-500意图怎么召回?

匹配正文：答案要点层次化意图体系设计（意图聚类+二级路由）多路召回策略（粗排+精排+重排）上下文压缩与动态示例选择 Embedding模型微调与领域适配实时性能与准确率的平衡方案核心思路：三层架构解决"长上下文+多意图"困境一、层次化意图体系（解决300+意图爆炸）一级路由（10-20个意图簇）→ 二级分类器（每簇20-30个意图）聚类策略：基于业务语义+历史query共现，用K-Means/Spectral聚类构建意图树动态路由：先用轻量模型（TinyBERT级）做…

#京东#大规模意图识别#上下文长度限制

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配正文：一、模型架构设计长上下文建模稀疏注意力：采用Longformer/Sliding Window Attention，将复杂度从O(n²)降到O(n×w)，保留局部精细交互+全局稀疏聚合 Ring Attention / Striped Attention：序列分块循环计算，支持百万级token，适合超长对话历史分层编码：短窗口做token-level注意力，长历史用sentence/turn-level压缩表示显式记忆机制短期记忆（Context Window）：最…

#字节#模型微调#多轮对话一致性

面试题·模型微调· 美团

RAG检索偏差怎么缓解?

匹配正文：…为多个视角（时间敏感型、通用型），分别检索后聚合例："附近好吃的" → 扩展为"2024新店推荐"+"高评分老店" 3. 自适应向量微调收集新文档的点击/转化反馈，用对比学习微调embedding模型（LoRA轻量更新）关键：混合采样新旧数据，防止灾难性遗忘 4. 分布感知的重排序训练阶段引入领域标签，推理时检测query分布，动态调整检索策略监控新文档的检索占比，低于阈值时触发告警落地关键监控看板：新文档命中率、头部结果多样性指标 A/B实验：灰度验证策略效果…

#美团#模型微调#RAG检索偏差

面试题·模型微调· 百度

Tool Calling 技术路径怎么选?

匹配正文：一、三大技术路径对比方法核心机制适用场景优劣势提示工程在prompt中嵌入工具描述（JSON Schema），靠ICL能力生成调用工具少、调用简单、快速上线零成本，但复杂场景易幻觉、格式不稳定微调增强用<tool_call>标注数据SFT，训练模型输出结构化调用工具多、领域专用、高稳定性要求准确率高，但需标注数据、灵活性差代理框架 ReAct/Plan-and-Execute循环，LLM作为推理引擎决策多步推理、动态规划、复杂Agent 可解释性强…

#百度#模型微调#Tool Calling 实现

面试题·模型微调· 美团

Reranker 训练数据怎么构造?

匹配口述回答：…边界必须写进标注指南，否则不同标注员对“相关”的理解会不一致。负样本设计是关键。随机负样本要有，但只能占一部分，因为它太容易了，模型很快就学会了。真正有价值的是 hard negative，也就是被 [[BM25]] 或向量检索排得很靠前，但人工判断不能回答问题的文档。比如用户问“退款到账时间”，召回到一篇“退款申请入口”的文档，它主题很近但不能回答到账时间，这种样本对 reranker 最有训练价值。数据来源可以分几类。冷启动时用人工标注，质量最高，可以做验证集和黄金集…

#美团#重排与优化#Reranker 训练数据

面试题·模型微调· 联通

RAG/蒸馏/微调怎么选?

匹配正文：幻觉问题的分类先区分两类幻觉：事实性幻觉：模型编造不存在的事实（如错误的人物关系）忠实性幻觉：输出与输入/上下文不一致（如摘要偏离原文）缓解方法需针对性选择。主流技术方法 1. 检索增强（RAG）核心思路：外接知识库，将生成约束在检索到的证据上标准流程：查询改写 → 向量检索 → 重排序 → 上下文增强生成关键优化：多路召回、HyDE（假设文档嵌入）、Self-RAG（反思token）局限：检索失败时幻觉反而加重，需配合置信度校准 2. 微调策略事实性SF…

#联通#大模型幻觉缓解#检索增强

面试题·模型微调· AIlab

RAG 检索精度提升的三大陷阱

匹配正文：…看语言流畅度。高风险输出可增加规则、NLI/验证器或人工确认。系统层记录 query 改写、召回列表、重排分数、最终上下文、模型版本和回答，保证 bad case 可回放。监控 P95/P99、QPS、缓存命中、索引新鲜度、token 与单请求成本。用灰度、版本化索引和回滚控制更新风险。假设实验在同一测试集上依次比较：基础向量召回、加入 BM25、加入融合、加入重排、改变上下文组织。每步同时记录质量、延迟和成本，并按 query 类型和文档类型切片。结果用真实实…

#AIlab#检索器优化#RAG 优化

面试题·模型微调· 字节

RAG 工作原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程：索引-检索-生成三阶段向量检索与语义匹配原理关键优化技术（分块策略、重排序、混合检索） RAG vs 微调的选择场景实际落地中的挑战与解决方案一、RAG核心工作原理 RAG = 检索（Retrieval）+ 生成（Generation），解决大模型知识时效性和幻觉问题。三阶段流程：索引阶段：文档切分 → Embedding编码 → 向量数据库入库检索阶段：用户Query向量化 → 相似度搜索 → Top-K召回生成阶段：Query +…

#字节#RAG 系统架构#RAG 工作原理

面试题·模型微调· 百度

RAG 端到端工作流程

匹配正文：答案要点 RAG核心原理：检索+生成的两阶段架构系统组件：索引模块、检索模块、生成模块工作流程：查询向量化、相似度检索、上下文拼接、LLM生成核心优势：缓解幻觉、知识实时更新、可溯源、降低微调成本基本原理 RAG（Retrieval-Augmented Generation）将外部知识检索与大模型生成结合，解决纯生成模型的知识截止和幻觉问题。核心思想：不依赖模型参数记忆知识，而是动态检索相关文档作为上下文，让模型基于检索结果生成回答。系统架构模块功能索引模块…

#百度#RAG 端到端工作流程#RAG 从查询到答案怎么工作？完整流程与可靠性边界

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程（索引-检索-生成）的完整理解向量数据库选型与优化要点检索策略（稠密/稀疏/混合）的权衡实际落地中的关键挑战（幻觉、时效性、多跳推理） RAG与微调的结合思路一、技术原理 RAG的核心思想：用外部知识弥补大模型的知识截止和幻觉问题，把LLM从"闭卷考试"变成"开卷考试"。标准流程三步走：索引（Indexing）：文档切分→Embedding编码→向量库存储检索（Retrieval）：Query向量化→相似度搜索→Top-K召回生成（Ge…

#字节#RAG 最佳实践#RAG 技术原理

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：答案要点领域数据清洗与结构化（非结构化文档解析、表格/图表处理、领域术语标准化） Embedding模型选型与微调（通用vs领域模型、对比学习微调）检索架构设计（多路召回、重排序、查询改写）生成环节优化（Prompt工程、上下文压缩、引用溯源）端到端评估体系（检索准确率、生成忠实度、领域专家评估）一、数据准备：领域知识工程化文档解析与结构化非结构化：PDF/Word用Unstructured/MinerU解析，保留标题层级、表格结构多模态：医疗影像报告需OCR…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：答案要点数据构建：文档切分策略、元数据标注、负样本构造检索优化：混合检索、查询改写、Embedding微调后处理：重排序模型、上下文压缩、置信度过滤评估数据集：MS MARCO、Natural Questions、HotpotQA、自建业务数据集数据构建层面文档切分优化按语义边界切分（标题、段落），避免硬截断；重叠窗口保留上下文连贯性构建多级索引：摘要级 + 细节级，先粗筛再精确定位数据质量提升清洗低质量文档，添加领域-specific的元数据标签（时间、…

#字节#RAG 检索噪声#RAG 数据构建

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体表现典型场景 …

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（Query改写、向量检索、重排序、上下文融合） RAG vs 微调的选择权衡典型应用场景举例典型实现方式离线阶段：知识库构建文档解析：处理PDF/Word/网页等多格式，提取结构化文本文本分块：按语义或固定长度切分，通常256-512 tokens，保留段落边界向量化：用Embedding模型（如BGE、M3E）将chunk转为向量索引存储：存入向量数据库（Milvus、Fais…

#字节#检索生成流程#RAG 实现

面试题·模型微调· 百度

Prompt Engineering 关键原则有哪些?

匹配正文：…mpt Engineering的局限性与适用边界核心定义 Prompt Engineering是通过设计和优化输入提示词，引导大模型生成更准确、有用输出的技术。核心价值：无需训练成本，直接挖掘模型固有能力。三大关键技巧与实例 1. 少样本学习（Few-shot Learning）原理：在Prompt中嵌入输入-输出示例，激活模型的上下文学习能力。翻译任务示例：输入：苹果 → 输出：apple 输入：香蕉 → 输出：banana 输入：人工智能 → 输出：？关键：示…

#百度#模型微调#Prompt工程

面试题·模型微调

SFT vs RAG 知识更新

匹配正文：…周期长优。知识库热更新，分钟级生效推理准确性依赖训练数据质量，易幻觉可控。检索结果可溯源、可干预部署复杂度相对简单，单模型推理复杂。需向量库+检索+重排序+生成多模块泛化能力强。内化知识，复杂推理更连贯弱。依赖检索质量，知识片段间推理易断裂性能上限分析 SFT上限：受限于参数容量和训练数据天花板。模型无法记住无限知识，且知识冲突时易产生幻觉。适合模式学习（风格、格式、推理链）而非事实记忆。 RAG上限：受限于检索精度和上下文长度。再强的生成模型也救不回错…

#SFT#RAG 知识更新#SFT vs RAG 知识更新

面试题·模型微调

生成质量差怎么调优?

匹配正文：…成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few-shot示例：在Prompt中嵌入2-3个高质量输入-输出样例角色设定：赋予模型特定身份（"你是严谨的医学助手"）提升一致性 2. 上下文处理优化问题技术手段文档过长/噪声多重排序（Rerank）：用Cross-Encoder对检索结果二次排序上下文窗口溢出语义压缩：用LLM提取关键句，或滑动窗口分段处理多文档冲突冲突检测+源标注：要求模型标注引用来源，显式处…

#RAG 生成质量#指令遵循#生成模块调优

面试题·模型微调· 字节

动态Prompt训练数据怎么构建?

匹配正文：…标签——Agent任务建议细粒度，纯对话任务可粗粒度三、上下文建模：状态追踪机制结构化状态表示：将历史工具返回、中间结论编码为模型易解析的格式（JSON/XML嵌入Prompt）位置敏感设计：关键信息（如最新Observation）放在Prompt尾部，利用位置偏置截断策略：超长上下文时，保留摘要而非简单截断——需同步训练摘要模块四、质量验证：动态执行闭环训练数据必须通过真实执行验证：工具调用是否可解析执行执行结果与标注Observation是否一致多轮后是…

#字节#动态Prompt训练数据#Prompt微调数据构建