匹配正文：…tate 提取几个结构化字段：主体是谁、任务或项目是什么、需要的记忆类型、时间范围、实体与关键词、当前目标、必须遵守的权限和预算。模型可以帮助解析自然语言，但主体、租户、权限和项目标识应来自可信上下文，不能由模型猜。查询改写也要保留原始问题。若改写错误，Trace 需要看见模型怎样把“昨天的方案”解析成某个项目。只有记录查询意图、过滤条件和候选变化，才能判断漏召回发生在理解、过滤、向量召回还是重排。一个任务可能需要多路检索。用户偏好走结构化属性查询，历史任务摘要走语义检索…

#Agent#记忆与存储#Agent 记忆检索排序

面试题·Agent· 小红书

生成式推荐系统有哪些改进方向？

匹配正文：…差固化：自回归生成高度依赖历史曝光，难以突破信息茧房推理效率约束：自回归解码延迟高，难以支撑在线实时推荐四维度改进方向 1. 模型架构：从"纯生成"到"生成-判别协同" 方向具体思路判断依据 Diffusion+LLM混合 Diffusion负责候选集生成（多样性），LLM负责重排序（个性化）可作为候选生成研究方案；多样性、质量和延迟需与自回归及判别基线实测多模态统一生成图文视频统一token化，端到端生成推荐理由+封面+标题小红书内容形态丰富，模态对齐能提升…

#小红书#Agent#生成式推荐系统

面试题·Agent· 字节

Agent 长期记忆架构与更新策略

…时间戳 + 主题标签原始对话对象存储压缩归档，用于总结生成检索策略多路召回：向量相似度 + 时间衰减 + 主题标签过滤重排序：用轻量模型对候选记忆打分，取Top-K 动态窗口：根据当前话题相关性调整记忆权重更新策略实时更新每轮对话后提取关键信息（用LLM或规则）增量写入短期记忆，异步更新长期记忆定期总结对话结束后触发总结任务，生成"会话摘要" 周期性（如每周）聚合摘要，更新用户画像冲突处理时间戳优先：新记忆覆盖旧记忆置信度机制：模型输出置信度，低…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#字节#百度#Agent

面试题·文档处理· 字节

RAG 向量索引构建流程详解

匹配正文：…号语义连贯：处理跨页断句、表格换行，必要时用VLM提取图片/图表信息元数据保留：记录文档来源、章节标题、时间戳，用于后续过滤和重排序二、文本分块：粒度与上下文的权衡策略原理适用场景注意点固定长度按token/字符数切分，带重叠窗口通用场景，实现简单固定长度与重叠窗口都只作为候选配置，具体大小由文档结构、Embedding输入限制和同一评测集上的证据完整率、召回与成本共同决定递归分块先按段落/句子边界，再递归细分结构清晰的文档优先保证语义边界完整 …

#字节#文档处理#RAG 数据处理流程

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…结构先按章节，再按段落滑动窗口需要上下文连贯比较无重叠、短重叠和较长重叠关键细节：chunk size 必须低于实际嵌入模型的输入限制，并在同一评测集比较；过小可能造成语义碎片化，过大可能稀释关键信息。二、嵌入模型选择选型维度：通用场景：sentence-transformers/all-MiniLM-L6-v2（轻量，384维）中文场景：BAAI/bge-large-zh、智谱Embedding-2 领域适配：领域数据继续预训练或对比学习微调优化技巧： …

#字节#文档处理#向量检索

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配正文：…集验证边界召回和成本清洗降噪：去页眉页脚、统一编码、过滤低信息密度内容元数据绑定：保留标题层级、来源URL、时间戳，用于过滤和重排序嵌入模型选择选型三要素：维度考量语言中英混合选bge-m3、gte-large；纯英文选text-embedding-3-large 上下文长文档需≥8K上下文，否则先做摘要领域垂直领域用微调模型（如医学用PubMedBERT）调用方式：优先用私有化部署（Xinference/TEI），API兜底向量生成与优化批量编码…

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·文档处理· 安克科技

RAG向量化：分块与Embedding

匹配正文：…：按token数切分，长度作为候选变量；实现简单但可能切断语义递归分块：先按段落/句子切，超长再细分，保持结构完整语义分块：用模型判断语义边界（如BERT-based分割器）优化技巧：比较零重叠、短窗口和较长窗口，用同一评测集验证是否减少边界信息丢失保留元数据（标题、章节、时间戳），用于重排序过滤三、向量归一化 # L2归一化：将向量映射到单位球面 import numpy as np vector_norm = vector / np.linalg.norm(v…

#安克科技#RAG 向量化#Embedding 模型

面试题·评估· 京东

知识型与行为型错误诊断

匹配正文：…格二分。RAG 在推理时检索外部资料，把答案约束到可更新、可引用的证据，适合知识缺失、知识过时、私域信息和需要出处的问答。它不修改模型参数，效果受召回、重排、文档质量和生成忠实度限制。强化学习或偏好优化通过奖励塑造输出策略，适合训练模型遵循指令、在证据不足时拒答、正确调用工具、遵守格式或改进可验证任务的行为。它不是可靠的事实写入机制；奖励可能带偏，策略也可能 reward hacking。只有结果或过程能被可信验证时，训练“推理模式”才有可靠反馈；隐藏推理文本本身不是正确性…

#京东#RAG 与强化学习#知识型与行为型错误诊断

面试题·评估

RAG 检索语义相似但无关怎么解?

匹配正文：…ery Rewriting）：用LLM扩展/澄清用户意图，如"苹果→苹果公司/Apple Inc." HyDE（假设文档嵌入）：让模型先生成假设答案，再用答案去检索 2. 检索侧优化多路召回：BM25 + 向量检索 + 关键词匹配，互补覆盖重排序（Rerank）：用Cross-Encoder等交互式模型精排，捕捉细粒度相关性负样本硬挖掘：把"语义近但任务远"的样本加入训练，拉远embedding 3. 数据侧根治收集业务真实的<查询, 相关文档>对，微调Embeddi…

#Embedding#Rerank#RAG 检索相关性

面试题·评估· 美团

RAG 解决了哪些问题?

匹配正文：…检索质量依赖、上下文长度限制） RAG核心原理 RAG = 检索（Retrieval）+ 生成（Generation），本质是给大模型外挂一个可动态更新的知识库：离线阶段：文档切分 → Embedding模型编码 → 存入向量数据库在线阶段：用户Query向量化 → Top-K相似度检索 → 拼接Prompt上下文 → LLM生成答案关键优势：知识可实时更新，无需重新训练模型。我项目中解决的3个核心问题问题具体场景 RAG解决方案效果知识幻觉客服系统回答产品…

#美团#混合检索#RAG 技术

面试题·评估· 阿里

训练/推理/知识增强怎么选?

匹配正文：…代码、数据库和确定性工具。降低温度只减少采样随机性，不能修复错误知识。知识增强：RAG 提供可更新、可引用证据，并配合混合检索、重排、权限过滤和引用定位。检索错误、文档冲突、提示注入或模型忽略证据时仍会失败。后处理：拆分可验证声明，用权威数据源、规则、专用模型或人工复核。验证器也会出错，并增加延迟与成本。产品策略：展示证据和不确定性，允许澄清与“不知道”，按风险限制自动执行范围。评估应分别测检索命中、引用正确性、证据忠实度、事实准确率、校准、拒答质量和端到端任务成功率…

#阿里#幻觉治理#大模型幻觉缓解

面试题·模型微调· 京东

300-500意图怎么召回?

匹配正文：答案要点层次化意图体系设计（意图聚类+二级路由）多路召回策略（粗排+精排+重排）上下文压缩与动态示例选择 Embedding模型微调与领域适配实时性能与准确率的平衡方案核心思路：三层架构解决"长上下文+多意图"困境一、层次化意图体系（解决300+意图爆炸）一级路由（10-20个意图簇）→ 二级分类器（每簇20-30个意图）聚类策略：基于业务语义+历史query共现，用K-Means/Spectral聚类构建意图树动态路由：先用轻量模型（TinyBERT级）做…

#京东#大规模意图识别#上下文长度限制

面试题·模型微调· 美团

RAG检索偏差怎么缓解?

匹配正文：…→ 扩展为"2024新店推荐"+"高评分老店" 3. 自适应向量微调收集新文档的点击/转化反馈，用对比学习微调embedding模型（LoRA轻量更新）关键：混合采样新旧数据，防止灾难性遗忘 4. 分布感知的重排序训练阶段引入领域标签，推理时检测query分布，动态调整检索策略监控新文档的检索占比，低于阈值时触发告警落地关键监控看板：新文档命中率、头部结果多样性指标 A/B实验：灰度验证策略效果，避免全量风险学习建议建议掌握RAG基础架构，理解检索偏差成因，学…

#美团#模型微调#RAG检索偏差

面试题·模型微调· 联通

RAG/蒸馏/微调怎么选?

匹配正文：幻觉问题的分类先区分两类幻觉：事实性幻觉：模型编造不存在的事实（如错误的人物关系）忠实性幻觉：输出与输入/上下文不一致（如摘要偏离原文）缓解方法需针对性选择。主流技术方法 1. 检索增强（RAG）核心思路：外接知识库，将生成约束在检索到的证据上标准流程：查询改写 → 向量检索 → 重排序 → 上下文增强生成关键优化：多路召回、HyDE（假设文档嵌入）、Self-RAG（反思token）局限：检索失败时幻觉反而加重，需配合置信度校准 2. 微调策略事实性SF…

#联通#大模型幻觉缓解#检索增强

面试题·模型微调· 高德

Agent 记忆怎么用向量库?

匹配正文：…（如50个候选）时序衰减加权：score = similarity × exp(-λ·time_gap)，λ控制遗忘速度重要性重排序：用轻量模型打分，考虑：是否包含用户明确确认的信息（"对的""没错"）是否涉及后续对话引用是否跨会话被重复提及（长期偏好）重排序技巧：用对话历史做Cross-Encoder精排，或训练小型BERT做记忆相关性二分类。落地检查点记忆是否"可用"：检索结果在Prompt中能否真正帮助生成是否"可控"：支持显式删除/修改某条记忆（GD…

#高德#Agent#向量检索

面试题·模型微调· 美团

RAG 为何比 SFT 更优?

匹配正文：…代，而是互补：SFT负责语言能力和基础推理，RAG负责动态知识注入。复杂推理任务仍需SFT强化，纯RAG对检索质量极度敏感，需配套重排序、查询改写等优化。学习建议掌握排序模型基本架构，学习权重初始化常用方法，结合实际业务理解A/B测试与线上反馈机制。

#美团#RAG vs SFT#RAG

面试题·模型微调· AIlab

RAG 检索精度提升的三大陷阱

匹配正文：…、覆盖率与拒答，不能只看语言流畅度。高风险输出可增加规则、NLI/验证器或人工确认。系统层记录 query 改写、召回列表、重排分数、最终上下文、模型版本和回答，保证 bad case 可回放。监控 P95/P99、QPS、缓存命中、索引新鲜度、token 与单请求成本。用灰度、版本化索引和回滚控制更新风险。假设实验在同一测试集上依次比较：基础向量召回、加入 BM25、加入融合、加入重排、改变上下文组织。每步同时记录质量、延迟和成本，并按 query 类型和文档…

#AIlab#检索器优化#RAG 优化

面试题·模型微调· 字节

RAG 工作原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程：索引-检索-生成三阶段向量检索与语义匹配原理关键优化技术（分块策略、重排序、混合检索） RAG vs 微调的选择场景实际落地中的挑战与解决方案一、RAG核心工作原理 RAG = 检索（Retrieval）+ 生成（Generation），解决大模型知识时效性和幻觉问题。三阶段流程：索引阶段：文档切分 → Embedding编码 → 向量数据库入库检索阶段：用户Query向量化 → 相似度搜索 → Top-K召回生成阶段：Query +…

#字节#RAG 系统架构#RAG 工作原理

面试题·模型微调· 百度

RAG 端到端工作流程

匹配正文：…度检索 → 取Top-K相关文本块增强生成：将检索结果作为上下文，与问题一起输入LLM，生成最终回答核心优势对比维度纯生成模型 RAG 知识时效性训练数据截止，无法更新知识库实时更新，无需重训幻觉问题容易编造事实基于检索文档生成，可控可溯源成本全量微调昂贵只需更新知识库，零训练成本可解释性黑盒生成可展示引用来源，便于审计典型变体 Naive RAG：基础检索+生成 Advanced RAG：查询重写、重排序（Rerank）、混合检索（向量+关键…

#百度#RAG 端到端工作流程#RAG 从查询到答案怎么工作？完整流程与可靠性边界

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：…密+稀疏混合（RRF融合），复杂场景加知识图谱查询优化 HyDE（假设文档嵌入）、Query扩展、多Query生成上下文处理重排序精筛Top-5，过长时压缩或摘要生成控制要求模型标注引用来源，方便事实核查四、核心挑战检索失效：Query与文档语义鸿沟→用Query改写或HyDE缓解上下文窗口：多文档拼接超限→Rerank精筛+递归摘要知识冲突：检索内容与模型参数知识矛盾→设计冲突消解Prompt 时效性：知识更新后向量未同步→增量索引+版本管理多跳推理：单…

#字节#RAG 最佳实践#RAG 技术原理

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：答案要点数据清洗与分块策略设计 Embedding模型选型与微调考量多路召回与重排序的检索架构大模型Prompt工程与上下文压缩端到端评估指标与迭代优化闭环一、数据准备：质量决定天花板数据清洗去重、去噪、格式标准化（PDF/Word/网页解析）领域术语词典构建，确保专业概念不被错误分词分块策略（关键！）按语义切分优于固定长度：用BERT-based句子嵌入判断边界领域特性：医学/法律需保留完整条款上下文，代码按函数/类切分块大小与重叠窗口都作为候选变量…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配正文：…索的核心机制（Embedding+相似度计算）解释RAG解决的核心问题（知识时效性、幻觉、私有数据）提及关键优化点（分块策略、重排序、混合检索）能对比RAG与微调的区别和适用场景 RAG核心流程：索引 → 检索 → 生成 1. 索引阶段（离线）文档解析：处理PDF、Word、网页等多格式文档文本分块（Chunking）：按固定长度、语义段落或递归方式切分，控制块大小（通常256-512 tokens）向量化：用Embedding模型（如BGE、M3E、OpenAI…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：答案要点领域数据清洗与结构化（非结构化文档解析、表格/图表处理、领域术语标准化） Embedding模型选型与微调（通用vs领域模型、对比学习微调）检索架构设计（多路召回、重排序、查询改写）生成环节优化（Prompt工程、上下文压缩、引用溯源）端到端评估体系（检索准确率、生成忠实度、领域专家评估）一、数据准备：领域知识工程化文档解析与结构化非结构化：PDF/Word用Unstructured/MinerU解析，保留标题层级、表格结构多模态：医疗影像报告需OCR…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：答案要点数据构建：文档切分策略、元数据标注、负样本构造检索优化：混合检索、查询改写、Embedding微调后处理：重排序模型、上下文压缩、置信度过滤评估数据集：MS MARCO、Natural Questions、HotpotQA、自建业务数据集数据构建层面文档切分优化按语义边界切分（标题、段落），避免硬截断；重叠窗口保留上下文连贯性构建多级索引：摘要级 + 细节级，先粗筛再精确定位数据质量提升清洗低质量文档，添加领域-specific的元数据标签（时间、…

#字节#RAG 检索噪声#RAG 数据构建