匹配正文：…" 核心定位：探索LLM自主规划的上限，非生产框架关键设计：目标分解→任务队列→执行→记忆反思的循环；BabyAGI更简化，纯靠prompt驱动局限：token消耗爆炸、幻觉累积、难以控制，适合demo和研究现状：社区热度下降，理念被融入其他框架 Microsoft Semantic Kernel — "企业级多语言" 核心定位：微软生态的Copilot开发套件，支持C#/Python/Java 关键设计：Plugins（函数级封装）、Planners（自动编排）、Me…

#字节#百度#Agent

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…ge-large-zh、智谱Embedding-2 领域适配：领域数据继续预训练或对比学习微调优化技巧：查询端与文档端使用不同prompt（如"为这个句子生成表示："）维度压缩：PCA或模型蒸馏降低存储成本三、向量存储与索引方案特点适用规模 FAISS 内存索引，HNSW/IVF算法，零成本百万级，单机 Pinecone 全托管，元数据过滤，自动扩缩容千万级+，生产环境 Milvus/Zilliz 开源/云原生，GPU加速十亿级索引优化： HNSW：构建…

#字节#文档处理#向量检索

面试题·评估· 美团

RAG 工作原理与局限怎么分析?

匹配正文：…材料生成核心流程:文档解析 → 分块(Chunk)→ 向量化(Embedding)→ 入向量库;查询时检索 → 重排 → 拼入 prompt 生成优势:知识可实时更新、答案可溯源、幻觉显著降低、不需要重训模型局限:效果强依赖检索质量(切分不当/纯向量检索对 ID 类文本失效),链路长、延迟与成本上升与微调的边界:微调学「格式与风格」,RAG 注「事实与时效」,生产中常两者结合工作原理 RAG 的本质是把「模型参数里的知识」和「外部知识库」解耦。索引侧:把文档切成语义…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#美团#评估与监控#RAG 工作原理

面试题·评估· 高德

Agent 多工具如何评分选路?

匹配正文：…ms）打分模型中等复杂度线性加权或小型神经网络，输入任务特征+工具画像，输出综合得分 LLM-based 复杂决策、需推理 Prompt内嵌工具描述，让LLM直接选择并解释理由打分模型公式示例： score = w1·accuracy - w2·cost - w3·latency + w4·success_rate 权重根据业务场景动态调整（实时场景调高w3，成本敏感场景调高w2）。三、执行与反馈层：动态适应 A/B测试框架：新工具灰度接入，对比实际效果在线学习：…

#高德#评估与监控#Agent

面试题·评估· 美团

RAG 仍会幻觉的原因

匹配正文：…工作流程三阶段阶段作用幻觉缓解机制检索从外部知识库召回相关文档引入权威外部知识，替代模型参数记忆增强将检索结果注入Prompt上下文为生成提供事实锚点，约束自由发挥生成基于上下文生成回答可通过引用溯源验证信息来源关键技术机制 1. 事实锚定（Grounding）将生成内容绑定到检索文档的明确陈述模型被强制"照着说"，而非"编着说" 2. 上下文约束（Contextual Constraint）通过系统Prompt限定"仅基于提供的文档回答" 利…

#美团#检索证据质量#RAG 仍会幻觉的原因

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配正文：…座选择：专业领域优先选已预训练模型（如Huatuo、LawGPT），或通用模型+领域SFT 检索增强生成：检索结果作为上下文注入Prompt 引用溯源：强制模型输出参考来源编号，支持可解释性安全机制：添加拒答策略（超纲问题、无可靠来源时），医疗场景必须设置"请咨询专业医师"风险提示四、评估机制（多维指标）维度指标方法检索质量 Recall@K、MRR 人工标注黄金文档集生成质量事实准确性（FactScore）、幻觉率领域专家审核 + NLI模型端到端答…

#字节#专业领域 RAG#RAG 系统设计

面试题·评估· 小红书

RAG 有哪些主要缺陷?

匹配正文：…召回二、生成阶段的缺陷 3. 上下文利用不足（Lost in the Middle）模型对长上下文中间位置信息遗忘，关键证据在prompt中间时被忽略改进：重排序把关键文档放首尾、压缩/摘要减少长度、显式引用机制 4. 知识冲突与幻觉检索内容与大模型参数知识矛盾时，模型可能"固执己见"或随机选择改进：置信度校准、检索内容高亮标记、source attribution强制引用三、系统层面局限 5. 延迟与成本检索+重排+生成链路长，首token延迟高改进：检索缓…

#小红书#RAG 局限性#RAG 缺陷

面试题·评估· 蚂蚁

Agent项目挑战与解决方案怎么讲?

匹配口述回答：…在的参数，先检查 schema 是否歧义、上下文是否缺值、模型是否忽略枚举，再用日志重放和单变量测试定位。若错误来自工具自身，修 Prompt 并不能解决；若失败来自业务状态冲突，也不应归因给模型。方案要说明停止条件。重试只适用于短暂且幂等的错误，参数校验失败应返回结构化反馈或追问，权限失败不能靠重试绕过，执行结果未知时要先查询状态再决定是否补偿。长链路需要总截止时间、子步骤预算、检查点和可恢复的状态，而不是无限让模型反思。结果复盘同时关注修复率与新风险。错误率下降是否增…

#蚂蚁#评估与监控#Agent 项目经验

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…弱）提出至少3个具体优化方向（如混合检索、重排序、查询改写）结合实际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调

LLM 标签约束解码

匹配正文：答案要点方案覆盖提示工程、解码约束、后处理、微调四个层面能区分不同方案的适用场景和优缺点提到实际工程中的组合策略理解约束解码的实现原理（如Logits Processor）整体思路这是一个可控生成问题，核心是让模型输出严格落在封闭集合内。我采用"分层防御"策略，从软约束到硬约束逐层加固。四层技术方案 1. 提示工程（软约束） prompt = """请将用户问题分类到以下标签之一：[退款, 换货, 投诉, 咨询, 其他] 只允许输出单个标签，不要解释。用户问题…

#约束解码#标签集合#LLM 标签约束解码

面试题·模型架构

上下文窗口是什么?超了怎么办?

匹配正文：…量实际工程的组合拳成熟的对话系统通常是:最近几轮对话保留原文 + 更早的对话滚动摘要 + 领域知识走 RAG,三者拼成最终的 prompt。入门后可以深入长上下文外推技术(RoPE 插值、YaRN),以及「窗口大了但中间内容记不住」的 Lost in the Middle 问题。

#入门#基础概念#上下文窗口

面试题·多模态· 淘天

截图 RAG 怎么理解界面组件?

匹配正文：…或先粗筛组件类型，再精排功能说明 3. 生成增强上下文组装：将组件结构化信息 + 检索到的产品文档/设计规范 + 用户问题拼接为prompt 引用溯源：要求模型输出时标注信息来源（如"根据《XX平台设计规范》第3.2节"） 4. 关键工程点知识库构建：需维护组件-功能映射表、设计规范文档、历史FAQ三层结构延迟优化：组件预计算embedding，检索走近似最近邻（ANN）；大模型只负责最终生成学习建议建议系统学习该知识点

#淘天#多模态#多模态 RAG

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：RAG核心定义 RAG（检索增强生成）是一种将外部知识检索与大语言模型生成结合的技术架构。核心思想：模型生成答案前，先从外部知识库中检索相关信息作为上下文，再基于这些证据进行生成。标准工作流程索引阶段：文档切分 → Embedding模型编码 → 存入向量数据库检索阶段：用户Query向量化 → 相似度检索Top-K相关片段生成阶段：将"检索结果 + 原始Query"拼接输入LLM → 生成最终回答解决的核心问题问题传统LLM RAG方案知识幻觉参数化记忆，…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…eval-Augmented Generation）= 检索 + 生成。不是让模型硬背知识，而是按需检索外部知识库，把相关文档塞进Prompt，让模型基于"开卷考试"作答。标准流程（三阶段）阶段关键动作技术要点索引文档切分→Embedding→入库分块策略（按语义/固定长度）、向量化模型选型检索 Query向量化→相似度搜索→TopK召回向量数据库（Milvus/Faiss）、多路召回（向量+关键词）生成拼接Prompt→LLM生成答案上下文压缩、引用…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配正文：RAG核心概念 RAG（Retrieval-Augmented Generation）是一种将外部知识检索与大模型生成相结合的技术范式。核心动机：大模型参数知识存在截止时间和幻觉风险，RAG通过实时检索"开卷考试"。工作原理：三阶段流程阶段动作关键组件索引（Indexing）文档切分→Embedding→入库向量化模型（如BGE、text-embedding-3）检索（Retrieval）用户Query向量化→相似度搜索→Top-K召回向量数据库（Mil…

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…如"用简洁风格"）被模型遗忘关键实体属性在多轮后丢失 4. 一致性冲突模型前后回答矛盾（先否定后肯定）人设/风格不一致关键技术手段层级技术方案作用上下文管理滑动窗口 + 摘要压缩解决超长对话，保留关键信息记忆机制分层记忆（工作记忆/长期记忆）显式存储用户画像、对话摘要状态跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯…

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· 京东

Query 改写有哪些创新方法?

匹配正文：…ry（"那个红色的"→"红色连衣裙"）消除歧义（"苹果"→根据上下文判定为手机/水果）可融入领域知识（如电商属性规范化）典型技术：T5/BART微调、LLM Prompt工程（"请将以下Query改写为适合检索的形式"） 3. 对话历史融合（Contextual Rewriting）做法：将多轮对话历史编码，解决指代和省略优势：处理指代消解（"它多少钱"→"iPhone 15多少钱"）捕捉意图漂移（用户从"手机"转到"充电器"）支持多轮决策型对话典型技术： …

#京东#Query改写#Query 改写

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·RAG· 百度

RAG 项目指标化复盘

匹配口述回答：…可验证证据。项目服务【真实场景】，语料来自【语料来源】，我负责【本人职责】；其他模块会说明团队分工，不把整条链路都算成个人贡献。技术上我会画出【技术链路】，包括解析与分块、元数据和权限、索引、查询处理、召回、重排、上下文、生成、引用与监控。然后挑一个最有代表性的 bad case，说明【关键改动】为什么针对根因，而不是直接罗列 BM25、向量检索或 RRF。检索、排序和生成分层评测，每轮固定语料与测试集做消融。项目结果按【评测结果】填写，同时交代 Recall@K 或排序…

#百度#RAG项目复盘#RAG 项目指标化复盘

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…号锚定元数据增强：注入{文档类型、时效性、权威等级}等标签，支持后续过滤二、索引构建：混合召回架构双塔索引设计：索引类型技术选型适用场景稠密向量 BGE-M3/E5领域微调语义相似、同义词泛化稀疏向量 BM25 + 领域词表扩展专业术语精确匹配图索引知识图谱（医疗UMLS/法律法条引用）跨文档逻辑关联关键优化：向量模型用领域语料做MLM+对比学习二次预训练三、检索策略：多路召回+精排召回层：向量Top-K + BM25 Top-K + 图谱邻居…

#字节#重排与优化#RAG 链路优化

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…、混合检索精排过滤粗排结果→相关性打分→筛选重排序模型、多样性控制、阈值截断生成合成上下文+Query→LLM生成答案 Prompt工程、引用溯源、幻觉抑制关键瓶颈与优化策略瓶颈1：检索延迟高（P99>500ms）根因：向量库规模大、索引结构低效、网络IO 优化方案：索引层： HNSW换IVF-PQ（牺牲1-2%召回换10x速度）；分片+路由缓存层：热点Query结果缓存（Query哈希去重）计算层： GPU加速向量计算；Embedding模型轻量化…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 字节

RAG 原理与核心架构

匹配正文：…户查询时，系统先从外部知识库检索相关文档，再将检索结果与用户问题拼接送入LLM生成答案。系统架构与四大模块模块核心功能关键技术索引构建离线处理文档，构建可检索的向量库文档切分、Embedding模型、向量数据库（Milvus/Faiss）检索器从海量文档中快速召回Top-K候选稠密检索（DPR）、稀疏检索（BM25）、混合检索重排序精排候选，提升相关性 Cross-Encoder、ColBERT 生成融合将检索结果与Prompt结合，约束生成上下文…

#字节#重排与优化#RAG 原理与核心架构

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配正文：…合检索、查询扩展检索召回但排序低查看正确答案的原始排序位次重排序优化、特征工程检索正确但生成错分析上下文窗口、指令遵循提示工程、RAG-specific微调实际优化需结合具体bad case分析，避免盲目堆技术。学习建议深入理解RAG架构，掌握检索与生成模块的协同机制，学习常见失败模式及优化策略。

#小红书#美团#重排与优化

面试题·检索· 字节

RAG架构：检索器与重排序策略

匹配正文：…Retriever) + 生成器(Generator) + 融合机制用户Query → 检索器 → 相关文档Top-K → 拼接Prompt → LLM生成答案关键设计：检索结果作为**上下文(Context)**注入，而非直接替换模型参数。关键组件详解 1. 检索器优化方法核心思想适用场景 Dense Retrieval 双塔Embedding（Query/Doc各编码）语义匹配、长尾Query Sparse Retrieval BM25、TF-IDF词项匹配…

#字节#向量库与重排序#RAG 架构设计