匹配正文：答案要点幻觉 = 模型一本正经地输出看似合理、实际却与事实不符或凭空捏造的内容根源在于大模型的本质是“预测下一个词”：它优化的是“像不像人话”，不是“是不是事实” 训练数据有错漏、知识有截止日期、模型不知道自己不知道，三者共同加剧幻觉缓解三板斧：RAG 提供事实依据、提示词约束引用来源、允许模型说“不知道” 幻觉只能缓解、无法根除，高风险场景必须保留人工审核兜底核心概念大模型幻觉（Hallucination）是指模型生成了看似流畅合理、实际却与事实不符或凭空捏造的内…

#入门#基础概念#大模型幻觉

面试题·Prompt

Few-shot 和 Zero-shot 是什么意思?

匹配口述回答：…其实是在考察我们对大模型**[[上下文学习]]**机制的理解。说白了，zero-shot和few-shot都不更新模型参数，而是靠prompt里的信息让模型临时学会一个任务。先简单说下定义。[[Zero-shot]]就是不给例子，直接用文字描述任务，比如我写一句“判断这个评论的情感是正面还是负面”，模型直接答。[[Few-shot]]是在prompt里放几个输入输出对，像“苹果很好吃 → 正面；这个手机太卡了 → 负面；新买的耳机音质不错 → 正面”，然后再给一个新输入，模…

#入门#基础概念#Few-shot

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：…用户问题同样编码为向量相似度搜索：ANN近似最近邻算法（HNSW、IVF），召回Top-K相关文档 3. 增强生成上下文组装：Prompt = 系统指令 + "参考文档：[检索结果]" + 用户问题 LLM生成：模型基于检索到的证据作答，可溯源关键优化点环节常见问题优化手段检索语义不匹配查询改写、HyDE（假设文档嵌入）、重排序(Rerank) 上下文文档过长/冗余摘要压缩、关键句提取、多路召回融合生成不遵循参考引用标注训练、Self-RAG（自适…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#检索生成流程#RAG 技术原理

面试题·多模态· 淘天

截图 RAG 怎么理解界面组件?

匹配正文：…或先粗筛组件类型，再精排功能说明 3. 生成增强上下文组装：将组件结构化信息 + 检索到的产品文档/设计规范 + 用户问题拼接为prompt 引用溯源：要求模型输出时标注信息来源（如"根据《XX平台设计规范》第3.2节"） 4. 关键工程点知识库构建：需维护组件-功能映射表、设计规范文档、历史FAQ三层结构延迟优化：组件预计算embedding，检索走近似最近邻（ANN）；大模型只负责最终生成学习建议建议系统学习该知识点

#淘天#多模态#多模态 RAG

面试题·Prompt· 百度

Agent系统架构怎么选？

匹配标题与标签：Agent系统架构怎么选？大模型 Agent 核心组件选型与架构实现,百度面试题详解 Prompt 百度评估与监控 Agent Agent 系统设计大模型 Agent 架构 Agent 核心组件百度

#百度#评估与监控#Agent

面试题·Prompt· 网易

无标注时怎么训练 CoT?

匹配口述回答：…，那惩罚可能会把正确的长推理也砍掉。再说提示策略，这个在[[零样本]]和[[少样本]]场景下更直接。比如我可以在 system prompt 里写“用3个关键词思考，然后直接回答”，或者“推理部分不超过20个字”。给 few-shot 示例时，只给输入和输出，不给中间步骤，这样模型会模仿这种隐式推理风格。举个例子，在客服退款场景里，用户问“我买了东西但没收到，能退款吗”，如果模型写一大段推理“用户未收到货，根据规则第5条，需要先联系物流，确认丢件后发起退款”，虽然准确但用…

#网易#Agent#Chain-of-Thought 训练

面试题·Prompt· 阿里

怎么让模型稳定输出 JSON?

匹配口述回答：…N 合法率、schema 合规率、字段缺失率、平均重试次数、最终降级率。因为结构化输出的问题经常不是一次性解决的，要靠失败样本持续优化 prompt、schema 和模型选择。我会特别强调，JSON 合法不等于结果可信。比如模型输出了一个合法 JSON，但把订单号抽错了，这比格式错更危险。所以高价值场景里，结构化输出后还要做源文本对齐、置信度判断，必要时要求模型给出字段来源。核心思路：预防 + 容错提示工程做预防 Function Calling 是首选后处理做容错兜…

#阿里云#大模型 JSON 输出#提示词设计

面试题·Prompt· 蚂蚁

AI Agent 项目实战经验

匹配口述回答：…项目背景：智能客服工单处理，解决效率低、标准不一技术实现：ReAct + 多工具编排，状态机管理，人工兜底个人贡献：方案设计、Prompt优化、效果量化踩坑与风险：幻觉校验、长链路超时、前提条件可延伸点：Multi-Agent vs 单Agent的适用场景约90秒 Multi-Agent的通信开销是规模化落地的关键瓶颈面试官可能会追问Multi-Agent的通信协议设计、消息丢失处理、Agent间协调策略等

#蚂蚁#Agent#AI Agent 项目

面试题·Prompt· 美团

Agent 工具调用链路怎么搭?

匹配口述回答：…cription要精确描述工具的能力边界，不然模型很容易选错。接下来是核心流程，我把它分成几步。第一步是意图识别和工具选择。系统Prompt里我会明确告诉模型它的角色是工具调度助手，然后给出当前可用的工具列表和对话上下文。输出格式我会强制成JSON，比如{"tool": "xxx", "reason": "..."}，或者直接用Function Call。如果场景比较复杂，比如用户问“帮我安排下周的会议并通知参会人”，这就涉及两个工具，我会考虑用两阶段：先做意图分类，判断是…

#美团#Agent#LLM Agent 工具调用

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配正文：一、架构设计差异维度传统"先检索后生成" RAG 流程关系流水线式分离：检索→拼接→生成，各模块独立优化端到端融合：检索作为可微分模块嵌入生成流程训练方式检索器固定或独立训练，生成模型无法反馈优化检索联合训练，生成loss可回传优化检索编码器知识存储检索结果作为硬提示（hard prompt）拼接检索向量通过注意力机制软融合（soft fusion）核心区别：RAG将检索从"前置预处理"转变为"模型内部运算"，典型如Dense Passage Retri…

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配正文：…图谱召回（实体链接→子图遍历）精排阶段交叉编码器（领域数据微调）时效性/权威性加权用户画像过滤（科室/执业地域）四、生成优化：领域适配与可控性模型选择：基座模型+领域SFT（如Huatuo/LawGPT），非从零训练 Prompt工程：强制引用格式[来源:指南名称/条款编号]，便于溯源生成后处理：幻觉检测：检索内容与生成的N-gram重叠度校验置信度分级：高置信直接回答/中置信建议复核/低置信拒答五、安全合规体系维度机制权限隔离 RBAC：实习医生/…

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…检索提供事实依据，可溯源知识时效性训练后无法更新知识库动态更新，无需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知识频繁变更、需溯源的场景。微调更适合改变模型行为风格或需要内化复杂推理…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…型检索 Query向量化→相似度搜索→TopK召回向量数据库（Milvus/Faiss）、多路召回（向量+关键词）生成拼接Prompt→LLM生成答案上下文压缩、引用溯源、拒答机制为什么能提升质量？事实准确性：知识库可维护、可溯源，直接引用原文降低幻觉知识时效性：不用重新训练，更新文档即可领域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encod…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配正文：…项 Agent系统：ReAct、Plan-and-Execute等推理模式，支持工具调用与多轮决策模块化链：通过LCEL灵活组合Prompt、Model、Parser等组件生态集成：广泛的第三方工具连接器（搜索、数据库、API等） LlamaIndex强项索引策略：VectorStoreIndex、TreeIndex、KGIndex等10+种索引结构检索优化：自动路由、重排序、递归检索、子问题分解数据连接器：150+种数据源开箱即用（PDF、SQL、Notion等）…

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯性和一致性具体实现要点：摘要压缩：用轻量模型实时生成轮次摘要，替代原始历史一致性约束：在prompt中注入"系统指令"和"已确认事实"列表显式验证：关键决策前让模型自检"是否与之前回答冲突" 学习建议建议系统学习该知识点

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：RAG 的三代演进架构 1. Naive RAG（基础架构）架构：离线建索引 → 向量检索 → 直接拼接Prompt → LLM生成核心特征：检索与生成硬耦合，一次检索即生成无反馈机制，检索错误直接传导到输出代表：早期DPR+GPT-3方案适用：事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配正文：…G 检索器稀疏检索（BM25）、独立索引稠密检索（DPR、Contriever）、双塔编码生成器固定LLM，仅把检索文本当prompt 可训练或适配的生成模型连接方式字符串拼接，显式上下文窗口潜在空间交互，隐式信息融合典型代表：Facebook的RAG模型（2020）首次将检索器和生成器联合预训练，而非简单拼接。 2. 信息融合位置输入层融合（早期）：检索文档直接拼接到prompt，受限于上下文长度，容易信息淹没中间层融合（现代）：检索得到的向量通过cro…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·RAG· 小红书

生成式推荐的序列原理

匹配正文：基本概念生成式推荐将推荐任务重新建模为序列生成问题：把用户历史行为、上下文信息编码为Prompt，让模型自回归生成下一个物品的ID或属性，而非传统打分排序。工作原理核心流程：统一Token空间：将用户ID、物品ID、行为类型、时间等离散化为统一词汇表序列化输入：[BOS] 用户u [SEP] 点击i1 [SEP] 收藏i2 [SEP] 时间t [SEP] → 生成i3 自回归生成：模型学习行为序列的联合分布 P(i₃|u, i₁, i₂, t...) 典型方案： G…

#小红书#Item Tokenization#生成式推荐的序列原理

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·RAG· 字节

大模型输出怎么检测和过滤?

匹配正文：…层级校验机制（语法、语义、业务规则）内容安全过滤（敏感词、合规检测）异常处理与降级策略（重试、兜底、人工审核）反馈闭环与持续优化一、输出结构化约束（源头控制） Function Calling / JSON Mode 强制模型按指定Schema输出，减少格式错误设置response_format={"type": "json_object"}或工具调用接口 Prompt工程在Prompt中嵌入Few-shot示例，明确输出格式要求添加"请确保输出为合法JSON，…

#字节#大模型输出过滤#大模型输出检测

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配正文：…yDE、Query Expansion提升召回 3. 生成（Generation）上下文拼接：检索结果 + 用户Query → Prompt 大模型生成：GPT-4、文心等生成最终回答引用溯源：输出参考文档编号，增强可信度标准工作流程用户Query → Query理解/改写 → 向量检索（Top-K）→ 重排序 → 上下文组装 → LLM生成 → 后处理（溯源/拒答）核心优势维度说明时效性知识库实时更新，无需重新训练可解释性答案可溯源到具体文档成本比…

#百度#RAG核心组件#RAG 技术原理

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配正文：…要求极高（医疗、金融）关键权衡：候选集大小：通常取Top-K=20~100做重排，K太大延迟爆炸，太小可能漏掉优质doc 延迟优化：可用轻量交叉编码器（如MiniLM）、蒸馏模型，或GPU batch推理级联策略：多轮重排（粗排→精排→LLM pointwise打分）平衡效果与成本一句话总结重排是用计算换精度的关键设计，让RAG从"找得到"进化到"找得准"。学习建议建议先掌握RAG基本流程，理解检索与排序的区别，再学习典型重排模型（如Cross-Encoder）…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：…没有哪个模块默认该上。比如正确文档没进候选，先修覆盖和召回；候选已有答案但位置低，再考虑融合或重排；上下文正确而回答仍错，才检查 Prompt、生成模型或验证器。 Modular 或 Agentic RAG 把检索、工具、验证、重试与路由组成受控工作流，适合多步、多源和需要动态补证据的任务。代价是路径更难复现，也容易循环、越权和成本失控，所以要限制最大步骤、工具权限、总预算，并保留人工节点。选型时我会从 Naive 基线出发，在同一评测集上逐步加模块，分别看 Recall@K…

#淘天#重排与优化#Naive RAG

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配正文：…如BGE-Reranker）精排，选出最相关的3-5个送入LLM 三、生成阶段上下文拼接：将检索结果按相关性排序，拼接为上下文 Prompt工程：明确指令"基于以下参考信息回答，若信息不足请说明" 答案生成：LLM生成最终回复，可加入引用溯源关键优化点环节常见问题解决思路检索召回不足/噪声多混合检索、元数据过滤、查询扩展生成幻觉、不遵循上下文引用约束生成、细粒度Prompt、COT提示端到端延迟高检索缓存、流式生成、异步预检索

#AIlab#RAG工作流#RAG 技术流程