匹配正文：…（摘要、实体、用户画像）记忆写入：每轮用轻量encoder提取关键信息，更新至FAISS/HNSW索引记忆读取：当前query检索Top-N相关记忆，拼接至输入二、训练策略优化多阶段训练阶段目标数据特点预训练长文档建模书籍、长文章，4K→32K→128K渐进扩展 SFT 对话能力高质量多轮数据，平均10-20轮，含角色一致性标注 RLHF 连贯性与有用性多轮偏好对，同一问题不同轮次的回答对比一致性约束损失轮间一致性：相邻轮次回答的embedding…

#字节#模型微调#多轮对话一致性

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配正文：…微调(SFT/PEFT) 领域数据适配模型参数垂直领域、稳定需求效果深度定制；数据/算力成本高滴滴司机调度策略模型 RAG 检索+生成，外挂知识库知识密集型、需可解释解决幻觉、实时更新；检索质量决定上限智能客服、合规审查 Agent 工具调用+规划+记忆，自主决策复杂任务、多步推理能力边界扩展；稳定性、安全难控自动派单、行程规划选型决策框架第一步：需求拆解任务复杂度：单步问答 → ICL/提示工程；多步推理 → Agent 知识时效性：静态知识 → 微…

#滴滴#模型微调#Agent

面试题·模型微调· 百度

Tool Calling 技术路径怎么选?

匹配正文：…变计划时再使用，并设置最大步数、端到端截止时间、费用和副作用预算。 SFT/微调：有足量、代表性且版本匹配的调用样本，并证明提示/检索/工具描述不足时再评估。新增工具不一定必须重训，但任何模型都可能错选或错填参数。这些层可以组合，也可以省略。提示、schema、评测和维护都有成本，不能把“改 prompt”称为零成本。并发、失败和副作用只有互不依赖且顺序不影响结果的只读调用才并行。写操作使用稳定的幂等键、状态机和结果对账；超时后结果未知时先查询状态，不能直接换新键重做。…

← 上一页第 22 / 27 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#模型微调#Tool Calling 实现

面试题·模型微调· 美团

RAG 为何比 SFT 更优?

匹配正文：…结后无法感知新信息幻觉风险参数记忆模糊时"自信编造" 训练成本 SFT更新知识需重训，代价高昂 RAG将知识外置到可动态更新的检索库，实现非参数化知识扩展。 RAG vs SFT：三维度对比 1. 知识更新 SFT：需重新训练/LoRA微调，周期长，难以追平实时信息 RAG：更新文档库即可，分钟级生效，适合新闻、股价、政策等动态场景 2. 事实准确性 SFT：依赖训练数据覆盖，长尾事实易遗漏或混淆 RAG：检索结果作为上下文约束生成，可溯源验证，降低幻觉 3. 推理能力 …

#美团#RAG vs SFT#RAG

面试题·模型微调· 华为

Few-shot vs Zero-shot vs Fine-tuning 怎么选?

匹配正文：…w-shot 的数量没有通用答案。一个示例可能足够，也可能放入几十个仍不稳定；应在目标模型、上下文长度和真实查询分布上测。动态示例检索还要防止召回错误、重复标签和把不可信内容当作指令。 Fine-tuning 也不是默认“深度适配后效果最高”。它适合修正稳定、可由高质量示例表达的行为问题，例如分类边界、固定输出风格或持续的指令遵循失败。若缺的是当天政策、库存、告警或可引用事实，应通过受权限控制的数据查询或 RAG 提供上下文；微调不能替代实时事实源。两个常见误区 Few-s…

#华为#Few-shot 提示#Zero-shot 对比

面试题·模型微调· 百度

RAG 端到端工作流程

匹配正文：答案要点 RAG核心原理：检索+生成的两阶段架构系统组件：索引模块、检索模块、生成模块工作流程：查询向量化、相似度检索、上下文拼接、LLM生成核心优势：缓解幻觉、知识实时更新、可溯源、降低微调成本基本原理 RAG（Retrieval-Augmented Generation）将外部知识检索与大模型生成结合，解决纯生成模型的知识截止和幻觉问题。核心思想：不依赖模型参数记忆知识，而是动态检索相关文档作为上下文，让模型基于检索结果生成回答。系统架构模块功能索引模块…

#百度#RAG 端到端工作流程#RAG 从查询到答案怎么工作？完整流程与可靠性边界

面试题·模型微调· 百度

大模型知识库怎么构建?

匹配正文：答案要点数据收集策略与来源选择数据清洗与质量评估方法 Embedding模型选型与微调向量索引结构选择（HNSW/IVF）检索策略优化（重排序、混合检索）知识库更新与维护机制一、数据收集阶段来源分类结构化数据：数据库、API、Excel表格非结构化数据：PDF、Word、网页、聊天记录半结构化数据：Markdown、JSON、XML 关键原则优先收集高频查询场景的数据建立数据版本管理和溯源机制二、数据清洗与预处理核心步骤格式统一：PDF转文本（处…

#百度#大模型知识库构建#知识库向量化

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配正文：…更合理"，对齐复杂场景下的决策偏好 3. Prompt与系统层优化动态示例选择（Dynamic Few-shot）：根据用户意图检索相似的成功案例工具描述优化：用LLM自动生成工具文档，迭代测试哪个描述调用成功率最高业界优秀案例及技术特点应用核心特点 OpenAI GPTs/Assistant API Function Calling原生支持，结构化输出强制JSON schema，内置RAG检索 Claude Computer Use 多模态感知+GUI操作，截图理…

#快手#Agent#Agent 调优

面试题·模型微调· 百度

Prompt Engineering 关键原则有哪些?

匹配正文：…色与上下文角色提示可帮助约定语气、职责和评审标准，不能赋予模型未提供的政策、法律或专业事实。事实问题应提供受权限控制的当前资料、检索或工具，并要求引用与缺证据时拒答。把模型称为“资深专家”不能替代事实和风险校验。怎样评估和选方案建立包含正常、边界、对抗、长输入和无依据问题的版本化评测集，记录任务正确率、格式通过率、引用支持、安全失败、延迟和成本。提示变化用同一数据盲测并保留回滚。格式/语气问题先改提示；缺当前知识用 RAG/工具；稳定行为或领域映射不足再评估 SFT；权…

#百度#模型微调#Prompt工程

面试题·模型微调

生成质量差怎么调优?

匹配正文：答案要点区分检索问题与生成问题，确认根因在生成侧 Prompt工程优化（指令明确化、Few-shot示例、角色设定）上下文处理策略（重排序、压缩、截断优化）模型层面的SFT/RLHF微调生成控制参数与后处理校验机制问题定位首先确认是纯生成问题（检索结果已准确），而非检索-生成不匹配。常见症状：内容拼凑感强、逻辑断裂、答非所问。核心优化策略 1. Prompt工程（零成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few…

#RAG 生成质量#指令遵循#生成模块调优

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配正文：答案要点能区分幻觉产生的根源（知识边界 vs 推理错误）掌握RAG的核心架构与检索策略优化理解SFT/RLHF在事实性对齐中的作用知道推理阶段如何通过后处理提升准确性能结合实际场景给出权衡方案一、模型架构层面知识解耦设计将"语言生成"与"事实存储"分离，如KGLM、RETRO等架构，显式引入外部记忆模块稀疏注意力机制，让模型学会何时查询外部知识而非依赖参数记忆工具调用能力通过Function Calling架构，让模型自主判断需调用的工具（计算器、搜索引…

#百度#模型微调#评估与监控

面试题·模型微调· 百度

大模型准确性瓶颈在哪?

匹配正文：…型错误与推理型错误，针对性选择技术方案 RAG与模型内部知识解耦的设计思想训练数据质量与多样性的关键作用多阶段验证机制（生成-检索-校验）的构建思路模型置信度与不确定性量化的应用提升大模型输出准确性，核心在于区分错误类型、分层治理：一、模型架构层面稀疏激活与专家混合（MoE）：将知识分散到不同专家，减少参数干扰导致的知识混淆可插拔知识模块：分离语言能力与事实知识，知识更新无需全量重训推理时显式规划：如Chain-of-Thought强制模型展示推导过程，便于追…

#百度#评估与监控#大模型准确性提升

面试题·模型微调· 美团

RAG 解决了哪些核心问题?

匹配正文：…API 或数据库工具获取，再把结果作为生成依据，而不是依赖静态向量库。 2. 私有与领域知识企业政策、产品手册和内部流程可以通过检索按权限注入上下文，无需为每次事实变化重新训练模型。系统仍要做好文档级授权、租户隔离和引用回查，避免检索到用户无权访问的内容。 3. 幻觉与可追溯性检索证据、引用和“资料不足时拒答”可以降低部分无依据生成，但前提是证据正确、完整且生成器忠实使用。错误召回、冲突文档或过期索引也可能让答案更差，因此需要分别评估证据召回、忠实度和答案正确性。与 S…

#美团#知识增强#RAG 核心问题

面试题·RAG

RAG 和微调怎么选？

匹配正文：答案要点微调是“改模型本身”：用领域数据继续训练模型，把知识和行为方式写进参数里 RAG 是“外挂资料库”：模型不动，回答前先检索资料喂给它知识时效性：知识经常变 → 选 RAG，改知识库即时生效；微调的知识固化在参数里，更新就得重训成本：RAG 主要是工程成本；微调需要标注数据 + GPU 训练，且每次知识更新都要再花一遍幻觉：RAG 答案有原文可溯源，更可控；微调过的知识模型照样可能记岔、编造核心概念 RAG 与微调（Fine-tuning）是给大模型补充领域能…

#入门#基础概念#RAG和微调的区别

面试题·RAG

大模型幻觉是什么？怎么缓解？

匹配正文：…知道：模型没有可靠的“知识边界”意识，面对超纲问题，默认行为是继续流畅地生成，而不是承认不会。常用缓解手段手段思路 RAG 检索增强回答前先检索外部资料，让答案有原文支撑，从源头补充事实引用约束提示词要求“只根据给定资料回答，并标注出处”，超出资料就不许发挥不确定性声明明确允许并鼓励模型回答“资料中没有提到”，给它说“不知道”的出口降低随机性事实型任务调低 temperature（控制输出随机程度的参数），减少自由发挥人工兜底医疗、法律、金融等高风险场…

#入门#基础概念#大模型幻觉

面试题·Prompt

Few-shot 和 Zero-shot 是什么意思?

匹配正文：…（别全是正面例子），数量通常 2~5 个即可——放太多占上下文窗口，效果还未必更好。入门之后，可以往上下文学习的机制、示例的动态检索挑选、few-shot 与微调的对比选型深入。

#入门#基础概念#Few-shot

面试题·模型架构

上下文窗口是什么?超了怎么办?

匹配正文：…不会报错,而是最早的内容被截断,表现为「忘了前面说过的话」三种经典应对:截断(简单粗暴)、摘要压缩(有损保留主干)、RAG(外挂检索,按需取用) 实际系统常三者组合:近期对话留原文、久远对话滚动摘要、知识库走 RAG 核心概念上下文窗口(Context Window)是大模型在一次推理中能够处理的最大 token 数量,包括输入的全部内容(系统提示、历史对话、文档)和模型将要输出的内容,两者共享同一个额度。比如窗口 8K 的模型,输入占了 7K,输出最多只能再生成约 1K…

#入门#基础概念#上下文窗口

面试题·知识图谱· 澜舟

LLM 事实准确性怎么保证?

匹配正文：答案要点区分幻觉类型（事实性vs推理性）并针对性治理 RAG与知识图谱结合的检索增强方案多模型交叉验证与一致性约束机制金融领域特有的监管合规与可审计性设计量化评估与持续监控体系核心挑战分析金融领域幻觉代价极高，需区分两类：事实性幻觉：利率、股价、法规条款等可验证事实错误推理性幻觉：逻辑推导过程中的隐含假设偏差技术方案分层 1. 检索增强层（RAG+）结构化知识优先：对接金融知识图谱（实体关系如"公司-财报-指标"），而非纯文本向量检索多源检索融合：同时查…

#澜舟#LLM 事实准确性#知识图谱 LLM

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配正文：… 专业术语的Embedding适配与微调方案答案生成的事实性校验与溯源机制一、整体架构设计用户查询 → 查询理解层 → 多路检索 → 重排序 → 上下文组装 → LLM生成 → 后校验二、关键组件详解 1. 领域知识处理（最核心）数据分层结构化：药品库、疾病编码、法条条款 → 构建知识图谱（Neo4j/自研）半结构化：病历模板、合同范本 → 抽取标准化字段非结构化：医学文献、判例文书 → 按语义切块（医疗按就诊流程切，法律按争议焦点切）领域Embedding…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·知识图谱· 字节

GraphRAG 原理与传统 RAG 如何选择？

匹配正文：先把“传统 RAG”与 GraphRAG 的边界说清传统 RAG 通常以原文片段为检索单元，可使用关键词、向量、元数据过滤、重排和迭代检索。它并不天然只能回答单点事实；只要证据能被召回和组合，也可以处理跨片段问题。GraphRAG 额外把实体、关系、社区及社区报告等结构作为检索入口，适合关系密集或需要数据集级概览的查询，但图中的路径和摘要仍是派生证据，不自动等于事实或正确推理。官方实现中的几种查询方式 Local Search：围绕查询相关实体，组合图中的实体、关系、协变…

#字节#GraphRAG 原理#GraphRAG vs RAG

面试题·知识图谱· 淘天

GraphRAG 增量更新怎么保实时?

匹配正文：…和与全量基线的差异评估。查询时的新鲜度策略严格新鲜度：若 active generation 落后于所需来源版本，回到权威文本检索、等待更新或明确拒绝，不能悄悄返回旧摘要。允许旧读：返回 generation、来源版本或数据年龄，并设置最大陈旧窗口。混合过渡：新文本可先进入受权限控制的文本检索，图与社区报告随后发布；回答必须标明证据来自哪个版本。向量库、图表和报告通常由不同组件管理，不能用单个图数据库事务假设全链路原子。代际发布、可重放事件和对账比跨系统分布式事务更…

#淘天#GraphRAG 增量更新#知识图谱实时性

面试题·知识图谱· 淘天

GraphRAG 落地的主要技术挑战是什么？

匹配正文：…查和原子别名切换，比假设跨系统事务更容易验证。 4. 评测必须分层图层：实体链接，关系精确率/召回率，方向、时间和来源完整性。检索层：证据 Recall@K、路径命中、全局问题覆盖、越权与陈旧结果率。生成层：答案正确性、主张—证据支持和正确拒答。系统层：构建/更新成本、P95/P99 延迟、失败恢复和版本漂移。业务层：任务完成、人工处理量、投诉或风险指标。转化率或解决率可以是业务结果，但会受界面、流量与运营变化影响，不能替代离线正确性和安全门禁。上线实验要先过证据…

#淘天#知识图谱#评估与监控

面试题·知识图谱· 字节

GraphRAG 如何支持复杂关系查询？

匹配正文：…划以“A 公司在日期 D 通过哪些持股链间接持有 C 多少股份”为例，需要识别实体、时间与关系约束，再决定哪些部分由图遍历、文本检索和确定性计算完成。GraphRAG 可以帮助找到候选实体、边与证据；持股比例、时间有效性和聚合应交给图查询或业务代码计算，不能让 LLM 根据路径文本猜。 1. 可追踪的图构建分块策略可以是结构化、固定窗口、父子块或语义分块，应通过关系和证据保留率验证，不把语义分块设为必选。实体和关系保留原文范围、时间、方向、置信度和抽取版本；别名合并与共…

#字节#知识图谱#GraphRAG 实现

面试题·知识图谱· 淘天

伪多模态与原生多模态差在哪?

匹配正文：…觉编码器（如CLIP）转成文本描述，再入向量库典型链路：图像 → BLIP2生成caption → 文本embedding → 检索 → LLM生成本质：多模态→单模态的有损压缩，检索和生成阶段都是纯文本真多模态RAG 实现方式：图像和文本统一编码到共享语义空间，直接进行跨模态相似度计算典型链路：图像+文本 → 多模态encoder（如CLIP dual encoder/EVA-CLIP）→ 联合向量 → 检索 → 多模态LLM生成本质：端到端的跨模态对齐，保留原始…

#淘天#知识图谱#伪多模态RAG