匹配正文：…内负样本也要防止不同 query 共享答案导致误标。 3. 数据切分与去泄漏按 query、文档来源、时间或用户场景切分训练集和评测集，避免同一问题改写、近重复文档或同一事件跨集合泄漏。线上日志应保留采样策略、召回器版本和曝光位置，便于重放。 4. 训练与闭环比较点式、对式或列表式损失，并在固定召回候选上评估 MRR、NDCG、Recall@K、校准、延迟及最终答案质量。上线后回流高分误召回、低分漏召回和用户纠错，定期重新挖掘难负样本。结论：高价值数据来自真实候选分布和…

#美团#重排与优化#Reranker 训练数据

面试题·模型微调· 科大讯飞

Prompt 怎么设计和优化?

匹配正文：…化成绩”。回答框架任务与失败定义：输入、输出、错误类型、主指标和线上约束。初始基线：模型及版本、原 Prompt、解码参数、评测集和基线结果。迭代过程：每轮只改变有限变量，例如指令分层、上下文、示例选择、结构化输出或校验。因果验证：固定模型与数据做单变量对照，按切片报告质量、格式成功率、延迟和成本。上线治理：版本化、灰度、回归集、监控、回滚和敏感输入处理。事实填空任务是【真实任务】，模型版本【】，基线 Prompt【】，评测集【来源/规模/切分】，主要错误【】…

#科大讯飞#阿里#模型微调

面试题·模型微调· 华为

Few-shot vs Zero-shot vs Fine-tuning 怎么选?

匹配正文：先用同一套评测集比较 Zero-shot、Few-shot 和 Fine-tuning 不是按“样本达到某个固定数量”自动切换。先建立覆盖正常输入、边界、拒答和分布外样本的评测集，再比较质量、延迟、单次成本、维护成本和隐私边界。没有这条基线，“Fine-tuning 天花板更高”或“10 个示例就够”都只是猜测。怎样选择方案更适合的情况主要代价与风险 Zero-shot 基座模型已经理解任务，指令和输出契约可以直接说清最省上下文；复杂标签、特殊格式或隐含业务规则可能…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#华为#Few-shot 提示#Zero-shot 对比

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：…ERT（平衡）三、最佳实践环节关键做法文档切分按语义段落切，256-512 tokens；重叠窗口作为待测变量，并用同一评测集验证边界证据、召回与成本检索策略稠密+稀疏混合（RRF融合），复杂场景加知识图谱查询优化 HyDE（假设文档嵌入）、Query扩展、多Query生成上下文处理重排序精筛Top-5，过长时压缩或摘要生成控制要求模型标注引用来源，方便事实核查四、核心挑战检索失效：Query与文档语义鸿沟→用Query改写或HyDE缓解上下文窗…

#字节#RAG 最佳实践#RAG 技术原理

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：…-based句子嵌入判断边界领域特性：医学/法律需保留完整条款上下文，代码按函数/类切分块大小与重叠窗口都作为候选变量，用同一评测集比较证据完整率、召回与成本二、向量化：选型与微调 Embedding模型选择场景推荐方案通用领域 BGE-M3、E5系列垂直领域领域语料微调M3-E或自研多语言多语言专用模型微调要点：用领域内的(query, doc)正例对+In-batch负采样，提升领域语义对齐三、检索策略：多路召回+精排用户Query → 改写/扩…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：…义边界切分（章节/段落），chunk size 由资料结构、模型输入限制与评测结果决定是否启用重叠窗口及其长度都作为候选，用同一评测集验证边界证据与冗余成本关键元数据注入：文档来源、发布时间、置信度标签二、检索模块：精准召回 Embedding选型基座模型：GTE-large、BGE-M3通用能力强；领域数据充足时微调（如PubMedBERT医疗版）微调方法：对比学习+难负例挖掘，batch内动态难负例提升显著多路召回架构用户Query → 查询改写（HyDE/…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 百度

大模型知识库怎么构建?

匹配正文：…内容语义分段：按主题或段落切分，长度作为候选变量，由文档结构、模型输入限制与评测结果决定比较零重叠、短窗口与较长窗口，用同一评测集验证是否减少信息割裂质量评分：用规则+小模型过滤低质量片段三、向量化（Embedding）模型选型场景推荐模型通用中文 BGE-M3、GTE、ERNIE 垂直领域领域数据微调后的模型多语言 E5-mistral、BGE-M3 优化技巧对Query和Document分别设计Prompt前缀（如"为这个句子生成表示："）领域微…

#百度#大模型知识库构建#知识库向量化

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：…tpotQA 多文档联合推理，考察噪声过滤能力 FiQA/SciFact 金融/科学领域，垂直场景评估实践建议：业务落地必建自有评测集，覆盖真实Bad Case分布。

#字节#RAG 检索噪声#RAG 数据构建

面试题·模型微调· 百度

Prompt Engineering 关键原则有哪些?

匹配正文：…证据时拒答。把模型称为“资深专家”不能替代事实和风险校验。怎样评估和选方案建立包含正常、边界、对抗、长输入和无依据问题的版本化评测集，记录任务正确率、格式通过率、引用支持、安全失败、延迟和成本。提示变化用同一数据盲测并保留回滚。格式/语气问题先改提示；缺当前知识用 RAG/工具；稳定行为或领域映射不足再评估 SFT；权限和业务规则始终由代码执行。这是按错误根因选方案，不是固定的 Prompt→RAG→微调阶梯。

#百度#模型微调#Prompt工程

面试题·模型微调

全量微调和 LoRA 微调怎么选?

匹配正文：…取决于数据与优化启用adapter同样有回归风险；可停用未合并adapter与原基座对照决策建议先固定任务、训练token与评测集，以LoRA建立低成本基线，并调rank、学习率与挂载模块。基线不达标时，分别检查数据、优化和可训练容量，再与全参微调对照；样本几千或百万不是通用分界。 LoRA便于共享基座并按需加载小adapter；全参也能多任务训练或部署多个checkpoint，只是参数存储与切换成本不同。入门之后,可以继续深入 QLoRA(量化 + LoRA 进一…

#入门#基础概念#LoRA微调

面试题·多模态· 小鹏

RAG 中表格图片怎么处理?

匹配正文：…er计算重、图片token占用长上下文 → 权衡用截图缩略图或分层检索评估困难：多模态答案的正确性难以自动评测 → 需构建多模态评测集实际落地中，建议先做文档类型路由（纯文本走轻量链路，复杂文档走多模态链路），逐步迭代。

#小鹏#多模态#RAG 表格处理

面试题·Prompt· 字节

Agent架构设计原则？

匹配正文：…口支持的结构化输出，并继续做服务端业务校验。Few-shot 数量没有固定 3–5 最优值，应按边界覆盖、顺序、长度和成本在版本化评测集上选择。工具描述写清字段、单位、枚举、是否必填、失败语义和副作用，不在示例里放真实凭据。动态裁剪只能从服务端白名单选择工具，不能让外部文本扩大权限。Prompt、工具 schema、模型和评测集都要版本化，发布采用小流量灰度并可回滚。失败与验收重试按错误合同和端到端截止时间决定，不固定“三次”。结果未知的写操作使用同一幂等键查询或对账，…

#字节#Prompt工程#Agent

面试题·Prompt· 华为

Prompt Engineering 技巧怎么选?

匹配正文：…填空在【真实任务】中，基线 Prompt 为【】，常见错误为【】。我负责【】，采用【真实技巧】解决【对应问题】，与【备选】比较。评测集【来源/规模】，真实结果【】，延迟或 token 变化【】，失败切片【】。证据自检每个效果数字应能关联 Prompt diff、测试样本、模型版本和统计口径。引用正确不等于答案正确；JSON 可解析不等于业务字段有效；LLM-as-Judge 需要人工校准。追问入口可继续追问上下文冲突、动态示例泄漏、结构化输出失败、工具参数安全、评测…

#华为#Prompt工程#Prompt Engineering 技巧

面试题·Prompt· 科大讯飞

Prompt 设计原则有哪些?

匹配正文：…与工具结果【约束】权限、拒答、引用和不确定性边界【输出契约】Schema、字段含义及校验失败后的处理关键优化顺序先建立固定评测集和 bad case 分类，再修改 Prompt。长上下文只注入相关证据，并记录截断和检索策略。 Few-shot 示例覆盖正常、模糊、拒绝和格式边界，避免只放成功样本。结构化输出使用 Schema 校验和有限重试，不能只依赖自然语言要求。 Prompt 版本与模型版本、评测集版本一起记录，通过回归测试再发布。不应默认要求模型输出隐藏推…

#科大讯飞#阿里#Prompt工程

面试题·Prompt· 蚂蚁

AI Agent 项目实战经验

匹配正文：…样本和窗口【】，副作用【】，失败案例【】。证据自检应能解释工具 schema、状态迁移、权限检查、一条 trace、一次故障、评测集和个人提交。金额、阈值和工具数量必须有真实配置；没有上线就明确原型范围。追问入口可继续追问工具选择错误、状态冲突、幂等、敏感操作、缓存一致性、人工接管、成本上限，以及单 Agent 拆成多 Agent 的依据。

#蚂蚁#Agent#AI Agent 项目

面试题·RAG· 百度

对话模型准确性怎么提?

匹配正文：…架构与训练改动成本较高，也需要持续评估；RAG 与 Agent 更易按模块迭代，但检索、工具调用和多轮生成会增加延迟。应固定任务、评测集和预算，再比较事实正确率、引用支持率、延迟与成本。延伸阅读 DPO 原论文 DeepSeekMath：GRPO 的 critic 与奖励定义 Self-RAG 原论文

#百度#对话模型准确性#模型架构优化

面试题·RAG· 百度

RAG 索引构建管线

匹配正文：…略优化动态分块：按语义边界（句子、段落）而非固定长度切分，避免切断关键信息重叠窗口：把零重叠、短窗口与较长窗口作为候选，用同一评测集验证是否减少边界证据丢失多粒度索引：同时存储句子级（精）和段落级（全），检索时按需召回二、Embedding层优化模型选型：垂域数据用BGE、M3E等开源模型，必要时Domain-Specific微调多向量表示：ColBERT的late interaction、多向量索引提升细粒度匹配稀疏-稠密混合：BM25关键词 + Dense向…

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 百度

RAG 项目指标化复盘

匹配正文：…排 → 上下文 → 生成与引用 → 观测。选型取舍：稀疏/稠密/混合检索、RRF/加权融合、是否重排及参数依据。因果证据：固定评测集上的基线、单变量消融、延迟与成本变化、bad case 和上线边界。事实填空项目服务【真实场景】，语料来自【合法来源】，规模和版本【】。我负责【本人模块】，基线【】。失败切片【】由【日志/标注/回放】发现，采用【真实改动】，结果【真实指标和口径】，代价【】，仍失败【】，回退【】。证据自检准备语料版本、评测集构造、防泄漏、Recall@…

#百度#RAG项目复盘#RAG 项目指标化复盘

面试题·检索· 字节

RAG 什么时候需要重排？

匹配正文：…，但顺序不理想”的问题；它不能找回第一阶段完全漏掉的文档，也不能修复权限过滤、解析、切分、索引更新或错误标注。是否需要重排应由冻结评测集上的增益、延迟和成本决定，不是 RAG 的必选配置。召回与重排的分工第一阶段的目标是在预算内生成覆盖率足够的候选。它可以是关键词、稠密向量、稀疏向量、结构化查询或多路组合，不一定是双塔模型。第二阶段读取查询与候选的更多信息重新排序，例如 Cross-Encoder 对每个 query-document 对联合编码，因此通常比预计算文档向量…

#RAG#重排#Cross-Encoder

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…G-Fusion（多查询结果融合生成）后处理验证：答案与检索片段的事实一致性校验、置信度打分过滤系统级迭代离线评估：构建领域评测集，端到端答案准确率 vs 检索命中率联动分析在线监控：检索空结果率、生成幻觉率、用户反馈闭环学习建议建议系统学习该知识点

#字节#RAG迭代优化#RAG 优化

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配正文：…Chunking）：关键设计点固定长度（如512 token）简单但易截断语义按段落或语义分块；滑动窗口只作为待测候选，由同一评测集决定是否启用及长度特殊处理：代码按函数分、论文按章节分元数据标注：来源、时间、类别等标签，用于过滤和溯源二、向量索引构建 Embedding选型：业务域通用选BGE/M3E，垂直领域需微调索引结构：百万级用HNSW（内存索引），亿级考虑FAISS IVF或Milvus分布式方案多路召回：关键词（BM25）+ 向量双索引，解决语义漂移…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 小鹏

RAG文本分段策略与重叠机制

匹配正文：…构化文档（Markdown/HTML）利用标题/段落边界，效果稳定重叠处理技术滑动窗口：比较零重叠、短窗口与较长窗口，用同一评测集权衡上下文连续性与冗余边界保护：优先在标点、换行处切割，避免截断句子语义去重：对重叠区域做embedding去重，减少存储粒度权衡原则细粒度（小chunk）优势：检索精确度高、噪音少风险：丢失上下文、需要多路召回拼接粗粒度（大chunk）优势：信息完整、减少拼接风险：引入无关信息、压缩有效信号工程实践建议分层索引：短ch…

#小鹏#文本分块优化#RAG 文本分段

面试题·RLHF与对齐· 阿里

DPO vs PPO 怎么选?

匹配口述回答：…计不准等问题；DPO 也不是没有坑，它会受 beta、偏好噪声、回答长度、参考模型选择和过拟合影响。两者谁效果更好，没有脱离数据和评测集的固定答案。举个客服场景。如果已经积累了大量“同一用户问题下，A 回复优于 B 回复”的人工偏好对，而且线上分布比较稳定，我会先用 DPO，成本低、迭代快。但如果系统会真实调用退款、风控等工具，结果可以形成可靠的成功率、合规分或用户后续行为奖励，并且希望模型根据新策略产生的轨迹继续学习，PPO 或其他在线 RL 方法才更有价值。数学、代码和…

#DPO#PPO#RLHF

面试题·项目与经历· 商汤科技

实习项目怎么介绍最加分?

匹配口述回答：…线采用【真实方案】，暴露出【错误切片或系统瓶颈】。随后比较【候选方案】，每次只改变一个关键变量，记录模型版本、随机种子、训练预算与评测集。最终选择【实际方案】的原因应是它在【质量、延迟、成本】的组合上更符合目标，而不是名字更新。被否掉的方案也值得说明，例如【方案】在总体分数不错，但【长尾切片或资源】不达标。【完整展开】结果要把“做了什么”和“因此提升什么”连起来。可以说【指标】从【基线值】到【结果值】，但必须补充样本量、置信区间或重复实验、观察时间和对照条件。线上实验若未…

#项目经验#系统设计#业务落地