匹配口述回答：…内部政策上，可以用相同数据与预算比较LoRA和全参，不能预设效果几乎没有差别。但如果是把模型从中文变成阿拉伯语，或者从通用领域变成医疗诊断这种专业领域，数据量百万级，任务跟预训练分布差异极大，仍应比较数据质量、rank、挂载层与全参方案，而不是仅凭语言或专业领域决定。再一个，灾难性遗忘的风险。全量微调容易学了新的忘了旧的，比如你让模型学会了客服话术，它可能把原有的常识问答能力丢了。LoRA启用adapter后仍会改变行为，也可能遗忘。未合并且没有其它基座改动时，可停用ada…

#入门#基础概念#LoRA微调

面试题·知识图谱· 淘天

伪多模态与原生多模态差在哪?

匹配口述回答：…：先判断视觉信息是否可文本化。如果可文本化，比如合同扫描件、商品参数表，优先用伪多模态快速落地；如果视觉细节是关键，比如工业图纸、医疗影像，必须上真多模态。但实际项目里，我常常两者结合，先用伪多模态做粗召回，再用真多模态做精排，这样在成本和效果之间取得平衡。这里有个延伸点：真多模态的检索精度其实还取决于 Embedding 空间的对齐质量，比如 CLIP 对细粒度属性（像“条纹”和“格子”）的区分能力有限，最近有工作用 [[ColBERT]] 的后期交互来改进，但推理代价更…

#淘天#知识图谱#伪多模态RAG

面试题·Prompt· 小红书

提示工程有哪些核心方法?

匹配口述回答：…径集成。CoT虽然好，但单次推理可能随机走偏，如果用多次采样再加投票，能显著提升可靠性，当然代价是推理成本翻倍。这块我觉得在金融、医疗等高容错场景很有价值，但怎么平衡成本和效果，还得看具体业务。所以整体上，我更倾向把提示工程看成快速验证和轻量迭代的工具，它零训练成本，适合快速试错。但真要上线高并发、高稳定的系统，我会优先考虑SFT或者Agent框架，把提示词固化到模型里，减少运行时的不确定性。本质是问怎么跟大模型有效沟通基础技巧：Zero-shot/Few-shot和角…

← 上一页第 4 / 4 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#小红书#提示工程方法#Prompt 技术

面试题·RAG· 百度

RAG 索引构建管线

匹配口述回答：…。再一个就是 Embedding 层。模型选型上，通用场景用现成的 BGE 或者 M3E 就够了，但垂域数据，比如金融风控合同、医疗病历，我建议还是微调一下。因为通用模型对行业术语的理解不够。比如合同里'不可抗力'这个词，通用模型可能把它和'自然灾害'关联，但法律场景下它还有具体的免责条款含义。另外我特别推荐 [[Hybrid Search]]，就是 [[BM25]] 关键词加 [[Dense Retrieval]] 向量。为什么呢？因为关键词匹配擅长处理长尾词、专有名词，…

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 字节

RAG 查不到文档怎么降级?

匹配口述回答：…合规政策，模型胡编一个答案，那后果很严重。所以这个策略适合通用知识类问题，不适合专业或敏感场景。最后就是转人工或者提单。在金融、医疗这些场景里，宁可让用户等，也不能给错答案。这是最兜底的方案，但人力成本高，时效也差。实际落地上，我不会只用一种策略，而是组合起来。我一般会设两个阈值：一个低阈值，一个中阈值。检索分数高于中阈值，正常回答；低于低阈值，直接转人工或追问；介于中间，就用大模型兜底并带上置信度警告。而且阈值不是死的，我会根据问题类型和用户身份动态调。比如技术类问题阈…

#抖音#RAG降级策略#RAG fallback

面试题·RAG· 蚂蚁

时间窗口对话管理机制

匹配口述回答：…例就不能这么做了，一般用 Redis 共享状态，配合 TTL 自动过期；重要会话再异步归档到数据库，方便审计和恢复。对金融、支付、医疗这类场景，超时后不能只是清上下文，还要重新鉴权，敏感操作要二次确认。跟大模型结合时，还有一个问题：窗口外的信息是不是直接丢掉。我的做法通常是分层记忆。最近几轮完整保留，较早的内容压缩成摘要，关键实体比如订单号、用户偏好、已确认条件单独结构化存储。这样模型既不会被超长历史拖慢，也不至于忘掉关键事实。但摘要压缩要谨慎。它不是越短越好，因为一旦把…

#蚂蚁#会话时间窗口#时间窗口对话管理

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配口述回答：…库领域明显不匹配时才触发改写，否则直接走原query。说白了，相关性优化的天花板是Embedding模型本身，如果领域特别偏，比如医疗或法律，我倾向在领域数据上微调一个BGE级别的模型，比通用模型效果好很多。第三个瓶颈是上下文噪声。你检索回了五段内容，但其中两段是无关的，甚至跟正确答案矛盾，LLM一看到就容易被带偏。我的解法分两步：第一步，精排阶段用[[Cross-Encoder]]做[[Rerank]]，它比双编码器准很多，能把相关度低的文档过滤掉。但Cross-Enco…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 百度

RAG Query 改写方法

匹配口述回答：…’，我会用多查询扩展，生成几个语义等价的变体，比如‘退货流程’‘退款条件’，并行检索后再去重聚合。这是最稳的。如果问题很专业，比如医疗领域，我会用 HyDE，让模型先生成一个假设答案，再用这个答案的 [[Embedding]] 去检索。你可能会想，这不引入[[幻觉]]了吗？对，所以前提是你的领域知识库足够封闭，生成的假设答案不会跑偏。再一个，复杂多跳问题，像‘2024年X公司营收多少，它CEO是谁’，我会拆成子问题链，先查营收再查CEO，逐层检索。但真正落地时，我不会只用一种…

#百度#小鹏#美团

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配口述回答：…再一个就是向量索引和检索。[[Embedding]]模型选型上，通用域用BGE或者M3E就够了，但如果业务很垂直，比如金融合同或者医疗文献，我会考虑在领域数据上微调一下，否则相似度计算会偏。索引结构，百万级用[[HNSW]]，内存够快；亿级就得用[[Faiss]]的[[IVF]]或者上分布式数据库。但纯向量检索有个问题：用户写个订单号或者错误码，向量相似度经常找不到，因为语义空间和字面匹配是两回事。所以我倾向做**[[混合检索]]**，把[[BM25]]关键词召回和向量召回两…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 虾皮

RAG 流程优化：检索与重排陷阱

匹配口述回答：…策”，效率和准确率都能提升。然后是[[向量化]]。Embedding模型直接拿来用，在通用领域还行，但到垂直领域，比如金融合同、医疗病历，效果会明显下降。所以前提是要有领域数据，做对比学习微调，不然向量距离不准，检索就是空中楼阁。这里有个常见失败场景：很多人花大量时间调检索参数，但其实问题出在Embedding没对齐业务语义。检索环节，我通常会做 [[混合检索]]，就是 [[BM25]] 关键词匹配加向量检索并行。为什么？因为向量检索擅长语义相似，但精确匹配比如订单号…

#虾皮#RAG全链路优化#RAG 流程优化

面试题·检索· 高德

语义检索向量数据库构建流程

匹配口述回答：…合过滤全靠它。然后是[[Embedding]]模型选型。通用场景我会首选BGE或者M3，但如果业务有领域特性，比如地图POI或者医疗文档，最好在通用模型基础上做领域微调。维度上768或1024就够了，更高收益递减，存储和计算成本反而直线上升。真正落地时，我通常会同时跑一个轻量模型做初筛，再用大模型做精排，效果和成本之间取个平衡。向量索引这块，我默认选[[HNSW]]，因为它查询快、精度高，对大多数场景够用。但如果数据量到十亿级，内存扛不住，我会用[[IVF-PQ]]做量化…

#高德#评估与监控#向量数据库构建

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：…档质量不能太差，如果向量检索召回的全是无关文档，LLM也救不回来。常见失败场景是Embedding模型领域适配不够，比如通用模型做医疗问答，专业术语向量化后语义偏移。上线我会特别关注候选集合的Recall@K，如果前20个里面没有正确答案，重排序再强也没用。所以落地时我会采用混合策略：先用[[BM25]]和向量检索做[[Hybrid Search]]，保证召回覆盖，再用LLM做重排序或生成。说白了，向量检索解决“找得快”，LLM解决“找得准”，两者互补。还有个延伸点：如果…

#字节#向量召回与重排#RAG 重排序

面试题·检索· 字节

Embedding 怎么实现语义召回?

匹配口述回答：…一个[[Embedding]]模型，比如BGE或者M3E，把每段文本编码成稠密向量。这里有个前提：如果领域很特殊，比如金融合同或者医疗病历，通用模型可能有分布偏移，先建立领域评估集，再比较直接使用、数据清洗、微调等候选，不能预设必须微调。切块也不是一刀切，固定长度适合通用场景，但要是文档结构性强，像操作手册或者法律条款，我会优先用语义切分，按段落或者标题来，避免把完整的概念切碎。向量存进[[向量数据库]]，比如[[Faiss]]或者Milvus。索引我一般选[[HNSW]]…

#字节#向量语义召回#Embedding 语义召回

面试题·检索· 小红书

BM25 vs 向量检索 vs 混合检索怎么选?

匹配口述回答：…one’，召回率很高。但这里有个坑：向量检索的质量完全取决于embedding模型有没有在目标领域上微调过。如果直接用通用模型去搜医疗或法律文档，召回的全是语义相似但实际无关的内容，噪声很大。而且向量计算加[[ANN]]近似，延迟和资源开销都比BM25高一个量级。所以实际落地，[[混合检索]]是标配。常见做法是BM25和向量检索并行跑，然后用RRF，也就是倒数排序融合来合并结果。RRF公式是score等于1除以k加排名，k通常取60。它只看排名不看绝对分数，所以鲁棒性不错。…

#小红书#检索方法对比#BM25 向量检索混合检索

面试题·检索· 阿里

RAG 召回又快又准靠什么?

匹配口述回答：…但总索引含ID/图/码本；质量变化和能否接受要按目标题集验证，不能承诺2%以内。这里有个前提：如果你的业务场景对精度极其敏感，比如医疗诊断，那量化压缩就要慎用，得先做A/B测试。再一个，相关性提升。我见过很多团队只靠向量检索，结果关键词匹配一塌糊涂。实际上，真正落地的方案往往是[[混合检索]]，[[Dense Retrieval]]加[[Sparse Retrieval]]一起上。比如用户搜“退款”，向量能召回“退货”“赔付”这些语义相近的，但[[BM25]]能精准命中“退…

#阿里云#召回链路优化#RAG 召回优化

面试题·检索· 百度

检索失败时 RAG 怎么兜底?

匹配口述回答：…在Prompt里显式告诉LLM：当前没有检索到相关知识，请基于自己的知识谨慎回答，并明确标识这是推测。高风险场景，比如金融合同或者医疗问答，我倾向于直接拒绝，返回「知识库未覆盖该问题」，宁可不答不能错答。这其实是业务容忍度的取舍，客服场景容错率低，就得保守；通用闲聊可以宽松一些。最后是用户侧闭环。我会把失败的Query记录下来，触发离线分析，看看是不是知识库缺失，然后补充。同时在界面给个「未找到答案，提交人工反馈」的入口，让用户能参与进来。但说实话，这些策略里有一个隐性前…

#百度#小鹏#美团

面试题·检索· 安克科技

RAG向量匹配原理与ANN算法取舍

匹配口述回答：…致召回率骤降，这时候需要定期重建索引。还有一个容易被忽略的点：量化压缩虽然省内存，但会损失精度。如果业务对召回精度要求极高，比如医疗或法律文档，可比较更高精度码长、扩大候选后用原始向量重算距离，或用Cross-Encoder重排。PQ常用非对称距离计算保留query高精度；对称距离还量化query，会增加量化误差，不能说成普遍补偿方案。蒸馏小模型也需要单独评测，不能预设恢复损失。所以整体上，我更倾向于把向量匹配看作一套系统工程，不只是选个算法。具体选型要结合数据规模、延迟…

#安克科技#HNSW与IVF#RAG 向量匹配