匹配口述回答：…嗦甚至跑偏。我遇到过一个 case，模型在“思考”环节写了一长段废话，最后 Action 还是错的。所以我会更倾向于先把基础 [[SFT]] 做好，让模型学会在什么时候该思考、什么时候该行动，然后再上 ReAct 框架。所以整体来看，我把 ReAct 看成是解决复杂交互任务的脚手架，它提供了清晰的思考和行动循环，但真正效果取决于工具设计、模型能力和容错机制。我不会在所有场景都用它，简单问答直接 [[Zero-shot]] 就行，但一旦任务需要多步推理和动态信息获取，ReAc…

#高德#Agent#ReAct 框架

面试题·Agent· 美团

Function Calling 怎么解析用户指令?

匹配口述回答：…：用户指令、工具描述、还有正确的调用。工具描述用 JSON Schema 来写，包括函数名、参数类型、必填字段这些。模型通过 [[SFT]] 学到输出固定格式，比如 {"name": "get_weather", "arguments": {"city": "北京", "date": "明天"}}。你可以理解为，模型学会了“看菜谱做菜”，菜谱就是 Schema，做出来的菜必须摆盘整齐。到了推理阶段，关键是怎么约束解码。模型不能自由发挥，得强制输出合法 JSON。这通常用两种…

#美团#Agent#Function Calling 原理

面试题·评估· 淘天

现代RAG架构有哪些改进?

匹配口述回答：…具扩展或生成降级，同时保留传统流程兜底。另外有个点值得注意，就是这些反思token是怎么训练出来的？像Self-RAG是用了[[SFT]]来教模型输出这些控制信号，但训练数据构造本身就很讲究，比如负样本怎么采样，直接关系到模型会不会过度依赖检索。本质是检索和生成从单向变成双向互动边界划分：自适应路由 vs 固定流程业务场景：客服退款，动态决定是否检索落地风险：检索质量不稳定、延迟、成本我的判断：用迭代检索+反思机制，但控制轮次约4分钟反思token的训练数据构…

← 上一页第 6 / 6 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#淘天#评估与监控#RAG架构改进

面试题·评估· 安克科技

评估集防泄漏与复现

匹配口述回答：…。但真正落地时，两者常常是混合的，比如一个客服系统既有知识库检索又有工具调用，那评估就得两套一起上。另外，很多人会纠结RAG和[[SFT]]怎么选，我的判断是，如果知识频繁更新，RAG更合适，因为微调跟不上变化；如果知识相对稳定、对推理深度要求高，微调更合适。评估数据集也要对应调整。具体到构建步骤，我重点讲几个核心点。先说标注策略。我一般做三层：先让领域专家按标注指南做初标，建立标准；然后交叉验证，至少两个人标同一批数据，算Cohen's Kappa一致性指标，低于0.6…

#安克科技#评估与监控#Agent

面试题·模型微调· 京东

300-500意图怎么召回?

匹配口述回答：…能靠全量Prompt。我会走多路召回。一路是向量召回，用领域微调过的 [[Embedding]] 模型，比如在客服退款数据上 [[SFT]] 过的 [[Bi-Encoder]]，把用户Query和意图描述都转成向量，做 [[ANN]] 检索。另一路是关键词召回，给每个意图维护一个关键词倒排索引，像'退款''少发货'这种词直接命中。还有一路规则兜底，高频意图用正则硬匹配。三路结果合并后，用 [[Cross-Encoder]] 做精排，选Top-3到Top-5。这样实际送到大模型…

#京东#大规模意图识别#上下文长度限制

面试题·RAG

什么是 RAG？一句话讲清检索增强生成

匹配口述回答：…选一，而是解决不同问题。RAG 适合知识注入和事实更新，微调适合改变模型的行为风格或任务格式。比如让模型学会客服话术，可以用 [[SFT]]；但让模型知道今天最新的退款政策，就应该用 RAG，因为微调一次成本高，而且改完可能遗忘旧知识。真正落地时，常常是 RAG 加微调一起上。不过 RAG 也不是万能。前提是知识库质量要过关，检索要准，不然脏数据喂给模型只会放大错误。如果问题需要强推理，检索结果只是零散片段，模型推理能力弱还是会答错。所以上线我会特别关注检索的召回率和 pr…

#入门#基础概念#什么是RAG

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配口述回答：…各一段。这样检索时命中率更高。再一个，领域[[Embedding]]不能直接用通用模型。我会拿PubMed或者裁判文书继续做[[SFT]]，或者构造对比学习数据，让“心肌梗死”和“MI”映射到相近向量。这是个大前提，如果直接拿通用Embedding去搜，专有名词匹配会非常差。说回检索策略。我倾向于多路召回加精排，而不是单靠向量。具体来说，我会开三路：第一路是稠密向量，用微调后的Embedding配合[[Faiss]]做[[ANN]]，解决语义相似但字面不同的问题；第二路是…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·知识图谱· 淘天

伪多模态与原生多模态差在哪?

匹配口述回答：…，比如发票识别，伪多模态就够用，因为关键信息本来就是文本。落地风险也要注意。真多模态的前提是你有足够的高质量图文对数据来做 [[SFT]] 或者对齐训练，如果数据质量差，效果反而可能不如伪多模态。而且推理成本高，线上部署要考虑延迟和显存。伪多模态的常见失败场景是：用户问“这张图里的红色按钮是干什么的”，如果 caption 漏掉了“红色”这个属性，检索就偏了。所以我的选择是：先判断视觉信息是否可文本化。如果可文本化，比如合同扫描件、商品参数表，优先用伪多模态快速落地；如果…

#淘天#知识图谱#伪多模态RAG

面试题·Prompt· 阿里

Agent Prompt优化评估指标

匹配口述回答：…会过拟合，必须用独立的验证集。其实还有一个更棘手的问题：当Prompt优化和模型微调同时进行时，怎么区分各自的贡献？比如用了[[SFT]]之后，同样的Prompt效果变了，那到底是Prompt好还是模型好？这个我一般会固定模型版本先做Prompt实验，再反过来固定Prompt做微调实验，但实际业务里两者经常迭代，很难完全隔离。所以整体上，我更倾向把Prompt优化看成一种低成本、高频迭代的手段，但它的上限受限于模型能力。如果遇到效果瓶颈，我会考虑结合[[Self-RAG]…

#阿里云#Prompt工程#评估与监控

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配口述回答：…很多。还有可解释性，答案能追溯到具体文档片段，用户质疑时能说'这是根据某条政策第几款来的'。这里有个边界划分问题。RAG和 [[SFT]] 不是二选一，而是各管一摊。RAG更适合解决事实更新和知识注入，比如今天改了个满减规则，明天生效，改文档就行；SFT更适合改变模型的行为风格和任务格式，比如让模型学会客服话术的礼貌语气。真正落地常常是RAG加SFT一起上，RAG保证事实准，SFT保证表达稳。举一个具体的客服退款场景。用户问'退款什么时候到账'，如果纯靠模型参数，它可能给…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配口述回答：…提：基座模型本身得有一定领域理解能力，如果模型完全不理解法律逻辑，光靠 Prompt 约束是不够的。这时候我可能会考虑做一点 [[SFT]] 微调，但那是另一回事。知识更新是落地最头疼的部分。我把它分成四种场景：增量新增、修改、失效、全量重建。新增最简单，新文档直接[[向量化]]入库。修改我把它拆成「旧版软删除+新版新增」，不原地动索引，否则图索引的局部性会被破坏，召回质量下降。失效也是软删除，打一个失效时间戳，检索时过滤掉。全量重建一般季度做一次，比如 Embedding…

#字节#专业领域RAG#RAG 系统设计

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配口述回答：…词匹配“退款”就够了，语义向量反而可能召回无关的“退货”，所以我会优先BM25，向量做补充。前提是你的向量模型得用领域语料做过[[SFT]]或对比学习微调，否则通用模型在专业领域效果差很多。检索策略这块，我倾向于多路召回加精排。召回层同时走向量Top-K、BM25 Top-K和图邻居扩展，合并去重。然后[[重排]]用[[Cross-Encoder]]精排，但光靠模型不够，我会加入手工特征，比如法律场景引用频率和时效性，医疗场景权威等级。这里有个坑：重排模型如果不做领域微调…

#字节#重排与优化#RAG 链路优化

面试题·检索· 美团

Embedding 模型结构选型

匹配口述回答：…语言支持或者大规模弱监督预训练。我的经验是真正落地常常混合用：比如用 BGE 做通用向量，再针对业务数据用 SimCSE 无[[监督微调]]一下。再讲维度。常见的有 256、384、768、1024，再高到 2048 也有。维度越高，语义容量越大，检索精度理论上会更好，但代价也大：索引体积暴涨，搜索延迟变高，训练也更难收敛。768 是 BERT-base 的标准输出，大多数场景够用了，生态兼容性最好。384 适合对延迟和内存特别敏感的场景，比如移动端或者边缘设备。1024…

#美团#向量检索#Embedding 模型结构选型