匹配正文：…面时，只拿到几个页码或一段水印，正文几乎为空。后面的分块、向量化和入库没有明显报错，用户提问时却一直搜不到材料里的答案。问题不在大模型，也不一定在向量库。真正的原因是这份 PDF 没有可用字符层，页面本质上是一张张图片。于是面试官会继续问：你怎么判断一页 PDF 需要 OCR？识别完成后为什么不能直接把文字塞进向量库？遇到模糊页、表格页和失败页又怎样降级？如果回答只有“调用 OCR 接口提取文字”，很快就会遇到下一层追问。因为 OCR 只是把像素变成文字候选，距离可检…

#RAG#解析与入库#扫描 PDF RAG

系统教程·AI 编程

被问「你用过哪些 AI 编程工具」时不露怯

匹配正文：一句话:大模型应用开发岗,越来越默认你日常用 AI 编程工具写代码。这篇帮你建立选型心智 + 上手要点——不背版本号,讲思路(工具迭代快,思路才稳)。先分清三类形态按常见协作入口，可以先理解下面三类形态。同一个产品可能同时提供编辑器、终端和异步 Agent，表格用于选择任务入口，不是互斥的产品分类。形态代表一句话最舒服的场景终端 Agent Claude Code、Codex CLI 在命令行里,AI 自己读文件、改代码、跑命令、改完再验跨多文件的重构、改 b…

#Agent#AI 编程

面试题·Agent

Deep Research 有 Search、Visit、Scholar 和 Python，Agent 怎样选对工具？

匹配正文：…，也可能没有 URL 便直接调用 Visit；本来查官方文档的问题，它反复使用 Scholar；一个简单换算，它不用计算工具而是凭语言模型心算；工具失败后，又不停重试同一路径。这些错误不会总表现为接口报错。很多调用在程序上成功，研究结果却没有新增可靠证据。所以面试官问“Agent 怎样选择工具”时，真正想听的是：工具能力怎样描述，前置条件和输出证据等级怎样建模，路由由模型还是规则决定，如何处理失败、重复和权限，以及怎样评测工具选得对不对？四个工具解决的是四种不同问题 …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Deep Research#研究工具与稳定性#Deep Research 工具路由

面试题·RAG

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：…“这次改动主要改善哪一层，哪些题型收益明显，哪些维度退化，额外成本是什么，是否通过既定门槛。”它比“总分提升”更能支撑工程决策。 LLM-as-a-judge 为什么也要被评测开放答案很难完全靠字符串匹配，可以让另一个大模型辅助判断正确性、相关性或 Faithfulness。但自动裁判会受评审 Prompt、证据长度、领域表达和模型版本影响，它的分数不是天然真值。一套可以落地的裁判校准流程先用一批人工金标样本校准，覆盖正确、部分正确、证据不足、答案外事实和引用错位。固定…

#RAG#评测与上线#RAG 评估指标

面试题·Agent

一次 Deep Research 到底花了多少钱，为什么只看总 Token 找不到成本黑洞？

匹配正文：…处理或缓存定价下成本不同。第三，它看不到工具成本。搜索、网页解析、学术数据库和第三方 API 可能按请求或结果计费，不体现在 LLM token 里。第四，它看不到失败浪费。超时重试、重复任务、无效循环和最终取消都可能已经消耗资源。第五，它看不到成本与质量关系。更便宜的任务如果漏答、无证据或需要用户重跑，未必更经济。总 Token 适合看趋势，不适合做根因分析和单位经济判断。总 Token 与全链路成本归因对比成本需要落到任务、步骤、资源和结果，不能停在总量…

#Deep Research#上线成本与评估#Deep Research 成本

面试题·RAG

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：用户点下发送以后，页面空了很久，随后答案一口气开始出现。遇到这种现象，一种常见判断是大模型太慢，需要换一个更快的模型。但一条 RAG 请求在模型生成第一个字之前，已经经过 Query 处理、Query Embedding、关键词与向量检索、候选融合、Rerank 和上下文构建。真正的等待可能发生在其中任何一段。从调用依赖关系看，模型要等检索证据准备好，才能开始基于证据生成。因此，如果向量检索阶段很慢，流式输出只能改变第一个 Token 之后的展示，不能缩短前面的检索等待…

#RAG#评测与上线#RAG 首字响应

面试题·Agent

Agent 线上答错一次，怎样用 Trace 和 Replay 定位到底哪一步坏了

匹配正文：…变化，排障需要知道真正影响行为的是哪一层。迁移旧轨迹时不要伪造缺失字段。可以标记 unknown 或 unavailable，让评测排除无法公平比较的维度。把未知写成默认成功，会让历史回放产生虚假结论。事件时钟也要谨慎。并行节点的墙钟时间可能交错，因果关系主要靠 parent、依赖和 State 版本，而不是仅按日志时间排序。这套 Schema 是可观测协议，不是业务 State 的完整副本。只记录定位与回放所需信息，避免两套事实源长期漂移。 Replay 不等于原样重…

#Agent#多智能体与评估#Agent Trace 回放

面试题·RAG

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…，不能因为都与 RAG 有关就放在同一套存储里。所有存储之间需要稳定 ID 关联。文档版本改变时，检索 Chunk、引用、缓存和评测样本才能知道自己对应哪一版资料。失败和降级应该怎样设计？系统投入运行时，失败不会只发生在大模型。 Query 改写可能选错实体。可以回退原问题，或者向用户澄清。 Embedding 服务可能超时。如果系统同时有关键词路线，可以在明确标记降级的情况下只使用 BM25，但要重新应用证据门槛。向量检索可能失败。不能把空候选直接交给模型，让模型凭…

#RAG#评测与上线#RAG 系统设计

面试题·Agent

Agent 怎么评估才不只看最终答案？任务、执行轨迹与成本要分层验收

匹配正文：…ation 使用、失败恢复、停止条件和权限，不依赖隐藏思维文本；成本层记录模型 Token、调用次数、工具与执行资源、端到端时间。评测集覆盖正常、歧义、工具失败、冲突、权限和长任务，用规则、LLM Judge 与人工抽检组合评估。安全与关键事实设硬门禁，质量和成本看分层指标及 Pareto 权衡。每次版本固定配置、多次运行、按场景切片，并把 Badcase 回流到数据和系统修复。最重要的是让评估指出具体薄弱环节；一个好看的总分如果不能定位问题，就没有多少改进价值。 Agen…

#Agent#多智能体与评估#Agent 评估体系

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…并非LoRA天然不适用，事实上许多生成和语言适配都能学习风格；是否适合要看基座是否已有相关能力、样本覆盖、是否还需新增知识以及质量评测。多适配器服务还要考虑合并、切换、组合冲突和基座版本绑定。工程验证落地先列出模型配置和所有target modules，用脚本逐层求和并与框架报告的trainable params核对。固定数据与token预算，比较r为8、16、32、64以及Q/V、全attention、attention加MLP等组合，统一看目标指标、通用回归、过拟合、…

#LoRA#参数高效微调#低秩分解

面试题·模型训练· 高德

参数量增长如何影响模型能力?

匹配正文：…每参数，但这是特定模型族与预算下的经验点，后续数据质量、重复训练、推理成本和架构都会改变最优比率。泛化也不能只看预训练loss；更大模型可能提升平均基准，同时在长尾、安全或领域任务上仍失败。过参数化为何便于优化有理论研究，但不能推出全局最优保证。工程验证规划规模时先固定总训练FLOPs、可用高质量token、目标推理预算和评测。做多个小规模点，拟合自身模型族的loss曲线，并检查不同数据混合下指数是否稳定。训练中记录loss、梯度、吞吐、通信和故障；评测按领域、时间、语言…

#缩放定律#过参数化#双下降现象

面试题·模型训练· OPPO

MSE 损失函数怎么用?

匹配正文：…值、平方误差与实际代价大致一致、异常值已处理或可接受。不能把“短期股价预测”列为无条件适用例子，金融序列还涉及非平稳、重尾、泄漏和评测协议。异常值较多可比较 MAE 或 Huber；噪声方差随输入变化可预测均值与方差并优化 Gaussian NLL；多峰目标可用分位数、混合密度或完整概率预测。选择应由验证集与业务代价决定。

#MSE#回归损失#损失函数

面试题·模型架构· 美团

MoE 怎么提升 Agent 能力?

匹配正文：先区分两种“专家” 1. 模型内部的稀疏MoE 在Agent使用的LLM内部，router按token选择少量FFN专家。它可以在总参数较大时控制每token激活FLOPs，但端到端收益还受all-to-all通信、负载不均、batch与硬件影响。专家是由训练目标共同学出的子网络，不保证自然对应“金融、代码、API”等人类可命名领域。对Agent的价值是：多轮规划、工具调用和反思会多次调用模型，若MoE后端在目标硬件上有更好的质量/成本曲线，总调用成本可能下降。但稀疏FLO…

#MoE#Agent#动态路由

面试题·模型训练· 字节

Prompt vs Seq2Seq，怎么转？

匹配正文：…信息抽取改成生成式，不只有一种路线。PET把输入改写为带掩码的完形模板，再用verbalizer把标签映射到词，它本质上是基于掩码语言模型的少样本半监督方法，不是普通自回归生成。另一类才是T5或BART式seq2seq，把标签、实体或结构序列化后解码。GPT-3展示了无需梯度更新的上下文少样本能力，但论文也明确有表现不佳的数据集，不能说它普遍接近微调。机制与边界提示分类可让模型预测标签词，关键在模板、verbalizer和标签词概率的校准。PET还会用多个pattern训…

#Prompt工程#统一生成建模#判别式转生成式

面试题·模型架构· 字节

格式化输出 vs 思维链，怎么选？

匹配口述回答：…长度影响。可以限制每类为单token verbalizer，或按token数归一化并做校准；最终仍要在独立验证集检查可靠性，不能把语言模型原始概率直接当成业务置信度。先说明为何转成生成接口比较直接生成与PET 介绍text-to-text和指令方式限定CoT与Self-Consistency场景给出公平评测口径约4分钟 PET的verbalizer概率评分与自由生成标签有什么本质区别。可继续讨论模板偏差、标签tokenization、概率校准和多模板集成。

#生成式建模#判别式任务转化#Prompt工程

面试题·模型训练· 美团

合成数据怎么系统构建?

匹配正文：合成数据前要先定义缺口。模板适合规则明确、槽位可枚举的任务；回译与改写适合保持语义的表达扩展；LLM可以生成开放指令、对话和解释；模拟器适合能执行验证的代码、数学或工具任务。不同方法产生的偏差不同，不能只追求数量。 Self-Instruct不是把种子指令做相似改写。它用一小组人工任务引导模型生成新的指令，并根据指令是否需要输入继续生成输入与输出，再通过相似度和启发式规则过滤，形成迭代数据。实现时要保留来源、生成模型、prompt和过滤版本，防止同一模板无限扩张。质量控制应…

#数据合成#Self-Instruct#指令微调

面试题·模型训练· 字节

SFT vs 预训练:核心区别在哪?

匹配正文：…DPO；可选方法包括更好的示范与过程监督、检索或工具、拒绝采样、DPO、在线 RL 和规则约束，选择应由可执行任务、独立偏好与安全评测决定。DPO 也不能被笼统写成比 PPO 更不稳定。图解 SFT vs 预训练:核心区别在哪?图解

#监督微调#预训练对比#复读机问题

面试题·模型架构· 海尔

LayerNorm 如何控制激活尺度?

匹配正文：…e 或门控，再通过消融选择。不能说“强行 LN 必然丢信息”；归一化会改变尺度，而保留哪些信息取决于架构、affine 参数与任务评测。

#Layer Normalization#梯度稳定#训练收敛

面试题·模型训练· 得物

LoRA 微调效果差怎么排查?

匹配正文：LoRA效果不如预期时，我不会先把rank调大。先确认基线和评测：同一基础模型、prompt、数据切分和解码设置下，未微调模型表现如何，目标指标是否稳定，训练与验证是否近重复。标签噪声、样本过窄或评测不代表真实分布，都会让任何微调方案看起来失败。实现层要确认target modules确实命中模型层名，只有适配器参数可训练，梯度非零，保存和加载后输出一致。常见错误包括漏掉模块、误冻结、loss mask错误、adapter未启用、合并缩放不一致，以及量化模型在不合适dtyp…

#LoRA#参数高效微调#故障排查

面试题·模型训练· 得物

LoRA 有哪些局限性?

匹配正文：…高。多任务或持续学习还要看适配器隔离、共享和遗忘，而不是只比单个任务峰值。我的对照会固定基础模型、数据、token预算、优化器和评测，给每种方法明确可训练参数、target位置、峰值显存、吞吐和合并方式，并做rank与学习率搜索。结果同时看目标任务、通用回归和稳定性。选型依据是当前约束下的质量成本前沿，不是方法标签。

#LoRA#参数高效微调#Adapter

面试题·模型架构· 字节

Few-shot 推理为何有效?

匹配口述回答：few-shot有效的第一层解释，是它和自回归预训练的接口一致。语言模型训练的是给定前缀预测下一个token。推理时把任务说明、若干输入输出示例和新输入都放进前缀，模型就能利用这些额外条件，调整后续答案的概率分布。示例可能提供任务类别、输出格式、标签含义和输入到输出的映射，所以经常比只给一句指令信息更充分。但我不会说few-shot一定提升。示例如果和查询无关、格式冲突、顺序造成偏置，或者占用太多上下文挤掉关键输入，效果都可能下降。模型规模、预训练数据中是否出现过类似任务结…

#上下文学习#预训练目标#隐式梯度下降

面试题·模型训练· 阿里

模型收敛怎么判断?

匹配正文：…层面则是独立验证集上的目标能力不再稳定提升。训练loss趋平不等于模型已经泛化，验证指标变差也不是收敛，而可能是过拟合、数据漂移或评测噪声。损失曲线应看移动平均、不同数据桶和多个评测点的趋势，而不是要求波动小于某个固定比例。大batch、混合数据、课程采样和学习率变化都会改变局部波动。若训练loss突然上升，要联查数据batch、学习率、精度溢出和恢复checkpoint；若缓慢下降但验证任务停滞，可能是目标与业务指标不一致。梯度范数适合做异常诊断，但没有跨模型通用的正常…

#模型收敛#损失曲线#早停策略

面试题·模型训练· 阿里

SFT 过拟合怎么判断和缓解?

匹配正文：SFT过拟合最可信的信号，是训练集目标持续改善，而独立验证集的loss或目标任务指标在超过评测噪声后持续变差。只看训练loss低不够，单个验证点反弹也不够。验证集合必须代表真实使用分布，并在用户、文档和近重复层面与训练集隔离，否则分叉可能被泄漏掩盖。 PPL通常是平均交叉熵的指数变换，在相同tokenization和口径下与loss单调对应，并不天然比loss更敏感。生成任务还要看格式成功率、事实性、指令遵循、拒答、长度和人工偏好。不同长度或不同tokenizer的PPL不能…

#过拟合识别#训练监控#正则化策略

面试题·多模态· 快手

固定间隔vs关键帧怎么选？

匹配正文：…音频事件或检索query自适应选片段，适合长视频问答，但成本与召回风险更高。选型先明确目标是分类、检索、摘要、问答还是事件定位。评测同时看事件召回、冗余率、时间覆盖、模型token成本和端到端质量。视频时长、首尾帧价值及互动热区都属于业务先验，不能写成通用规则。

#视频理解#时序采样#关键帧提取