匹配正文：📊 学习时长:55-70 分钟 🎯 完成后能力:讲清多轮对话 / 长程任务里记忆怎么管(短期 vs 长期、历史选择、裁剪 vs 摘要、外部记忆与遗忘、指代消解),并能跑通一个带记忆 + 指代消解的多轮对话 demo 🔗 关联面试题:5 道(覆盖 5 个角度,见 Part 3) 这一章你会学到什么 ✓ 跟着做:用零依赖代码跑通一个「带滑动窗口记忆 + 指代消解」的多轮对话,亲眼看「它」怎么被补全 ✓ 看懂短期记忆 vs 长期记忆的分工,以及为什么「把全部历史塞给模型」是错…

#Agent#Deep Research#项目实战

求职指南·求职

大模型应用开发岗和算法岗有什么区别、普通工程师怎么选

匹配正文：…可上线的大模型应用、RAG/Agent 系统、业务流程自动化日常关键词 SFT、DPO、RLHF/GRPO、数据配比、loss、benchmark API、RAG、Agent、工具调用、检索、评估、延迟、成本面试重点数学基础、论文理解、训练细节、实验设计项目深挖、系统设计、工程取舍、真题口述简历筛选硕博、论文、竞赛、模型训练经历加分明显工程经验、项目深度、上线能力、业务理解更重要典型候选人算法/机器学习/科研背景后端、Java/Go/Python、测开、数…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#求职

#职业转型

项目实战·Agent

第 3 章:工具集设计,让 Agent 真正「会用工具」

匹配正文：…做选型调研,光看摘要远远不够。工程师问:「Qdrant 单机大概能扛多少 QPS?」,这个数字往往不在摘要里,得点进官方文档 / benchmark、读正文才有。再问:「我每天 100 万次查询,平均每秒多少,它扛得住吗?」,这又得算一下。一句话:只有一个工具的 Agent,能力天花板很低。调研型 Agent 需要一组工具,搜索拿线索、访问拿细节、计算器做数值、学术库查论文 …… 让模型像工程师用浏览器、计算器、文档站一样,按需调用。这一章,就是讲怎么把这组工具设计好、…

#Agent#Deep Research#项目实战

面试题·Agent

LLM Judge 分数变高，为什么 Deep Research 可能反而更会刷分？

匹配正文：…“更好”后误写成通过。若结果随顺序翻转，标记位置敏感；若只在长度差大时偏向长文，进入长度偏差样本池。 Pairwise 适合版本选择，但绝对上线门槛仍需要 pointwise rubric 和硬门。多 Judge 共识能解决偏差吗？它可以降低单个 Judge 的偶发波动，但不能自动消除系统性偏差。如果多个 Judge 都偏爱长答案，共识会更自信地重复错误。设计多 Judge 时可以选择不同模型家族、不同 Prompt 结构和不同评估视角。先让它们独立输出，避免互相…

#Deep Research#上线成本与评估#Deep Research LLM Judge

面试题·Agent· 字节

Agent 技术演进与挑战?

匹配正文：…手代码开发需求理解、代码生成、测试调试豆包MarsCode 三、关键挑战可靠性规划错误：任务拆解不合理导致执行失败工具选择失误：选错API或参数格式错误安全性权限边界：Agent越权访问敏感数据提示注入：恶意指令劫持Agent行为可控性执行过程黑盒，难以审计和回滚成本不可控：复杂任务触发大量LLM调用四、未来潜力短期（1-2年）：垂直场景的深度封装，如"一键生成周报"类确定性工作流中期（3-5年）：人机协作模式成熟，Agent作为"数字员工"承担…

#字节#Agent#Agent 发展趋势

面试题·文档处理· 字节

Chunk 向量化与索引怎么选?

匹配正文：…限制、文档结构和同一评测集上的证据完整率、召回与成本决定嵌入模型编码：将文本映射为稠密向量（通常768或1024维）索引构建：选择ANN算法（HNSW、IVF-PQ等）建立可高效检索的数据结构二、常用嵌入模型对比模型特点适用场景 OpenAI text-embedding-3 语义质量高，API易用，按token计费快速验证、中小规模、预算充足 BGE/M3E（开源）中文优化好，可本地部署，成本可控大规模生产、隐私敏感场景 E5/GTE 长文本支持好，学术b…

#字节#向量检索#Chunk 向量化

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配口述回答：…不同块，检索时就可能只召回标题块，内容不全。所以我会把标题、层级这些元数据绑到每个块上，检索时优先返回。接下来说[[嵌入]]模型选择。这块很多人有个误区，觉得模型越新越大越好。其实选模型要看三个前提：语言、上下文长度、领域。中英混合的场景，我会优先选bge-m3或者gte-large，它们在双语上都比较均衡；纯英文场景，OpenAI的text-embedding-3-large效果很好，但私有化部署成本高。上下文长度是关键，如果文档块超过模型支持的长度，直接截断会丢失信息，…

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·Prompt· 字节

AI Agent 核心特点与局限

匹配正文：…力，区别于纯生成模型的关键：闭环反馈机制四大核心组件感知：接收环境状态（API返回、用户输入、工具输出）规划：任务分解、策略选择（CoT/ReAct/Tree of Thoughts）行动：工具调用、代码执行、外部API交互记忆：短期上下文 + 长期知识库（向量检索）主流架构模式模式特点代表 ReAct 推理与行动交替，实时修正大多数开源Agent Plan-and-Execute 先全局规划再执行复杂多步骤任务 Multi-Agent 多角色协作分工 …

#字节#评估与监控#Agent

面试题·检索· 京东

向量数据库选型关键因素有哪些？

匹配正文：选型向量数据库，核心看场景匹配度，不能只看 benchmark 数字。 1. 检索性能与索引类型延迟敏感场景（实时对话）选 HNSW，召回率高、查询快，但内存占用大海量数据（十亿级）选 IVF 系列或磁盘索引，牺牲部分召回换存储成本务必关注 filter 下推能力——先元数据过滤再向量检索，避免全量扫描 2. 可扩展性与运维数据量 < 1亿：单节点 Milvus/Pinecone 足够数据量 > 10亿或高并发：需原生分布式（Milvus、Weaviate）或云托…

#京东#向量检索#向量数据库选型

面试题·项目与经历· OPPO

深度学习项目怎么介绍?

匹配口述回答：…数据、后端或产品工作由同事承担，避免把团队成果都算在自己身上。模型部分我不会只报名字。我会先给基线【基线模型与结果】，再说为什么选择【最终架构】：是因为数据量、标签成本、算力、可解释性，还是设备限制。至少讲一个被否掉的方案和证据，例如它在某个长尾切片上不如基线，或者模型虽准但端侧内存超预算。这样能证明选型来自对照实验，不是追热点。数据流程要讲完整。数据来自【来源与许可】，经过【去重、异常处理和标注质检】，再按【用户、时间或实体】切训练、验证和测试，避免同一对象跨集合造成泄…

#项目经验#深度学习#模型架构

面试题·模型架构· 字节

RMSNorm vs LayerNorm：数值稳定性怎么比?

匹配口述回答：…nel fusion，所以全模型速度和显存收益必须看具体硬件、hidden size、batch、dtype 和实现。不能把某个 benchmark 的百分比写成通用保证。两者在 Transformer 里通常都是逐 token 沿 hidden dimension 计算，不需要同步所有 GPU 的 token 统计。训练稳定性也要谨慎。RMSNorm 原论文说明去掉中心化后仍能达到可比表现，但这不等于它对异常值天然更鲁棒或任何模型都更稳定。LLaMA 使用 pre-nor…

#Layer Normalization#RMS Normalization#归一化技术

面试题·推理优化· 海尔

显存优化技术原理与对比

匹配口述回答：… bucket 和真实流量峰值可能不出现在单次离线测量里。线上峰值应覆盖最长请求和最高并发组合。先拆训练与推理内存账本按主导项选择训练侧技术解释 checkpoint 与分片的代价说明推理侧权重与 KV 优化以目标硬件 benchmark 验收约4分钟显存主导项随参数、优化器、序列长度和并发变化，必须先做训练/推理分开的内存账本。可继续追问某一配置下参数、Adam 状态、激活或 KV Cache 的字节数如何估算。

#显存优化#梯度检查点#模型并行

面试题·模型架构· 京东

MLA 与 KV Cache 怎么用?

匹配正文：…、TTFT、TPOT 与吞吐。论文或某个模型上的压缩比不能写成所有 MLA 的固定 1/4 或 1/8。MLA 是端到端训练的架构选择，不能类比成事后有损压缩，也不能无证据断言会“压模糊关键轮次”。图解 MLA 与 KV Cache 怎么用?图解

#MLA#KV Cache#注意力机制

面试题·推理优化

Flash Attention 原理怎么理解?

匹配口述回答：…oken 延迟、峰值显存和输出误差。某些 shape 或硬件不支持时要回退到 SDPA 或其他正确实现。这样才能把算法收益和特定 benchmark 分开。我判断实现是否正确时，不只看速度，还会拿普通 attention 做数值对照。固定同一组 Q、K、V 和 mask，比较前向输出、梯度以及不同序列长度下的误差；因计算顺序不同允许有浮点偏差，但语义必须一致。若用了 causal mask、变长序列或 dropout，还要分别覆盖，因为这些分支最容易出现边界错误。性能分析…

#Flash Attention#内存优化#注意力机制

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配口述回答：…按框架官方能力说明定位纠正 TensorRT-LLM 与 ONNX 的关系说明 llama.cpp 的模型和硬件范围用统一 benchmark 做最终选择 30秒速答 + 90秒主答 + 完整展开框架支持列表和性能数字都必须绑定版本、模型、硬件与工作负载。可继续设计四个框架的公平 benchmark，或解释 TensorRT-LLM checkpoint 到 engine 的流程。

#vLLM#TensorRT-LLM#推理引擎

面试题·推理优化· 字节

ZeRO 与 FlashAttention 各优化什么?

匹配口述回答：…decode 延迟、KV 容量和质量变化。只有这样才能判断应该用精确 kernel、换 GQA、采用稀疏结构，还是先修服务调度。选择方案前我会先定位阶段。训练或 prefill 中，如果 attention 中间量和 HBM 流量占主导，优先尝试精确融合 kernel；decode 中若每步主要读取历史 KV，就看 GQA、KV 量化、分页和批调度；若目标任务确实需要超长上下文且二次计算不可接受，才评估滑窗、稀疏或近似结构带来的质量损失。实验表也要把算法与系统变量拆开。固…

#注意力优化#ZeRO#Flash Attention

面试题·模型架构· 百度

DDPM vs Flow Matching: 建模与训练差异?

匹配口述回答：… Carlo 估计。工程层面，谁更快要看采样器的函数评估次数、误差容忍度、模型结构和是否做蒸馏，不能用“随机必慢、确定必快”替代 benchmark。我会固定数据、模型容量和质量指标，再比较 NFE、端到端延迟、数值稳定性、样本质量与多样性。这样得到的是公平的系统结论，而不是只比较算法标签。如果需要做实验比较，我会把训练目标和采样器分开控制。训练侧固定数据、网络规模、条件方式和总算力，记录不同时间区域的回归误差；采样侧给两种模型各自使用合适求解器，但同时报告相同 NFE 下…

#生成模型#扩散模型#流匹配