匹配正文：…过滤 Cross-Encoder 精排：比双塔模型准，但计算重置信度过滤：设置相似度阈值，低置信触发兜底或拒答工程权衡方案延迟效果增益适用场景查询改写 +50-100ms 中等用户 query 口语化严重 Cross-Encoder 重排 +100-300ms 显著对精度要求高，可接受延迟混合检索 +20ms 中等通用场景 baseline 实际落地建议：先上混合检索+轻量重排，再按需叠加复杂模块，同时建立 bad case 回流机制持续迭代。

#字节#检索故障诊断#检索质量优化

面试题·检索· 拼多多

ANN 索引怎么构建?

匹配正文：…00） IVF：nlist（聚类中心数）与nprobe（查询桶数）联合扫描；4×√N只是某些配置的起点，还要检查训练样本、簇分布与延迟/质量曲线。量化：PQ按子向量编码，SQ按坐标量化；码长、校准/训练和具体数据共同决定存储与误差，不能预设SQ一定更准。 4. 构建与部署下面是省略import与数据准备的Faiss流程示意。dim需与向量匹配并能被PQ的子向量数32整除，训练样本要覆盖分布且足以训练4096粗簇和PQ码本。这里HNSW用于搜索IVF粗聚类中心，不是对召回候…

#拼多多#ANN索引构建#ANN 索引构建

面试题·检索· 安克科技

RAG 知识库怎么存?

匹配正文：答案要点向量数据库选型需考虑规模、延迟、成本三要素元数据设计要支持过滤和排序索引结构需权衡召回率与速度实际落地常用混合检索（向量+关键词）需考虑数据更新和版本管理知识库存储形式 RAG知识库采用双轨存储：向量存储（语义检索）+ 文档存储（原文召回），二者通过doc_id关联。向量数据库选择场景推荐方案理由百万级/快速验证 FAISS、Milvus Lite 轻量、易部署千万级/生产环境 Milvus、Pinecone、Weaviate 分布式、高可用 …

← 上一页第 19 / 25 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#安克科技#向量数据库选型#RAG 知识库存储

面试题·检索· 安克科技

RAG向量匹配原理与ANN算法取舍

匹配正文：…层导航图，逐层贪心搜索小中型数据集、内存充足、追求高召回 IVF 聚类分桶，先定位后精确搜索超大规模数据、内存受限、可接受稍低延迟选型建议：百万级以下、延迟敏感 → HNSW 十亿级、成本敏感 → IVF + PQ量化混合方案：Faiss IVF-HNSW可用HNSW搜索粗聚类中心，再扫描选中的桶；它不等于对召回候选做图索引精排。IVF-Flat不压缩原向量，IVF-PQ才加入PQ编码。三、精度与效率平衡关键参数调优： HNSW：ef_construction（…

#安克科技#HNSW与IVF#RAG 向量匹配

面试题·检索· 安克科技

RAG 向量匹配怎么高效实现?

匹配正文：…化与距离度量。Flat 搜索给出精确基线，但计算随向量数量线性增长；大规模场景通常使用近似最近邻索引。 HNSW：多层导航图，查询延迟低、召回高，代价是图结构内存与构建成本；主要通过 M、efConstruction 和查询 ef 调节。 IVF：先聚类分桶，查询时探测部分桶；nlist 与 nprobe 控制候选范围。 PQ/IVF-PQ：对向量子空间量化以减少存储和带宽，但会引入距离误差。混合架构：热冷分层、稀疏与稠密融合、过滤后检索都必须在目标数据上验证，不能用固定规…

#安克科技#ANN性能权衡#RAG 向量匹配

面试题·检索· 安克科技

RAG 知识库存储怎么选?

匹配正文：…据的存储场景和查询模式阐述混合检索架构的设计（向量+关键词+结构化过滤）说明数据同步与一致性保障机制讨论选型考量因素（规模、延迟、成本、团队能力）给出具体的集成方案（如PostgreSQL+pgvector或分离架构）核心设计原则 RAG知识库不是"二选一"，而是分层存储 + 混合检索。向量负责语义匹配，结构化负责精确过滤，两者互补。存储层设计数据类型存储方案典型场景向量Embedding 专用向量库（Milvus/Pinecone/Qdrant）或 pg…

#安克科技#知识库存储架构#RAG 知识库存储

面试题·检索· 美团

Embedding 相似性检索怎么工作?

匹配正文：…W：图索引，查询快、精度高，内存占用大，适合百万级 IVF-PQ：倒排+乘积量化，内存省、亿级规模，精度略降实际选型看数据规模和延迟要求 RAG中的关键作用作为召回环节，解决"找什么"的问题。检索质量直接决定生成上限，常见优化：query改写、混合检索（向量+关键词）、重排序（Rerank）。

#美团#Embedding检索#Embedding 相似性检索

面试题·检索· 百度

向量检索基本原理是什么?

匹配正文：…较。 2. 索引构建 Flat 做精确搜索，可作为小规模服务方案或评测近似索引召回的基线；是否可用取决于数据量、维度、硬件、过滤和延迟目标，不存在统一的“百万以内”界线。 HNSW 通过多层近邻图加速搜索，常见特点是较高召回和较大内存开销。 IVF、PQ 及其组合先缩小候选范围并可压缩向量，适合在容量、速度和召回之间取舍，但具体存储形态由引擎决定。 3. 相似度计算余弦相似度比较方向；向量归一化后，余弦排序与点积排序等价。未归一化点积同时受方向和模长影响，只有模型训练目标…

#百度#向量索引#向量检索原理

面经·项目面试

LIMIT 100 限住了结果，没限住查询工作量

匹配正文：…，毫秒数字可能变化；这里的验收关注错误码、执行退出、后续查询和清理是否成立。六千行合成数据足以展示机制，不足以替真实负载制定吞吐或延迟承诺。面试时讲这段实现，可以沿实际证据往下说：一百行约束了什么，计划显示了什么工作，锁等待由谁控制，计算怎样中止，中止之后连接如何验收。每一步都有独立的观察点，才不会把一个输出数字说成整个执行器的资源承诺。 LIMIT 100 仍然有用。只是当数据库开始为这一百行工作时，结果大小之外的那笔账，也要有人负责。

#Agent#Text2SQL#SQLite

面经·项目面试

Reranker 的上限，藏在候选集里

匹配正文：…处理可能改善设备利用和吞吐，但单请求是否更快，要看模型、硬件、长度分布以及是否等待凑批。不能把“支持batch”直接换算为单次请求延迟下降。候选更长，也会改变同样条目数的实际成本。十对很短的文本和十对接近长度上限的文本，输入规模并不一样。成对条目数适合在这个离线检查中先记清楚，进入模型服务后，还要连同真实长度分布和批次处理条件一起解释，不能只用一个N估算所有请求。如果为了降低成本减少N，应同时回放哪些问题丢了目标；如果扩大N，也要检查新增候选是否只是重复或无关内容。参数选…

#RAG#Rerank#候选召回

面经·项目面试

写了 asyncio.gather，8 个研究 Agent 为什么还在排队？

匹配正文：…未结束”。峰值则在每次开始和结束时更新，不能只隔一段时间读一次当前值，否则短暂重叠可能恰好落在两次采样之间。心跳采样负责观察循环延迟，起止计数负责确认并发，两种记录回答不同问题。一次运行结束，还应确认八个编号各有一组起止、活跃计数回到零，取消探针遗留的工作也已收尾。真实DeepResearch比睡眠复杂，外部搜索、模型服务、连接池和工具都有自己的容量与延迟。发现任务排队，先看是不是循环被同步调用卡住；循环能继续工作以后，再看名额等待、连接容量或下游限流。不同位置的等待，需…

#DeepResearch#asyncio#多Agent

面经·项目面试

装了很多 Skill，要把每份说明都塞进上下文吗？

匹配正文：…在扫描大量文件上，要另外考虑扫描与缓存的设计。这也是面试里值得讲准确的地方。“按需加载”容易让人联想到文件需要时才读，而当前代码延迟的是全文进入模型上下文的时点。把两层混在一起，后面讨论启动时间和输入规模时，就会各说各的。后台进程已经存好全文，前台模型请求仍只拿到目录目录要支持选择，全文才负责展开回到销售报告任务，目录可以让模型先看到两个入口。汇总报告的描述是“读取销售 CSV，整理销售额与退货额，生成一页汇总报告”；活动海报的描述是“根据已确认的活动文案安排标题、配…

#Agent#Skills#渐进披露

面试题·推理优化· 百度

模型优化方法有哪些？

匹配追问：你们实际落地中量化到INT4后精度损失有多大，如何缓解？长文本场景下KV Cache显存爆炸怎么解决？如果既要低延迟又要高吞吐，技术方案上如何权衡？场景切入假设现在要上线一个生成式助手，输入逐渐变长，训练显存、首 token 延迟和并发吞吐都出现瓶颈。你会先怎样测量，再从训练、推理、部署三层优化？层层追问训练显存不足先看哪些张量和并行策略？……推理时 prefill 与 decode 的瓶颈有什么不同？……KV Cache、量化和连续批处理各解决什么？……怎样验证…

#模型量化#KV Cache优化#分布式训练

面试题·模型架构· OPPO

CNN/RNN/Transformer 怎么选?

匹配口述回答：…缓存或其他变体。工程选型不能写成 CNN、RNN、Transformer 的固定排行榜。我会在同一数据和硬件上比较质量、吞吐、尾延迟、显存和开发复杂度；需要时也会组合局部卷积、递归状态与注意力。例如做端侧声学识别时，我会把流式首包延迟、峰值内存和弱网功耗加入基准，而不只看离线准确率；若换成注意力模型，还要验证上下文长度变化是否触发显存峰值和尾延迟回退。上线前再用真实设备分层压测，并对最差场景保留降级方案。 CNN用局部归纳偏置提取空间模式 RNN用状态递推处理序列与流式输入…

#CNN#RNN#Transformer

面试题·模型训练· 美团

训练数据清洗：规则 vs LLM

匹配追问：…误，如何检测和控制？场景切入假设现在要从混合格式文档中抽取固定字段和语义长尾字段。你会怎样让规则与 LLM 分工，并控制成本、延迟与错误传播？层层追问格式稳定且可枚举的字段适合什么？……合同式长尾语义又适合什么？……结构化输出是否等于语义正确？……高风险字段怎样校验和转人工？直球技术请比较规则与 LLM 在数据预处理/信息提取中的适用场景、维护成本、可审计性、概率错误和混合架构，并给出同口径评测方案。

#数据清洗#数据工程#训练数据构建

面试题·模型架构· 高德

参数规模怎么影响大模型?

匹配口述回答：…颈，再扩大模型。这个判断要靠缩放实验，而不是用单个大模型外推。部署条件也可能改变答案。训练 FLOPs 最优的模型，未必满足线上延迟、显存或能耗约束；同样预算下，较小模型多训练一些 token 有时更容易服务。最终我会同时给训练视角和全生命周期视角，并明确结论只对当前模型族、tokenizer、数据治理和硬件成立。这样既使用 scaling law，也不会把经验关系说成定律。从容量、数据和计算共同分析拆开训练动态与系统成本用多类指标判断泛化和记忆说明 scaling…

#缩放定律(Scaling Laws)#过参数化#双下降现象

面试题·模型架构· 海尔

Encoder vs Decoder 功能区别?

匹配口述回答：…Search缓解或修复了teacher forcing带来的exposure bias。是否使用Beam还要看长度偏置、任务目标和延迟。最终我会用四条轴比较：信息可见范围、是否存在cross-attention、输出接口以及训练和推理的并行方式。这样既能解释机器翻译，也能准确区分BERT、T5和GPT类模型。服务实现还会影响接口。Encoder-decoder可以复用不变的源侧memory，并缓存目标侧K/V；decoder-only则把条件与输出放在同一因果上下文。输入…

#Seq2Seq#Encoder-Decoder#Transformer

面试题·推理优化· 京东

LLM 推理框架综合选型

匹配口述回答：…el、量化、并行和 in-flight batching 优化；它的工程成本在权重转换、引擎或运行配置、版本兼容和回归，价值取决于延迟或吞吐增益是否覆盖维护成本。TGI 仍有生产功能，但维护模式意味着未来主要接受小修，新项目需要评估迁移计划。【完整展开】 llama.cpp 的定位是低依赖、广硬件和 GGUF 生态，不等于“CPU 玩具”。官方列出 x86、ARM、Metal、CUDA、HIP、Vulkan、SYCL、CANN、OpenCL 与 RPC 等后端，并支持 CP…

#vLLM#TensorRT-LLM#llama.cpp

面试题·项目与经历· 商汤科技

实习项目怎么介绍最加分?

匹配口述回答：…随后比较【候选方案】，每次只改变一个关键变量，记录模型版本、随机种子、训练预算与评测集。最终选择【实际方案】的原因应是它在【质量、延迟、成本】的组合上更符合目标，而不是名字更新。被否掉的方案也值得说明，例如【方案】在总体分数不错，但【长尾切片或资源】不达标。【完整展开】结果要把“做了什么”和“因此提升什么”连起来。可以说【指标】从【基线值】到【结果值】，但必须补充样本量、置信区间或重复实验、观察时间和对照条件。线上实验若未开展，就只报告离线结果；若只在灰度流量验证，就不能…

#项目经验#系统设计#业务落地

面试题·项目与经历· OPPO

深度学习项目怎么介绍?

匹配口述回答：…熟、证据最完整的一个项目来讲。开头先用两句话交代背景：在【项目或业务】里，我们遇到【具体问题】，目标是改善【指标及口径】，同时受【延迟、显存、隐私或端侧平台】约束。接着马上说清我的职责是【本人实际负责模块】，哪些数据、后端或产品工作由同事承担，避免把团队成果都算在自己身上。模型部分我不会只报名字。我会先给基线【基线模型与结果】，再说为什么选择【最终架构】：是因为数据量、标签成本、算力、可解释性，还是设备限制。至少讲一个被否掉的方案和证据，例如它在某个长尾切片上不如基线，或者…

#项目经验#深度学习#模型架构

面试题·模型架构· 字节

格式化输出 vs 思维链，怎么选？

匹配追问：…？层层追问直接生成标签与结构化输出有什么差别？……指令重构改变了什么？……CoT 适合哪类需要中间推理的任务？……性能、校准和延迟怎样同口径比较？直球技术请比较格式化标签生成、seq2seq/指令化与思维链在判别任务转生成任务中的作用、适用边界和评测方法，不预设生成方案更优。

#生成式建模#判别式任务转化#Prompt工程

面试题·推理优化· 京东

推理框架硬件支持对比

匹配口述回答：…没有自动提供 API 网关、队列、弹性伸缩、租户隔离和监控，因此应作为算法或缓存策略讨论。压测同时测 TTFT、TPOT、端到端延迟、请求与 token 吞吐、P95/P99、峰值显存、OOM、错误率和长时间稳定性。输入长度、输出长度和到达分布都要固定，量化后还要做任务质量回归。易用性看模型接入、容器、观测、滚动发布和故障恢复；扩展性看多卡、多节点、LoRA、多模态和硬件矩阵。框架更新很快，结果附 commit 或版本。最终选择可能因负载拆分，但每多一套 runtime 都…

#vLLM#TensorRT-LLM#llama.cpp

面试题·项目与经历· 京东

技术项目怎么讲给非技术人?

匹配口述回答：…些情况必须人工确认。挑战用非技术语言解释。数据不完整可以说“系统看到的信息有缺口”，分布变化可以说“后来出现的情况和过去不同”，延迟高可以说“答案正确但用户等不起”，多轮状态可以说“系统需要记住此前发生的关键事情”。不要说状态一多复杂度必然指数增长。实际成本由保存多少状态、保留多长历史、可能分支、检索方式和一致性要求决定，有的实现近似线性增长，有的因搜索策略产生更高成本，必须按具体设计衡量。【完整展开】方案描述保留必要因果。可以用图书管理员类比检索，用质检员类比验证，用…

#跨团队沟通#技术抽象#项目复盘

面试题·评估· 百度

大模型应用怎么保障可靠性?

匹配追问：如果用户反馈和模型自动检测冲突，如何设计仲裁机制？在延迟敏感场景下，如何权衡校验深度和响应速度？如何量化"可靠性"指标，建立可运营的dashboard？场景切入假设你在做客服机器人，用户问了一个订单问题，模型生成了答案，但答案里引用的订单号根本不存在。你怎么通过技术手段提前拦住这种错误，而不让用户看到？层层追问大模型落地时怎么保证输出靠谱？……你可能会想到校验吧？那具体怎么设计？……如果既要保证事实准确，又要控制延迟，你怎么组合不同的校验手段？直球架构设计一个…

#数据验证#输出校验#反馈闭环