匹配正文：…ery向量化时合并请求，提升GPU利用率四、工程架构优化分片与分布式：按业务/时间分片，多副本负载均衡硬件加速：GPU索引（Faiss-GPU）、专用向量数据库（Milvus/Zilliz）流控与降级：超时熔断、降级为关键词检索兜底关键权衡：精度vs延迟vs成本，需根据业务场景（C端延迟敏感/B端精度优先）动态调整。参考资料 Faiss官方索引结构与存储口径 Sentence Transformers官方Embedding量化与校准

#字节#检索性能优化#向量检索性能优化

面试题·检索· 百度

向量检索 4 种范式怎么选?

匹配正文：…means聚类 → 用中心ID编码优势：内存压缩率极高（128维float→16字节），支持非对称距离计算（ADC）工业标配：Faiss的IVF-PQ，十亿级检索的核心组件四、基于近邻图：图遍历思想代表算法：HNSW、NSG、DiskANN 核心思想：构建导航图，查询时贪心遍历找最近邻 HNSW核心：多层图结构，上层稀疏快速定位，下层稠密精确搜索复杂度：构建O(n log n)，查询O(log n)，精度-速度权衡极佳现状：当前单模态向量检索的SOTA方案工业实…

#百度#ANN索引#向量检索方法

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配正文：…向量化：用Embedding模型（如BGE、text-embedding-3）编码为稠密向量存储：写入向量数据库（Milvus、Faiss、Pinecone），可叠加倒排索引做混合检索 2. 检索阶段（在线） Query改写：扩展、澄清用户问题，提升召回率相似度计算：余弦相似度/IP距离，Top-K召回重排序（Rerank）：用Cross-Encoder精排，过滤低质片段 3. 生成阶段上下文组装：检索结果 + 用户Query → 构造Prompt 大模型生成：基于检…

← 上一页第 3 / 3 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节#RAG应用场景#RAG 技术实现

面试题·检索· 拼多多

ANN 索引怎么构建?

匹配正文：…用场景和trade-off 理解量化压缩（PQ/SQ）在内存与精度间的平衡知道索引更新的策略（增量vs重建）提及实际工具选型（FAISS/Milvus/Pinecone等） ANN索引构建完整流程 1. 数据准备阶段向量归一化：统一维度，处理缺失值，L2归一化（余弦相似度场景）数据分区：按业务维度分片（如按用户/类目），降低单次搜索规模采样分析：评估向量分布密度，指导后续算法选择 2. 算法选择（核心trade-off）算法适用场景特点 HNSW 百万-千万级…

#拼多多#ANN索引构建#ANN 索引构建

面试题·检索· 安克科技

RAG 知识库怎么存?

匹配正文：…向量存储（语义检索）+ 文档存储（原文召回），二者通过doc_id关联。向量数据库选择场景推荐方案理由百万级/快速验证 FAISS、Milvus Lite 轻量、易部署千万级/生产环境 Milvus、Pinecone、Weaviate 分布式、高可用十亿级/超大规模自研或云厂商方案（阿里云OpenSearch、AWS OpenSearch）成本可控、深度定制核心考量：延迟（<100ms）、召回率（Top5>90%）、成本（向量存储比原文大5-10倍）。元…

#安克科技#向量数据库选型#RAG 知识库存储

面试题·检索· 安克科技

RAG向量匹配原理与ANN算法取舍

匹配正文：…、内存受限、可接受稍低延迟选型建议：百万级以下、延迟敏感 → HNSW 十亿级、成本敏感 → IVF + PQ量化混合方案：Faiss IVF-HNSW可用HNSW搜索粗聚类中心，再扫描选中的桶；它不等于对召回候选做图索引精排。IVF-Flat不压缩原向量，IVF-PQ才加入PQ编码。三、精度与效率平衡关键参数调优： HNSW：ef_construction（建图质量）、M（邻居数）、查询时ef（搜索深度） IVF：nlist（聚类数）、nprobe（查询桶数）工…

#安克科技#HNSW与IVF#RAG 向量匹配

面试题·Agent· 字节

Agent 长期记忆存储结构

匹配口述回答：…，亿级向量能做到毫秒级。但有个前提：如果数据量不大，比如只有几十万条，那HNSW的构建开销反而比全量暴力搜索高，这时候还不如用[[Faiss]]的Flat索引。另外，分区策略很重要，按用户加时间窗口分片，避免每次全量扫描。如果分区不合理，比如所有用户混在一起，那检索延迟会线性增长，上线后直接崩。召回策略我倾向于多路召回。向量语义召回是主力，但关键词召回不能丢，比如用户要查一个具体的订单号，向量可能找不到精确匹配，[[BM25]]反而管用。还有图遍历召回，基于实体关系扩展，比…

#字节#蚂蚁#向量检索

面试题·文档处理· 字节

Embedding+向量库怎么做语义匹配?

匹配口述回答：…在中文和英文上表现均衡。如果是垂直领域，比如金融或者医疗，最好用领域数据微调一下，用对比学习让模型理解专业术语。向量数据库我用[[Faiss]]或者Milvus，索引类型选[[HNSW]]，参数ef_construction设200，ef_search设100到200，这样召回率高，建索引速度也能接受。距离度量用余弦相似度，最直观。在线阶段，用户提一个问题，同样用嵌入模型编码成向量，然后去向量数据库里做[[近似最近邻]]搜索，召回Top-K个块。K值一般设10到50，具体看…

#字节#文档处理#向量检索

面试题·文档处理· 安克科技

RAG向量化：分块与Embedding

匹配口述回答：…重排]]时能辅助过滤。向量归一化这块，很简单，L2归一化把向量长度变成1，这样余弦相似度等价于点积，计算能直接走矩阵乘法，在[[Faiss]]里批量检索快很多。接下来是向量匹配。余弦相似度公式大家都知道，但归一化后就是点积，所以实际计算我用点积。精确检索适合万级以下数据，再大就必须上[[ANN]]。我常用的是[[HNSW]]，图索引结构，召回率高，延迟低，适合线上服务。如果数据量到了亿级，内存扛不住，就加[[IVF-PQ]]做量化压缩，牺牲一点精度换内存。工程上，我会先走…

#安克科技#RAG 向量化#Embedding 模型

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配口述回答：…。然后用 [[Embedding]] 模型转成向量，存到 [[Vector Database]] 里，像 Milvus 或者 [[Faiss]]。这里有个坑：切分策略很关键，固定按字数切可能把语义连贯的段落拆散，我倾向于用语义切分，比如按段落或者用 [[Chunk]] 重叠来保证上下文不丢。在线检索时，用户问题同样转成向量，用 [[ANN]] 算法比如 [[HNSW]] 召回 Top-K 相关文档。但光靠向量检索不一定准，尤其是用户问法跟文档表述差异大的时候。所以我会加一层…

#字节#检索生成流程#RAG 技术原理

面试题·多模态· 淘天

截图 RAG 怎么理解界面组件?

匹配口述回答：…注知识库的更新机制，比如每次发版后自动同步文档。延迟也是个大问题。组件预计算embedding，检索走[[ANN]]，比如用[[Faiss]]的[[HNSW]]索引，这样检索能在毫秒级完成。大模型只负责最终生成，而且我会用流式输出，让用户不用等太久。另外，如果组件特别多，比如一个界面有上百个元素，我会考虑用[[GraphRAG]]来建模组件之间的层次关系，比如一个“表单”包含多个“输入框”，这样检索时能利用结构信息提升精度。所以整体上，我会把[[RAG]]看成一种连接视…

#淘天#多模态#多模态 RAG

面试题·RAG· 百度

RAG 索引构建管线

匹配追问：…问 RAG里检索这一步，你觉得哪些因素会影响效果？……比如文档切分不对会怎样？……那embedding模型呢？……还有索引结构，像FAISS，有没有什么技巧能让召回更精准？直球架构聊一下RAG索引环节的优化策略，从分块、embedding、索引结构到增量更新，你一般怎么设计才能平衡检索效率和准确性？具体说几个你常用的方法。

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配口述回答：…人忽略，就是当数据量超过百万级时，LlamaIndex的默认索引策略可能会遇到性能瓶颈，这时候就得考虑分库、缓存或者用更轻量的[[Faiss]]。这个其实涉及到索引规模和实时性的取舍，如果面试官感兴趣可以深入聊。所以我的判断是：如果核心是“怎么调用和编排”，优先LangChain；如果核心是“怎么从海量数据里找到最相关的那段话”，优先LlamaIndex。我更倾向把LlamaIndex看成数据基础设施，LangChain看成应用编排引擎，两者互补。实际选型时，我会先画出系…

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·检索· 字节

RAG 为何还要重排?

匹配口述回答：…解决的问题不一样。具体说一下。[[RAG]] 系统里，初步检索通常用 [[Embedding]] 加 [[ANN]]，比如 [[Faiss]] 里的 [[HNSW]] 或者 [[IVF]]。这些方法追求的是快，几毫秒从百万级库里捞 Top-K，但用的是 [[Bi-Encoder]]，查询和文档各自独立编码，最后算个余弦相似度。这么做的问题是，它只能捕捉粗粒度的语义相关，比如用户问“退款多久到账”，它可能召回一篇讲“退款流程”的文档，但里面根本没提时间。这就是所谓的“语义相关…

#字节#重排与优化#RAG 重排

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…”，向量上可能都很近，但用户要的是产品本身。再一个，向量维度有限，信息压缩过程中会损失很多细节，比如实体精确匹配、否定词这种，[[Faiss]]或者[[HNSW]]索引再快，也解决不了语义颗粒度的问题。所以两阶段架构就来了。第一阶段用向量检索或者[[BM25]]做召回，目标是高召回、快，允许精度低一点，比如从百万级文档里先捞出Top 100。第二阶段用Rerank模型，只对这100条做精排，目标是把最相关的几条顶到前面。你可以这么理解，召回是海选，重排是决赛。海选要快，淘汰…

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配口述回答：…，如果文档结构很乱，比如PDF表格，那还得用[[OCR]]加版面分析。再说向量数据库。选型时我主要看召回延迟和精度。小项目用[[Faiss]]就够了，但数据量上千万、要求实时更新，就得用Milvus或者Pinecone。这里有个前提：如果业务场景是精确匹配，比如查订单号或错误码，那向量检索不如关键词搜索[[BM25]]，所以生产上我一般搞[[混合检索]]，向量和关键词两条路一起走，再用[[Rerank]]精排。说到Rerank，这是提升质量的关键。向量检索是粗筛，召回几百…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 京东

向量数据库选型关键因素有哪些？

匹配口述回答：…个数量级。所以上线前我一定会压测带过滤的查询。再一个就是扩展性和运维。数据量不大，比如几百万条，用pgvector或者简单的[[Faiss]]方案就能搞定，成本低。但要是数据量到了十亿级别，或者并发很高，就得考虑原生分布式的方案，像Milvus、Weaviate。关键要问清楚支不支持存储计算分离，这直接决定了扩缩容的弹性和成本。举个例子，企业做合规文档检索，平时数据量不大，但月底审计时并发量暴增，如果能计算节点独立扩缩，就能省不少钱。集成生态这块，优先选LangChai…

#京东#向量检索#向量数据库选型

面试题·检索· 百度

向量召回原理与实现?

匹配口述回答：…余弦相似度。但实际工程里，我一般先做向量归一化，这样余弦就等价于内积，计算更快。归一化之后，找最近邻就是找内积最大的，直接调 [[Faiss]] 的 inner product 搜索就行。欧氏距离也有用，但前提是你的向量空间分布均匀，比如用 [[CLIP]] 做的[[多模态]]嵌入，否则内积更稳定。索引这块是核心。暴力搜索不可能，必须用 [[ANN]] 近似最近邻。主流方案两个：[[HNSW]] 和 [[IVF]]-[[Product Quantization]]。HNSW…

#百度#向量召回#向量召回原理