匹配正文：…率优化索引层面 HNSW/IVF-PQ：亿级向量毫秒级ANN检索，内存-磁盘分层分区策略：按用户+时间窗口分片，避免全量扫描量化压缩：FP32→INT8/二进制，降低内存占用10x 召回策略：多路召回向量语义召回：query embedding → Top-K相似记忆关键词召回：BM25覆盖精确匹配场景图遍历召回：基于实体关系扩展相关记忆相关性排序优化特征融合打分 score = α·语义相似度 + β·时间衰减 + γ·重要性分数 + δ·交互频率时间衰减…

#字节#蚂蚁#向量检索

面试题·Agent· 字节

Agent 技术演进与挑战?

匹配正文：…Agent作为"数字员工"承担完整业务流程关键突破点：评估体系的建立——需要类似"Agent Benchmark"的标准化测试，量化规划成功率、工具使用准确率、成本效率等指标。字节的优势在于拥有丰富的产品矩阵（飞书、抖音、剪映），Agent可以打通内部数据孤岛，形成差异化竞争力。学习建议建议掌握Agent基本架构与工作原理，关注LLM+RAG+Agent的协同模式，多阅读行业案例和技术白皮书，培养系统性思维。

#字节#Agent#Agent 发展趋势

面试题·Agent· 阿里

RAG+Agent 延迟与准确率成因

匹配正文：… 向量库冷启动、跨地域查询、Embedding计算预加载热数据到内存；本地缓存高频Query的Embedding；采用HNSW+量化索引 Agent决策层 ReAct多轮迭代、工具调用链过长、LLM推理本身设置最大迭代阈值；并行化独立工具调用；用小模型做意图路由，大模型仅做最终生成编排开销服务间RPC、序列化、状态同步同机部署检索与推理服务；用共享内存替代网络传输；流式返回部分结果关键技巧：在阿里云场景下，利用函数计算FC的预留实例预热向量库，结合ARMS做全链路…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#阿里云#Agent#RAG Agent 延迟优化

面试题·Agent· 小红书

长历史行为怎么处理?

匹配正文：…记忆(短期) + episodic记忆(长期) 复杂Agent、多轮深度交互架构复杂，需设计记忆写入/读取逻辑检索增强历史向量化，按需检索Top-K 超长历史、稀疏访问检索延迟，需维护向量索引小红书场景建议混合架构：近期对话（如50轮）：直接保留原始文本，保证细节中期历史：滑动窗口摘要，每20轮生成一段摘要远期记忆：关键事件（种草商品、决策节点）向量化入库关键设计：记忆写入：识别"里程碑"（用户明确偏好、购买决策）优先入库记忆读取：当前Query先检索…

#小红书#Agent#长历史行为处理

面试题·Agent· 小红书

长序列行为数据怎么处理?

匹配正文：…query检索相关历史（类似RAG）工程实现：维护双记忆结构热记忆：最近1-2天行为，全量放入prompt 冷记忆：历史行为向量化存入HNSW索引，按需检索Top-10 三、上下文管理优化 KV Cache复用：对固定历史前缀预计算并缓存，避免重复编码稀疏注意力：Longformer/BigBird模式，降低O(n^2)复杂度分页调度：vLLM的PagedAttention思想，动态分配显存四、小红书场景的特殊考量多模态行为：图文/视频浏览需统一embedding…

#小红书#Agent#长序列行为数据

面试题·Agent· 百度

Tool Calling 机制详解

匹配正文：…）实际调用API/数据库/计算服务执行结果（成功/失败/返回值）格式化后重新注入对话上下文关键：结果摘要化，超长内容需截断或向量化，避免撑爆上下文 4. 循环决策：ReAct模式 Thought → Action（工具调用）→ Observation（结果）→ Thought → ... 模型根据工具返回决定：继续调用其他工具、整合答案、或向用户澄清工程要点环节常见做法格式对齐用<function>标签或JSON对象区分普通回复与工具调用错误处理参数校验失败…

#百度#Agent#Tool Calling 机制

面试题·Agent· 字节

大量工具怎么选?

匹配正文：答案要点工具分层/分类架构设计基于语义的工具检索机制工具描述优化与向量化延迟优化策略（预加载、缓存、并行）工具学习/自动化工具发现核心挑战分析工具选择困难：LLM上下文窗口有限，无法一次性加载所有工具描述；相似工具难以区分调度复杂：工具间存在依赖、互斥、资源竞争；执行顺序影响结果响应延迟：工具检索+LLM决策+实际调用链路长解决方案 1. 层次化工具架构工具分类层：按领域/功能预分类（如"数据库类""搜索类"），先选类别再选具体工具元工具（Meta-t…

#字节#百度#Agent

面试题·Agent· 字节

Agent 长期记忆架构与更新策略

匹配正文：…回溯 3. 长期记忆（Long-term Memory）用户画像：偏好、习惯、人口属性（结构化存储）事件记忆：重要交互片段（向量化存储）知识记忆：用户专属知识（可结合RAG）存储与检索设计存储层类型存储方式示例用户画像关系型/文档数据库 JSON格式，支持原子更新事件记忆向量数据库 + 元数据摘要向量 + 时间戳 + 主题标签原始对话对象存储压缩归档，用于总结生成检索策略多路召回：向量相似度 + 时间衰减 + 主题标签过滤重排序：用轻量模…

#字节#百度#Agent

面试题·Agent· 美团

哪类 Agent 最易大规模落地?

匹配正文：…+简单工作流即可跑通MVP 用户需求企业端痛点明确：重复性数据录入、跨系统信息同步、报表生成等，员工愿意用，管理层有预算效果可量化：节省多少工时、降低多少错误率，ROI容易讲清楚对比智能客服（用户期望高、容错低）、编程助手（开发者挑剔、替代焦虑），企业自动化场景用户配合度更高部署成本数据安全可控：私有化部署或VPC方案成熟，企业敏感数据不出域集成成本可预期：对接现有OA/ERP/飞书等标准化接口，而非改造遗留系统冷启动数据需求低：不需要像客服Agent那样积累大…

#美团#Agent#AI Agent 商业化

面试题·文档处理· 字节

RAG 向量索引构建流程详解

匹配正文：…成合成数据训练多模态需求：ColPali处理文档图片，Jina-Clip处理图文混合部署优化：ONNX/TensorRT加速，量化到FP16/INT8，batch推理降延迟四、向量存储与索引优化存储选型：小规模（<100万）：FAISS Flat（精确搜索，无训练）中等规模：FAISS IVF（倒排文件，平衡速度与精度）大规模（>1亿）：Milvus/Pinecone + HNSW（图索引，高召回低延迟）索引优化实践：量化压缩：PQ（乘积量化）降存储，IVF…

#字节#文档处理#RAG 数据处理流程

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…原生，GPU加速十亿级索引优化： HNSW：构建多层图结构，查询复杂度O(logN)，召回率>95% IVF-PQ：倒排+乘积量化，内存压缩10-20倍，适合海量数据动态更新：增量索引避免全量重建四、检索增强 # 混合检索示例：向量相似度 + BM25关键词 def hybrid_search(query, alpha=0.7): dense_score = vector_db.similarity_search(query) sparse_score = bm25_…

#字节#文档处理#向量检索

面试题·文档处理· 字节

专业领域文档怎么清洗?

匹配正文：…BERT-based分割）而非固定token数重叠窗口：比较无重叠、短重叠和较长重叠候选，验证跨块召回与冗余成本四、元数据与向量化增强元数据保留：来源文档、章节层级、发布时间、版本号，用于检索过滤和重排序多向量表示：长文档同时存储文档级摘要向量 + 细粒度段落向量领域适配：用领域语料微调embedding模型，或训练领域特定的BGE/M3E 五、质量闭环建立清洗效果指标：分块语义完整性评分、术语覆盖率、信息密度通过检索命中率和生成事实性反向驱动清洗规则迭代学习…

#字节#RAG 文档清洗#文档预处理

面试题·文档处理· 蔚来

RAG分块策略：粒度、重叠与写入

匹配正文：…丢失代价：重复索引会放大存储、召回冗余和重排成本实现：记录每个chunk在原文中的起止位置与父级结构，便于合并、去重和溯源向量化写入流程原始文档 → 清洗（去噪/格式标准化）→ 结构化解析（提取标题/表格/代码块） ↓ 产生多组分块候选 → 在固定问题集上评测 → 生成chunk元数据（来源、位置、类型） ↓ Embedding模型编码 → 按实际显存、限流和失败重试能力确定批量大小 → 写入向量库 ↓ 按需建立倒排索引，用于混合检索工程注意点： batch siz…

#蔚来#文档处理#RAG文本分块

面试题·文档处理· 百度

常用分块方法有哪些?

匹配正文：…（Fixed-size Chunking）按固定token数或字符数切分，具体长度作为候选变量优点：实现极简，便于批量处理，向量化效率高缺点：硬截断可能切断句子语义，边界信息易丢失适用：快速原型、对语义连贯性要求不高的场景 2. 递归分块（Recursive/Hierarchical）按段落→句子→词的层级递归切分，优先在天然边界（换行、句号）处分割优点：保留文档层级结构，块内语义相对完整缺点：块大小不均匀，可能产生过短块适用：Markdown、HTML等有结…

#百度#文本分块策略#RAG chunking

面试题·评估· 蚂蚁

RAG多轮对话怎么防知识遗忘?

匹配正文：…1. 显式对话状态管理对话状态 = {主题实体集合, 用户意图, 未解决问题, 已确认事实} 每轮用轻量模型抽取状态更新状态向量化后参与检索相似度计算 2. 分层检索策略层级内容权重动态调整当前轮用户最新query 意图切换时↑ 近轮上下文前2-3轮关键信息追问场景↑ 全局摘要历史对话压缩长对话时↑ 3. 查询重写与扩展共指消解：将"它"、"这个"替换为具体实体意图感知扩展：根据对话状态补充隐含条件时间衰减：早期轮次信息权重指数下降 4. 检索结果…

#蚂蚁#RAG 多轮对话#知识遗忘

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配正文：…免提前丢失正确文档。 HNSW 通过搜索宽度在延迟与召回间取舍；IVF 通过桶数和探测数取舍；PQ 可减少向量存储与带宽，但会引入量化误差。热点 query、embedding 和结果可以按语料与模型版本缓存；更新后必须正确失效。检索服务独立扩缩容，并记录 Recall@K、P95/P99、缓存命中和资源使用。生成阶段 continuous batching 提高 GPU 利用率，但要按长度或截止时间调度，避免长请求拖累短请求。 KV Cache 避免重复计算历史 to…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 美团

RAG 工作原理与局限怎么分析?

匹配正文：…检索增强生成)= 给大模型外挂一个可实时更新的知识库:先检索、再基于检索材料生成核心流程:文档解析 → 分块(Chunk)→ 向量化(Embedding)→ 入向量库;查询时检索 → 重排 → 拼入 prompt 生成优势:知识可实时更新、答案可溯源、幻觉显著降低、不需要重训模型局限:效果强依赖检索质量(切分不当/纯向量检索对 ID 类文本失效),链路长、延迟与成本上升与微调的边界:微调学「格式与风格」,RAG 注「事实与时效」,生产中常两者结合工作原理 RAG 的…

#美团#评估与监控#RAG 工作原理

面试题·评估· OPPO

搜索排序A/B测试权重设计陷阱

匹配正文：… 全量实验 → 回滚预案 → 长期监控灵敏度分析：观察权重±20%扰动时指标变化幅度，识别鲁棒特征边际增益：逐个特征消融实验，量化单特征贡献五、核心评估要点统计显著性：p<0.05且检验功效>80% 业务显著性：CTR提升需超过0.5%绝对值才值得全量（考虑工程成本）异质性分析：分人群（新老用户、高活低活）看效果差异，避免平均效应掩盖结构性问题学习建议建议先掌握A/B测试基本原理，再结合搜索排序场景理解指标设计与因果推断，多参考工业界案例加深理解。

#OPPO#搜索排序A/B测试#特征权重优化

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配正文：…觉的核心机制大模型幻觉源于参数化知识的静态性和泛化误差。RAG通过动态检索外部权威知识替代模型"编造"：检索阶段：将用户查询向量化，从知识库召回Top-K相关文档增强阶段：将检索结果与原始查询拼接，构建增强提示生成阶段：模型基于"检索证据"生成，答案被约束在提供的上下文中实际系统实现机制组件关键设计 Embedding模型领域适配（如用BGE、GTE替换通用模型）向量数据库 Milvus/Pinecone，需考虑索引类型（HNSW/IVF）与分片策略重排序…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配正文：RAG的核心架构 RAG = 检索模块 + 生成模块的协同：检索：将查询向量化，从外部知识库召回Top-K相关文档增强：将检索结果与原始查询拼接，构建增强上下文生成：LLM基于增强上下文生成回答，实现"开卷考试" 三大核心价值的实现机制 1. 减少幻觉（Hallucination Reduction）问题根源 RAG解法参数化知识边界模糊，模型"自信编造" 检索提供显式证据，约束生成空间训练数据截止，知识过时接入实时/私有知识库，动态更新关键：生成时能看到"参…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 字节

RAG 三大瓶颈与迭代策略

匹配正文：…ing缓存、热门问题答案缓存，命中率通常能到30-50% 异步流水线：检索与生成解耦，检索走异步批量，生成流式输出，降低TP99 量化加速：向量INT8量化、模型KV Cache优化，牺牲1-2%精度换2x吞吐四、迭代路径建议实际落地建议分阶段：先保证召回率（别漏）→ 再优化精确率（别错）→ 最后效率调优。监控看板要跟踪检索命中率、答案相关度、用户反馈闭环，数据驱动迭代。学习建议建议系统学习该知识点

#字节#评估与监控#RAG 性能瓶颈

面试题·评估· 字节

BGE-M3 vs BM25 怎么选?

匹配正文：…时弹幕检索比较BM25、dense、缓存与混合方案依据实际质量、负载与端到端时延预算取舍，不存在由50ms推出唯一算法的规则量化决策建议：在固定标注集和目标负载上，比较BM25、BGE-M3各检索模式与混合方案同时报告Recall@10、Precision/MRR/NDCG、P99与成本歧义词要评估上下文与实体消歧，不能由歧义直接推出必须某个向量模型工程实践要点离线评估：构建标注集（query-doc相关性≥3档），避免线上AB测试周期长动态权重：根据que…

#抖音#BGE-M3 vs BM25#RAG 检索方案评估

面试题·评估· 字节

Agent 系统优缺点与发展前景

匹配正文：…与RAG深度整合，检索作为工具之一，形成"检索增强的Agent" 关键挑战评估困境：没有ground truth的开放任务，如何量化"好"与"坏" 产品化鸿沟：Demo惊艳 vs 生产可用，容错机制和兜底策略是核心生态标准：工具描述协议、Agent间通信协议尚未统一未来1-2年，Agent会从"技术演示"走向"垂直场景的深度落地"，金融分析、软件研发、科研辅助是优先突破方向。学习建议建议系统学习该知识点

#字节#评估与监控#Agent

面试题·评估· 京东

RAG向量数据库选型关键指标

匹配正文：…能与索引类型 HNSW：图索引，召回率高、查询快（1-10ms），但内存占用大，适合百万-千万级稠密向量 IVF+PQ：倒排+乘积量化，内存省、支持十亿级，查询稍慢（10-50ms），适合大规模稀疏访问 DiskANN：内存+SSD混合，平衡成本与性能，十亿级首选 2. 可扩展性水平扩展能力：是否支持分片（sharding）和动态扩缩容写入吞吐：批量导入速度、实时更新延迟（部分库写放大严重） 3. 延迟与成本权衡场景推荐方案在线QPS>1万、延迟<5ms 纯内存HN…

#京东#评估与监控#向量数据库选型