匹配口述回答：…据。用户问“去年手机类的退货政策”，这里面包含两部分：语义上要搜“退货政策”，结构上要过滤“类目=手机”和“时间=去年”。如果只用向量库，搜出来的结果可能混入其他类目；只用关系库，搜不到语义相关的政策内容。所以真正落地一定是混合架构。我一般会这样设计：检索层用向量库做语义召回，拿到 Top-K 后，再用关系库做元数据精确过滤，比如按时间、类目、权限筛一遍，最后用 [[重排]] 模型比如 [[Cross-Encoder]] 精排，再把结果喂给 LLM。这个流程里，向量库负责…

#安克科技#混合知识库存储#向量数据库

项目实战·Agent

Memory & Transformer 基础

匹配正文：Transformer 基础(分词 / Embedding / MHA·GQA·MLA / MoE)+ 大模型 Memory 模块本页介绍训练营项目的学习方向；完整教程与代码暂未公开。请先阅读下方对应公开教程，再按需要咨询课程安排。补齐大模型底层硬功夫:Transformer 四大基础 + Agent 长程记忆面试被问「讲讲 GQA 和 MHA 的区别」「MoE 怎么路由」「Memory 模块怎么设计」时卡壳，往往不是不努力，而是底层基础没系统补过。这个项目把 Tra…

#项目实战#Memory & Transformer 基础

面试题·模型架构· 百度

VQ-VAE 原理与完整结构

匹配正文：… 把输入 x 映射为连续 latent 网格 z_e(x)。对每个位置，在 codebook E={e_1,…,e_K} 中找最近向量，得到离散索引 k 和 z_q(x)=e_k；Decoder 再从 z_q(x) 重建输入。离散索引可交给自回归或其他先验模型学习。最近邻选择不可导，原始 VQ-VAE 用 straight-through estimator，把重建损失对 z_q 的梯度近似传给 encoder。原始目标包含：重建损失，训练 encoder/decoder…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#VQ-VAE#向量量化#离散表示学习

面试题·多模态· 得物

多模态异构数据怎么统一存储?

匹配题目：在多模态大模型应用中，用户提供的文本、图像、音频等异构信息应如何统一存储、表示和调用？请讨论特征对齐、向量数据库、跨模态索引等解决方案。

#多模态融合#特征对齐#向量数据库

面试题·模型架构· 百度

VQ-VAE 与传统 VAE 有何不同?

匹配正文：…oder、离散codebook和decoder组成。Encoder输出连续特征 z_e(x)；对每个空间或时间位置，选择最近的码本向量： k*=argmin_k ||z_e(x)-e_k||², z_q(x)=e_{k*} Decoder从量化后的 z_q 重建输入。离散索引序列可再由PixelCNN、Transformer等先验模型学习，从而采样新索引并解码。损失与梯度原始形式包含重建损失、codebook loss ||sg[z_e]-e||² 和commitment…

#VQ-VAE#离散表示学习#变分自编码器

面试题·模型架构· 百度

VQ-VAE 损失与码本更新

匹配标题与标签：VQ-VAE 损失与码本更新 VQ-VAE 三类损失、梯度路径与 EMA 码本更新模型架构 VQ-VAE 向量量化离散表示学习生成模型变分自编码器 2026真题 VQ-VAE 损失与码本更新 VQ-VAE 损失函数如何训练码本 VQ-VAE 原理向量量化变分自编码器大模型架构与原理百度

#VQ-VAE#向量量化#离散表示学习

面试题·评估· 字节

RAG 为何要二次生成?

匹配题目：在RAG架构中，为何不能仅依靠向量相似度匹配结果直接生成回答，而是需要将检索到的内容输入大模型二次生成？请从准确性、上下文完整性、幻觉控制角度解释。

#抖音#RAG 二次生成#向量检索 vs 大模型生成

面试题·评估· 哔哩哔哩

粗排冷启动指标与路径

匹配正文：…L）：学一个"好初始化"，新用户几步梯度快速适应跨域迁移：用站外行为预训练（如有），或站内其他业务线数据新物品冷启动内容理解embedding：视频标题/封面/标签走多模态编码（CLIP类），与ID embedding对齐到同一空间作者/品类先验：新视频继承作者历史表现、同品类热门物品的embedding 探索机制：ε-greedy或Thompson Sampling，冷启动物品给额外曝光机会关键工程点冷启动可选择独立探索通道或在统一模型中显式建模内容/缺失历史特…

#哔哩哔哩#评估与监控#向量检索

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：答案要点数据清洗与分块策略设计 Embedding模型选型与微调考量多路召回与重排序的检索架构大模型Prompt工程与上下文压缩端到端评估指标与迭代优化闭环一、数据准备：质量决定天花板数据清洗去重、去噪、格式标准化（PDF/Word/网页解析）领域术语词典构建，确保专业概念不被错误分词分块策略（关键！）按语义切分优于固定长度：用BERT-based句子嵌入判断边界领域特性：医学/法律需保留完整条款上下文，代码按函数/类切分块大小与重叠窗口都作为候选变量…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配正文：…页等多格式文档文本分块（Chunking）：按固定长度、语义段落或递归方式切分，控制块大小（通常256-512 tokens）向量化：用Embedding模型（如BGE、M3E、OpenAI text-embedding-3）将文本转为稠密向量存储：写入向量数据库（Milvus、Faiss、Pinecone等），建立索引加速检索 2. 检索阶段（在线）查询向量化：用户问题同样转为Embedding向量相似度搜索：用ANN（近似最近邻）算法快速召回Top-K相关块重…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 商汤科技

RAG 基本工作流程是什么?

匹配正文：答案要点明确RAG的核心动机：解决大模型知识截止和幻觉问题清晰描述"检索-增强-生成"三阶段流程说明向量检索的关键作用提及RAG相比微调的优势（成本低、数据更新灵活） RAG 核心思想用外部知识库"喂"给大模型，解决知识截止和幻觉两大痛点，无需重新训练模型。三阶段工作流程 1. 索引阶段（离线）文档切分：按语义/固定长度分块（chunk）向量化：用 Embedding 模型（如 BGE、M3E）转为稠密向量存储：写入向量数据库（Milvus、FAISS、El…

#商汤科技#RAG 工作流#RAG 工作流程

面试题·检索· 高德

RAG 系统实现流程怎么搭?

匹配正文：答案要点文档预处理与分块策略（固定长度/语义分块/递归分块） Embedding模型选择与向量索引构建检索策略（稠密+稀疏混合检索）重排序优化 Prompt工程与上下文窗口管理 1. 文档处理与分块核心目标：将原始文档转化为适合检索的粒度单元清洗：去除HTML标签、特殊字符、重复内容分块策略：固定长度分块（512/1024 tokens）+ 滑动窗口重叠语义分块：按段落/句子边界，保持语义完整性递归分块：先按大粒度分割，再细化处理元数据保留：记录文档来源、…

#高德#RAG结果融合#RAG 实现流程

面试题·检索· 字节

RAG 为何需要重排序?

匹配正文：答案要点向量相似度≠语义相关性，存在语义鸿沟 Embedding模型能力边界导致召回偏差粗排精排的两阶段架构设计必要性大模型具备深层语义理解和上下文感知能力生成阶段需要综合多维度信息做最终决策核心原因：向量相似度存在本质局限 1. 相似度≠相关性向量检索基于Embedding空间距离，只能捕捉浅层语义相似问题："如何防止过拟合" 与文档："过拟合的危害" 向量相近，但可能无法直接回答问题用户真实意图需要深层理解，Embedding模型难以完全把握 2. Em…

#字节#向量召回与重排#RAG 重排序

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配正文：…ry（可能经过改写/扩展）输出：Top-K相关文档片段（doc_id + 文本 + 相似度分数）两大检索范式类型原理代表模型特点稀疏检索词袋模型 + 统计权重 BM25、TF-IDF 精确匹配，可解释强，适合关键词查询稠密检索双塔编码器，语义向量相似度 DPR、Contriever、BGE 语义理解好，泛化能力强，需GPU推理关键技术组件向量数据库与索引存储：FAISS、Milvus、Pinecone 存储文档Embedding 索引结构：HNSW（…

#字节#Retriever#RAG Retriever

面试题·检索· OPPO

RAG 面试题大全与知识体系

匹配正文：RAG 是大模型应用开发岗面试必考的第一主题：简历上写了 RAG 项目，面试官会从分块、检索、重排一路追问到评估。这一页把本站全部 RAG 资产按知识体系组织好——先用 11 章实战教程把系统做出来，再按模块刷真题，每道题都有书面答案和口语版讲法。配套教程 RAG 智能问答系统：11 章从原理到评测知识模块 RAG 基础与整体架构文档处理与分块向量检索与召回重排与检索优化知识图谱增强常见问题 RAG 面试一般会考哪些问题？围绕你简历上的 RAG 项目逐层追问：…

#专题学习#RAG 面试题大全与知识体系

面试题·模型训练· 百度

DDPM vs Flow Matching: 采样效率与优缺点?

匹配正文：…ching 在连续归一化流 ODE dx_t/dt=v_t(x_t) 下，预先选择从基分布到数据分布的概率路径，并回归该路径的条件向量场。它可选择 diffusion conditional path，也可选择 OT displacement path 等，不等于只学习直线。训练与采样 DDPM 训练通常是随机时间步的 Monte Carlo 估计；经典祖先采样按反向时间步迭代，DDIM、DPM-Solver 等可改变采样步数。 Flow Matching 训练也随机采 t…

#扩散模型#流匹配#生成模型

面试题·Agent

什么时候该用 Deep Research，而不是普通 RAG？复杂问题怎么分级路由？

匹配正文：… 如果这种循环通常只有少量步骤，最后仍然交付一个直接答案，可以考虑 Agentic RAG。它与普通 RAG 的区别不在于有没有向量库，而在于检索是否由固定流水线执行。普通 RAG 预先规定“检索一次再生成”；Agentic RAG 允许模型根据当前证据决定是否再查、改查什么、要不要调用另一个工具。它与 Deep Research 的区别则在交付目标。Agentic RAG 主要想把当前答案补准；Deep Research 要覆盖一个完整研究任务，包括多个对象、多个维度、…

#Deep Research#问题边界与研究闭环#Deep Research 分级路由

面试题·RAG

扫描 PDF 没有文本层，RAG 怎么做 OCR 与失败降级？

匹配正文：…清清楚楚，文字、表格和印章都看得见。系统也显示文件上传完成。可程序读取页面时，只拿到几个页码或一段水印，正文几乎为空。后面的分块、向量化和入库没有明显报错，用户提问时却一直搜不到材料里的答案。问题不在大模型，也不一定在向量库。真正的原因是这份 PDF 没有可用字符层，页面本质上是一张张图片。于是面试官会继续问：你怎么判断一页 PDF 需要 OCR？识别完成后为什么不能直接把文字塞进向量库？遇到模糊页、表格页和失败页又怎样降级？如果回答只有“调用 OCR 接口提取文字”…

#RAG#解析与入库#扫描 PDF RAG

项目实战·Agent

第 3 章:工具集设计,让 Agent 真正「会用工具」

匹配正文：…], base_url="https://api.deepseek.com") # ── 三个工具:每个 = 一个函数 + 一段给模型看的「说明书」(真实系统接真 API)── def search(q): # 搜索:只给线索(标题/摘要) KB = {"qdrant": "Qdrant[示例条目] — 向量检索服务,性能需按目标配置实测", "pgvector": "pgvector[标题] — PostgreSQL 扩展,复用现有库"} return next((v fo…

#Agent#Deep Research#项目实战

面试题·RAG

RAG 文档解析质量怎么评估？不能只看“解析成功”

匹配正文：…分边界、标题继承、表头补齐或跨页合并。第三种情况，正确 Chunk 存在，却没有进入前几条检索结果。这时再查问题改写、关键词与向量召回、过滤条件、融合和重排。第四种情况，正确证据已经排在前面，模型仍然答错。这时才去看提示词、上下文组织、引用约束和生成模型。从最终错误反查解析链路先确认正确证据在哪一层消失，再决定检查解析、切分、检索还是生成。最终答案错误不能直接归因于大模型。这种分层有一个直接好处：修改目标变得清楚。如果正确单元格从未被还原，换 Rerank 没…

#RAG#解析与入库#RAG 文档解析评估

系统教程·AI 编程

从零拼一个最小 RAG 问答

匹配正文：…着答。把这三步亲手跑通,你就懂了"开卷考试"的本质;想做深,站内有完整 RAG 教程接住。为什么需要 RAG(一句话回顾) 仅靠模型参数不能可靠覆盖最新或私有知识，生成答案也可能出错。RAG 就是在提问前,先去外部知识库捞出相关资料,塞进上下文,让模型"照着资料答"——把闭卷考试变成开卷考试。三步拆解用户问题 ↓ ① 检索:把问题和知识库都变成向量,找最相似的几段相关片段 ↓ ② 增强:把片段拼进 prompt("根据以下资料回答…") 拼好的 prompt ↓ ③ …

#Agent#AI 编程

面试题·RAG

Chunk 为什么要带标题、页码和前后片段 ID？

匹配正文：…哪个字段补足语义，哪个字段帮助取回上下文，哪个字段让用户回到原文。 Metadata 不是备注，而是检索链路的一部分只保存正文和向量，确实能做出一个演示版本。用户问题被编码成向量，向量库找到相近文本，再交给大模型回答。只要知识库很小、文档没有版本、所有用户权限相同，系统看起来也能工作。一旦进入多文档场景，问题马上出现。下面仍然用教学场景说明常见故障。在这个纯教学例子里，假设用户只想查某个知识库，系统却从另一个知识库带回内容；旧制度与新制度文字相似，旧版本反而排得更靠前…

#RAG#切分与索引#RAG Metadata

面试题·模型架构· 海尔

位置编码为什么重要?

匹配正文：位置编码提供顺序与距离信息不带位置注入的全局 self-attention 对输入排列具有置换等变性，模型需要额外信号区分 token 顺序。常见方法包括： learned absolute position embedding：位置查表后与 token 表示相加，超过表长没有已学习向量； sinusoidal absolute encoding：按位置和频率计算 sin/cos，可在数学上生成更长位置，但模型未必学会训练长度外的行为； relative position …

#位置编码#Transformer#自注意力机制

向量数据库 vs 传统数据库怎么选？

Memory & Transformer 基础

VQ-VAE 原理与完整结构

多模态异构数据怎么统一存储?

VQ-VAE 与传统 VAE 有何不同?

VQ-VAE 损失与码本更新

RAG 为何要二次生成?

粗排冷启动指标与路径

领域 RAG 知识库构建

RAG 技术流程怎么跑?

RAG 基本工作流程是什么?

RAG 系统实现流程怎么搭?

RAG 为何需要重排序?

RAG Retriever 工作机制详解

推荐不准的算法改进

RAG 面试题大全与知识体系

DDPM vs Flow Matching: 采样效率与优缺点?

什么时候该用 Deep Research，而不是普通 RAG？复杂问题怎么分级路由？

扫描 PDF 没有文本层，RAG 怎么做 OCR 与失败降级？

第 3 章:工具集设计,让 Agent 真正「会用工具」

RAG 文档解析质量怎么评估？不能只看“解析成功”

从零拼一个最小 RAG 问答

Chunk 为什么要带标题、页码和前后片段 ID？

位置编码为什么重要?