匹配正文：…能跟着做:用一段零依赖代码理解"文字 → 向量 → 算距离",并亲眼看到它的硬伤 ✓ 看懂 3 个核心概念:Embedding(向量化)、余弦相似度、双塔模型 ✓ 学会按场景选 Embedding 模型(BGE / E5 / GTE / Jina / OpenAI),并知道向量维度(768/1024/1536)怎么取舍 ✓ 理解向量库 + ANN 索引,讲清 HNSW vs IVF 的区别和"近似"二字的含义 ✓ 知道通用模型为什么对行业黑话不准,以及领域微调的思路本章按三…

#RAG#检索#项目实战

求职指南·求职

大模型简历怎么写:项目怎么描述、怎么量化、怎么防追问

匹配正文：…只管"简历上怎么表达"。好描述 vs 坏描述:同一个项目,两种写法差在哪结论:坏描述堆技术名词,好描述给"场景 + 方案 + 量化 + 取舍"。同一件事,换个写法,一个被划进"背名词",一个被当成"真做过"。坏描述(只堆名词) 好描述(场景+方案+量化+取舍) 熟悉 RAG、向量数据库、Prompt 工程为某领域 300+ 文档搭问答系统,分块用固定窗口试过效果差,改成按标题层级切,召回率提升明显(经验值) 使用 LangChain 实现智能问答检索到"相似但无关"…

#求职#职业转型

面试题·推理优化· 百度

13B模型INT8/INT4量化后多大?

匹配正文：…；INT8约13GB，INT4约6.5GB。换成二进制单位分别约24.2GiB、12.1GiB和6.1GiB。真实文件和显存会多出量化 scale、zero point、分组元数据、对齐与运行时缓冲，还要另外容纳激活和KV缓存，因此这些数字只能做裸权重下界。机制与边界量化影响取决于权重位宽、激活位宽、量化粒度、校准数据和内核。GPTQ与AWQ常见的是权重量化、激活保持较高精度；权重更小会减轻显存容量和带宽压力，特别是在解码阶段的访存瓶颈下可能提速。但如果硬件没有合适内核，…

第 1 / 13 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#模型量化#INT8/INT4#显存优化

面试题·文档处理· 字节

Chunk 向量化与索引怎么选?

匹配正文：一、文本块向量化流程核心步骤 Chunk策略：先按语义段落和结构边界切分，再把多组固定长度与重叠窗口作为候选；由模型输入限制、文档结构和同一评测集上的证据完整率、召回与成本决定嵌入模型编码：将文本映射为稠密向量（通常768或1024维）索引构建：选择ANN算法（HNSW、IVF-PQ等）建立可高效检索的数据结构二、常用嵌入模型对比模型特点适用场景 OpenAI text-embedding-3 语义质量高，API易用，按token计费快速验证、中小规模、预算充…

#字节#向量检索#Chunk 向量化

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配题目：请描述在RAG系统中对文档或查询进行向量化处理的流程，包括文本预处理、嵌入模型选择、向量生成及归一化等关键步骤。

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·文档处理· 安克科技

RAG向量化：分块与Embedding

匹配正文：…计算，适合万级数据 ANN近似检索： HNSW：图索引，高召回、低延迟，适合在线服务 IVF-FLAT：聚类分桶，平衡速度与精度量化压缩（PQ/SQ）：降低内存，适合十亿级向量工程实践：先ANN粗排取Top-K，再用Cross-Encoder精排，最后按相关性阈值过滤

#安克科技#RAG 向量化#Embedding 模型

面试题·文档处理· 安克科技

RAG 文档怎么存储和向量化?

匹配正文：…考量（中英双语、上下文长度、领域适配）向量索引结构对比（Flat、IVF、HNSW）与选型场景完整数据流：解析→清洗→分块→向量化→元数据关联→入库完整流程：原始文本 → 向量数据库 1. 文档解析与预处理格式兼容：PDF/Word/Markdown/网页等统一解析，处理乱码、特殊符号结构保留：提取标题层级、段落边界，为语义分块提供依据清洗降噪：去除页眉页脚、重复内容、无效HTML标签 2. 分块（Chunking）策略策略适用场景关键参数固定长度通用场…

#安克科技#评估与监控#RAG 文档向量化

面试题·文档处理· 安克科技

RAG文本向量化：分块与嵌入陷阱

匹配正文：…批处理推理：GPU批量编码，避免单条推理开销向量归一化：L2归一化后，余弦相似度等价于点积，加速检索维度压缩：必要时用PCA或量化（如1024→256维），权衡精度与存储 4. 质量保障离线评估：Top-K召回率、MRR指标在线验证：人工抽检query-doc相关性，建立bad case闭环

#安克科技#RAG 文本向量化#分块策略

面试题·RAG· OPPO

搜索排序中时效性特征量化方法

匹配正文：核心设计思路时效性特征设计要解决两个关键问题：内容有多新（绝对时效性）和用户有多在意新（相对时效性）。常用量化方法 1. 绝对时效性特征方法公式/说明适用场景时间差 now - publish_time 基础特征，需配合归一化指数衰减 score = e^(-λ·Δt) 新闻、热点，衰减快 Sigmoid衰减 score = 1/(1+e^(k(Δt-t₀))) 有一定保鲜期的内容（如评测）周期性特征提取小时、星期、是否节假日捕捉周期性用户行为 2. 相对…

#OPPO#时间衰减#时效性特征设计

面试题·RAG· OPPO

内容热门度怎么量化?

匹配题目：在搜索排序系统中，如何对内容的热门程度进行量化？请描述常见的热门度指标及其计算方式。

#OPPO#热门度量化#搜索排序指标

面试题·推理优化· 百度

模型优化方法有哪些？

匹配正文：… FP32 相同数量级的指数范围，通常不需要 FP16 式 loss scaling，但仍要监控溢出和算子精度。推理侧可使用权重量化、KV Cache、PagedAttention、FlashAttention、连续批处理、speculative decoding 和并行。GQA 与 MQA 通过减少 KV 头降低缓存和带宽，它们属于模型注意力结构。已有 MHA checkpoint 不能靠服务开关无损变成 GQA/MQA；结构转换需要权重映射、继续训练或微调，并重新验证质…

#模型量化#KV Cache优化#分布式训练

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…续扩大适配器。参数效率和数据效率也不是同一件事。LoRA少训练参数，不代表只需更少样本；低质量或覆盖不足的数据仍会过拟合。若基座量化后训练QLoRA，还要额外验证量化误差与rank的交互。合并适配器前后应做数值一致性测试，并确认alpha、dtype和权重版本匹配，否则小配置差异也会让线上结果变化。如果多个任务共用同一基座，还要比较单独适配器、合并适配器和动态加载的质量与延迟，并明确适配器不能跨不兼容的基座版本直接复用。图解 LoRA 低秩分解 vs 全量微调怎么选?图…

#LoRA#参数高效微调#低秩分解

面试题·模型架构· 百度

VQ-VAE 原理与完整结构

匹配正文：…离散先验，也可能缓解连续 VAE 在强 decoder 下的 posterior collapse，但不保证完全避免。还要单独处理量化误差、dead codes、少数码过载和 codebook collapse。可监控使用率、codebook perplexity、重建质量与下游生成指标，并尝试 EMA、死码重置、使用率正则、调整码本容量或下采样率。 posterior collapse 描述 latent 被 decoder 忽略；codebook collapse/dea…

#VQ-VAE#向量量化#离散表示学习

面试题·推理优化· 字节

FAISS 怎么实现高效 ANN 搜索?

匹配标题与标签：…ISS 怎么实现高效 ANN 搜索? IVF 与 PQ 索引结构原理,近似最近邻搜索核心机制推理优化向量检索近似最近邻搜索量化压缩倒排索引 RAG基础设施 2026真题 FAISS 原理 IVF 索引 PQ 索引系统优化与推理加速字节

#向量检索#近似最近邻搜索#量化压缩

面试题·模型架构· 百度

VQ-VAE 与传统 VAE 有何不同?

匹配正文：…位置，选择最近的码本向量： k*=argmin_k ||z_e(x)-e_k||², z_q(x)=e_{k*} Decoder从量化后的 z_q 重建输入。离散索引序列可再由PixelCNN、Transformer等先验模型学习，从而采样新索引并解码。损失与梯度原始形式包含重建损失、codebook loss ||sg[z_e]-e||² 和commitment loss beta||z_e-sg[e]||²。量化选择不可导，encoder使用straight-thro…

#VQ-VAE#离散表示学习#变分自编码器

面试题·推理优化· 美团

VecEnv 怎么加速强化学习训练?

匹配题目：在强化学习训练中，是否曾使用过VecEnv（向量化环境）来加速环境交互？请说明其工作原理、优势以及在实际项目中如何配置和使用VecEnv以提升训练效率。

#VecEnv#环境并行化#Stable-Baselines3

面试题·推理优化· 海尔

显存优化技术原理与对比

匹配正文：…PU/NVMe offload 以传输换显存，梯度累积以更多 micro-step 换较小 micro-batch。推理侧权重量化、KV Cache 量化/分页/卸载、GQA/MQA/MLA 架构，以及限制最大上下文和并发，可降低或约束显存峰值。continuous batching 主要改善动态调度和设备利用率，本身不保证降低峰值；更多请求的 KV 同时驻留时，峰值还可能上升，需配合 paged KV、最大并发、batch token 或 memory budget 控…

#显存优化#梯度检查点#模型并行

面试题·模型架构· 百度

VQ-VAE 损失与码本更新

匹配正文：VQ-VAE 的结构 Encoder 将输入 x 映射为连续 latent 网格 z_e(x)。向量量化层对每个 latent 位置寻找最近的 codebook 向量 e_k，得到离散索引 k 和量化表示 z_q(x)。 Decoder 从 z_q(x) 重建输入。训练时用 straight-through estimator，让重建损失的梯度近似传回 encoder。损失与码本更新原始 VQ-VAE 常写为：重建损失 + codebook loss + commitm…

#VQ-VAE#向量量化#离散表示学习

面试题·推理优化· 百度

视频生成加速有哪些方法?

匹配正文：…明可见范围和复用条件。3D因果VAE描述的是编码/解码结构，不能单独证明主干使用因果或滑窗attention。模型与算子：蒸馏、量化、低秩或稀疏专家需要分别验证质量和硬件收益；FlashAttention、算子融合、sequence parallel属于kernel与并行层。服务系统：批处理、offload、分块解码和多卡流水要用端到端延迟、吞吐、峰值显存与通信占比评估。 KV cache只在架构存在可安全复用的K/V时成立，不是视频时序建模的通用替代。任何“某模型用了M…

#视频生成#扩散模型加速#时序建模优化

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…优，适合静态库 IVF：倒排文件，聚类后搜索，内存友好，适合大规模（>100M），需调nlist/nprobe PQ/OPQ：乘积量化，极致压缩，内存受限场景，精度损失可控组合策略：IVF+HNSW（粗排+精排）、IVF+PQ（大规模+低内存）主流数据库对比特性 FAISS Milvus/Zilliz Pinecone Weaviate 部署本地/自研开源+云原生全托管SaaS 开源+混合云索引全支持 IVF/HNSW/GPU 黑盒HNSW HNSW+BM25…

#字节#文档处理#向量检索

面试题·文档处理· 百度

RAG ANN 索引优化

匹配正文：…除墓碑与周期压缩、索引版本化和原子切换。高选择性过滤要评估 pre-filter 与 post-filter 的召回和延迟差异。量化节省多少内存取决于原始精度、码本和元数据；DiskANN 也不只用于某个固定数量级。任何“提升召回”的策略都应相对精确近邻和端到端问答质量验证。图解 RAG ANN 索引优化图解

#百度#文档处理#RAG ANN 索引优化

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配正文：…：在业务数据上做召回率@K的离线评测，MTEB分数仅作初筛参考二、向量存储完整流程原始文档 → 文本清洗 → 智能分块 → 向量化 → 元数据绑定 → 索引构建 → 入库各阶段要点：分块（Chunking）按语义边界：比较段落、句子和多组固定长度候选重叠策略：比较无重叠、短重叠和较长重叠，验证边界召回与冗余成本特殊处理：代码按函数/类分割，Markdown按标题层级分割向量化批量推理，GPU加速归一化向量（便于余弦相似度计算）元数据关联 { "vecto…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·文档处理· 美团

RAG 知识库搭建流程?

匹配正文：…，块太大可能引入噪声。应把多组 chunk size 与 overlap 组合放进同一评测集，比较召回、答案质量和成本。 3. 向量化与存储 Embedding选型：中文用BGE、M3E，多语言用E5、OpenAI text-embedding-3 向量数据库：Milvus（大规模）、Qdrant（易用）、Elasticsearch（混合检索方便）索引构建：HNSW（图索引，召回率高）、IVF-PQ（内存友好），根据数据规模和延迟要求选择 4. 检索优化混合检索：向量相似…

#美团#RAG 知识库搭建#文档预处理

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：…医学/法律需保留完整条款上下文，代码按函数/类切分块大小与重叠窗口都作为候选变量，用同一评测集比较证据完整率、召回与成本二、向量化：选型与微调 Embedding模型选择场景推荐方案通用领域 BGE-M3、E5系列垂直领域领域语料微调M3-E或自研多语言多语言专用模型微调要点：用领域内的(query, doc)正例对+In-batch负采样，提升领域语义对齐三、检索策略：多路召回+精排用户Query → 改写/扩展 → 并行召回 ├── 向量检索（语义…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索