页面加载中…
搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「长文档切分」找到 3 条内容
按专题浏览 →匹配标题与标签:…nking 怎么选? 医学法律领域 RAG 系统文本切分策略对比,5 种方法优缺点分析 文档处理 字节 RAG Chunking 长文档切分 文本切块策略 领域 RAG Chunking 方法对比 字节
匹配正文:…Indexing) 步骤 功能 关键技术 文档加载 解析PDF/Word/网页等多源格式 OCR、表格识别、版式分析 文本分块 将长文档切分为语义完整的片段 固定长度/递归/语义分块;块大小通常256-512 token 向量化 将文本块转为稠密向量 Embedding模型(BGE、M3E、OpenAI text-embedding-3等) 索引存储 构建高效向量索引 HNSW、IVF等ANN算法;向量数据库(Milvus、Faiss、Qdrant) 二、在线检索生成(Ret…
匹配正文:…eline) 步骤 功能 关键设计 文档解析 处理PDF/Word/网页等多格式 保留结构信息(标题层级、表格位置) 文本分块 将长文档切分为chunk 策略:固定长度/语义分块/递归分块;chunk size通常256-512 tokens 向量化 Embedding模型编码为稠密向量 选用领域适配的模型(如BGE、M3E);考虑稀疏向量(BM25)做混合 索引存储 写入向量数据库 Milvus/Pinecone/Elasticsearch;构建HNSW索引加速ANN检索 …
学习内容与项目面试,在同一条路上。