匹配正文：…代闭环整体架构用户Query → 意图识别 → 多路检索 → 重排序 → 上下文组装 → 领域生成 → 后校验 → 输出一、数据预处理（领域知识工程）核心挑战：专业文档结构复杂、术语密集、时效性强层级处理策略文档解析医疗：DICOM/HL7标准解析、病历结构化；法律：合同条款拆分、法条引用识别 Chunk策略语义切分（基于BERTopic）+ 结构切分（章节/条款边界），chunk大小200-500 tokens 元信息增强提取<疾病编码, 科室, 时效性…

#字节#领域RAG架构#专业领域 RAG

面试题·检索· 字节

专业领域RAG数据与检索优化？

匹配正文：答案要点分模块阐述数据预处理（解析、分块、质量过滤）、检索层（多路召回、重排序）、生成层（上下文压缩、引用溯源）的设计体现领域适配思路（领域术语表、专用Embedding）提到评估闭环和持续优化机制避免只讲基础RAG流程，要有工程化深度一、数据预处理层文档解析与清洗多格式统一：PDF/Word/网页用专用解析器（如MinerU、Marker），保留表格结构和层级标题领域术语标准化：建立专业词表，做实体链接和指代消解质量过滤：去重、低质量页面过滤、敏感信息脱敏…

#字节#领域RAG架构#RAG 系统架构

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配正文：答案要点数据预处理：文档解析、结构化抽取、质量过滤、领域术语标准化检索优化：混合检索（向量+关键词）、重排序、查询改写、多粒度索引生成优化：领域Prompt工程、引用溯源、幻觉检测、人机协同审核系统层面：离线在线分离、缓存策略、反馈闭环整体架构用户Query → 查询理解 → 混合检索 → 重排序 → 上下文组装 → 领域生成 → 后处理 → 输出 ↓ ↑ 离线知识库构建（文档解析→分块→向量化→索引）一、数据预处理（以法律场景为例）文档解析层多格式支持：P…

#字节#专业领域RAG#领域 RAG 架构

面试题·模型训练· 阿里

SFT 过拟合怎么判断和缓解?

匹配正文：…okenizer的PPL不能直接混比，平均值也可能掩盖某类样本退化。诊断时先排查验证管线是否稳定，包括mask、padding、数据预处理和评测模型版本。再按任务、来源、长度和难度分桶观察训练与验证差异。训练样本上的模板记忆、长答案复读或罕见提示失效，可以作为辅助证据，但不能用一个固定loss gap宣判过拟合。缓解顺序从数据开始：去重、修正标签、增加覆盖不足的真实样本、降低模板集中度，并重新检查切分。训练侧可以早停、降低有效训练步数、调整学习率、weight decay…

#过拟合识别#训练监控#正则化策略

面试题·模型训练· 美团

训练数据清洗：规则 vs LLM

匹配追问：………合同式长尾语义又适合什么？……结构化输出是否等于语义正确？……高风险字段怎样校验和转人工？直球技术请比较规则与 LLM 在数据预处理/信息提取中的适用场景、维护成本、可审计性、概率错误和混合架构，并给出同口径评测方案。

#数据清洗#数据工程#训练数据构建

面试题·模型训练· OPPO

MSE 损失函数怎么用?

匹配口述回答：…成本，并检查残差随输入是否变方差、是否重尾。MSE 不是“回归默认永远正确”，而是在条件均值和平方代价假设合理时的一个清晰目标。数据预处理也会改变结论。若目标做了标准化，训练 MSE 的数值与原始单位不同，部署评估要先反变换；若缺失值被错误填成极端数，它们会因平方项获得巨大权重。先审计目标分布和残差，再谈更换损失。先写 MSE 公式和梯度给出条件高斯的统计解释解释大误差权重与异常值敏感说明适用业务条件比较 MAE、Huber 与异方差 NLL 约4分钟 MSE 对…

#MSE#回归损失#损失函数

面试题·文档处理· 字节

RAG 数据清洗与 Chunking 怎么选?

匹配追问：…，你一般怎么切？……如果文档里既有表格又有代码，直接按固定长度切行不行？你用什么策略处理这种情况？直球架构设计一个RAG系统的数据预处理pipeline，重点讲数据清洗流程和文本切块策略。清洗要覆盖哪些环节？切块策略有哪些，各自适合什么场景？

#字节#文档处理#RAG 数据清洗

面试题·模型微调

生成模型回答不准怎么调?

匹配口述回答：…险：检索片段的格式不统一是常见隐形杀手。比如 PDF 解析残留乱码、表格转文本丢失结构，这些都会让模型误解。所以上线前我会特别检查数据预处理的质量。其实还有一个延伸点，就是当检索和生成都调优到极致后，瓶颈可能出现在模型本身的知识边界上。比如检索内容是正确的，但模型内部预训练知识跟它矛盾，模型会倾向于相信自己的记忆。这时候就需要做 [[Self-RAG]] 或者 [[Chain-of-Verification]]，让模型自己反思，先基于检索生成，再验证一致性。所以整体来看，…

#生成模型调优#上下文利用#RAG 生成不准确

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配口述回答：…检索，再合并答案。这里有个坑，就是如果你的文档质量差，比如[[OCR]]识别率低，或者格式混乱，那再好的索引也救不了。我会特别关注数据预处理阶段，上线前一定要用一批真实query跑一遍召回率，低于80%就别急着上。说到落地，其实生产环境里这两个框架经常一起用。LlamaIndex负责数据层，把文档变成可检索的索引；LangChain负责应用层，把检索结果和工具调用、Agent决策串起来。比如一个企业知识库助手，用户问“帮我查库存价格”，LlamaIndex先检索到相关文档，…

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配口述回答：…工作日’，但如果你把这句话和‘退款条件’、‘退款流程’切到一个块里，或者块太小把‘1-3个工作日’截断了，那检索时语义就不够。所以数据预处理是前提，分块策略直接影响召回天花板。如果文档本身质量差，比如过时、矛盾，那后面怎么调都白搭。再来说检索策略。最常见的问题是单一向量检索的召回瓶颈。用户口语化表达‘我的钱什么时候退回来’和文档正式说法‘退款到账时间’在语义空间里可能离得远。我的做法是**[[混合检索]]**，把[[BM25]]关键词召回和向量召回结合起来，结果做加权融合。…

#小红书#美团#重排与优化

数据预处理关键步骤与目的

批量文本清洗如何自动质检?

信息抽取：规则 vs LLM

训练数据怎么采集和预处理?

医疗法律 RAG 架构关键环节