搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding 调优」找到 77 条内容
按专题浏览 →匹配口述回答:…遇到同义词,比如用户说“退货”,文档里写的是“退款申请”,它就可能匹配不上。反过来,[[Dense Retrieval]],也就是向量检索,能理解语义相关性,“苹果”和“水果”它能关联起来,但对罕见词、专有名词很敏感,训练时没见过的词,向量表达就很差,容易失配。所以真正落地,我一般不会只用一种,而是混合用,把精确性和泛化能力结合起来。 先说Sparse检索。它的核心是倒排索引加词频统计,BM25是典型代表。你搜一个词,它看这个词在文档里出现多少次,同时打压高频词,比如“的”、…
匹配口述回答:…档结构要清晰。如果是一份没有标题、没有分段、格式混乱的[[OCR]]扫描件,语义切分效果会大打折扣。而且块大小不均匀,对后续的[[Embedding]]和检索延迟有影响。 所以真正落地的时候,我倾向于把两者结合起来。一个很实用的做法是多粒度设计,也叫Parent-Child结构。较小块负责精准命中,较大父块负责补回生成上下文;两者的具体长度都作为候选变量,由文档结构、模型窗口和同一评测集决定。通过元数据把小块和大块关联起来,这样既保证了召回率,又给了模型足够的上下文。举个例子…
…频繁变动的场景,比如企业内部的SOP、产品手册、政策文档。真正落地的时候,我常常是RAG加微调一起用:用RAG保证事实准确性,用微调优化模型的表达风格和指令遵循能力。 举个例子,客服退款场景。用户问“我买的手机降价了,能退差价吗?”模型需要知道当前公司的售后政策,是7天价保还是15天,具体怎么操作。这些政策可能每月调整,用RAG直接从最新的政策文档里检索相关条款,模型再据此生成回答。如果只靠微调,你每改一次政策就得重训一次,根本不现实。 但RAG落地也有不少坑。前提是你的知识…
学习内容与项目面试,在同一条路上。