搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「提示工程 vs 微调 vs RAG」找到 41 条内容
按专题浏览 →匹配正文:…):验证你懂不懂检索链路的取舍 RAG 是应用岗第一主战场,面试官不是要你背定义,而是看你对"分块、embedding、检索、拼 prompt"这条链路的每一环有没有做过取舍。 维度 内容 面试官在验证什么 你是否理解 RAG 每一环为什么这么设计、召回和忠实度怎么保证,而不是只会调库 先看哪个 RAG 教程:为什么需要 → 架构 → 分块 → 检索一路做完 代表题型 "为什么用 RAG 不直接微调""分块粒度怎么定""检索到无关内容怎么办""怎么防止模型胡说" 项目里怎么体…
匹配口述回答:…满足实时性需求。我的做法是缓存高频query的检索结果,或者用[[Hybrid Search]]先粗筛再精排。 从架构演进角度看,RAG的本质是把知识从模型参数里搬到了外部存储。传统LLM知识固化在参数里,更新一次就要全量微调,成本极高。RAG让模型能力保持稳定,知识动态更新,这对电商这种有千万级SKU、价格分钟级变动的场景特别关键。说白了,RAG实现了模型能力和知识存储的解耦。 不过这里有一个值得深入的点:当检索到的知识和模型参数里记住的知识冲突时,RAG其实缺乏显式的消解…
匹配口述回答:…4维,轻量快速。中文场景换成BAAI/bge-large-zh,效果更好。但如果是垂直领域,比如金融合同,我会用领域数据做对比学习微调,或者直接用开源的领域版。这里有个优化点:查询和文档可以用不同的prompt前缀,比如查询加"为这个句子生成表示:",文档加"为这个段落生成表示:",能提升匹配精度。维度上,384维已经够用,如果存储成本敏感,可以用PCA压到128维,召回率损失不大。 向量存储和索引,我分两个场景说。单机百万级,用[[Faiss]]的[[HNSW]]索引,构建…
学习内容与项目面试,在同一条路上。