搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding 优化」找到 339 条内容
按专题浏览 →匹配口述回答:…5%流量,跑一段时间看召回率和用户反馈,没问题再全量。异常自动回滚,这比事后修复成本低得多。 再一个,和RAG的联动。图谱更新后,向量索引不能阻塞等待,得异步刷新。查询时走双路召回,向量相似度加图谱结构化检索,结果融合排序。这里有个细节:图谱更新后,向量索引可能还没更新,导致召回不一致。我会在查询时加版本号过滤,确保用户看到的是同一个版本的数据。 说到这,其实还有一个容易被忽视的点:知识图谱的动态更新,和RAG里的[[Chunk]]更新策略有很强的关联。比如图谱里一个实体改了…
匹配口述回答:…案必须说“根据文档第几段”,同时加入“拒绝回答”样本:超出知识范围的问题,模型要坦诚说“我不确定”。RLHF 阶段,奖励模型不能只优化流畅度,要加事实性维度,对编造内容扣分。这里有个前提:事实性标注成本很高,否则奖励模型本身会学歪。 推理侧优化是性价比最高的。先说解码策略,约束解码强制关键事实来自输入上下文,适合摘要、问答这种输入里就有答案的场景。自我验证是生成后让模型自己检查“这个陈述有依据吗”,可以迭代几轮,但要注意别死循环。多采样投票就是多次采样取一致答案,能降低随机性…
…lamaIndex原生就支持图像、PDF和表格解析,它的MultiModalVectorStoreIndex可以直接把图片和文本的向量存到同一个索引里,开箱即用,适合快速验证。LangChain的定位更灵活,它通过Unstructured库或者Multimodal Embeddings来扩展,你得自己把多模态链路组装起来,但好处是能深度定制。我个人的看法是,如果你业务场景比较明确,比如电商商品图加描述文本,用LlamaIndex上手更快;如果你需要对接不同视觉模型或者做复杂的…
学习内容与项目面试,在同一条路上。