搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「实时更新」找到 38 条内容
按专题浏览 →匹配口述回答:…法是给它显式证据,每个生成步骤都有检索片段做参考,相当于旁边放着参考答案。模型看到文档里明确写了什么,就不太会跑偏。而且知识库可以实时更新,比如电商平台的售后政策变了,不用重新训练模型,更新文档就行。但这里有个前提:检索质量必须够高。如果召回来的文档不相关,反而会误导模型,产生更严重的幻觉。所以上线我会特别关注召回率和相关性,常用[[Hybrid Search]],就是关键词加向量两条路一起走,再配合[[Rerank]]筛一遍。 再一个,提升事实准确性。RAG的生成结果可以追…
匹配口述回答:…而且更新一次成本太高。所以引入[[RAG]],就是把知识外挂到可动态更新的检索库,让模型在生成时实时查资料,说白了就是给模型配了个实时更新的外脑。 但落地的时候,边界很重要。RAG和[[SFT]]不是谁替代谁,而是各有各的适用场景。SFT负责训练语言能力和基础推理,比如让模型学会怎么组织句子、怎么多步推理,这些是RAG给不了的。而RAG负责动态知识注入,比如新闻、股价、政策这类实时变化的信息。真正上线的时候,通常都是两者一起上,模型先靠SFT打好底子,遇到需要最新知识的提问,…
…子,在LBS场景里,一家商场临时闭店,如果是POI属性变更,走小时级批处理就够了;但如果是道路封闭影响实时导航路径,那必须走CDC实时更新。 再一个就是流式处理架构。我一般会用Kafka接数据,Flink做窗口聚合和冲突检测,最后写图库。这里有个坑:Flink的状态后端一定要用RocksDB,不然数据量一上来很容易OOM。按实体ID做KeyedProcessFunction分区,保证单个实体的更新有序。乱序处理也很关键,水位线加允许延迟,超过阈值的进侧输出流人工处理。还有就是…
学习内容与项目面试,在同一条路上。