搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Rerank 策略」找到 279 条内容
按专题浏览 →匹配口述回答:…,显式更新这些槽位。长期记忆我用 [[Vector Database]] 存历史对话和知识,但有个前提:检索回来的信息必须做 [[重排]],不然混进噪声反而干扰决策。 工具调用这块,说白了就是给LLM装插件。关键机制是 [[Function Calling]],模型输出结构化JSON,我这边解析执行,再把结果塞回上下文。但有个容易忽略的点:工具描述要写得像给新同事看的操作手册,参数名、返回值格式、什么情况会报错,都得写清楚。比如对接搜索API,我会在描述里加一句“如果搜索结果…
匹配口述回答:…。大模型的作用就是把分散的chunk重新拼起来,做跨片段的逻辑补全。这里有个坑:如果chunk切得太碎,大模型也补不回来,所以切分策略很关键,我通常会根据文档结构做语义切分,而不是固定字数切。 第三点是[[幻觉]]控制。纯靠大模型生成,容易编造,这就是Hallucination。但如果直接把检索文本当答案输出,又可能答非所问,或者信息过时、片面。RAG的做法是让大模型在检索内容的约束下生成,也就是把检索结果当事实锚点,然后用自己的语言组织能力去回答。这样既降低了虚构概率,又能…
…态,而且每个回答都有出处,客服复核也方便。 不过落地RAG不是简单的'配个[[向量库]]就行'。有几个风险我特别关注。一是文档切分策略,[[Chunk]]太大包含无关信息,太小丢失上下文,我倾向用语义切分配合重叠窗口。二是检索延迟,大规模知识库下,[[ANN]]检索可能变慢,需要做索引优化,比如用[[HNSW]]或[[IVF-PQ]]。三是生成质量,检索到的信息可能冗余或冲突,需要Prompt设计或Rerank来整理。 另外,单纯RAG处理多跳推理问题比较吃力。比如问'202…
学习内容与项目面试,在同一条路上。