搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「领域RAG」找到 195 条内容
按专题浏览 →匹配口述回答:…写的是“退费流程”,关键词可能匹配不上;向量检索会先把两段文本编码成向量,只要语义相近,距离就会比较近,所以更适合问答、推荐、[[RAG]] 这类场景。 整个链路我一般按三段看:先[[向量化]],再建索引,最后算相似度并排序。 向量化就是用 Embedding 模型把 query 和文档块都转成固定维度的稠密向量。这里最关键的不是“转成多少维”,而是这个向量空间是否真的学到了业务里的语义关系。比如“退款”“退费”“售后申请”在客服场景里应该靠得很近,但“苹果”在水果场景和手机…
匹配追问:你们业务中幻觉问题具体怎么解决的,有没有做事实性校验的pipeline 长上下文场景下你们怎么权衡成本和效果,有没有试过RAG+长文本的混合方案 推理延迟要求很严的话,你们量化方案选的是哪种,有没有做投机解码 场景切入 假设你在做一个实时客服机器人,用户问一句你就要立刻回一句,不能卡顿。你手头有个千亿参数的模型,怎么让它跑得快又不炸显存? 层层追问 大模型落地主要有哪些瓶颈?……那推理延迟怎么优化?……还有幻觉问题,你遇到过吗?怎么解决的?……长上下文呢,比如处理一份几十页的…
匹配口述回答:…以嵌套 [[Chain-of-Thought]] 或者树状推理。记忆层面一般分两层:短期工作记忆和长期向量记忆,用来存对话历史或者领域知识。单智能体适合什么场景呢?任务边界特别清晰,工具调用链可控,不需要外部协作的闭环任务,比如个人助手、代码生成这些。 [[多智能体]]就复杂一些。常见有三种拓扑。一种是集中式,一个管理者统一调度,各个智能体专精执行,比如 MetaGPT 那种,项目经理分任务给开发、测试。一种是分布式,没有中心节点,智能体之间 peer-to-peer 协商,…
学习内容与项目面试,在同一条路上。