页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「医疗 RAG 系统」找到 76 条内容
按专题浏览 →匹配口述回答：这道题其实问的是，在[[RAG]]系统里，怎么在保证检索精度的同时，把延迟和成本压下来。本质是个工程平衡问题。我主要从检索、[[重排]]、查询改写、混合方案几个方向来说。 先说向量检索层。最常用的索引是 [[HNSW]]，它本质是图索引，在召回率和速度之间做得比较均衡。但有两个关键参数要调：M控制每个节点的邻居数，ef控制搜索宽度。M太小图会不连通，召回会崩；ef太大延迟就上去了。一般我会先拿业务数据跑一下，看Recall@100在什么水平，再决定参数。另一个常见优化是量化压…
匹配口述回答：这道题其实在问一个很本质的问题：[[RAG]]系统里，向量检索和LLM[[重排序]]之间到底是什么关系？很多人以为向量搜到最相似的文档就完事了，但真正落过地就会知道，相似度和相关性是两回事。 先说向量检索的边界在哪里。[[Embedding]]模型做的是把文本映射到高维空间，距离近的语义上相似，但相似不等于能回答用户问题。举个例子，用户问“退款政策是什么”，向量检索可能召回一篇讲“退货流程”的文章，因为词向量接近，但文章里根本没提退款金额和时间限制，这种文档对LLM来说就是噪…
我觉得这道题其实是在问一个很本质的问题：当你面对一个[[RAG]]系统的时候，怎么在精度、速度和成本这三个维度上做取舍。说白了，召回链路没有银弹，每个策略都有它的适用边界和代价。 先说检索效率。很多人上来就推[[HNSW]]，但HNSW其实更适合中等规模、对延迟要求高的场景，比如在线客服。如果数据量到了千万级甚至亿级，我会更倾向用[[IVF-PQ]]或者ScaNN，因为HNSW的内存占用太大了。举个例子，一个电商客服系统，商品政策和退款规则大概几百万条，用HNSW能毫秒级召回…
学习内容与项目面试，在同一条路上。