搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「医疗 RAG」找到 83 条内容
按专题浏览 →匹配口述回答:…合规政策,模型胡编一个答案,那后果很严重。所以这个策略适合通用知识类问题,不适合专业或敏感场景。 最后就是转人工或者提单。在金融、医疗这些场景里,宁可让用户等,也不能给错答案。这是最兜底的方案,但人力成本高,时效也差。 实际落地上,我不会只用一种策略,而是组合起来。我一般会设两个阈值:一个低阈值,一个中阈值。检索分数高于中阈值,正常回答;低于低阈值,直接转人工或追问;介于中间,就用大模型兜底并带上置信度警告。而且阈值不是死的,我会根据问题类型和用户身份动态调。比如技术类问题阈…
匹配口述回答:这道题问的是[[RAG]]的完整工作流程和瓶颈优化,其实本质是在问一个系统级问题:你怎么让大模型在知识密集型任务上既快又准地给出答案,同时还能落地。我先画个框架,RAG可以拆成四个阶段:索引构建、检索召回、精排过滤、生成合成。但真正上线跑过的人都知道,最影响体验的其实是中间两个阶段,检索和精排。 先说检索延迟这个瓶颈。如果你的[[向量库]]到了千万级,用[[HNSW]]索引,P99延迟很容易飙到500毫秒以上,用户等不了。我的做法是分场景:对高频query,我会加一层缓存,用…
匹配口述回答:…’,我会用多查询扩展,生成几个语义等价的变体,比如‘退货流程’‘退款条件’,并行检索后再去重聚合。这是最稳的。如果问题很专业,比如医疗领域,我会用 HyDE,让模型先生成一个假设答案,再用这个答案的 [[Embedding]] 去检索。你可能会想,这不引入[[幻觉]]了吗?对,所以前提是你的领域知识库足够封闭,生成的假设答案不会跑偏。再一个,复杂多跳问题,像‘2024年X公司营收多少,它CEO是谁’,我会拆成子问题链,先查营收再查CEO,逐层检索。但真正落地时,我不会只用一种…
学习内容与项目面试,在同一条路上。