LLM 事实准确性怎么保证?

这道题问的是金融场景下怎么让大模型不胡说，但我觉得面试官真正想听的，不只是你知不知道有[[幻觉]]，而是你有没有意识到，金融领域对事实准确和逻辑一致的要求，本质上是在降低不可控的风险。所以我的思路会围绕两个核心：一是怎么从源头减少错误，二是怎么在生成后兜住错误。

首先得把幻觉分清楚，两类。一类是事实性幻觉，比如利率报错、股价报错，法规条款写错，这属于可验证的事实错误。另一类是推理性幻觉，比如推导过程里隐含假设错了，导致结论不对，但每句话单独看可能都对。治理策略不一样：事实性靠[[检索增强]]，推理性靠约束和验证。

具体方案我分两层讲，先说检索增强层。金融场景里纯文本向量检索不够，因为很多信息是结构化的，比如公司财报里的指标、实体关系。所以我倾向用 [[知识图谱]] 加 RAG 的组合，先把高频实体和关系做成图谱，查询时优先走结构化检索，再补向量检索。检索源要分层，内部数据库、权威API像Wind、Bloomberg、监管文件，按可信度加权。这里有个坑：检索不是查到了就行，要显式标注置信度，比如某个字段没找到，直接说“未在知识库中验证”，别让模型瞎编。

再说生成约束层。关键数字字段，比如利率、股价，我要求模型从检索结果里直接复制，不能自己生成，这叫 约束解码。另外可以用 [[Chain-of-Verification]]，先生成回答，再自动提取里面的事实断言，重新检索验证一遍，不一致就修正。每个结论都要带上来源编号，方便人工复核。

金融场景还有两个特有设计。一是可审计日志，完整记录检索来源、模型版本、人工复核标记，这是监管要求。二是人机协同，对高风险场景比如投资建议、合规判断，设置置信度阈值，低于阈值强制转人工。上线前还要做沙箱回测，用历史金融事件数据集测试事实准确性。

不过这里有个前提，就是检索源本身的质量必须可靠。如果知识库里有错误数据，那检索增强反而会放大错误，所以我会特别关注数据清洗和知识图谱的更新频率。另外，时序一致性也是个常见失败场景，比如去年Q3营收和今年Q2的逻辑关系，需要专门校验。

所以整体上我更倾向先聚焦高频高损场景，比如理财推荐、合规问答，做深度治理，建立白名单知识库加强约束生成的标杆案例，再逐步扩展。你问如果检索质量不够怎么办？那我宁可用更保守的策略，比如降低生成自由度，甚至直接转人工，而不是冒险让模型自由发挥。