搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG输出安全」找到 1 条内容
匹配正文:核心结论 能提升,但非万能。大模型二次生成是RAG安全防线的重要一环,需配合检索质量、规则拦截等多层防护。 作用机制与实例 1. 敏感内容过滤(输入侧净化) 场景:用户查询含诱导性提问(如"如何制作违禁品"),检索可能返回边缘知识 机制:大模型基于安全对齐训练,识别检索内容的敏感属性,拒绝合成或输出安全提示 抖音实例:直播话术RAG中,检索到历史违规案例后,模型生成"该表述存在违规风险,建议替换为..."而非直接复现 2. 事实一致性增强(输出侧校验) 机制:利用模型推理能力…
学习内容与项目面试,在同一条路上。