完整题目
如何设计一个可解释、可校准且保护客户数据的大模型客服质检系统？请给出核心数据流和伪代码。
本文目录
1. 先定义质检对象和真值
先明确渠道、语言、业务流程、评估单元和用途：用于培训、抽检、合规预警还是绩效决定。每个维度给出 rubric、正反例、不可仅凭会话判断的状态，以及专业审核责任。一次性解决率、退款是否正确等结果往往需要订单和后续工单，不能只从文本猜。
客户会话可能含身份、联系方式、订单、健康或财务信息。采集、转写、存储、模型调用、人工复核和训练用途分别做最小化、脱敏、权限、保留与删除控制。没有依据时，不能把低置信样本自动用于微调。
2. 规则、模型与外部事实分工
确定性规则适合时间、必填步骤、明确词表和系统事件，但规则也会误报、受转写错误影响，并非“零幻觉”。模型适合需要上下文的语义判断；业务正确性应查询当时有效的政策、订单和操作日志。
长会话分段要保留说话人、时间、主题与前后引用。摘要是有损派生物，不应替代原文证据做最终裁决。
3. 可执行的核心流程
class Inspector:
def inspect(self, dialog, policy_snapshot, case_state):
safe_dialog = minimize_and_redact(dialog)
segments = segment_with_speaker_and_offsets(safe_dialog)
rule_hits = rule_engine.check(
dialog=segments,
policy=policy_snapshot,
state=case_state,
)
model_rows = []
for dimension in configured_dimensions:
evidence = select_candidate_evidence(segments, dimension)
row = evaluator.generate_structured(
rubric=rubric_version[dimension],
evidence=evidence,
policy=policy_snapshot,
)
validate_schema(row)
row["quote_status"] = verify_offsets(row["quotes"], segments)
row["support_status"] = check_claim_support(
row["claims"], row["quotes"], policy_snapshot
)
model_rows.append(row)
decision = calibrated_decision(rule_hits, model_rows)
if decision.requires_review:
review_queue.enqueue(redacted_review_packet(decision))
return build_report(decision, versions=current_versions())