AI可以按照规则服务客户，谁有权批准例外？

Geoffrey Chen

《AI进入工作之后》· 第三季“当AI开始代表组织”· 第四篇

一名客户错过了取消服务的截止日期。标准政策写得很清楚：必须提前七天通知，否则收取下一个月费用。AI查看日期，计算只提前了六天，于是拒绝退款。

客户解释，自己在截止日前突发住院，直到出院才有能力处理账户。他上传了证明，再次申请。AI仍然回答：“根据条款，申请已超过期限。”客户点击“复核”，系统把同一资料送入另一个自动流程，最后得到措辞稍有不同的相同结果。

这个假设场景中，AI可能没有读错任何规则，也没有算错任何日期。问题在于，规则原本是为了管理正常取消，不一定是为了穷尽所有特殊处境。组织把标准判断自动化，却没有明确谁能理解政策目的、衡量例外并承担偏离规则的责任。

规则可以由AI执行；例外不能只靠AI偶然发现。它必须有一个制度入口和一个真正拥有裁量权的人。

从客户角度看，是一次申请；从组织角度看，其实有两条队列

多数服务流程只设计了一条“标准队列”：收集固定字段，对照条件，产生结果。这条队列适合大量相似案件，也最容易自动化。

例外案件需要第二条队列：

标准请求
→ 数据完整
→ 规则匹配
→ 自动结果

异常请求
→ 识别偏离原因
→ 收集补充材料
→ 有权人员判断
→ 说明理由并形成可复用记录

两条队列不能只是同一个模型使用不同提示词。第二条队列必须有不同权限：查看更多事实、理解政策目的、决定是否偏离、记录理由并在必要时修改原结果。

如果“人工复核”人员无权改变系统结论，只能选择预写理由，组织其实仍然只有一条队列。客户从机器转给人，但决定没有获得新的判断能力。

例外并不一定削弱规则

组织担心例外会导致不一致、偏袒或成本失控，这种担心有合理基础。明确规则能够提高可预测性，使相似客户得到相似待遇，也保护一线员工免受不当压力。

但规则通常通过有限变量表达政策目的。七天通知可能为了让企业调整资源，而不是为了惩罚无行为能力的住院客户；身份核验可能为了防止欺诈，而不是永久排除无法使用某种证件的人。若组织只保留字面条件而失去目的，规则会变得机械而不再合理。

例外机制的作用不是让任何人都能绕过规则，而是处理三类标准流程无法可靠解决的情况：

  • 输入资料不能表达真实处境；
  • 多项规则冲突或产生明显不相称后果；
  • 新情况尚未进入现有政策。

好的例外机制反而能保护规则，因为它把偏离限制在清楚理由、适当权限和可审计记录之内，而不是迫使员工在系统外偷偷处理。

AI擅长发现异常，不等于适合批准异常

AI可以比较大量案例，发现罕见组合，整理客户说明，并指出哪些事实与标准条件不一致。这些都是有价值的辅助。

但批准例外包含另一组判断：事实是否可信，政策目的是否适用于此案，对其他客户是否公平，损失是否相称，决定会形成怎样的先例，以及组织是否愿意承担结果。模型可以提供相关信息，却不应因“相似案例过去获批”就自行把历史模式变成新权限。

历史数据尤其危险，因为过去的例外可能带有不一致。某些客户得到资深员工帮助，另一些客户因为语言、时间或沟通能力不足从未进入例外队列。用这些结果训练系统，可能把旧的可达性差异包装成新的“风险预测”。

澳大利亚AI伦理原则把公平、可争议性和责任列为彼此关联的要求，并指出对个人有重大影响的结果应有有效挑战机制和适当的人类判断。澳大利亚工业、科学与资源部：《Australia’s AI Ethics Principles》 这意味着例外审批不能只看模型平均准确率，还要看哪些人能进入复核、复核者是否有权改变结果，以及决定能否得到理由。

谁来批准，应由例外的性质决定

“转给经理”不是完整制度。组织需要把例外分配给真正拥有相关知识与权限的角色。

例外类型 适合的决定者 AI可以怎样辅助
资料缺失或格式问题 业务处理人员 列出缺口、验证一致性
小额、可逆的服务补救 一线主管 汇总历史、计算影响
涉及歧视、无障碍或脆弱处境 专门政策或风险人员 标记相关义务，不作最终判断
改变合同、承认责任或重大金额 获正式授权的管理者／专业人员 准备选项和证据
新型、反复出现的例外 政策所有者 聚类案件、显示规则缺口

关键是让职务权限与后果匹配。不能因为AI界面容易把案件发送给某人，就假定那个人获得了批准权。系统必须知道谁能查看敏感材料、谁能作出决定、谁只能建议，以及谁负责更新政策。

例外申请需要的是证据通道，不是自由文本陷阱

让客户在一个空白框里“说明情况”，然后由AI判断是否可信，会把表达能力误当成案件价值。擅长写作、熟悉制度语言的人更容易触发同情或相关关键词；语言简短、使用翻译工具或无法组织完整叙述的人可能被错过。

界面应根据例外类型提供结构化但不过度的证据选择，例如日期、事件类型、可提供的证明和希望得到的补救，同时允许客户说明标准字段没有覆盖的事实。系统不应要求与决定无关的敏感资料，也不应把“材料不完整”直接等同于“理由不成立”。

对无法在线提交的人，还要有电话、代理人或其他可访问渠道。例外机制如果只有数字熟练者能够使用，就会在名义公平之下制造新的资格门槛。

复核必须从原决定之外取得独立性

真正的复核至少应改变一项东西：使用更多事实、应用不同规则、交给更高权限，或由不同角色重新判断。如果只是让同一模型再次生成答案，或者让员工确认“系统是否按规则运行”，它只能检查程序一致，不能判断结果是否需要例外。

复核人员应看到原决定的依据，但也要能够不受其结论约束。界面可以先展示事实和政策，再单独显示AI建议，避免建议在一开始就锚定人的判断。对于高后果案件，组织可以要求复核者写出自己的理由，而不是只从“同意／不同意模型”中选择。

NIST AI风险管理框架把治理、情境映射、测量和管理视为持续循环，并要求角色、责任、反馈与风险响应进入系统生命周期。NIST AI Resource Center：《AI RMF Core》 例外复核正是重要反馈：它不仅修正一个客户结果，还应告诉政策所有者，自动规则在哪些地方持续失效。

不要只统计批准率，要观察例外怎样改变制度

例外数据可以揭示标准流程的问题，但单一批准率很容易误导。低批准率可能说明规则合理，也可能说明申请入口太难；高批准率可能说明复核宽松，也可能说明自动系统反复错误拒绝。

更有用的指标包括：

  • 哪些规则产生最多例外；
  • 不同客户群体进入复核的比例；
  • 从申请到有权决定的时间；
  • 原决定被改变的主要原因；
  • 客户是否必须重复提交资料；
  • 同类例外何时转化为正式政策更新。

如果同一种“例外”每周出现数百次，它已经不再是边缘事件，而是规则设计的一部分。继续逐案人工处理会浪费客户和员工时间。政策所有者应修改标准规则、增加渐进处理或建立新的正式类别。

ISO/IEC 42001把持续改进纳入AI管理体系要求。ISO：《ISO/IEC 42001—Artificial intelligence management systems》 对服务组织而言，持续改进不应只提高模型表现，也要根据申诉和例外记录改变规则、权限和工作流。

需要防止例外权本身变成新的黑箱

人类裁量也可能不一致、偏袒熟悉客户或受到绩效压力。保留人并不自动保证公平。例外决定应记录适用政策、关键事实、理由、批准者和补救范围，并接受抽样比较。

但审计不应迫使决定者把每个特殊处境压缩成固定代码。记录的目的，是看相似事实是否得到可解释的待遇，是否有群体持续被拒绝，以及例外是否形成未经批准的新政策。

组织还应设权限上限和利益冲突规则。能够批准小额服务补救的主管，不一定能修改合同；负责销售关系的人，也不应独自处理涉及自身业绩的重大投诉。例外需要裁量，但裁量仍是一种被约束的组织权力。

结论：标准流程可以自动化，例外责任不能无人所有

AI执行规则能够提高速度和一致性。问题不是规则“太冷”，也不是所有特殊请求都应获批，而是组织是否承认任何有限规则都会遇到它无法完整表达的现实。

最终判断是：

每一个由AI执行的重要规则，都应同时拥有一条可进入的例外路径；这条路径必须通向拥有更多事实、不同判断能力和真实改变权限的人，并把反复出现的例外反馈给政策本身。

客户需要的不是无限通融，而是一次由有权者听取不适合标准字段的事实并说明理由的机会。组织若只自动化规则而不设计例外，就把政策的一部分——目的、比例与责任——留在了系统之外。

主要资料

继续阅读：浏览《AI进入工作之后》系列文章

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。