AI时代的判断力 · 第43篇
界面上有一个“批准”按钮，不代表真正的人类监督。如果审核者没有时间、信息、能力或权限质疑AI，他只是流程中的橡皮图章。
用四种角色检验监督是否真实
| 角色 | 必须具备什么 |
|---|---|
| 观察者 | 能看到输入、输出、限制和异常，而非只看一个分数 |
| 判断者 | 理解任务，有足够时间进行独立判断 |
| 干预者 | 能够暂停、修改、拒绝并升级处理 |
| 责任者 | 知道自己为何签字，并对后续结果负责 |
警惕“自动化顺从”
当AI连续多次表现正常，人容易停止认真检查。可以随机插入需要人工判断的测试案例，轮换复核样本，并记录推翻AI的比例与理由。如果系统几乎从未被质疑，未必说明它完美，也可能说明监督失效。
人类参与不是一个位置，而是一组真实可用的能力。
高影响决定还应确保被影响者可以获得解释、纠正事实错误，并找到一个真正有权改变结果的人。
参考资料
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。