AI参与了重要决定，应该留下哪些记录？ / What Should Be Recorded When AI Contributes to an Important Decision?

Geoffrey Chen

AI时代的判断力 · 第42篇

没有记录，事后只能看到结果，无法知道错误来自数据、模型、提示、工具还是人的判断。重要AI使用应像交易一样产生一张可读的“决定收据”。

收据的八个字段

  1. 任务：系统被要求做什么；
  2. 时间：何时运行，适用什么截止日期；
  3. 输入：使用的数据及其版本；
  4. 系统：模型、工具和关键设置的版本；
  5. 输出：原始建议与置信或不确定性说明；
  6. 依据：引用、规则和外部核验；
  7. 人工动作：谁接受、修改或推翻了什么；
  8. 结果：最终决定、通知对象和后续复查日期。

记录也要有边界

审计日志不应成为新的隐私仓库。只保存追责真正需要的信息，保护访问权限，规定保存期限，并避免把密码、完整敏感文档或无关个人信息复制进日志。

好的记录不是为了证明系统从不犯错，而是让团队能解释一次决定、找到问题、补救受影响的人，并改进下一次。

参考资料

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。