AI分析了一张表格,应该从哪里开始复核? / Where Should You Begin When Auditing AI Analysis of a Dataset?

AI时代的判断力 · 第39篇

一个漂亮结论可能在分析开始前就已经错了:重复行、缺失值、单位混用、筛选范围或样本偏差都会改变结果。复核AI分析时,先追数据从哪里来,再看它算了什么。

沿着数据走五站

  1. 来源:谁收集、为何收集、覆盖什么时间和人群?
  2. 清理:删除、补值、合并和重编码做了什么?
  3. 口径:每一列的单位、定义和分母是什么?
  4. 计算:公式、过滤条件和分组能否独立重现?
  5. 解释:结论是描述、相关还是因果?是否超出样本?

用三个“控制总数”抓错误

控制 例子
行数 导入前后、去重前后是否符合预期
合计 分组之和是否等于总体,金额是否对账
已知样本 手工计算几行,结果是否与AI一致

要求AI交付的不应只有结论,还应包括数据字典、清理记录、可执行公式或代码,以及无法判断的事项。没有可重现路径的分析,只是一段听起来有根据的叙述。

参考资料


了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。