AI给出一个精确分数,为什么不一定更客观? / Why Does a Precise AI Score Not Necessarily Mean Greater Objectivity?

AI时代的判断力 · 第47篇

82分看起来比“较合适”更科学,但小数和排序可能只是把不确定的判断包装成精确数字。模型选择了哪些指标、如何加权、缺失信息怎样处理,都会藏在一个分数后面。

先问这个数字能不能承受三次追问

  1. 校准:得到82分的对象,在现实中大约多常成功?
  2. 敏感性:改变一个合理假设,分数会不会从82变成65?
  3. 分辨率:82与80之间的差异,是否大于测量误差?

把虚假精度还原成决策区间

区间 行动
证据充分且差距明显 可按预定规则行动
结果接近或对假设敏感 补充信息并人工比较
数据不足或后果很高 不评分,转入专业审查

不要让AI替你决定权重。先写下真正重要的标准、最低门槛和不可交换的条件,再看系统的证据。好的决策矩阵显示权衡;坏的总分把价值选择伪装成数学事实。

参考资料


了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。