《当数字开始做决定》· 第三季“平均数没有看见的人”· 第十二篇
一、第三季研究的不是同一种“平均数”
SEIFA把一个地区的人口普查特征压成相对排名,大学需求型资助再用居住地址估计学生社会经济地位。Modified Monash Model把偏远程度、城镇规模与道路关系固定为MM1至MM7,医疗人力项目据此分配激励。
BMI用身高体重代理身体构成与群体健康风险;eGFR用肌酐、年龄和出生性别估算肾功能;心血管风险计算器则用人群队列预测具体个人未来五年发生事件的概率。血氧仪看似更接近直接测量,却仍通过光学、校准人群和算法估计动脉氧合,而且误差可能随肤色不均等地分布。
碰撞假人和NatHERS住宅模型采用标准身体、标准占用和标准气候,使车辆与建筑可以比较。标准杯把各种容器化为10克酒精,却没有标准化人的代谢。电价参考数创造“代表性客户”,让零售商在同一用量下比较。JSCI从相似求职者的历史结果推断长期失业风险,再把预测接到服务路径。
这些案例不能被一句“平均数不代表个人”概括。若这个命题意味着任何群体知识都不能用于个体判断,医学、工程、保险和公共服务都无法运作。医生之所以知道某项治疗通常有效,正因为群体研究;车辆之所以能通过碰撞测试改进,也因为不可能让每个未来乘员逐一参加试验。
真正的问题是:群体知识经过怎样的转换,才可以对一个人产生多大的制度后果?
二、先区分四种从群体到个人的转换
第一种是地区代理。SEIFA与MMM描述地点结构,再把地点特征连接到居住者、学生、医生或诊所。它适合规划地区资源,最容易发生生态谬误:把群体构成当成个人属性。
第二种是标准化比较。碰撞假人、标准杯、DMO代表客户和NatHERS固定部分差异,让车辆、酒精剂量、电价和建筑可以在共同尺度上比较。它们的主要价值是可比,不是预测每个人的实际结果。
第三种是估计测量。血氧与eGFR试图估计眼前身体的真实状态。它们与个人关系更直接,却仍受设备、公式和身体差异影响。越接近治疗门槛,测量不确定性越不能隐藏。
第四种是风险预测。CVD计算器与JSCI根据历史人群关系估计未来事件。预测不是事实认定:10%风险不会证明某人必然患病,高JSCI也不会证明某人必然长期失业。
区分这四类,是因为相同的治理规则不适用全部数字。一个适合地区拨款的代理,不能直接拒绝个人;一个适合比较建筑设计的标准模型,不应承诺真实账单;一个临床估计可以触发复查,却未必足以完成诊断;一个风险预测可以建议预防,不应被改写成对品格的判断。
三、第一项检验:决定层级是否与数字层级一致?
如果数字在地区层面形成,最正当的后果通常也在地区层面。SEIFA可以决定大学获得多少基础支持、外展项目去哪里开展;当某个学生请求紧急援助时,还应允许收入、住房和照护责任等个人证据。MMM可以决定乡村医疗基础激励,不应宣告MM2每个居民都容易看医生。
这可称为层级一致原则:群体数字可以较强地支持群体资源决定,只能较弱地支持个体权利决定。越从总体规划走向个人拒绝,越需要个人资料和复核。
生态谬误不是说群体与个人完全无关,而是群体概率不能无条件继承到每个成员。低SEIFA地区确实更可能聚集劣势,但“更可能”与“这个人就是”之间存在必须由程序填补的距离。
四、第二项检验:数字的用途是否与它被验证的用途相同?
标准杯准确测量10克酒精,不表示能准确预测某人何时低于0.05 BAC;NatHERS七星评估规定使用条件下的住宅性能,不表示家庭电费必然低;第50百分位男性假人证明车辆在规定碰撞下的表现,不能自动代表小型女性、老人和儿童。
这就是用途一致原则。一个数字可以在原任务中可靠,在新任务中失效。制度最常见的越权不是数据算错,而是把正确数字用于它没有被验证的决定。
每项规则都应公开一张“用途说明”:数字测量或预测什么,开发与验证人群是谁,不能推断什么,已知不适用情境有哪些。输出越简洁,说明越重要。
五、第三项检验:总体准确是否遮住分布不公平?
血氧仪可能在总体上满足性能要求,深色皮肤者却更常遭遇高估;eGFR在一般成人中有用,在极端肌肉量、怀孕或截肢情境下可靠性下降;风险模型对全国平均校准良好,仍可能低估特定族裔或地区。
因此,不能只问平均准确率。还要分别检查群体的误差方向、误差幅度、假阳性、假阴性和实际后果。若错误随机且后果轻,重复测量可能足够;若错误集中在同一弱势群体,并导致治疗延误或服务排除,总体平均不能抵消。
这可称为分布审计原则。任何用于重大决定的数字,都应公布它对主要相关群体的性能,而不是用一个全国数字证明公平。
但分组也要谨慎。肤色不能被粗糙种族类别完全替代,性别不能表达所有身体比例,邮编不能表达个人贫困。分组审计是发现问题的工具,不应再把群体标签固化成个人本质。
六、第四项检验:越线后果是否与不确定性相称?
BMI 34.9与35.1、eGFR 59与60、CVD风险9.9%与10.0%,现实差异都可能小于测量或模型误差。可是,制度需要临床路径、诊断语言与治疗建议,不能永远拒绝划线。
合理做法是让后果随证据逐级增强:
接近门槛 → 提示与复测 → 补充证据 → 专业复核 → 才进入重大或不可逆决定
BMI可以触发手术适合性评估,不能单独完成手术决定;一次eGFR 59应触发复查,不能跳过三个月持续性;10% CVD风险是强治疗起点,仍需讨论禁忌、净获益与本人偏好;血氧临界读数若与症状不符,应升级测量而不是等待数字变坏。
这就是后果相称原则:数字越不确定,后果越应可逆;后果越重大,证据越应多源。制度不能用一个粗筛模型直接作出比模型本身更精细的判断。
七、第五项检验:代理变量是在打开资源,还是在关闭机会?
同一个误差,在不同方向上伦理意义不同。JSCI高分若带来更深入评估和额外帮助,即使存在一定假阳性,后果可能可接受;若高分带来惩罚、污名或不可退出的控制,证据要求就应显著提高。SEIFA用于给大学增加基础资金,比用SEIFA拒绝高排名地区的困难学生更容易辩护。
这可称为方向不对称原则:群体代理适合确保最低支持,不适合成为拒绝个人的唯一依据。数字用于扩展机会时可以作为早期信号;用于剥夺资格、自由或必要服务时,必须有个体证据和有效申诉。
这并非认为所有“帮助”都无害。更多服务也可能意味着更多监督,错误医疗也可能产生风险。所以仍要检查实际影响,而不是只看政策名称。但默认上,打开进一步判断的门槛,可以容许比关闭最终权利更大的不确定性。
八、第六项检验:当事人能否看见自己怎样被看见?
有效解释不要求每个人读懂完整统计模型,却至少要回答:
- 使用了哪些个人或地区资料?
- 数字测量、比较还是预测什么?
- 采用哪一版方法、哪条门槛?
- 它对当前决定起了什么作用?
- 哪些资料可能错误或不适用?
- 谁能够重新检查并改变结果?
如果求职者只能听到“系统认为你适合机构服务”,学生只看到“不属于低SES”,病人只看到“未达到35”,就没有足够信息纠错。解释必须与行动连接:指出一个因素却没有更正通道,不是有效透明。
澳洲AI伦理原则把透明、可解释、可争议和问责列为重要要求,并强调重大影响下应有及时挑战过程和能够适当运用人工判断的监督。澳洲工业、科学与资源部:Australia’s AI Ethics Principles 这些原则不只适用于AI。本季所有公式、分类和标准,都需要相同的程序结构。
九、第七项检验:纠正一个人以后,制度会不会学习?
个案复核可以纠正地址、重新量体重、复查肌酐、用动脉血气确认血氧、更新Job Seeker Snapshot,或用实际账单比较电价。可是,如果相同错误反复发生,只处理个案并不足够。
制度还要记录哪些结果被推翻、哪些群体误差较大、哪些边界出现异常堆积,以及模型预测与真实结果是否逐年偏离。ANCAP在2026年加入小型女性假人与更多模拟,CVD指南替换逐渐失准的旧方程,说明标准与模型可以从现实反证中更新。
更新会造成版本断点,却比维持错误的一致性更正当。正确做法是版本化、公布变化、必要时平行计算和评估既有决定,而不是为了时间序列漂亮拒绝修正。
这就是反馈学习原则:有权判断个人的结构,必须能够被个人与现实共同改变。
十、维成论:个人不是群体模型之外的例外
Sustenesis的视角不把个人理解成一组孤立属性,也不把群体平均当作压在个人之上的抽象实体。一个人的处境在身体、地区、制度、时间和关系中形成;统计模型则在资料、分类、目的和执行中形成。二者都是维持中的结构。
群体知识之所以有用,是因为个人确实与他人共享某些关系。群体知识之所以有限,是因为没有任何两个人共享全部关系。应用哲学的任务不是在“只有个人”与“只有平均”之间选择,而是确定哪些关系足以支持当前决定,哪些差异必须保留。
数字进入制度后还会改变现实。MMM影响医生去哪,JSCI影响求职者接受何种服务,NatHERS影响建筑怎样设计。模型不再只是描述结构,它成为结构的一部分。其错误因此不仅是认识错误,也会重新分配资源和机会。
最后仍需要Commitment as the Human Remainder。统计局、监管者、医生、服务机构和工程师不能说“数字如此,所以无人决定”。每条连接——从地区到学生、从读数到治疗、从测试到上市——都由机构授权。有人必须能够说明:为什么这项证据足以承担这项后果,以及错了以后怎样恢复。
十一、一套可直接使用的八问框架
当群体数字准备进入个人决定,可以依次问:
- 层级:数字描述个人、地区、标准场景还是历史群体?
- 目的:它原本为测量、比较、预测还是分配而设计?
- 代表:开发和验证资料包括谁,遗漏谁?
- 误差:总体误差怎样,在相关群体与临界线附近怎样?
- 后果:数字只是提醒、增加支持、触发复核,还是直接拒绝与惩罚?
- 替代证据:个人能否提交比代理变量更直接的资料?
- 复核补救:谁有权改变决定,错误能否及时恢复权利并补偿?
- 制度学习:推翻、异常和现实结果能否改变下一版方法?
这八问不要求取消平均数,而是限制推断距离。层级越远、代表性越弱、误差越不均、后果越严重,个体证据与复核就越重要。
结论:平均数可以开始判断,不能独自完成判断
我的最终判断可以分成四条。
第一,地区平均可以决定地区基础资源和外展方向,不应成为拒绝个人支持的唯一理由。第二,标准模型可以决定在公开条件下的比较与合规,但必须标明适用范围,不能冒充个人结果保证。第三,临床估计与风险分数可以触发复查、预防和专业评估,重大不可逆决定需要多源证据。第四,任何对个人产生重要不利后果的数字,都必须允许查看输入、补充个体资料、取得有权改变结果的人工复核和真实补救。
群体知识不是对个人的背叛。它是现代社会能够在没有人掌握全貌时仍然行动的条件。真正的背叛发生在制度忘记了推断过程,把“平均而言更可能”写成“你就是如此”,再让一个人独自承担误差。
第三季的结论因此是:
群体数字对个人拥有的决定权,不能超过群体与个人之间已经得到验证的推断距离;推断越远,解释、个体证据、复核和补救就必须越强。
平均数能够帮助制度看见规律。一个公正制度还必须保留能力,看见那些没有落在规律中央的人。
主要资料
- 澳洲统计局:Using and interpreting SEIFA
- RCPA:GFR estimated
- TGA:Limitations of pulse oximeters and the effect of skin pigmentation
- Australian CVD Risk Guideline:Overview
- 澳洲工业、科学与资源部:Australia’s AI Ethics Principles
- OAIC:Automated decision-making and public reporting under the FOI Act
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。