算法说一个人“高风险”，法官可以相信到哪一步？

Geoffrey Chen

《当数字开始做决定》· 第一季“门槛线两边的人”· 第十一篇

一、三个“高风险”条形图进入法庭

美国威斯康星州的Eric Loomis在两项较轻罪名上认罪：企图逃避交通警察，以及未经车主同意驾驶机动车。州方认为他与一起驾车枪击有关，Loomis否认参与枪击；其他指控依认罪协议被撤销，但在量刑时可被一并考虑。

量刑前调查报告附上了一份COMPAS风险评估。它把他的审前再犯风险、一般再犯风险和暴力再犯风险都列为高风险。检方提到这些结果，法官也在排除缓刑时说，犯罪严重性、Loomis以往接受监督的记录和风险评估工具都显示他再次犯罪的风险很高。Wisconsin Supreme Court：State v. Loomis, 2016 WI 68, ¶¶11–23

法院最终对两项认罪罪名作出连续执行的量刑：合计六年监禁，之后五年extended supervision。Loomis要求重新量刑，理由之一是法庭使用了他无法充分检验的专有风险评估，侵犯了正当程序权利。

2016年，威斯康星州最高法院维持原决定。它没有宣布COMPAS可以决定刑罚，而是划出了一条更窄的界线：在遵守限制、注意警告并有其他独立理由时，法官可以把评分作为众多因素之一加以考虑；评分不得成为决定是否监禁、刑罚严重程度，或一个人能否在社区中安全接受监督的决定性因素。

这个区别看似清楚，却留下了一个很难的问题：当“高风险”出现在正式量刑材料里，法官真的能够只看见它，却不让它取得超出证据能力的权威吗？

二、COMPAS测量的是谁的未来？

COMPAS全称Correctional Offender Management Profiling for Alternative Sanctions。案件记录显示，它原本被设计为向惩教部门提供决策支持，用于安置、管理和治疗规划。其资料来自刑事记录以及对被评估人的访谈；风险部分以一至十分的条形图呈现，另有需要评估，用来识别就业、住房、物质滥用等干预领域。

“预测再犯”很容易被听成一句关于个人未来的陈述：此人很可能再次犯罪。但判决本身特别说明，COMPAS不是计算某一个人未来犯罪的具体概率。它把个人资料与具有相似经历的数据群体比较，判断具有这类特征的人通常处于较低还是较高风险组。判决¶¶13–16

群体预测与个人事实之间存在一道不可取消的距离。即使一个模型能够准确识别再犯率较高的群体，也不能告诉法官这个被告一定会做什么。风险组中的许多人不会再犯；被列入低风险组的人也可能再犯。评分把不确定性压成类别，但类别不会消除不确定性。

这也是为什么“高风险”不等于“更有罪”。定罪主要处理已经发生并依法证明的行为；风险评估处理尚未发生的行为可能性。前者关乎责任与证据，后者关乎预测与管理。把预测直接转化为更重的惩罚，会让一个人为群体统计和未来可能性承担当前后果。

三、一个一至十分的分数遗漏了什么？

评分把刑事历史、监督经历以及部分动态因素组合起来。这样做的优点是减少完全依靠直觉的判断，使不同案件能够接受较一致的风险信息。法官也不可能凭个人经验准确记住所有类似案件的长期结果。

但分数至少遗漏三类重要内容。

第一，它不完整呈现个人处境。家庭支持、近期生活变化、治疗机会、稳定工作、案件事实中的特殊情节，可能与历史数据指向不同方向。模型只对已编码变量敏感。

第二，它隐藏了群体结构。教育、就业、居住和既往司法接触看似是个人特征，却也受到社会机会和执法模式影响。即使模型不直接输入种族，相关变量仍可能携带历史差异。威斯康星州最高法院因此要求量刑材料提醒法官：有研究质疑COMPAS是否会把少数族裔被告不成比例地归为较高风险；模型也需要随人口和子群体变化持续监测和重新校准。

第三，它不解释规范目标。预测再犯只服务于量刑的部分目的。法院还要考虑犯罪严重性、个人责任、威慑、改造和公众保护。一个为风险管理和治疗规划设计的工具，不能自动回答某人“应受多重惩罚”。预测能力与惩罚正当性不是同一个问题。

四、看得见输入，却看不见权重

Loomis案最著名的争议来自商业秘密。开发者把COMPAS视为专有工具，没有公开各因素怎样加权、分数怎样生成。Loomis因此主张，自己无法真正检验评分的科学有效性和准确性。

州最高法院认为，他仍能看到报告中的分数、问题和答案，也能核对刑事历史等输入，并提出其他资料说明评分不适用于自己。因此，本案并非当事人完全不知道法庭看过什么材料的情形。判决¶¶47–58

这是一种有限的可争辩性：当事人可以说“输入错了”，也可以说“另有重要事实”，却无法完整追问“为什么这些输入产生这个分数”。数据准确性因此可以部分复核，测量有效性和模型结构却仍不透明。

在低后果用途上，这种不完全透明有时可以容忍。例如，工具建议提供何种辅导，专业人员还可调整方案。但当输出进入可能限制自由的决定，商业秘密与正当程序发生直接冲突。供应商有保护知识产权的利益，政府却不能借采购合同取得一种当事人无法有效挑战的秘密权威。

最低标准不一定要求向每名被告公开全部源代码。源代码本身也未必能让普通人理解模型。但制度至少必须能够由独立专家检查变量、权重逻辑、验证资料、错误率、不同群体表现、版本变化和适用边界，并让被告获得足以针对本案提出质疑的信息。否则“可以申诉”只剩下形式。

五、法院画出的限制线在哪里？

州最高法院要求，凡向法院提交并包含COMPAS评估的量刑前调查报告，都应书面列明若干限制和警告，包括：

  • 专有性质阻止了因素权重和计分方法的公开；
  • 评分来自群体资料，识别的是高风险群体，不是确定某一个高风险个人；
  • 有研究提出少数族裔被告可能被不成比例地归为高风险；
  • 当时尚未完成针对威斯康星州人口的交叉验证；
  • 人口会变化，工具必须持续监测和重新校准；
  • COMPAS并非为量刑而开发，而主要用于治疗、监督和假释等惩教决定。

判决还规定，评分不得决定一个人是否入狱、刑罚严重程度，也不得成为能否在社区中安全监督的决定性因素。法官必须说明评分以外、能够独立支持刑罚的理由。判决¶¶87–101

在Loomis案中，原审法院后来表示，即使量刑前报告完全没有COMPAS，它也会基于犯罪严重性、刑事历史、监督经历等因素作出相同量刑。最高法院据此认定评分并非决定性因素，拒绝重新量刑。

这套安排比“算法客观，所以可以相信”严格得多。它承认评分有帮助，同时把评分的用途限制在风险管理和对其他材料的辅助理解上。

但它也暴露出一个实践困难：只要评分确实影响了法官，事后又说“没有它结果也相同”，就很难测量评分实际起了多大作用。正式理由可以列出多个因素，却不能直接观察每个因素在判断者心中的心理权重。高风险标签还可能产生锚定效应，使后来材料都围绕它解释。

因此，禁止“决定性使用”不能只依靠法官在结尾声明评分不是决定性的。更可靠的做法是要求判决先写出独立事实与法律理由，再说明评分仅支持哪一项有限判断；如果去掉评分，理由仍须完整成立。审查者也应检查实际推理结构，而不仅接受一句保证。

六、从评分到自由决定，谁在承担判断？

风险工具体现了一种“委托的知晓”。没有任何法官亲自观察数千名相似被告的长期结果；数据库、统计方法、软件开发者、惩教机构和调查人员共同保存并传递群体经验。评分让分散知识能够进入一次具体量刑。

问题在于，知识功能被委托以后，责任不能一并消失。供应商说自己只提供工具，调查人员说自己只附上报告，检方说自己只引用信息，法官说自己只是考虑众多因素之一——如果每一方都只承担一小段，最终可能出现“有权威的输出，却没有完整理解和责任主体”。

法官必须是这条链上最后仍然承担承诺的人。所谓人工参与，不是有人点击确认，也不是在评分之后添加几句话。它要求决定者能够说明：本案事实是什么，评分适合回答什么，哪些内容它没有测量，为什么最终后果仍由可公开辩护的法律理由支持。

这也决定了复核的形态。当事人应能纠正输入，质疑工具在当地人口中的有效性，提出评分遗漏的个别事实，并在上诉中检验法官是否越过了用途限制。复核者不能只是把同一资料再次输入COMPAS，得到同一个分数后宣布原决定正确。

结论：法官可以参考风险评分，但不能把自由交给它

Loomis案没有证明COMPAS正确，也没有认定所有专有算法都可进入量刑。判决只是在特定记录上认定：在有独立量刑理由、评分并非决定性因素且受到明确限制的情况下，考虑该评分没有侵犯Loomis的正当程序权利。

我的判断比一句“保留人在回路中”更严格：

当决定可能增加监禁或限制自由时，群体风险评分只能用于有限的风险管理信息，不能成为惩罚的理由、个人危险性的事实认定，或对司法判断的替代。

若制度保留这类工具，至少应做到五点：公开用途边界；允许核对全部个案输入；让独立机构审计模型和群体误差；要求法官提出不依赖评分也足以成立的理由；提供能够改变结果的对抗、复核和上诉程序。

风险评分可以提醒法院不要只依靠直觉，却不能获得比法官本人更难质疑的权威。一个分数越接近人的自由，它就越不能只要求人相信；它必须接受更强的解释、更严格的限制和真正有效的挑战。

主要资料

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。