2026年9月9日，Reuters 报道了一起发生在美国俄克拉荷马州法院系统中的事件。Stephens County 地方法官 Lawrence Wheeler 向调查人员承认，他曾使用 ChatGPT 做法律研究，而他在一份裁判文书中引用的至少两个案例实际上并不存在。相关情况来自当地检察官8月17日致州总检察长办公室的信。州总检察长办公室后来认为现有证据不足以支持刑事起诉，但这并不等于司法伦理或纪律问题已经消失。俄克拉荷马最高法院此前已经明确处理过类似问题。2026年5月11日，该院在另一宗案件中要求一名律师说明为什么不应因提交不存在或由人工智能编造的案例引用而受到制裁。6月26日的案件记录又显示，这名律师承认没有核实引用，并承担责任。
这个事件真正值得讨论的，不是“AI会不会幻觉”——这一点早已不是新问题。更重要的问题是，当一个专业判断者把检索、摘要甚至部分文本生成交给AI以后，求证责任是否也会跟着转移。
我的判断是不会。工作可以委托，认识责任不能因此自动委托。AI可以成为一个高效率的检索工具、候选答案生成器或文本助手，但只要最终判断仍以人的专业身份、机构权限和法律效力进入公共世界，最终的认识责任仍然附着在作出判断的主体和制度结构上。
这里首先要区分三个层次。第一层是信息生成。模型可以给出案例名称、法条、摘要、论证路径，甚至形成一段看起来很完整的法律分析。第二层是认识依据。一个结论之所以能够被当作可靠依据，不是因为它表达得像真的，而是因为来源可以追溯，引用可以核对，推理能够接受反驳，错误可以被发现并修正。第三层是制度责任。法官、律师、医生、研究者或者其他专业人员，不只是把文字送出去，他们还以某种专业身份保证这段文字已经进入相应的验证程序。
这三层不能混在一起。AI在第一层做得越来越好，并不意味着它自然获得第二层的认识权威，更不意味着第三层的制度责任已经转移给它。
从传统认识论看，这与“证言”问题有明显联系。社会认识论一直讨论，我们为什么可以依赖别人告诉我们的东西，以及这种依赖在什么条件下构成合理的知识来源。人不可能亲自验证所有事实，现代知识本来就依赖专家、文献、数据库和机构。但这种依赖从来不是简单地把判断权交出去。可靠的知识结构通常包含来源识别、可信度判断、交叉核验和责任追踪。生成式AI使这个问题更尖锐，因为它的输出具有证言的语言形式，却未必具有传统证言中的说话者责任。它能够给出一个看似完整的案例引用，却不会因为这个引用不存在而承担法官或律师所承担的职业后果。
因此，把AI看成“另一个研究助理”只说对了一半。人类研究助理也可能犯错，但在人类组织里，助理通常有身份、工作记录、专业训练和可以追责的行为链条。生成式AI的输出则是模型在当前输入、系统约束和概率生成机制下形成的结果。它可以对工作过程产生重要因果贡献，却不因此获得与专业角色相同的认识地位。
这正是“工具性委托”和“责任性委托”的差别。工具性委托是把一部分工作过程交给某个系统完成，例如搜索案例、归纳材料、比较判例。责任性委托则意味着另一个主体接过了验证义务，并对结果的正确性承担规范责任。前者在AI使用中已经大量发生，后者目前通常并没有发生。一个法官可以说“这个案例是ChatGPT给我的”，但这句话不能解释为什么这个案例有资格进入裁判文书。它只解释了错误是怎样进入工作流程的，并没有提供认识上的正当性。
从维成论来看，这个问题可以说得更清楚。知识不是某个句子在表面上保持连贯，而是一个结构在约束、反馈、检验和修正中维持持续一致。Difference 在这里首先表现为必须保留“模型生成的候选信息”和“已经验证的法律依据”之间的可区分性。如果工作流程把这两者压成同一个层次，错误就很容易直接进入正式判断。Constraint 则包括原始判例数据库、引用规则、职业伦理、同行复核、当事人质疑和上诉机制。这些约束不是妨碍效率的附加步骤，它们正是使法律知识能够成立的条件。Sustained Coherence 也不是一段文字内部读起来顺畅，而是这段判断可以在来源核对、程序审查和后续纠错中继续维持。
由此看，AI造成的真正变化，并不是“机器开始代替人知道事情”，而是知识生产链条中生成环节与验证环节被进一步分离。过去，写出一个案例名称通常已经意味着作者至少接触过某个可识别来源。现在，一个模型可以在没有真实来源的情况下生成极其像真实引用的文本。语言形式和认识根据之间原本就存在的距离，被技术放大了。
这也解释了为什么“人类在回路中”这个说法本身不够。一个人在最后按下确认键，并不等于完成了认识上的监督。真正有意义的人类监督必须能够检查来源、理解关键依据、发现冲突，并有权拒绝模型输出。如果人只负责把AI生成结果复制进正式文件，那么人在流程里，却没有真正承担验证功能。
同样，不能从这个事件反过来推出“法律领域不应使用AI”。那会把问题重新简化成工具赞成或反对。AI完全可以降低检索成本、帮助发现相关材料、比较大量文本，甚至提高某些环节的准确性。哲学上真正重要的边界是，效率提升不能被误认为认识权威的转移。一个系统帮助你找到答案，并不等于它替你完成了“为什么这个答案值得相信”的工作。
因此，在目前的技术和制度条件下，最合理的原则不是禁止委托，而是保持责任链不断裂。生成可以外包，检索可以外包，初步比较可以外包，但当结论进入司法裁判、医疗判断、科研发表或其他高责任场景时，承担正式权威的人和机构仍必须能够说明依据来自哪里、怎样被核验、哪里可能出错，以及发现错误以后如何修正。
这篇文章的判断也有明确边界。未来如果某类AI系统获得稳定身份、完整审计记录、可持续的状态记忆、明确授权范围，并被法律制度赋予某种独立责任能力，那么“责任是否能够部分转移给机器”会成为另一个问题。但俄克拉荷马的这个事件还没有走到那里。它说明的是一个更现实也更基础的问题——当生成能力已经很强，而责任结构没有同步改变时，专业主体不能因为使用了更强的工具，就把自己的求证义务一起交出去。
参考资料
https://www.reuters.com/legal/litigation/oklahoma-judge-used-ai-in-ruling-that-contained-false-citations-prosecutor-says-2026-09-09/
https://oscn.net/dockets/GetDocument.aspx?bc=1065411959&cn=DF-123818&ct=appellate&fmt=pdf
https://oscn.net/dockets/GetCaseInformation.aspx?cmid=141887&db=appellate&number=DF-123818
https://plato.stanford.edu/entries/epistemology-social/
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。