简短答案
AI给出答案以后，人仍然需要负责是否提出了合适的问题、是否有权使用输入资料、是否核对关键事实、是否选择采用输出、是否向受影响的人说明AI的作用，以及错误发生后是否能够纠正。模型可以产生文字、评分或建议，却不会自动取得你的职责、专业义务和对他人的责任。只要人或机构把输出用于现实决定，责任就没有被提示框转移出去。
先区分“生成答案”和“采用答案”
模型生成一句话，只是在计算系统中形成一个输出。人把这句话复制进报告、发给客户、写入病历、作为拒绝申请的理由，才使它获得现实效力。这条分界很重要：生成者可以是机器，采用者仍然是作出行动的人或机构。
因此，“这是AI说的”不是一种责任说明。它最多描述了材料的来源之一，不能解释为什么该输出适合这个用途、为何证据足够、谁检查过，以及受影响者怎样挑战。就像计算器给出的数字不能免除会计师检查输入单位，翻译软件也不能替签署合同的人确认法律含义。
澳大利亚国家人工智能中心的采用指引把第一项实践定为“决定谁负责”，并要求在组织与具体系统两个层面建立端到端问责。Australian Government: Guidance for AI Adoption—Implementation Practices 这不是给AI找一个名义上的“owner”，而是确保每项用途有人有权暂停、调查、纠正和报告。
提出问题的人负责定义用途
同一份输出是否合适，取决于目的。让AI列出一份公开报告的主要议题，可以作为阅读导航；把同一摘要当作董事会了解全部风险的唯一材料，就改变了用途。提出任务的人必须说明需要的是创意、草稿、检索、分类还是最终决定，也必须告诉系统哪些信息缺失、哪些推断被禁止。
含糊的任务会把未说出口的价值判断交给模型。例如“找出最好的候选人”没有定义最好是经验、潜力、可用时间还是团队多样性；“把这封投诉写得更专业”可能意外删除愤怒背后的重要事实。人不能先省略目标，再把模型自行填补的目标当作客观答案。
提供资料的人负责数据是否合法且必要
把资料输入AI不是中性的搬运动作。输入可能包含客户身份、健康信息、商业秘密、受版权保护材料、访问令牌或尚未公开的决定。使用者需要确认自己是否有权提供、服务商是否会保存或用于训练、数据是否跨境处理，以及是否能通过删除姓名、缩小范围或使用受控账户降低风险。
澳大利亚信息专员办公室建议，机构采用商业AI产品时应了解数据流、第三方访问、设置和保留方式；对于公开生成式AI工具，最佳实践是不要输入个人信息，尤其是敏感信息。OAIC: Guidance on privacy and the use of commercially available AI products “员工主动贴进去的”并不会消除机构的隐私义务。
审核者负责检查与后果相称的内容
审核不是读一遍觉得通顺。事实性输出要与原始来源核对；计算要独立重算或用确定性工具验证；专业建议要由具备相应能力的人评估；影响某一群体的分类还要检查错误是否集中。审查深度应由错误后果决定，而不是由文本长度决定。
审核者也负责识别缺失。AI常能生成一份表面完整的答案，却不会显眼地标出它没有看见的附件、过期政策、口头背景或反例。一个没有明显错误的摘要，仍可能因为漏掉关键限制而造成错误决定。
如果机构要求审核者在一分钟内批准需要半小时才能核实的内容，问题不是审核者“不够认真”，而是流程设计制造了橡皮图章。责任不能只向最末端的一名员工下沉；管理者还要为资源、培训和权限负责。
决定者负责是否让输出产生作用
最终决定者应能回答三个问题：我依赖了AI的哪一部分；还有哪些独立证据；如果AI部分被移除，我是否仍能说明决定理由。这套测试可以发现“形式上由人批准，实质上完全跟随模型”的情况。
对于会影响他人权利或机会的决定，仅保留一个人类点击通常不够。受影响者可能需要知道AI是否参与、使用了哪些类型的资料、怎样请求更正，以及能否由真正具备裁量权的人重新审查。澳大利亚政府的AI治理指引把透明、测试监控和保持人工控制分别列为核心实践，说明问责不是一个签名，而是一条可检查的流程。Australian Government: Guidance for AI Adoption
供应商负责产品承诺，但采购者不能外包全部责任
模型或软件供应商应对安全设计、文档、已知限制、服务承诺、数据处理与不实营销负责。采购机构则要对选型、配置、接入的数据、授权范围和本地使用方式负责。一个工具在产品说明允许的环境中表现良好，不代表它适合你用来决定招聘、医疗或信用。
合同可以分配赔偿和支持义务，却不能自动让受影响者获得及时纠正。如果供应商把模型更新后，机构没有重新测试仍继续使用；如果管理员给代理过大权限；如果员工被鼓励在没有培训的情况下使用公开工具，本地部署者不能只指向供应商。
责任最好按照控制能力分配：谁选择目标，谁为目标负责；谁提供数据，谁为数据权利和质量负责；谁设计流程，谁为检查点和权限负责；谁批准决定，谁为采用负责；谁运营服务，谁为其承诺与安全控制负责。多人有责任，不等于没人负责。
透明不是简单贴一个“AI生成”标签
标签能够提醒读者，但不说明AI扮演了什么角色。一份报告可能只是由AI校对语法，也可能由AI选择证据和形成结论；两者都写“AI assisted”会隐藏实质差异。更有用的披露是：AI用于哪些步骤，哪些资料由人核实，最终决定者是谁，如何提出更正。
披露也应与影响相称。私人头脑风暴不需要对全世界公告；向客户发送可能影响合同或权利的自动决定，则需要更直接的解释。透明的目的不是转移责任，而是让别人理解、评估和挑战流程。
记录使责任可以兑现
没有记录的问责往往只存在于事故后的回忆。重要流程至少应保存任务目的、输入来源、模型或系统版本、关键提示与设置、输出、人工修改、批准人和日期。不是每次个人写作都需要完整审计日志，但后果越大，越需要能够重建当时发生了什么。
记录也保护认真工作的使用者。若系统后来更新，或原始来源发生改变，版本记录可以说明当时采用的证据和限制。若客户质疑决定，机构能够展示实际流程，而不是笼统地说“有人工监督”。
错误发生后，责任意味着能够修复
真正的责任包括停止扩散、通知受影响者、撤销错误动作、恢复资料、补偿损失、调查根因并改变流程。只修改提示词而不处理已经受到影响的人，不算完整纠正。只处罚最后点击确认的人，而不检查工作量、界面和管理目标，也无法防止重演。
澳大利亚现有法律仍可能适用于AI带来的误导陈述、隐私问题、歧视、产品缺陷或未尽合理注意等后果；“使用了AI”本身并不是法律空白。Australian Government: The legal landscape for AI in Australia 具体责任要按事实和适用法律判断，但实务上的起点很清楚：不要把系统当成吸收责任的黑箱。
我的判断：保留三种所有权
一个健康的AI流程需要三种明确所有权。内容所有权：谁确认事实和表达；决定所有权：谁判断输出是否应产生现实作用；系统所有权：谁监控权限、版本、事故和改进。小团队里可能是同一个人，大机构中可能分属不同角色，但三项都不能空缺。
这套划分也避免把所有压力推给普通用户。员工能为自己是否核对负责，却未必能选择供应商、修改保存政策或延长审核时间。管理层必须对这些结构性条件负责。问责不是寻找一个可以责备的人，而是让每项控制都有能采取行动的人。
采用输出前检查清单
- 我是否清楚说明了输出将用于草稿、建议还是最终决定？
- 输入资料是否必要、准确，并且有权提供给该系统？
- 哪些事实已经回到独立来源核对？
- 审核者是否有足够时间、能力和权限推翻AI？
- 受影响者是否需要知道AI参与，并获得解释或申诉途径？
- 是否记录了系统版本、来源、人工修改与批准人？
- 如果结果错误，谁能立即停止、撤销、通知和修复？
- 供应商、本机构、管理者、审核者各自控制什么，又各自负责什么？
结论
AI可以生成内容，却不能替人决定为什么使用、是否有权使用资料、证据是否足够、结果是否应当生效，以及错误怎样被修复。采用AI输出的人和机构仍然拥有选择与控制，因此也保留相应责任。最可信的AI使用不是在页脚写一句免责声明，而是让用途、数据、审核、决定、记录和纠正都有明确的负责人。
相关问题
继续阅读本系列： 《AI可以相信到什么程度？》全部文章
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。