AI时代，哪些工作不能被委托？

Geoffrey Chen

《AI进入工作之后》· 第一季“从回答问题到参与工作”· 第十二篇

设想一家机构面对一项困难决定。预算不足，它必须在几个项目之间取舍。AI可以读取历史数据，预测不同方案的效果，列出受影响人群，模拟成本，甚至根据公开政策给出推荐排序。

如果模型分析得比任何个人都全面，管理者是否只需要接受排名？

答案仍然是否定的。不是因为AI一定算错，也不是因为人类直觉天然高贵，而是这项决定包含一个计算无法自行取得的地位：有人必须说明为什么采用这些目标、为什么接受这种风险、为什么让某些人承担损失，并在结果不如预期时负责修正。

AI可以参与形成决定，却不能仅凭能力获得决定权。能力回答“能够怎样做”，授权回答“谁有权这样做”，责任回答“谁承担这样做的后果”。三者不能合并成一个模型分数。

因此，所谓“不能委托的工作”不是一张永远固定的职业清单。许多今天必须由人完成的技术步骤，未来可能被可靠自动化。真正不能整体移交的，是那些使一项行动成为组织或个人承诺的工作。

不能委托，不等于不能使用AI

医生不能把最终诊疗责任简单交给模型，不代表AI不能帮助分析影像、整理病史或发现药物冲突。法官不能让风险评分自动决定自由，不代表统计工具不能提供相关信息。作者不能把准确性和原创性责任交给生成系统，不代表AI不能参与检索、起草和编辑。

必须区分三种关系：

  • 辅助：AI提供材料、分析或候选方案；
  • 程序委托：AI在明确规则和权限内完成步骤；
  • 最终委托：人或组织把决定本身及其理由交给系统。

前两种可以在许多领域扩大。第三种必须受到严格限制，因为AI不能通过一句“建议”自动取得法律、专业或公共权威。

国际医学期刊编辑委员会不把AI工具列为作者，理由不是AI无法生成优秀文字，而是作者资格包含对准确性、完整性和原创性承担责任。ICMJE：《Use of AI by Authors》

这个例子揭示了一条更普遍的原则：某项工作可以包含大量可自动化贡献，但最终身份往往与责任能力连接，而不是与字数、步骤或计算量连接。

第一类不能整体委托的工作：决定目标

AI可以在给定目标下寻找方案，却不能仅凭计算决定组织应当追求什么。

“最大化客户满意度”听起来清楚，但是否允许牺牲员工休息？“减少医院等待时间”是否可以优先处理容易完成的病例？“提高文章访问量”是否允许夸大标题？目标一旦进入系统，就已经包含价值选择和利益分配。

模型可以帮助揭示目标之间的冲突，模拟不同权重，展示谁得到好处、谁承担成本。它甚至可能比管理者更一致地执行选定标准。但标准为什么正当，不能由“系统认为最佳”循环证明。

决定目标的人必须能够听取受到影响者的意见，说明取舍，并在条件变化时修改目标。目标设定可以得到AI辅助，不能由AI自行授权。

第二类：决定什么风险可以由谁承担

同一个错误概率，在不同场景中意义不同。AI把内部会议摘要写错一句，通常可以重做；把药物剂量、付款对象或法律期限写错，后果可能难以撤回。

所以，是否部署AI不能只看平均准确率。还要判断错误落在谁身上、能否发现、是否可逆、有没有补救，以及受影响者是否有选择。

美国国家标准与技术研究院的AI风险管理框架要求组织在实际情境中治理、映射、测量和管理风险，并明确领导层、团队和人机配置中的责任。NIST：《Artificial Intelligence Risk Management Framework 1.0》

模型可以估计风险，却不能代表可能受伤害的人同意承担风险。接受风险是一项组织决定，也可能是一项法律和伦理义务。

第三类：对人的权利作出最终处置

当AI参与招聘、信贷、医疗、教育、福利、执法或司法，结果可能改变机会、收入、治疗和自由。

在这些领域，保留人类角色不能只是设置一个批准按钮。真正的监督者需要理解系统能力和限制，获得相关证据，警惕自动化偏见，有权忽略或推翻输出，并能安全停止系统。欧盟《人工智能法》第14条对高风险系统的人类监督正提出了这类要求。EU AI Act：Article 14—Human oversight

为什么这些工作不能完全委托？一方面，模型可能在群体、边缘案例和新情境中失效；另一方面，权利决定需要程序：当事人应知道理由、补充材料、指出错误并寻求复核。

一个概率输出没有能力听取申诉。组织可以用AI整理证据或发现一致性问题，但必须由有资格、有权限并能够解释和纠错的主体作出最终处置。

第四类：给予同意、宽恕与例外

规则能够处理一般情况，现实却不断出现例外。

一名员工没有按时提交材料，系统可以确认逾期；是否因突发照护责任给予延期，需要判断制度目的与具体处境。一名客户违反自动续约条件，系统可以计算费用；是否在误导或困难情形下减免，需要有人判断关系、公平和声誉。

AI可以寻找类似案例，提醒一致性风险，并指出例外可能被滥用。但给予例外不只是预测过去的人会怎么做。它是在当前情境下承担“这次应当不同”的理由。

同意也一样。AI可以根据日历推测一个人有空，却不能因此接受邀请；可以根据过去偏好推荐医疗方案，却不能替患者同意治疗。人的沉默、历史行为和模型预测都不自动构成当前授权。

第五类：作出公共承诺

签署合同、发布文章、宣布政策、提交财务报表或向客户承诺，都会把某个主体与结果连接起来。

AI可以起草、分析并检查这些内容，但最后必须有自然人或法律实体明确采用。这个步骤不是形式主义。它告诉其他人：如果内容错误，有一个能够被联系、质疑、要求解释和追究的主体。

澳大利亚政府《负责任使用AI政策》2.0版要求适用机构设置负责官员，并为具体AI用例建立责任、登记、影响评估和培训机制。Australian Government：《Policy for the responsible use of AI in government》

这类制度安排的重点，不是要求负责人亲自完成所有技术工作，而是防止公共机构把AI使用变成无人能够完整解释和负责的分散过程。

第六类：决定何时停止使用AI

组织常认真讨论怎样引入AI，却很少预先决定何时应该暂停或退出。

系统可能在上线时有效，后来因数据、用户行为、模型版本或政策环境改变而不再适合。供应商可以更换模型，知识库会积累错误，员工可能逐渐依赖自动建议而失去复核能力。

决定停止需要承认既有投资可能失败，也可能意味着短期效率下降。AI不能自行承担这种组织成本，因此不能独自决定自己仍值得继续使用。

退出条件应在部署前确定：错误率或投诉达到什么程度必须暂停，哪些事件需要重新评估，谁有权停用，旧记录怎样保存，受影响者怎样获得补救。

能够停止，是监督权真实存在的证明。

哪些工作特别适合委托

强调不可委托的部分，不应把人留在所有机械步骤中。

AI特别适合承担具有以下特征的工作：

  • 目标清楚，完成标准可测试；
  • 输入来源明确，所需上下文可控制；
  • 错误容易发现，结果可以撤回；
  • 任务重复，人工劳动主要是搜索、转换或整理；
  • 权限可以被限制在沙盒、草稿或只读环境；
  • 失败不会立即改变他人的权利和重大利益。

例如，生成候选结构、比较文件版本、提取字段、创建测试、整理公开资料和准备草稿，往往可以较多委托。即使如此，任务进入正式系统前仍需要相称验证。

委托的目标不是坚持人做机器也能可靠完成的步骤，而是把人的注意力保留给目标、例外、权利、承诺和补救。

“人类最终负责”必须变成具体结构

这句话经常正确，却过于空泛。

如果人要最终负责，至少要回答：

  • 哪一个人或机构；
  • 对哪一种结果；
  • 在流程的哪个时点；
  • 能看到哪些证据；
  • 有什么停止和推翻权限；
  • 错误后能提供什么补救。

没有这些条件，责任只是事后归责。一个基层员工面对大量AI结果，没有时间和信息，却被要求点击批准，不能算有效承担。真正责任必须与知识、资源和权力相匹配。

OECD的AI原则把人本价值、公平、透明、安全和问责连接起来，并明确指出开发、部署和运行AI的组织与个人应对系统的适当运行负责。OECD.AI：《Accountability》

这并不意味着一个人需要理解模型所有内部计算。现代组织本来就依靠无人掌握全貌的技术和制度工作。但责任人必须理解足以作出决定的证据、限制和后果，并能够调动系统中的其他专业角色。

人的“剩余”不是一项机器永远学不会的技能

讨论AI与人类工作时，人们常试图寻找一项永远属于人的能力：创造力、同理心、直觉、常识或意识。

这种策略并不稳固。AI可能在某些创造任务上表现很好，也能生成具有同理语气的回答。把人的地位建立在一项机器永远做不到的技能上，会随着技术变化不断后退。

更稳定的区别不在能力比赛，而在承诺位置。

一个系统可以产生建议，却不因此成为授权者；可以预测后果，却不因此成为接受风险的人；可以生成道歉，却不因此成为需要补偿受害者的机构。

人的剩余并不是“机器做完以后剩下的杂务”。它是那一个必须说“我们决定这样做，并愿意为理由和后果负责”的位置。

结论：不能委托的是决定的正当性与后果

本季从一个简单区别开始：AI回答问题，与AI进入工作不是同一件事。随后我们看到，AI需要上下文，第一稿需要作者，记忆需要正式记录，研究需要证据判断，生成需要验证，代码需要系统责任，代理需要控制，多人协作需要共同事实，个人AI需要授权。

这些问题最终汇聚到同一条边界：功能可以被广泛委托，责任不能因为功能委托而消失。

AI可以帮助我们定义问题、发现选择、预测风险、起草内容、执行步骤和检查结果。随着能力提高，可以委托的范围还会扩大。但以下工作不能整体交给AI：决定目标、接受风险、处置权利、给予例外、作出公共承诺、承担补救，以及决定何时停止系统。

因此，第一季可以用一句话收束：

AI能够承担越来越多的工作步骤；人和组织仍必须保留对目标、授权、正式采用和后果的最终承诺。

这不是为了在人类与AI之间划出不可改变的能力边界，而是为了让委托本身保持正当。只有当有人能够解释为什么委托、检查委托结果并纠正委托造成的伤害，AI的能力才真正进入工作，而不是让工作进入无人负责的状态。

主要资料

继续阅读：浏览《AI进入工作之后》系列文章

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。