简短答案
适合交给AI的，通常不是某一种职业，而是其中那些目标清楚、输入边界明确、结果容易检查、错误可以撤回的任务。不适合直接交给AI的，是会决定他人权利、造成重大金钱或安全后果、使用高度敏感资料，或者一旦做错便难以恢复的任务。判断标准不应是“AI能不能做”，而应是：做错会怎样、谁能发现、能否撤销、最后由谁负责。
不要按职业分类，要按任务分类
“律师能不能用AI”“教师能不能用AI”这类问题太大。同一个职业内部，风险可能相差几个数量级。律师让AI把已经确认的时间线改成表格，与让AI判断是否应当认罪，不是同一类委托；教师让AI生成十道低风险练习题，与让它独立判定学生是否作弊，也不是同一类委托。
更可靠的做法，是把工作拆成最小的可交付任务：搜集候选资料、改写句子、提取字段、比较版本、生成草稿、排序申请、批准付款、发送通知。拆开以后，才能看见每一步需要什么数据、可能出现什么错误，以及错误怎样传递到下一步。
澳大利亚政府的《Guidance for AI Adoption》明确提醒，同一个AI系统在不同用途下会产生不同风险：用聊天机器人起草营销邮件，与用它评估求职申请，需要完全不同的治理检查。Australian Government: Guidance for AI Adoption—Foundations 这也是为什么“我们公司批准使用某个AI”不是充分答案；批准产品不等于批准所有用途。
用四个问题判断一个任务
第一，结果是否容易验证？如果输出是一段代码，能够用测试和静态检查验证；如果输出是会议日期，可以回到原始邀请核对。相反，“这个人是否值得信任”“这份医疗症状是否危险”并没有一个低成本、即时而可靠的核验器。越难验证，越不能把生成结果当作完成品。
第二，动作是否可逆？生成尚未发送的邮件草稿容易撤回；把邮件发给客户、删除账户、拒绝贷款或转出资金则会改变外部世界。可逆任务允许先试、再检查；不可逆任务必须在动作之前设置真正的批准门槛，而不是事后补救。
第三，输入和输出是否敏感？公开产品说明与匿名示例，和客户病历、未公开财务数字、儿童资料、法律意见或访问密钥不同。即使模型的文字能力相同，数据边界也会改变可接受的工具、账户类型、保存设置和访问权限。
第四，后果由谁承担？如果没有一个具备能力和权限的人愿意为输出签字、解释并纠正，就不应让系统完成这项任务。责任真空常被包装成自动化：每个人都以为下一位会检查，最后没有人真正检查。
把任务分成三个区域
绿色区域适合广泛尝试：头脑风暴、格式转换、非敏感文本的初稿、从已知材料中提取可核对字段、生成测试数据、列出遗漏问题。这里的共同点是输出仍在内部、错误容易看见、使用者有能力修改。
黄色区域适合“AI建议，人类决定”：研究摘要、客户回复、合同条款比较、代码修改、财务分类、会议纪要、招聘材料初筛。黄色不代表禁止，而是需要指定来源、测试样本、复核人、升级条件和记录。审核者必须能接触原始材料，而不能只读AI的摘要。
红色区域不适合由通用生成式AI自主完成：医疗诊断与治疗决定、法律权利的最终判断、雇佣或解雇决定、信用与保险批准、高额或不可逆付款、生产系统的大范围删除、代表个人作出重大承诺。专业系统在严格监管和验证下可能参与这些流程，但“参与”与“拥有最终决定权”不同。
NIST的生成式AI风险框架把“confabulation”定义为系统自信地生成错误或虚假内容，并特别指出这类输出在医疗等后果重大的环境中会带来严重风险。NIST AI 600-1: Generative AI Profile 这并不意味着所有生成式AI都不可用，而是意味着任务分配必须把错误性质纳入设计。
AI擅长草稿，不等于适合决定
生成草稿和作出决定常被界面混在一起。AI可以把候选人的履历整理成统一格式，这是信息转换；根据这些履历自动淘汰某人，是影响机会的决定。AI可以列出病历中出现过的药物，这是提取；它判断哪一种药应停用，则需要临床知识、完整背景和责任制度。
草稿模式让人看到并改变输出；决定模式会让输出进入工作流，影响他人。系统从“给建议”升级为“替你行动”时，风险并不是线性增加，因为一个错误可以被快速、大规模和一致地复制。每天人工写错一封信，与自动向十万人发送同一种错误，并非同一个问题。
高准确率也不能单独决定是否自动化
假设系统在测试中有99%的准确率。若每天处理一百个可撤回的内部分类，剩下一个错误可能容易纠正；若每天处理十万笔付款，1%的错误就是一千笔；若漏掉的那一例涉及生命安全，平均准确率甚至可能掩盖最重要的失败。
因此应同时看错误率、处理量、单次损失、错误是否集中在某些人群，以及发现错误需要多久。还要区分假阳性与假阴性：错误阻止一笔正常付款，与错误放行一笔欺诈付款，后果不同。一个平均分数无法替代具体的损失模型。
先设计复核，再决定是否使用
许多团队先接入AI，最后才问谁来检查。顺序应该倒过来。先定义可接受输出、禁止输出、抽样方法、停止条件和升级路径，再决定模型是否能进入流程。如果没有预算做复核，就没有依据声称AI会节省成本；只是把成本和风险推迟到事故之后。
有效复核不是在页面末尾放一个“确认”按钮。复核人需要足够时间、原始证据、独立判断能力和推翻系统的权限。高风险任务可要求双人批准、与原始数据自动对照、限制单次金额、在沙盒中预演，并保留撤销窗口。
一个实用的任务卡
在采用AI前，为每项任务写一张短卡：任务目标是什么；允许使用哪些数据；输出给谁；最严重的可信错误是什么；怎样检测；谁批准；怎样撤销；何时停止。若这些问题无法回答，说明流程本身还没有定义清楚，不应先用自动化掩盖模糊。
我的判断是，AI最有价值的地方往往不是替人承担判断，而是降低形成判断所需的机械成本：整理材料、提出反例、暴露缺口、生成可比较方案。把省下来的时间用于核验与思考，才可能得到净收益；如果省下来的时间只是让更多未经检查的输出更快流出，所谓效率只是风险吞吐量提高了。
采用前检查清单
- 这是一个完整职位，还是已经拆开的具体任务？
- 输出能否用独立证据或测试快速验证？
- 错误发生后能否完整撤销？
- 是否涉及个人、机密、法律、健康或安全资料？
- 错误率乘以处理量后，会产生多少实际错误？
- 谁具备能力、时间和权限进行复核？
- 哪些动作必须在执行前获得明确批准？
- 出现什么信号时必须自动停止并转交人工？
结论
适合交给AI的任务，通常具有明确边界、可验证结果、可逆动作和清楚责任。越接近权利、安全、重大金钱和不可逆行动，AI越应该从执行者退回到受控的辅助者。最成熟的问题不是“AI能做多少”，而是“在这一步出错时，我们是否仍然看得见、停得住、改得回，并且找得到负责的人”。
相关问题
继续阅读本系列： 《AI可以相信到什么程度？》全部文章
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。