AI真正进入工作，是从回答问题开始，还是从承担任务开始？

Geoffrey Chen

《AI进入工作之后》· 第一季“从回答问题到参与工作”· 第一篇

设想一名职员正在准备一份供应商评估报告。他可以问AI：“一家公司的财务稳定性通常看哪些指标？”AI给出一份条理清楚的回答，列出现金流、负债率、盈利能力和付款记录。这当然有帮助，但AI还没有真正进入这项工作。它只是在回答一个脱离具体情境的问题。

如果他进一步把三家供应商的报表、采购政策、风险标准和报告模板交给AI，要求它比较数据、标记缺失材料、生成初稿，并在结论旁注明证据来源，情况就不同了。AI产生的已经不是一般知识，而是准备进入真实文件的工作产物。

如果AI还能够登录采购系统、向供应商发出补件通知、修改风险状态或者提交审批，它进入工作的程度又向前跨了一步。此时，一个错误不再只是聊天窗口里的一句话。它可能改变一份档案、触发一次通知，甚至影响真实交易。

这三个场景都叫“使用AI”，实际委托程度却完全不同。第一个场景把AI当作问答工具；第二个把它放进生产流程；第三个则让它参与行动。讨论AI怎样改变工作，如果不先区分这三种位置，就很容易把一次精彩回答误当成可靠的工作能力，也容易把“能够生成”直接说成“能够负责”。

回答问题与完成任务不是同一件事

一个问题通常在收到合适答案时结束。一项任务却包含更长的结构：为什么要做、使用哪些材料、遵守什么规则、产生什么文件、怎样判断完成、谁批准结果，以及错误发生后如何撤回。

“澳大利亚公司注册需要哪些材料？”是一个问题。“根据申请人的实际情况准备公司注册材料，并确认名称、股权、董事资格和申报内容”是一项任务。后者不仅需要知识，还需要正确识别当事人、读取最新规则、处理缺失信息、保持文件一致，并明确谁有权作出法律声明。

同样，“怎样写一封拒绝求职者的邮件？”是一个问题。“根据本次招聘记录向特定候选人发送正式通知”则是一项任务。邮件文字只是工作链的一小部分。候选人是否确已被淘汰、理由能否公开、信息是否发给正确对象、公司是否保留记录，都不可能仅由一段流畅语言解决。

因此，任务至少有五个问题是普通问答没有的：

  1. 状态：工作进行到哪一步，哪些事项已经完成；
  2. 上下文：哪些事实、规则和历史记录适用于这一次任务；
  3. 工具：系统能够读取或改变哪些外部对象；
  4. 完成标准：什么证据能够证明任务正确完成；
  5. 后果：结果被采用以后，谁受到影响，谁负责纠正。

AI真正进入工作，不是因为回答变长，也不是因为语气更像专家，而是因为它的输出开始成为这条工作链中的正式输入。

从聊天工具到工作流参与者

当前讨论常把“工作流”和“AI代理”混在一起。二者需要区分。

在预先规定的工作流中，程序或人员已经决定步骤：先收集材料，再分类，再生成初稿，最后由人批准。模型可以承担其中一个或几个环节，但路线主要由外部流程规定。

AI代理则获得更大的过程选择权。Anthropic在关于可信代理的研究中，把代理概括为能够为完成任务而决定自身过程和工具使用方式的模型，而不是只执行固定脚本。这个定义的重点不是它会不会聊天，而是它能否自行选择下一步行动。Anthropic：《Trustworthy agents in practice》

选择权越大，工作的性质越明显。模型可能先搜索资料，再打开文件，发现缺项后改变计划，调用另一个工具，最后提交结果。它不是只产生一个答案，而是在一段时间内维持目标、状态和行动链。

但“更像在工作”不等于“更值得信任”。行动步骤增加以后，每一步的小错误都可能传给下一步。搜索错了资料，后面的分析会建立在错误材料上；识别错了客户，正确生成的邮件也会发给错误的人；文件路径理解错误，修改本身再精确也可能破坏不应改动的内容。

所以，代理能力带来的核心变化不是“AI终于成为同事”，而是软件开始获得过去只属于操作者的部分过程裁量。裁量增加时，权限、记录、检查点和停止机制也必须同步增加。

生产率研究说明了什么，又没有说明什么

AI确实可以在一些任务上明显提高效率。Noy和Zhang对受过高等教育的专业人员进行实验，让参与者完成职业相关的中等难度写作任务。获得生成式AI帮助的组平均用时减少，外部评审的质量评分也有所提高。研究同时发现，工作时间从粗略起草转向了构思和编辑。Science：《Experimental evidence on the productivity effects of generative artificial intelligence》

另一项对客户服务人员的研究发现，AI辅助提高了每小时解决问题的数量，而且对经验较少的人员帮助更明显。研究者的解释之一，是系统可以从大量既有对话中提取有效做法，再在工作时提供建议。NBER：《Generative AI at Work》

这些研究很重要，因为它们说明AI并非只会制造演示效果。它可以在真实或接近真实的工作任务中重新分配劳动。

但它们也不能证明“AI可以完成知识工作”。写作实验中的任务不要求掌握某家公司的全部历史，也不以严格事实核查为中心；客户服务系统面对的产品和常见问题具有较强重复性。实验测量的是特定工具在特定任务、特定人员和特定时间内的效果。

关于知识工作的另一项现场实验提出“锯齿状技术前沿”：AI在能力范围内的任务上可以提高速度和质量，但在看似相近、实际超出能力范围的任务上，也可能使人更容易得出错误答案。Harvard Business School：《Navigating the Jagged Technological Frontier》

这提醒我们，AI进入工作以后，不能只统计生成了多少文字或节省了多少分钟。还要问：它进入的是哪一种任务？完成标准能否被检查？失败会不会暴露？人在什么时点仍能发现并纠正？

工作没有消失，而是改变了位置

当AI承担初稿、分类或搜索，人类劳动通常从一个位置移到另一个位置。

过去，写报告的人可能把大部分时间用在整理句子。现在，第一稿很快出现，但他需要检查材料是否完整、指标是否适用、结论是否被证据支持。过去，程序员亲手写出每一段代码；现在，代码可能由AI生成，但需求边界、测试设计、架构一致性和上线责任仍然存在。过去，客服人员从头组织回答；现在，系统提出建议，但特殊客户、政策例外和承诺权限仍需判断。

表面上看，人的工作从“做”变成了“检查”。但有效检查并不比生成简单。一个人只有在理解任务、能够获得原始证据、拥有足够时间并有权拒绝结果时，才真正完成复核。如果他只是面对大量AI产物点击“批准”，所谓人工监督只是把自动化结果盖上人的名字。

AI因此制造出四类过去不那么显眼的新工作：

  • 任务设计：把模糊要求变成边界明确、可以完成和验证的任务；
  • 上下文管理：决定模型应看到什么、不应看到什么，以及哪些材料具有权威性；
  • 结果评估：用测试、证据和专业判断区分流畅与正确；
  • 责任控制：决定哪些行动自动执行，哪些必须停下来等待批准。

这些工作不一定都由同一个人完成。在组织中，它们可能分别属于业务人员、技术团队、信息安全人员、合规人员和管理者。这正是AI进入工作后容易被忽视的地方：用户看到的是一个对话框，真实系统却是一组分散的设计和授权决定。

怎样判断AI是否已经进入一项工作

可以用三个层次判断。

第一层是参考。AI提供解释、例子和建议，人可以完全不采用，正式记录也不会自动改变。这仍然接近问答工具。

第二层是生产。AI的输出成为报告、代码、分析或沟通材料的候选版本。它已经参与工作，但必须经过可识别的验证和批准。

第三层是执行。AI能够调用外部工具、改变文件、发出信息、提交交易或触发下一流程。此时必须有最小权限、操作日志、可逆步骤、风险分级和明确的人工检查点。

这三个层次不能只用模型名称区分。同一个模型在一个场景里可能只是参考工具，在另一个场景里却拥有发送邮件或修改数据库的权限。决定风险的不是模型听起来多聪明，而是它在具体系统中的位置。

美国国家标准与技术研究院的生成式AI风险管理框架同样把风险放在完整生命周期中处理，要求组织识别使用情境、测量风险并持续治理，而不是只测试模型的一次回答。NIST：《Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile》

结论：进入工作的标志，是产物获得了制度位置

AI回答一个问题时，它向人提供了可能有用的语言。AI承担一项任务时，它获得了目标、材料、步骤、工具或权限，并产生准备进入真实流程的结果。两者之间的分界，不是回答的长度，也不是模型是否使用了“推理”或“代理”这样的名称。

真正的分界是：

AI的输出是否已经成为工作系统承认的中间产物，或者它的行动是否能够改变系统中的真实状态。

一旦答案是肯定的，组织就不能继续按照普通聊天工具管理它。任务必须有边界，上下文必须有来源，完成必须有证据，行动必须有权限，错误必须可以停止和撤回，最后还必须有人承担采用结果的责任。

AI进入工作并不意味着它成为了法律或道德意义上的工作者。是人和组织把部分工作功能委托给了模型与软件。AI越能独立完成步骤，委托者越不能只问“它能不能做”，而必须进一步回答：“我们怎样知道它已经做对，以及做错以后谁来处理？”

这是从回答问题到参与工作的真正门槛，也是本系列接下来所有文章的出发点。

主要资料

继续阅读：浏览《AI进入工作之后》系列文章

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。