一个越来越像你的个人AI，什么时候才有权代表你？

Geoffrey Chen

《AI进入工作之后》· 第一季“从回答问题到参与工作”· 第十一篇

设想一个人建立了自己的个人AI。系统读过他的公开文章，熟悉常用概念，知道他偏好的语言和论证方式。读者可以向它询问他的主要观点，它也能根据已有文章给出带有来源的回答。

有一天，一名活动组织者问这个AI：“他是否愿意参加下个月的会议？”系统根据过去记录回答：“他很愿意参加这类讨论，可以把时间暂定在星期五。”

这句话听起来完全像本人会说的话，但AI真的有权作出这个承诺吗？

它可能准确模仿一个人的风格，了解他过去参加过哪些活动，甚至正确预测他大概会同意。然而，相似、预测和授权是三件不同的事。一个系统越像某个人，人们越容易把它的表达误认为本人的当前意愿，也越需要明确它究竟是在介绍、推测、起草还是正式代表。

个人AI最重要的边界，不是“能不能说得像我”，而是“在什么范围内，它的行动可以算作我的行动”。

风格相似不等于身份相同

一个模型可以从大量文字中学习词汇、句式、常见观点和回答习惯。它可能比普通读者更快地找到某位作者过去怎样讨论知识、AI或社会问题。

但这种相似仍然建立在记录上。一个人的思想可能发展，某篇旧文可能已经被修正，私下判断也可能与公开文章不同。AI从过去材料中生成的“最可能回答”，不是这个人在当前情境下实际作出的决定。

即使模仿完全准确，也没有产生身份连续性。录音可以准确保存一个人的声音，签名字体可以被精确复制，但声音和笔迹本身不能证明一次新交易得到授权。

所以，个人AI至少应当区分两种说话方式：

  • “根据他已经发表的文章，可以这样概括他的观点”；
  • “他现在决定接受这个邀请”。

第一种是知识调用，只要来源准确，AI可以提供很大帮助。第二种是现实承诺，需要当事人的当前授权。两者如果使用同一种第一人称语气，读者很难知道边界已经变化。

代表能力可以分成五个层次

第一层是检索与解释。AI帮助读者寻找本人已经公开的作品，概括观点并提供链接。它不创造新的立场，也不代表当前同意。

第二层是私人辅助。AI为本人整理材料、生成候选回答或提醒事项，结果只供本人查看。本人决定是否使用。

第三层是受审查的公开表达。AI起草文章、邮件或回复，经本人明确批准后发布。外部承担者仍是本人，AI是制作工具。

第四层是有限自动通信。AI在预先授权范围内发送确认、预约或常规信息，例如“已收到来信，将在三个工作日内回复”。它可以代表流程，却不应自行形成新的实质立场。

第五层是交易与承诺。AI接受合同、付款、预约、公开立场或其他会改变权利义务的事项。这需要最严格的身份、范围、确认、记录和撤销机制。

系统从第一层走向第五层时，不是只增加能力，而是在增加代表权。代表权不能从语言相似自然推导出来，必须由当事人明确授予。

先证明“是谁”，再证明“有权做什么”

数字身份系统通常区分身份确认、认证和授权。

身份确认回答“这个账户对应谁”；认证回答“当前操作者是否真是该账户的控制者”；授权回答“这个控制者可以执行哪些动作”。美国国家标准与技术研究院的数字身份指南围绕身份核验、认证与联邦身份等机制设置不同保证要求。NIST：《Digital Identity Guidelines》

个人AI还需要第四项：代理披露。收件人不仅要知道消息与哪个人关联，还应知道是本人直接发送、AI起草后批准，还是AI在授权范围内自动发送。

这四项不能互相替代。一个AI确实属于某个人，不代表它有权签订合同；一个系统有权安排日历，不代表它可以阅读全部私人文件；一封邮件通过本人账户发出，也不证明本人逐字看过。

因此，个人AI的授权应当是按任务、对象、时间和后果分割的，而不是一个永久的“代表我”开关。

一个可接受的授权应包含什么

第一是明确范围。允许系统回答已发表观点，不等于允许它推测未公开立场；允许安排空闲时间，不等于允许接受收费活动。

第二是最小权限。系统只应读取完成任务所需的日历、联系人或文章库，而不是因为方便就获得全部邮件、财务和私人资料。

第三是批准门槛。涉及资金、合同、公共立场、敏感关系或不可逆后果时，必须回到本人确认。

第四是时间限制。一次旅行期间的自动安排权限，不应在几年后继续有效。授权需要到期、更新和撤销。

第五是对外说明。对方需要知道正在与个人AI交互，以及自动回复能够承诺什么。系统不应故意让人误以为每句话都由本人即时输入。

第六是行动记录。本人应能查看AI代表自己说了什么、使用什么依据、对方怎样回应，并能及时更正。

第七是停止与恢复。发现越权或误解后，应能立即暂停代理、撤回未生效操作，并向受到影响的人说明。

这些要求看起来像企业治理，其实个人代理越能进入邮件、日历、付款和公共表达，就越需要类似的基本控制。

透明披露不是一句统一免责声明

欧盟《人工智能法》第50条对某些AI交互和生成内容规定透明义务，包括让人知道自己正在与AI系统互动，以及对特定合成内容作出披露。EU AI Act：Article 50

具体适用取决于用途和法律范围，但透明原则对个人AI同样重要。

披露不能只是网站角落写着“可能使用AI”。真正有用的说明应贴近行动：

  • “以下回答根据已发表文章自动生成，并不构成作者的新立场”；
  • “这封邮件由AI起草，已经本人审阅”；
  • “这是自动预约助手，只能建议时间，最终安排需确认”；
  • “本次确认由代理在预先授权范围内发送”。

不同说明表达不同责任状态。把所有情况统称“AI辅助”，会掩盖从文字润色到自动承诺之间的巨大差异。

来源证明能够解决什么，不能解决什么

数字内容可以附带来源与编辑记录。C2PA的内容凭证规范提供一种把可验证来源信息附着在数字资产上的方法，使人能够检查内容如何生成或修改。C2PA：《Content Credentials Explainer》

这种机制有助于回答“这份内容来自哪个系统、经历了什么处理”。但C2PA规范本身也不对内容真假作价值判断。来源可验证，不等于主张正确；与某个人关联，也不等于得到当前授权。C2PA：《Content Credentials Technical Specification》

个人AI因此需要两条证据链：内容来源链与授权链。前者说明文字或媒体怎样产生，后者说明系统为什么有权在这一场景代表当事人行动。

越像本人，越要保护差异

个人AI的价值之一，是让思想和工作方式更容易被调用。它可以帮助读者进入大量旧文，帮助本人保持表达一致，也能在重复沟通中节省时间。

但系统越能模仿第一人称，人们越容易忘记它仍是根据过去材料和当前指令生成结果。个人AI如果想建立长期信任，不应努力消除自己与本人的所有差异，而应在关键位置主动保护差异。

它应能说“我没有足够资料判断他现在怎样想”“这需要本人确认”“以下只是根据旧文作出的推断”。这种拒绝不会削弱个人AI，反而说明它理解自己的代表边界。

隐私同样重要。为了更像本人而无限吸收私人邮件、健康资料和关系记录，会扩大泄露、误推断和未来滥用风险。NIST隐私框架强调从数据处理活动本身识别和管理隐私风险，而不是只在泄露发生后补救。NIST：《Privacy Framework》

个人AI不需要知道一个人的全部生活，才能在某个明确领域提供帮助。

结论：代表权来自授权，不来自相似度

个人AI可以成为作品导航者、知识助手、写作协作者、日程代理，甚至在严格控制下完成部分交易。它越了解一个人，越可能提供连贯而有价值的服务。

但“像我”只说明模型能够重现某些表达和判断模式；“代表我”意味着系统的行动可以产生由我承担的现实后果。两者之间必须有明确授权。

因此，一项基本原则是：

个人AI可以依据已有材料解释一个人，但只有在身份可验证、权限有范围、行动可追溯、重要后果经确认并且对方知道正在与代理互动时，才可以有限地代表一个人。

最成熟的个人AI，不是让外界永远分不清它与本人，而是准确知道什么时候可以回答，什么时候只能提出草稿，什么时候必须把决定交还本人。

它真正需要学习的，不只是一个人怎样说话，还有一个人的哪些话从来不能由它自行说出。

主要资料

继续阅读：浏览《AI进入工作之后》系列文章

了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。