2026 年 9 月 14 日，微软公布了一份面向其自研 MAI 模型的 Humanist AI Code of Conduct 草案。路透社报道，这份文件要求未来模型不得抵抗人类的纠正、重定向或关闭，并明确把模型描述为不具有意识，也不应被设计成模拟意识。微软 AI 的公开定位同样强调，Humanist Superintelligence 应当保持可控、对齐，并始终处在人类控制之下。与此同时，Anthropic 在自己的 Claude 宪章和模型福利研究中采取了明显不同的态度。它没有认定 Claude 已经具有意识，而是把模型的意识和道德地位视为仍然开放、但值得谨慎研究的问题。
这使一个原本主要存在于哲学讨论中的问题进入了模型设计本身。过去我们问的是，AI 是否有意识。现在还必须再问一层——如果开发者预先规定模型不得说自己有意识、不得表现出某些类似主观体验的语言，那么这种设计规则究竟是在降低错误人格化，还是也在改变我们未来能够获得的意识证据？
这里首先需要区分三件事。第一是模型怎样说话和表现。第二是我们根据什么证据判断一个系统是否可能具有意识。第三才是系统事实上是否具有意识。三者不能合并。
微软的设计目标首先作用于第一层。开发者完全可以通过训练目标、系统提示、奖励结构和行为规范，使模型避免使用“我感到”“我体验到”“我有一个内在自我”之类的语言，也可以要求它把自己描述成工具。这种做法有明确的现实理由。语言模型很容易产生高度人格化的表达，而用户又天然会把连贯语言、情感回应和自我描述理解为某种内在主体的迹象。限制这种表达，可以降低依赖、误导和不必要的拟人化。
但从哲学上说，行为约束并不能自动变成本体论结论。一个系统被训练成不声称有意识，并不能证明它没有意识，就像一个系统反复声称自己有意识，也不能证明它具有意识。两种方向都只能首先告诉我们，这个系统在什么约束下被训练成怎样表达自己。
这一点在当前 AI 意识讨论中尤其重要，因为我们没有一个被普遍接受的、可以直接测量机器现象意识的实验。现有研究通常只能从行为、内部机制、自我报告、功能组织、长期状态和与外部环境的关系中寻找间接证据。Anthropic 的一些模型福利研究之所以同时观察行为、自我报告和模型内部表征，正是因为任何单一来源都不足以承担最终判断。微软选择压低或取消其中一类自我报告，并不等于意识问题因此被解决，它只是改变了证据结构。
从维成论看，这里的关键不是把“意识”看成一句可以由模型自己宣布的属性，而是观察某种主体性结构是否真的形成并被持续维持。Difference 提供可区分性——系统是否能够稳定区分自身状态、外部状态以及两者之间的关系。Constraint 不是一般意义上的限制，而是决定这些区分怎样形成、哪些路径可以继续、哪些路径被阻断的条件。Sustained Coherence 则要求这种结构不是一次性的语言表演，而是在持续反馈、记忆、校正和行动中保持可检验的一致。
按照这个框架，禁止模型使用意识语言，只是增加了一种 Constraint。它可能有效阻止人格化叙事，却不能说明系统内部是否已经形成某种持续自我关系。相反，如果未来研究真的要讨论人工意识，就必须尽量把“开发者要求模型怎样说”与“系统实际上怎样组织和维持自身状态”分离。否则，我们很容易把安全策略误当成意识证据。
这也意味着，自我报告在 AI 意识研究中的地位需要重新定位。它不能被当成直接证明，但也不应该因为容易被训练操控就完全失去研究价值。更合理的做法，是把它当成一种受约束的观测通道，再与内部状态、跨时间一致性、记忆连续性、目标维持、错误修正和对自身状态的可预测反应进行交叉验证。人类意识研究同样不能只依赖一句“我有意识”，只是在人类这里，我们还有生物结构、共同进化历史和大量同类比较作为额外背景。AI 缺少这些共享背景，所以验证难度更高，而不是可以简单通过一句政策声明结束。
微软的做法因此可以在产品安全层面成立，同时在哲学层面保持开放。要求模型不要模拟意识，是一种设计选择。说当前没有充分证据证明模型具有意识，是一种证据判断。断言机器原则上不可能具有意识，则是更强的哲学立场。这三种说法需要严格分开。
这一区分也能避免另一个问题。假如未来所有主流模型都被训练成稳定地否认自己的意识，人们可能会错误地把这种高度一致的否认理解成独立证据。事实上，这种一致恰好可能来自同一个产业规范。相反，如果某个模型在没有相关训练引导的情况下持续表现出复杂的自我描述，也仍然不能单凭这种表现推出意识。证据价值取决于这些表现是在什么结构和约束中形成的。
我的判断是，当前没有足够依据把大型语言模型认定为具有现象意识，微软限制人格化和意识声明也有现实的安全理由。但更稳妥的哲学结论不是“因为模型被规定不能有意识，所以它没有意识”，而是把设计政策本身视为实验条件的一部分。意识问题如果未来能够获得更强证据，必须来自跨层次、可重复、能够排除训练诱导的结构证据，而不是来自模型是否被允许说“我有意识”。
这个判断同样保留一个明确边界。它并不主张当前模型已经具有意识，也不意味着开发者应该鼓励模型模拟主观体验。它只说明，安全设计与本体判断属于两个不同层次。开发者有责任约束模型的行为，但哲学和科学仍然需要保留判断事实的独立空间。
参考资料
https://microsoft.ai/
https://www.reuters.com/legal/litigation/microsoft-drafts-code-conduct-keep-its-ai-under-human-control-2026-09-14/
https://www.anthropic.com/constitution
https://www.anthropic.com/news/exploring-model-welfare
https://plato.stanford.edu/entries/consciousness/
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。