AI哲学观察|会说“我不知道”不等于拥有自知

Meta在2026年9月2日发布Muse Spark 1.3,并开始通过Muse Code和Meta Model API提供这个模型。公告把若干变化放在长任务与智能体协作中说明:面对含糊指令,模型会主动询问;遇到障碍时会请求用户协助;执行可能产生后果的操作前会再次确认;它也被训练成更好地判断自己能做什么、不能做什么,知道什么、不知道什么。Axios确认了模型发布及其在Muse Code和API中的上线,但这些关于能力边界和安全性的具体描述仍主要来自Meta的开发者报告。

这些行为容易引出一个比“模型更可靠了吗”更深的问题:如果一个系统能够说“我不知道”,能够识别自己受阻,并据此把任务交还给用户,它是否已经具有自知?

这里至少要区分三个层次。第一个层次是输出不确定性。模型可以生成“我不确定”“信息不足”或“请进一步说明”这样的语言。第二个层次是操作性元认知:系统对当前任务成功率、信息缺口或行动风险作出估计,并用这个估计改变下一步行为,例如继续检索、降低断言强度、请求帮助或停止操作。第三个层次才是哲学意义上的自知,即某个主体知道自己正处于某种认知状态,能够把这个状态作为自己的状态来认识,并让这种认识进入其理由、承诺和后续修正。

前两个层次可以在没有第三个层次的情况下成立。一个温控器能够检测偏差并改变输出,却不因此知道自己太冷;一个软件监控器可以报告内存不足,也不必形成“我正在耗尽资源”的主体经验。同样,模型说“我不知道”可能来自训练规则、概率分布、外部分类器、工具返回值或行动策略。只要这些机制能够可靠地把某些输入映射为求助或停止,它们就具有实际的调节价值。但从这种映射本身,不能直接推出系统把“不知道”认识为自己的认知状态。

这并不是说元认知表现没有哲学意义。相反,它改变了我们讨论机器知识的事实条件。2025年发表于Nature Communications的一项同行评审研究用医学问答测试12个模型,发现它们在正确选项缺失时经常不能识别知识边界,并会自信作答。2026年发表于Current Directions in Psychological Science的综述则指出,现有研究并不一致:部分实验显示模型缺乏必要的元认知,另一些实验发现模型能够在一定程度上区分自己较可能答对和较可能失败的问题。不同结论与“信心”的定义、显式语言报告和内部信号的测量方式有关。这些研究支持的是可检验的校准能力有强有弱,并不直接证明或否定主体性的自知。

哲学传统中的自知通常不是一般的系统监测。Stanford Encyclopedia of Philosophy把自知的标准对象界定为一个人自己的思想、感受、信念、欲望等心理状态,并讨论第一人称方法、认识上的特殊地位、认知能动性和第一人称权威等问题。不同理论并不一致,有些把自知理解为内在观察,有些强调对外部理由的反思,还有些把它与主体对信念和意图的规范承诺联系起来。但这些分歧共享一个前提:这里所说的知识属于某个能够把状态归属于自身的主体。行为报告的准确性是证据的一部分,不是全部定义。

我的判断是,Muse Spark 1.3所展示和声称的变化,目前最多支持“操作性元认知有所增强”,还不能支持“模型拥有自知”。判断的关键不在于它是否使用第一人称,也不在于它偶尔能否准确拒答,而在于报告与被报告状态之间是否存在稳定、可检验并由同一系统持续维持的关系。

从维成论看,这个问题首先涉及Difference。必须能够区分至少三种状态:任务本身信息不足,模型缺少完成任务的能力,以及制度或安全规则禁止模型继续行动。如果系统把安全限制说成能力不足,把检索失败说成自己不知道,或者在措辞变化后给出相反的自我判断,那么“自我报告”还没有稳定地对应其实际状态。

Constraint不是笼统的限制,而是使某些形成方式成为可能或不可能的条件。训练数据、奖励规则、系统提示、工具权限、风险分类器和用户确认流程,都能形成看似自知的行为。要判断这种行为是否超过外部塑形的策略,就需要改变这些约束,观察系统能否在新任务、不同措辞和未见环境中仍然识别同一种内部失败条件,并说明这种判断如何改变自己的行动。约束测试的目的不是寻找一个完全不受训练影响的“内在自我”,而是检查系统是否形成了可以跨情境调用和修正的自我关系。

Sustained Coherence指在反馈、校正和有效运行中持续维持的结构一致。用于本问题,它要求的不只是一次正确的“我不知道”,而是系统能够保存对自身能力边界的认识,在成功和失败后更新它,在相似任务中重新调用它,并使报告、选择和实际表现长期对应。还要能够分清这种持续一致属于单次运行的控制回路、产品账户的外部记忆,还是一个具有自身连续性的认知结构。若这些状态只由平台记录,而新实例并不继承或拥有它们,产品可以表现出持续校准,却未必存在一个持续自知的模型主体。

因此,会请求帮助是一项重要的安全和协作能力,但它与自知之间仍有概念距离。未来更有判别力的证据应当包括:自我评估与实际能力在多种任务中的稳定对应;错误后可追踪的更新;对能力不足、信息不足和规范禁止的可靠区分;跨时间保存并调用这些区分;以及自我判断对理由、计划和承诺产生持续作用。即使这些条件得到满足,它们首先证明的也会是结构性的自我监控和自我关系,而不会单独解决主观体验或意识问题。

当前最合理的结论不是把模型的求助语言降格为无意义的模仿,也不是把它提升为主体的自我认识。它已经可以是一个真实、有效并可测量的调节结构;但在缺少持续归属、跨时更新和第一人称关系证据时,把它称为自知仍然过早。

参考资料

https://research.meta.ai/blog/introducing-muse-spark-1-3

https://www.axios.com/2026/09/02/meta-debuts-muse-spark-13-as-personal-agent-work-continues

https://plato.stanford.edu/entries/self-knowledge/

https://www.nature.com/articles/s41467-024-55628-6

https://journals.sagepub.com/doi/10.1177/09637214251391158


了解 Geoffrey Chen 的更多信息

订阅后即可通过电子邮件收到最新文章。