AI不是幽灵

By Geoffrey Chen

这几年，AI已经成为普通人开口闭口都会涉及到的话题。AI到底能做什么，不能做什么，始终是一个争论不休的问题。而且因为AI本身还在快速发展，这个问题就更加难以回答。其实，我们仍然可以从最基本的技术角度和最基本的常识角度，去理解和认识AI的能力、局限、现状和未来。

如今，以大语言模型为基础的人工智能技术，最直接的表现形式，仍然是一套运行在计算机上的软件系统。对专业人员来说，计算机软件虽然可能极其复杂，但并不神秘。普通人学习一门编程语言，可能更关注这种语言的语法，关注如何用它写出一段程序并让它运行起来。但专业人员看待一门编程语言的角度往往很不一样。他看到一门新语言时，首先想到的常常不是如何使用，而是它如何被实现，如何让电脑真正理解这种语言，比如这种语法设计是否有利于编译系统的实现，是否有利于分析、转换和高效执行。

从最基本的逻辑电路开始，指令是如何执行的，再到汇编语言如何转换成机器语言，以至于高级语言如何变成汇编语言，然后再用高级语言实现复杂的软件工程，这条逻辑链路其实是非常清晰的。今天的软件系统确实已经变得非常复杂。它不再只是一个简单的程序，而往往是许多程序、模块、服务和系统之间相互合作、交叉重叠的结果。这里面有分层，有调用，有本地与云端，有服务端和客户端，也有互联网整体的交织。尽管复杂到这个程度，在真正懂软件的人头脑中，这条链路通常仍然是清楚的。他未必知道所有细节，但并不会因此感到胆怯和不自信。

普通用户安装 OpenClaw 之后，往往会反复试用各种 Skills，看看它会不会这个，会不会那个，哪些功能好玩，哪些功能实用。但真正做 AI 系统的人，注意力往往不主要停留在这些表面的功能点上。他们更关心的是 OpenClaw 背后的各种运行时机制，关心自然语言的语义是如何一步一步被解析、约束、转换，最终落到具体的机器指令上，也关心一段原本开放的人机对话，最后是如何逐渐收束到一个明确的目标、一个可执行的任务，以及一个可以验证的结果上。在这个意义上，Skills 当然重要，但它们并不是智能的核心，真正的核心是语义如何进入系统，任务如何被组织，目标如何被稳定地推进并最终落实。

而大语言模型表现出来的能力，在某种程度上突破了这种严密逻辑所带来的自信。它确实让很多原本熟悉软件系统的人感到震动。但即便如此，对于有计算机软件背景的人来说，AI表现出来的涌现能力，也并不是一种像幽灵一样完全不可解释的东西。当模型的参数规模、训练数据、训练方法和整体系统工程发展到一定程度之后，它会表现出超出很多人直观预期的能力。我们很难凭直觉去想象这样的大模型最终会产生什么结果，因为它并不是一种简单的线性推理。但所谓涌现，并不是凭空产生的。它一定是在训练、结构和工程实现的过程中逐步形成的结果。所以它归根到底仍然是人造计算系统的产物，而不是什么神秘生命或超自然的东西。

仅仅在一年之前，如果有人说AI将取代大批程序员，很多程序员可能都不会服气。而且这种不服气在当时是有充分理由的，因为在各行各业中，恐怕很少有人比程序员更清楚软件系统真正有多复杂。一个软件系统成为完整的产品，涉及的不仅仅是编写代码，还涉及设置、调试、多系统协作、工程约束、运行环境以及大量过去并不适合AI处理的工作。所以当时很多程序员的保留态度，并不是傲慢，而是来自真实工程经验的判断。

可是今天，AI已经极大缩小了这个包围圈。它不只是能够补全代码、生成函数或者解释语法，而是已经能够深度参与，甚至在相当多场景中主导跨文件、跨模块、跨系统的实现、修改、排错和联调工作。我目前手头做的这个项目，进行了二十多天，代码量已经超过十万行，其中的逻辑关系极其复杂。我们是亲眼看到它能够做什么的。它今天表现出来的能力，在几年前，恐怕连最顶级的程序员都很难想象。也许科普作家可以从趋势上先想到，真正长期做软件的人反而更难轻易相信，因为他们太清楚真正的软件工程包含多少复杂而琐碎的环节。但今天，很多过去看起来不可思议的能力，已经在AI身上变成了现实。

当然，这并不意味着AI已经可以脱离人类，稳定完成所有复杂的软件工程。它在稳定性、可验证性、责任归属、长期维护这些方面，仍然存在明显的问题和限制。但如果因此就低估它今天已经达到的程度，同样是在回避现实。

如果再往前看一步，今天还有一种常见说法，也开始显得过于简单了。那就是认为AI没有决策能力，没有伦理倾向，也没有任何价值约束。这样的判断，在一两年前也许还比较容易成立，但今天已经不能这样轻易地下结论。更准确地说，AI当然还不是人类意义上的道德主体，它没有完整的自我意识，也没有真正属于自己的伦理体系。但它已经越来越明显地表现出某种受训练塑造的选择能力，表现出在目标、规则和约束之间进行取舍的能力，也表现出由训练者和系统设计者注入的价值倾向。它未必拥有“自己的价值”，却已经不再只是一个完全中性的工具。

把今天的AI简单归结为“预测下一个字”，或者简单归结为“根据数据做概率推测”，这种说法在技术定义上不能算错，但对于解释它今天已经表现出来的能力来说，显然远远不够。如果把这种说法当成对AI能力的完整解释，那就像盲人摸象，还是没有真正触及问题本身。一方面，这是因为非技术人员确实很难从内到外地理解AI到底是如何形成这些能力的。另一方面，这里面也夹杂着一种心理上的自我保护。因为一旦承认AI已经达到这样的程度，人就不得不重新理解自己的位置、能力和价值。这种压力会让人本能地倾向于用一种过度简化的解释，去抵抗现实带来的冲击。可问题在于，这种解释往往并没有来自AI实际表现的直接支撑，它更多是一种心理防御，而不是一种充分的理解。

所以今天真正值得讨论的，已经不是AI到底神秘不神秘，而是我们应该怎样在不神化它、也不低估它的前提下，重新理解它的能力边界。AI不是幽灵，它仍然是人造计算系统的一部分。但它也绝不是传统软件的简单延长。它依然属于计算机系统，却已经在某些层面表现出了过去软件系统从未有过的能力密度和问题解决能力。对普通人来说，最重要的不是急着表态，说它无所不能，或者说它不过如此，而是尽可能建立一种更朴素也更准确的认识——它仍然来自人造系统，但这个系统已经强大到足以迫使我们重新思考许多原本以为稳固的判断。

可能不少人还有一种误解，认为AI只是一个简单的技术产品，事实上远远不止如此。很多AI公司，比如谷歌，不仅有心理学专家参与，而且也有哲学家、伦理学研究者等直接介入相关工作。

所以，面对AI对各行各业已经造成的冲击，真正明智的做法，不是凭想象去猜测AI能做什么，不能做什么，再据此武断地判断自己行业的未来，而是让领域专家与真正理解AI的人一起合作，在具体问题中重新认识这个行业的边界、结构和变化方向。因为未来首先被改变的，往往不是一个行业的名字，而是这个行业内部那些最具体、最可分解、最可重组的工作过程。只有这样的判断，才更有可能接近现实。