Tag: 前沿智能 – AI Frontiers

Artificial Intelligence

AI与教育的思考：幻觉与跃迁之间 Comments and Reflections on AI and Education

下面是我针对网友在一次对话节目中就有关AI和教育的问题发表的观点所做出的一些评论和想法。 当人们谈论人工智能（AI）时，首先想到的往往是“写作文”这一应用场景。确实，这是目前AI的一个重要应用方面，但它远不是全部，甚至只是AI众多应用中非常小的一个领域。更值得关注的是，许多人对AI的理解存在偏差。他们往往误以为AI已经具备逻辑推理能力，而事实上，AI目前并不具备真正的推理功能，它只是在“表示层”看起来像会推理，本质上仍处于“伪推理”的阶段。 在我看来，青少年在成长发育的过程中，更应及早地与AI共同成长。回想过去，有段时间批评学生“五谷不分”，于是让他们到农村去学农。可问题是，为什么一定要非得分清五谷？这反映出教育思维的某种局限。 中国从小学到大学，甚至博士教育，普遍采用“批发式”模式。这种模式让教师难以真正了解自己的学生，结果导致我们今天难以分辨一篇文章究竟是学生写的还是AI生成的。这不是AI的问题，而是教育方式的问题。 就像学中文的学生，若懂些书法，自然更好，能写毛笔字当然加分；但即使不会，也不妨碍他写文章。写字和写文章毕竟是两回事。在信息爆炸、知识膨胀的今天，一个人的知识结构和能力结构所能涵盖的范围是极其有限的。因此，在AI时代，对孩子的培养内容应当大胆更新和有选择地舍弃。对此，我非常赞同那位于老师的观点。 现在，ChatGPT已经逐渐成为用户的“外脑”。我们不再需要将所有知识都储存在自己的大脑中。未来的人机关系将发生革命性的突破。由此可见，评价AI不能局限于某一具体的应用场景——这是人类进化至今最为震撼的一次智力跃迁。 技术进步的总体趋势，是在解放人类的同时，也伴随着某些生物能力的退化。例如，尽管百米世界纪录不断被打破，但这主要得益于竞技机制对小概率事件的捕获，而人类整体的平均奔跑速度实际上是在下降的。再比如，人类寿命的显著延长，主要是由于工业化以来，饥荒减少、医疗和营养改善带来的结果，而非人类生理机能的增强。恰恰相反，人类的生物体机能比过去更脆弱，一场疫情就能造成上千万人的死亡。技术过去主要解放的是人的四肢，如今开始“动手”于人的大脑了。 我非常赞同卢老师在发言中所强调的“爱的教育”。这种思维方式正体现了一种“out of the box thinking”，即跳出传统框架的思维。 然而令人遗憾的是，以Geoffrey Hinton为代表的“连接主义”AI派系，似乎并不承认人类具有自由意志。他们相信，大语言模型的发展方向终将完全取代人脑。对此我无力全面否定，但我始终倾向于相信：人类总有一些东西是机器无法替代的。 正如我前面所提到的，人们对AI的另一种误解，是误以为它具有人类的情感能力。这其实是一种幻觉。AI在表现层面上似乎拥有情感，但它本身既无感情，也无自由意志，更没有自我价值观。它所表现出的能力，不过是一种“魔术效果”。讽刺的是，现实中并非所有人都具备这些能力，于是便常出现“真人不如机器智能”的现象。 The following are some of … More

《思考，快与慢》阅读笔记/Reading Notes on Thinking, Fast and Slow

《思考，快与慢》（Thinking, Fast and Slow）是诺贝尔经济学奖得主丹尼尔·卡尼曼的代表作，系统总结了他与阿莫斯·特沃斯基合作多年在行为经济学和认知心理学方面的研究成果。这本书揭示了人类思维由两个系统组成：系统1是快速、直觉性的思维，能够迅速做出判断，比如识别面孔、回避危险或完成简单计算，但它容易受到偏见、情绪和先入为主观念的影响；系统2则是慢速、逻辑性的思维，负责深思熟虑、理性分析和复杂决策，虽然更加可靠，但消耗更多认知资源，不易持续。 卡尼曼进一步指出，人们在面对不确定问题时，常使用所谓的“启发式”或“思维捷径”，这虽然可以快速应对复杂情境，但也会导致系统性错误，如锚定效应、可得性偏差等。此外，他还讨论了人类的过度自信现象，即我们往往高估自己判断未来的能力，低估偶然性和不可控因素的作用。在风险和选择方面，卡尼曼提出了著名的“前景理论”，说明人们对损失的敏感远大于对收益的期待，这种“损失厌恶”使我们在面对风险时往往表现出非理性行为。 书中最后还区分了“体验自我”和“记忆自我”这两个层面：前者关注当下的感受，后者则负责回忆与评估过去的经历。令人意外的是，我们对生活是否幸福的判断，往往由记忆自我主导，而不是当时真实的体验。 总的来说，这本书用丰富的研究和大量生活中的例子，挑战了我们对理性决策的传统看法。它不仅帮助我们识别日常思维中的偏误，也提供了改进判断和决策的方法，是一本兼具科学性与实用性的心理学与经济学经典著作。 这本书我读的是英文版，阅读速度比较慢，前后持续了将近三个月。不过，这样的节奏也让我有了更多回味和深入思考的机会。由于我之前读过有关进化论的书籍，对这本书的基本观点总体是认可的。甚至其中提到的一些内容，在阅读之前我就已经有过类似的想法。 我的基本看法是：人之所以具备逻辑和直觉这两种思维能力，本质上是为了帮助大脑节省能量，并提升即时反应的效率。事实上，现在人工智能领域的大语言模型在某种程度上也像一个黑箱，它所涌现出的某些能力超出了开发者的预期，从表现上看，很像是一种“直觉”能力。 因为我一直在思考相关问题，特别是心灵哲学中关于意识的本质和自由意志来源等核心议题，而这些内容与本书讨论的主题息息相关，所以我读得格外缓慢。这本书也由此引发了一连串深度的思考，并延伸到许多其他相关的书目上。 另外，我还有两个问题想进一步探讨，但由于精力有限，无法进行深入的专业研究，只能留待平时慢慢思考。第一个问题是：我们是如何在两种思维模式之间自动切换的？这一机制我至今还没有完全理解。 第二个问题更引人深思：我们的逻辑思考过程，很可能并非完全建立在纯粹理性的基础上。哲学家休谟认为因果关系不是理性推理的产物，而是心理习惯的结果。这就意味着，即使是‘慢思考’的结果，也可能受到非理性因素的影响，因此其理性可靠性仍需进一步审视。慢思考不一定比快思考更可靠｡ Thinking, Fast and Slow is a landmark work … More

《神经的逻辑》阅读笔记/Reading Notes on The Neurologic

我读的是这本书的中文版。有一次回国逛书店时偶然发现它，书名立刻引起了我的兴趣。神经属于生物系统，逻辑则归于意识系统，而这两者之间错综复杂的关系，正是我长期以来关注和好奇的主题。 该书作者是塔夫茨大学医学博士，耶鲁-纽黑文医院住院神经科医生，具有神经科学和哲学的学术背景。这种夸学科背景的专家写的东西读起来特别过瘾。直击我的兴趣点，也是一直想搞清楚的痛点。 这本书通过大量神经科学研究与真实案例，揭示了人类许多看似理性的行为实际上是大脑在我们无意识中做出的决定。我们所谓的自由意志，很可能只是一种大脑加工后的幻觉，大脑早在我们意识到之前就已启动行动。我们习惯为自己的行为找理由，是因为大脑有一套“解释系统”，会将杂乱的感觉和行为编织成连贯的故事，即便这个故事并不真实。作者还通过分析神经疾病患者的思维和行为变化，指出正常人思维中的脆弱性，说明我们所谓的理性决策，常常只是被情绪、习惯和脑区功能所影响的“神经逻辑”。这本书挑战了人类理性与自由意志的传统观念，让我们重新思考“为什么我们会这样做”。 很多年前带老婆孩子去蛇口玩，那里有一条大船叫“海上世界”，其实早就不在海上了，因为填海把它填在了陆地中间，也就是说那条船是没有办法移动的。“海上世界”旁边还有招商银行等几栋几十层高的大楼。很多年前我们去那里玩过，可是这次去那里，老婆说这条船的方向改变了，东西方向相反了。我说这条船都被埋在陆地上了，不可能改变方向，应该是你自己迷失方向了。这条船的北边那栋大楼以前就在那里，现在还在那里。可是她争辩说那栋楼的方向也变了，应该是拆了重建的。我的天哪，她宁愿认为那栋几十层的高楼拆了重建、这条陆地上的大船被架起来掉转方向了，也不承认是自己搞错了方向。这就是神经的逻辑在控制她的大脑。儿子本能地会维护母亲，所以也和她妈妈站在一条战线上，二比一，我只能甘拜下风。 那次游玩很不愉快，我要是早一点读到这本书就好了。她们并不是故意不讲理，而是不知道自己不讲理。再结合昨天介绍的《情绪的起源》这本书，所以千万不要和女人讲道理。 神经科学、心理学和哲学，帮我们在一定程度上解开了困扰人生的许多谜团。人类既是理性的也是感性的，所以在振振有词地讲理的时候，别忘了神经和情绪也有它们自己的“逻辑”。 神经逻辑的例子还有很多。比如很多人都有这样的经验，明明是第一次到某个地方，却好像以前来过这里。相信读了《神经的逻辑》这本书就可以理解为什么会有这种现象。 写到这里突然又想起了另外一本书，《思考，快与慢》，讲的是另外两种思维模式之间的切换，下回分解。 I read the Chinese edition of this book. I came across it … More

【与AI对话】

斯宾诺沙与康德的哲学观点在神与自然、自由意志及伦理学上存在显著差异。新生物学视角促使重新审视传统哲学问题，强调理性与感官的互动关系。