
谈到AI时代人还需要什么能力,人们常说要学会提问,要保留判断力。这两句话有道理,但还没有把事情说清楚。AI本身也能提出问题、推导结论、比较方案,不能简单地把提问和判断全部划归人类。更值得追问的是,我们为什么会提出一个问题,为什么选择这个方向,又根据什么接受一个答案。[1][2]
一个有数学知识的人,看到几个零碎的条件,可能自然地联想到某个结果,想知道它们之间是否存在联系。这个问题来自知识积累,也可能伴随着直觉、联想和长期训练形成的习惯。我们日常提出的大量问题都是这样产生的,并不需要每次都颠覆一个知识体系。
但提问还有更原初的一面。婴儿还没有接受系统教育,就会注意陌生事物,探索不符合预期的现象。这不意味着婴儿毫无知识和经验,却说明探索不必等到掌握一套成熟理论之后才开始。好奇心使一些原本与眼前任务无关的事情,也变得值得了解。[3]
好奇心和知识推演,在实际生活中往往交织在一起。知道得更多,可能发现更多疑问;有了疑问,又愿意继续学习。我们把它们区分开,是为了看清提问包含哪些因素,并不是要给每个问题贴上标签,认定这个来自好奇心,那个来自逻辑。至于AI能否形成与人相近的好奇体验,可以保持开放,不必先解决这个问题,才能讨论今天怎样使用AI。
因此,培养提问能力,不能只教人套用提示词。一个人愿不愿意留意不明白的地方,遇到不符合预期的事情会不会停下来想一想,能不能把眼前的问题与已有知识联系起来,这些都值得培养。已有知识也没有因为AI的出现而变得多余。有时恰恰是因为你懂一点,才看得出答案哪里不对,或者还有什么值得追问。
不过,愿意探索,还不能决定往哪里探索。这里就涉及我们的目的、兴趣和价值取向。
比如,请AI安排一个学琴计划,首先要弄清楚自己想得到什么。是尽快弹下一首曲子,还是理解和声、提高听辨能力,或者只是希望每天有一段愉快的音乐时间?这些目的可以兼有,但轻重不同,问题和计划也会不同。只问“怎样学得最快”,很容易把速度当成唯一标准,而自己最初想学琴的原因,反倒没有进入问题。
我们常说的真假、对错、善恶、美丑,都可以帮助打开提问的方向,但它们不是同一种标准。请AI修改一篇文章,可以问事实有没有依据,推理是否成立,措辞是否公允,表达是否自然。这几种追问分别关心不同的事情。文章写得漂亮,不能证明事实可靠;很有说服力,也不等于对别人公平。我们喜欢一个答案,更不能使它因此成为事实。
所谓更好的提问,往往就是把原先忽略的标准补进来。问过“怎样做得更有效”,还可以追问效果是怎样衡量的,会牺牲什么,会影响谁。AI也能帮助发现这些遗漏,甚至提醒我们,原来的目的之间存在冲突。提问不是一次把任务交代清楚就结束了,它会随着理解加深而改变。
判断也是如此。它并不只发生在AI回答之后。决定问什么时,我们已经在判断什么重要;阅读答案时,要判断依据是否充分、条件是否适用;准备行动时,还要判断自己是否愿意接受相应的代价。一个看起来不错的答案,也可能让我们发现,最初的问题问窄了。
有些工作可以较充分地交给AI。目标明确、结果容易检查、出错后容易修正的计算、比较和初步整理,没有必要坚持全部由人重做。但接受一个具体答案,仍应有相应的根据。涉及事实,就尽量回到原始资料;涉及计算,就检查条件和结果;涉及专业问题,就承认自己可能需要进一步核实。让同一个AI再回答一遍,可以得到另一种表述,却不自动构成独立验证。
而当答案涉及个人选择、审美偏好、对别人的影响和需要承担的责任时,就不能因为AI给了一个推荐,便跳过这些问题。AI可以分析两种表达方式的差别,却不能仅凭“更容易吸引读者”,就替作者确定愿意怎样表达。一个方案可能提高效率,但由谁承受代价、当事人有没有发言权,也必须进入决定。
保留人的判断,并不是假定人永远比AI聪明。人同样会犯错,也应当接受AI提出的反例和提醒。重要的是,参与决定的人要有机会理解、质疑和拒绝,而不是在没有弄清楚的情况下按一下确认,随后承担全部责任。[4]
所以,当我们对学生或AI使用者说“要学会提问、提高判断力”时,还应该把话讲下去。让他们带着已有知识发现疑问,说明自己为什么关心这个问题,分清事实、偏好和价值上的不同要求;拿到答案后,能够检查依据,发现遗漏,也知道什么时候需要另一个人的专业帮助。这样,提问和判断才有可以练习的具体内容。
资料来源
[1] Du, X., Shao, J., & Cardie, C. (2017). Learning to Ask: Neural Question Generation for Reading Comprehension. https://aclanthology.org/P17-1123/
[2] Trinh, T. H., et al. (2024). Solving olympiad geometry without human demonstrations. Nature. https://doi.org/10.1038/s41586-023-06747-5
[3] Stahl, A. E., & Feigenson, L. (2015). Observing the unexpected enhances infants’ learning and exploration. Science. https://doi.org/10.1126/science.aaa3799
[4] Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. https://doi.org/10.3389/frobt.2018.00015
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。