AI时代的判断力 · 第1篇
AI最值得警惕的错误，往往不是明显的胡言乱语，而是一个语言流畅、结构完整、细节丰富，甚至附有引用的错误答案。
表达得自信，不等于事实可靠。语言模型的任务是生成符合语境的内容，它可能在缺少资料时继续补全答案，而不是主动停下来承认“不知道”。这种看似合理却并不真实的内容，通常被称为“幻觉”或“虚构”。美国国家标准与技术研究院将其列为生成式AI的重要风险之一；相关研究也指出，即使模型能力提高，高度自信的错误仍然可能出现。
第一步：先判断答错的后果
如果只是寻找晚餐创意、润色一段文字或讨论旅行灵感，偶尔的错误通常容易发现和纠正。
如果答案涉及医疗、法律、财务、新闻、学术引用、软件安全或重要工作决策，就不能只凭语气判断可信度。错误后果越严重，核查程度就应该越高。
第二步：找出答案中的“可核查部分”
不要一次检查整篇回答。先标出其中能够被证实或证伪的内容：
- 人名、日期和数字
- 法律、政策或产品版本
- 书名、论文和引用
- “研究证明”“专家认为”之类的表述
- 决定最终结论是否成立的关键事实
观点可以讨论，事实必须核实。
第三步：真正打开它提供的来源
AI列出一个来源，并不代表这个来源真实存在；来源存在，也不代表它支持AI的说法。
打开链接后至少检查四件事：
- 作者和机构是谁？
- 页面或文件是否真的存在？
- 发布时间、地区和版本是否适用于当前问题？
- 原文是否直接支持AI的结论？
只看搜索结果摘要或引用标题，通常还不够。
第四步：进行一次独立核对
不要只要求同一个AI“再检查一次”。模型可能只是换一种说法重复原来的错误。
更可靠的方法，是回到政府网站、原始论文、产品官方文档、法律原文或可信数据库。重要问题最好再找一个独立来源确认。
一个可以马上使用的五问检查表
在采纳AI答案之前，问自己：
- 其中最重要的事实是什么？
- 我是否真正打开过原始来源？
- 资料是否已经过期？
- 它是否适用于我的国家、地区和具体情况？
- 如果答案错误，可能造成什么后果？
如果这些问题无法回答，就应把AI的内容视为线索，而不是结论。
AI很适合帮助我们整理问题、发现方向和建立初步结构，但可靠性不应来自它的语气，而应来自一个可以检查、修正和追溯的过程。
参考资料
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。