AI时代的判断力 · 第6篇
直接问“你确定吗?”通常没有多大帮助。模型可能把原答案换一种更谨慎的语气,却没有增加任何证据。要让不确定性变得有用,需要要求它指出不知道什么、为什么不知道,以及什么资料能够改变判断。
把一个问题改写成四个输出
| 不要只问 | 改为要求 |
|---|---|
| “答案是什么?” | 给出答案,并列出依赖的三个关键事实。 |
| “你有多大把握?” | 分别说明哪些部分有直接来源、哪些是推断。 |
| “你确定吗?” | 列出最可能出错的地方和一个替代解释。 |
| “再检查一次。” | 说明需要查阅什么外部资料才能验证。 |
数字置信度为何容易误导
模型说“90%确定”不一定来自经过校准的概率计算,常常只是语言表达。除非系统明确说明置信度的测量方法,否则应把百分比看成一种提示,而不是统计保证。更实用的是让它区分“已知、推断、未知”。
试试这条提示
请把回答分为:有来源支持的事实、基于事实的推断、目前缺少的信息、可能改变结论的证据。不要为了完整而猜测。
表达不确定性不会自动使答案正确,但它能暴露核查工作的入口。好的回答不是没有空白,而是让你看见空白在哪里。
参考资料
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。