稳健性关心的不是一个结果在理想条件下是否漂亮，而是输入、假设或环境发生合理的小变化时，核心结论还能不能维持。一个模型在测试集上很准确，却因图片稍微压缩就改变判断，它的准确性可能很高，稳健性却不足。
这个概念与正确性不同。一个错误规则也可能始终稳定；稳健只能说明结果不容易被扰动，不能单独证明结果为真。它也不同于韧性。稳健性强调系统在变化中保持功能，韧性更强调受损以后恢复。
因此，稳健性把注意力从一次成功移向可重复的检验。面对 AI 输出、统计结论或日常判断，最有价值的问题往往不是“它这次答对了吗”，而是“如果换一种说法、改一个合理假设，结论是否仍成立”。能经受这种变化的判断，才更值得进入长期知识结构。
https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。