检查点，是把一个尚未完成的过程保存到可恢复的中间状态。长时间训练模型时，系统会定期保存模型参数、优化器状态和进度；机器意外中断后，可以从最近一次检查点继续，而不必全部重来。
检查点的价值不只是“保存了东西”，而是保存了足以重新进入过程的状态。只留下最终输出、日志或几张截图，未必能恢复运行。检查点也不同于备份：备份主要保护数据免于长期丢失，通常保留多个历史版本；检查点首先服务于当前任务的连续性，旧状态可能很快被替换。
检查点越频繁，丢失的进度越少，但保存本身会占用时间和存储。因此它不是消除中断，而是在重做成本与保存成本之间设置恢复位置。生活中的阶段性草稿也有相似作用，但只有在确实保留继续工作所需材料时，才算真正的检查点。
https://docs.aws.amazon.com/eks/latest/best-practices/aiml-compute.html
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。