设计检查点保存频率和内容,结合验证损失最佳点保存、周期性保存和训练中断触发保存。
学习如何正确恢复包括模型参数、优化器动量和学习率调度器状态在内的完整训练状态。
实现训练任务在遇到节点故障、网络中断等问题时能够从保存的检查点恢复,并继续训练。
掌握梯度累积以在小 GPU 上模拟大批次训练,结合激活检查点用时间换空间,突破显存限制,保障模型稳定收敛。