免费编程教程

模型检查点策略

设计检查点保存频率和内容,结合验证损失最佳点保存、周期性保存和训练中断触发保存。

17 0 0
2026-06-28
训练恢复

学习如何正确恢复包括模型参数、优化器动量和学习率调度器状态在内的完整训练状态。

14 0 0
2026-06-28
容错训练机制

实现训练任务在遇到节点故障、网络中断等问题时能够从保存的检查点恢复,并继续训练。

13 0 0
2026-06-28
梯度累积与检查点

掌握梯度累积以在小 GPU 上模拟大批次训练,结合激活检查点用时间换空间,突破显存限制,保障模型稳定收敛。

64 0 0
2026-06-14