Google展示JAX/Pathways训练中TPU故障后可在约两分钟内恢复。
推荐理由：关键不在“恢复训练”本身，而是把单机故障变成可捕获异常，只替换坏worker并从云端检查点续跑，直接降低大规模训练的尾部故障成本。
阅读原文