torchft + TorchTitan으로 300 GPU에서 60초마다 장애 주입 시 학습 효율 81.2%, 15초마다 장애(1,015건) 주입에서도 수렴
torchft + TorchTitan으로 300 GPU에서 60초마다 장애 주입 시 학습 효율 81.2%, 15초마다 장애(1,015건) 주입에서도 수렴. 체크포인트 재로딩 없이 피어 간 가중치 복구
왜 중요한가
체크포인트 기반 복구 패러다임을 대체하는 시도. 스텝을 분산 트랜잭션으로 취급
출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요
공식 발표pytorch.orghttps://pytorch.org/blog/fault-tolerant-llama-training-with-2000-synthetic-failures-every-15-seconds-and-no-checkpoints-on-crusoe-l40s/2026년 35주차에 더한 기록이에요 · 그 주 보기