[Pytorch 分布式] ring-allreduce 算法(scatter-reduce、allgather)以及 FSDP

猜你喜欢
返回顶部