从 PyTorch DDP 到 Accelerate 到 Trainer，轻松掌握分布式训练

概述

本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程，在多个 GPU 上训练同一个模型：

• 使用 pytorch.distributed 模块的原生 PyTorch DDP 模块
• 使用
  标签：Trainer,loss,torch,target,DDP,PyTorch,train,model,data
  From： https://www.cnblogs.com/huggingface/p/17126220.html