【NLP高频面题-分布式训练】ZeRO1、ZeRO2、ZeRO3分别做了哪些优化？重要性：★★NLPGithub项目：NLP项目实践：fasterai/nlp-project-practice介绍：该仓库围绕着NLP任务模型的设计、训练、优化、部署和应用，分享大模型算法工程师的日常工作和实战经验AI藏经阁：https://gite