看完这本书终于搞懂了深度学习究竟如何调参！！！
我已将这本大模型书籍免费分享出来，需要的小伙伴可以扫取。
由于深度学习“炼丹”的特性，不同的模型需要不同的超参数，而每个超参数的意义又不同，在不同实验中，参数和调整的方向又都不一样。调参这件事一直以来没有固定的套路
为了破除“迷信”，来自谷歌大脑、哈佛大学的研究人员发布了《深度学习调优指南》书籍，旨在帮助大家解决这一AI领域的老大难问题，这个项目从上线到现在已经收获了25.4K的标星！同时也得到了图灵奖获得者Hinton转推支持！
这份深度学习调参指南包含了四个部分
第一部分主要介绍在你开始一个新项目时，教你如何去选择模型架构、优化器、batch大小，以及参数初始设置等等，里面都有详细的经验指导
第二部分介绍改善模型性能的方法，例如增量调整策略，从最简单的配置开始，逐渐增加可以提升性能的配置，还有设计下一轮实验，确定哪些超参数是有效的、妨碍的和固定的
第三部分是如何确定每次训练运行步数，目标是在获得最好性能的同时避免迭代太多次、训练的时间越长，性能不应该出现下降、通过大量小的实验来获得好的模型，已经如何调节学习率下降的策略
第四部分是介绍训练过程中的其他经验，例如最佳的学习率衰减的策略是什么、我们应该使用那种学习率作为默认值、应该如何调整Adam的超参数等等
这份调参指南包含了大量提升模型性能的详细方法，强烈推荐给大家！分享到这就结束了，希望对你有帮助！
我已将这本大模型书籍免费分享出来，需要的小伙伴可以扫取。