丢弃法是一种降低过拟合的方法,具体过程是在神经网络传播的过程中,随机“沉默”一些节点。这个行为让模型过度贴合训练集的难度更高。
添加丢弃层后,训练速度明显上升,在同样的轮数下测试集的精度提高。如果不加入丢弃层,练习一百多轮也只有0.90左右的测试集正确率。