https://www.mrdbourke.com/the-unofficial-pytorch-optimization-loop-song/
Unofficial pytorch optimization song:
For an epoch in a range
Call model dot train
Do the forward pass
Calculate the loss
Optimizer zero grad
Lossssss backward
Optimizer step step step
简单的神经网络模型是：前向回馈神经网络（feed-forward）, 其包括以下几层：
输入、多个层次的对输入的回馈以及最终的输出。
简单的神经网络的训练过程包括以下几个步骤：
定义一个包含多个可学习参数（权重）的神经网络；
对输入的数据集进行迭代计算；
通过多层网络结构来处理输入数据；
计算损失值（输出值与目标值的差值）；
反向传播梯度到神经网络的参数中；
根据更新规则来更新网络中的权重值。
训练过程：
测试过程：
模型全过程图：
