郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布！
Published as a conference paper at ICLR 2022
ABSTRACT
脉冲神经网络（SNN）因其独特的低功耗属性和对神经形态硬件的快速推理而受到广泛关注。作为获得深度SNN的最有效方法，ANN-SNN转换在大规模数据集上取得了与ANN相当的性能。尽管如此，要使SNN的发放率与ANN的激活相匹配，还需要很长的时间。结果，转换后的SNN在短时间步长下遭受严重的性能退化问题，这阻碍了SNN的实际应用。在本文中，我们从理论上分析了ANN-SNN转换误差，并推导了SNN的估计激活函数。然后，我们提出了量化裁剪-向下取整-移位（quantization clip-floor-shift）激活函数来代替源ANN中的ReLU激活函数，这可以更好地逼近SNN的激活函数。我们证明了SNN和ANN之间的期望转换误差为零，使我们能够实现高精度和超低延迟的SNN。我们在CIFAR-10/100和ImageNet数据集上评估了我们的方法，并表明它在精度和时间步长方面都优于最先进的ANN-SNN和直接训练的SNN。据我们所知，这是首次探索超低延迟（4个时间步长）的高性能ANN-SNN转换。代码位于https://github.com/putshua/SNN conversion QCFS。
标签：latency,conversion,转换,neural,SNN,ANN,步长,激活 From： https://www.cnblogs.com/lucifer1997/p/17204630.html