前沿：这部分内容是《AttentionIsAllYouNeed》出来之后就深入研究了这篇文章的模型结构，也是之后工作那一年进行实际落地的一小部分内容。最近再次使用它，顺带读了torch官方的实现，大家风范的实现，注意很多细节，值得我们学习，也顺带放在这，之后就不再了解这块内容了，过去式了。下

【Pytorch】一文向您详细介绍nn.MultiheadAttention()的作用和用法 下滑查看解决方法