首页 > 其他分享 >卷积

卷积

时间:2023-12-25 23:46:11浏览次数:38  
标签:输出 卷积 padding 尺寸 aligned 输入

目录

卷积

卷积层的结构参数

**卷积核大小(Kernel Size): **定义卷积操作的感受野。

步幅(Stride): 定义卷积核遍历图像时的步幅大小,默认值常设为1。设置大于1的值后对图像进行下采样,类似于池化操作。

边界扩充(Padding): 定义了网络层处理样本边界的方式。当卷积核大于1且不进行边界扩充,输出尺寸将相应缩小;当卷积核以标准方式进行边界扩充,则输出数据的空间尺寸将与输入相等。

输入与输出通道(Channels): 构建卷积层时需定义输入通道I,并由此确定输出通道O。这样,可算出每个网络层的参数量是I x O x K,其中K为卷积核的参数个数。例如某个网络层有64个大小为3 x 3的卷积核,则对应K值为3 x 3 = 9。

计算公式

\[o=\frac{i+2 p-k}{s}+1 \]

特殊卷积

  • 输出尺寸与输入尺寸相同,这种padding称为same padding,又称half padding。

    其中$ p=k/2
    $, \(k是奇数, k=2n+1\)

    \[\begin{aligned} o & =(i-k)+2 p+1 \\ & =i+2\left\lfloor\frac{k}{2}\right\rfloor-(k-1) \\ & =i+2\left\lfloor\frac{2 n+1}{2}\right\rfloor-(2 n+1-1) \\ & =i+2 n-2 n \\ & =i\end{aligned} \]

  • 输出尺寸比输入尺寸大,这种padding成为full padding。一般的卷积相对于输入大小会减小输出大小,通过适当的零填充可以使输出尺寸大于输入尺寸,这种卷积方法成为全填充。当\(p=k-1\)填充时,输出维度为:

    \[\begin{aligned} o & =i+2(k-1)-k+1 \\ & =i+2(k-1)-(k-1) \\ & =i+(k-1)\end{aligned} \]

卷积的矩阵表示

转置卷积

空洞卷积

可分离卷积

空间可分离卷积

深度可分离卷积

分组卷积

可变形卷积

标签:输出,卷积,padding,尺寸,aligned,输入
From: https://www.cnblogs.com/horolee/p/conv.html

相关文章

  • 深度学习的典型神经网络类型——卷积神经网络(CNN)
    1.CNN的定位CNN属于深度学习中的一类典型神经网络,是一种前馈神经网络,它采用的是SGD(随机梯度下降)算法,它的人工神经元可以相应一部分覆盖范围内的单元,在图像处理方面的表现十分出色。CNN在模式分类领域,因其避免了对图像的前期的预处理,所以它可以直接输入图像得到结果。2.CNN的构......
  • 基于异构图卷积网络的网络威胁情报建模
    基于异构图卷积网络的网络威胁情报建模基本信息题目:CyberThreatIntelligenceModelingBasedonHeterogeneousGraphConvolutionalNetwork来源:USENIXAssociation摘要网络威胁情报(CTI)作为威胁信息的集合,已在工业中广泛用于防御普遍存在的网络攻击。CTI通常被表示......
  • 【Pytorch基础实战】第二节,卷积神经网络
    项目地址https://gitee.com/wxzcch/pytorchbase/tree/master/leason_2源码importtorchfromtorchimportnn,optimfromtorch.autogradimportVariablefromtorch.utils.dataimportDataLoaderfromtorchvisionimportdatasets,transforms#定义一些超参数batch_......
  • 经典卷积神经网络LeNet&AlexNet&VGG
    LeNetLeNet-5是一种经典的卷积神经网络结构,于1998年投入实际使用中。该网络最早应用于手写体字符识别应用中。普遍认为,卷积神经网络的出现开始于LeCun等提出的LeNet网络,可以说LeCun等是CNN的缔造者,而LeNet则是LeCun等创造的CNN经典之作网络结构图由下图所示: LeNet网络总共有......
  • InternImage: Exploring Large-Scale Vision Foundation Models with Deformable Conv
    InternImage:ExploringLarge-ScaleVisionFoundationModelswithDeformableConvolutions*Authors:[[WenhaiWang]],[[JifengDai]],[[ZheChen]],[[ZhenhangHuang]],[[ZhiqiLi]],[[XizhouZhu]],[[XiaoweiHu]],[[TongLu]],[[LeweiLu]],[[HongshengLi]......
  • Deformable ConvNets V2: More Deformable, Better Results 可变形卷积v2
    DeformableConvNetsV2:MoreDeformable,BetterResults*Authors:[[XizhouZhu]],[[HanHu]],[[StephenLin]],[[JifengDai]]DOI:10.1109/CVPR.2019.00953初读印象comment::(可变形卷积v2)增加了可变形卷积的数量、调制因子和额外的用来特征模仿的网络。deformab......
  • Conv2Former: A Simple Transformer-Style ConvNet for Visual Recognition:使用大核卷
    Conv2Former:ASimpleTransformer-StyleConvNetforVisualRecognition*Authors:[[QibinHou]],[[Cheng-ZeLu]],[[Ming-MingCheng]],[[JiashiFeng]]Locallibrary初读印象comment::研究一种更有效的利用卷积编码空间特征的方法,利用卷积调制来简化自注意力操作......
  • deep - glu:卷积神经网络和Bi-LSTM模型的结合,使用ProtBert和手工特征来识别l
    Deepro-Glu:combinationofconvolutionalneuralnetworkandBi-LSTMmodelsusingProtBertandhandcraftedfeaturestoidentifyl会议时间:2022-10-30会议地点:腾讯会议关键词:lysineglutaryation,BERT,deeplearning,proteinlanguagemodels作者:XiaoWang期刊:Bioinform......
  • 基于卷积ARMA滤波器的图神经网络
    PAMI(IEEETransactionsonPatternAnalysisandMachineIntelligence)模式分析与机器智能-2021IF:17.730FilippoMariaBianchiDanieleGrattarolaLorenzoLiviCesareAlippiAbstract​ 流行的图神经网络基于多项式频谱滤波器在图上实现卷积操作。在本......
  • SCConv:用于特征冗余的空间和通道重建卷积
    SCConv:用于特征冗余的空间和通道重建卷积摘要卷积神经网络(CNN)在各种计算机视觉任务中取得了显着的性能,但这是以巨大的计算资源为代价的,部分原因是卷积层提取了冗余特征。最近的工作要么压缩训练有素的大型模型,要么探索精心设计的轻量级模型。在本文中,我们尝试利用特征之间的空间......