首页 > 其他分享 >深度学习的典型神经网络类型——卷积神经网络(CNN)

深度学习的典型神经网络类型——卷积神经网络(CNN)

时间:2023-12-23 11:34:26浏览次数:27  
标签:卷积 矩阵 特征 神经网络 池化 CNN

1.CNN的定位

CNN属于深度学习中的一类典型神经网络,是一种前馈神经网络,它采用的是SGD(随机梯度下降)算法,它的人工神经元可以相应一部分覆盖范围内的单元,在图像处理方面的表现十分出色。
CNN在模式分类领域,因其避免了对图像的前期的预处理,所以它可以直接输入图像得到结果。

2.CNN的构成

  • 卷积层
  • 池化层
  • 全连接层

3.CNN的核心思想

  • 局部感知

图像的局部感知跟人对外界的感知类似,都是从局部到整体,图像的空间联系也是局部的像素较为紧密,so,只需要神经元对局部进行感知,最后再综合起来;

  • 参数共享

    • 对输入的图片,用一个或多个卷积核来扫描,卷积核自带的参数就是所说的权重w;
    • 同一个卷积核扫描的图层中,每个卷积核使用的同样的参数进行权重的计算(就是内积,后面会讲);
    • 参数共享意味着:每一个卷积核在遍历整个图像的时候,卷积核的参数固定不变,就是每次内积的那个数不变。

4.CNN的核心流程

  • 输入图像,进入卷积层,卷积核(可以看作二维矩阵)开始遍历图像(一个卷积核就提取一个特征),每次和图像上与卷积核矩阵一样大的区域(就是两个矩阵的乘法)进行内积,得到一个矩阵(这个矩阵就是一个特征图);
  • 对特征图池化,就是取矩阵里面最大的数(或者最小的数,平均数等等方式),去某个数作为代表,输出去;
  • 以此类推,用不同的卷积核就有不同的多个特征图,以此类推,不断卷积池化,直到提取完所有特征,就会得到多张特征图;
  • 最后,把所有的特征图拉伸开,得到一个全连接层,然后输出。
    确实文字难以描述,用一个图来理解:

    如图:每一次内积得到一个数,最后把所有数拼成一个矩阵,这个矩阵就是一次卷积得到的特征图,然后进行池化,选出一个代表这个特征图的数,就完成一次卷积池化,然后多个卷积核多次卷积池化:

卷积核的计算:

提取多个特征图,最后全连接:

5.输入三维或更高维张量

输入三维就是输出三维张量,维数输入输出是对应的,如下图输入输出均为三维,卷积池化过程不变,只不过更多次:

6.最后,总结

  • CNN属于一种前馈神经网络,采用的是SGD算法,在图像处理方面的表现十分出色;

  • CNN由卷积层,池化层,全连接层组成;

  • 核心思想:局部感知+参数共享;

  • 核心流程:

    • 对输入的图片,用一个或多个卷积核来扫描,每一次卷积中卷积核的参数固定不变,结束一次卷积进行一次池化,选出最具代表的一个特征;
    • 多次卷积池化,得到多个代表特征,把它们拉伸全连接输出;
  • 拓展到高维:每一层一个结果,最后输出的就是一个三维的立体。

标签:卷积,矩阵,特征,神经网络,池化,CNN
From: https://www.cnblogs.com/cyz666666/p/17922814.html

相关文章

  • 神经网络基础-目录
    神经网络基础(11)机器学习、深度学习模型、模型训练神经网络基础(1)激活函数(1)sigmoid与二元逻辑分类的神经元模型神经网络基础(2)激活函数(2)sigmoid与多分类的神经网络模型神经网络基础(3)激活函数(3)SoftMax与多分类神经网络模型神经网络基础(4)逻辑分类标签与OneHot编码......
  • 神经网络可视化新工具:TorchExplorer
    TorchExplorer是一个交互式探索神经网络的可视化工具,他的主要功能如下:TorchExplorer是一款创新的人工智能工具,专为使用非常规神经网络架构的研究人员设计。可以在本地或者wandb中生成交互式Vega自定义图表,提供网络结构的模块级可视化。在左边的面板可以模块级方式展现神经网络架......
  • 电信行业客户流失预测:KNN、朴素贝叶斯、逻辑回归、LDA/QDA、随机森林、支持向量机、CA
    全文链接:https://tecdat.cn/?p=34635原文出处:拓端数据部落公众号分析师:LingziLu客户流失是一个存在于各个行业的严重问题,这一问题也同样受到众多电信服务提供商的关注——因为获得一个新客户的成本远远超过保留一个老客户的成本。因此,探索可能对客户流失产生重要影响的相关指......
  • pytorch——基于循环神经网络的情感分类
    任务目标基于给定数据集,进行数据预处理,搭建以LSTM为基本单元的模型,以Adam优化器对模型进行训练,使用训练后的模型进行预测并计算预测分类的准确率。数据集信息IMDB数据集是一个对电影评论标注为正向评论与负向评论的数据集,共有25000条文本数据作为训练集,25000条文本数据作为测试......
  • 神经网络优化篇:详解dropout 正则化(Dropout Regularization)
    dropout正则化除了\(L2\)正则化,还有一个非常实用的正则化方法——“Dropout(随机失活)”。假设在训练上图这样的神经网络,它存在过拟合,这就是dropout所要处理的,复制这个神经网络,dropout会遍历网络的每一层,并设置消除神经网络中节点的概率。假设网络中的每一层,每个节点都以抛硬币......
  • BP神经网络思想及其Python实现
    神经网络是一种模拟人类大脑工作方式的计算模型。它由神经元组成,这些神经元相互连接形成网络。每个连接都有一个权重,而神经元则通过激活函数处理输入并生成输出。神经网络可以分为输入层、隐藏层和输出层。在训练过程中,神经网络通过调整权重来学习模式和特征,使其能够进行预测或分......
  • 用深度递归神经网络检测甲基化DNA结合的转录因子
    DetectionoftranscriptionfactorsbindingtomethylatedDNAbydeeprecurrentneuralnetwork关键词:deeprecurrentneuralnetwork;methylatedDNA;transcriptionfactors;tripeptide;tripeptidewordvector作者:HongfeiLi,YueGong,YifengLiu,HaoLin,Guoh......
  • 基于异构图卷积网络的网络威胁情报建模
    基于异构图卷积网络的网络威胁情报建模基本信息题目:CyberThreatIntelligenceModelingBasedonHeterogeneousGraphConvolutionalNetwork来源:USENIXAssociation摘要网络威胁情报(CTI)作为威胁信息的集合,已在工业中广泛用于防御普遍存在的网络攻击。CTI通常被表示......
  • P2 什么是神经网络
    深度学习指的是训练神经网络,有时候规模很大那么神经网络到底是什么???比方说我们现在有这么一张图 这张图叫:  HousingPricePrediction 我们有的数据是六个房子的面积和每平米的单价。我们现在知道了logestic回归模型,我们将数据输入这个模型,会拟合出一条穿过这些数据的......
  • 【Pytorch基础实战】第二节,卷积神经网络
    项目地址https://gitee.com/wxzcch/pytorchbase/tree/master/leason_2源码importtorchfromtorchimportnn,optimfromtorch.autogradimportVariablefromtorch.utils.dataimportDataLoaderfromtorchvisionimportdatasets,transforms#定义一些超参数batch_......