首页 > 其他分享 >全卷积神经网络概述学习记录

全卷积神经网络概述学习记录

时间:2022-11-16 19:37:34浏览次数:52  
标签:分割 预测 卷积 神经网络 概述 输入 FCN


概述

提出背景

卷积操作具有局部连接权值共享的特点,能很好地保留二维数据的空间信息,而池化操作能够很好地满足平移不变性,这在分类任务中非常重要。但是卷积神经网络有一个很大的缺陷,就是网络输入必须指定大小,而且一般只能进行一对一的预测,即一个输入只能得到一个预测结果。但是随着视觉领域的发展,这种预测已经无法满足要求,完成的任务越来越复杂,往往需要的是密集预测,即输入对象中的每一个元素都需要进行预测,这是卷积神经网络无法完成的,而全卷积神经网络就是在这种需求下被提出的。
顾名思义,全卷积神经网络中包含的都是卷积层,根据任务需要可以适当保留池化层,为了完成密集预测,卷积神经网络中的全连接层必须被卷积层替代,这也是全卷积神经网络最大的特点之一。

模型差异

卷积神经网络结构模型:

全卷积神经网络概述学习记录_深度学习


全卷积神经网络结构模型:

全卷积神经网络概述学习记录_卷积_02


最后一步采用上采样来进行像素提升从而使其大小与原图相同

优势:

相较于卷积神经网络,全卷积网络的优势:
由于保留了卷积和池化操作,全卷积神经网络具有卷积神经网络的所
有特点,此外,全卷积神经网络对于输入非常宽容,可以处理任意大小的输入信号。
目前,全卷积神经网络被广泛应用于目标分割、目标检测、目标分类等研究领域,并取得了令人瞩目的成果。

应用:

语义分割

语义分割,即密集分类问题,需要对输入图像中的每个像素点都进行分类来完成目标分割任务,任务最后的输出是一张与原图大小相关的分类结果图,图中每个值对应的是原图中每个点的分类预测结果。由于语义分割能实现各类目标之间的精确分割,因此被广泛应用于自动驾驶、医疗、地理、机器人等研究领域。

FCN语义分割算法是在 2015年提出的,它第一次真正实现了全卷积神经网络在像素级预测任务上的端对端训练。FCN算法通过将原始CNN网络中的全连接层替换为1×1 的卷积层来实现全卷积网络结构。如图 1所示。通过这个操作,FCN可以对图像中的每个像素点都产生一个预测结果,最终输出一个与输入图像大小相关的预测图。

使用11卷积层即为对于一张宽度W,高度H,通道数N的feature map (WHN),通过本层的M个11的filter的卷积之后,会变成一张WHM的feature map,若N>M,其实就是降维了,反之即升维了。

FCN有以下优点:1×1卷积层的使用使网络可以处 理任意大小的输入;基于块的方法需要在重叠块上进行 很多冗余计算,而 FCN中感受野的显著重叠使得网络 在前馈和反馈计算中更加高效。FCN也存在以下缺陷: 首先网络整体规模过大,很难在相关任务上完成端对端训练;其次,由于预测结果由多个下采样后的特征图通 过上采样直接产生,这些特征图太过稀疏,导致分割结果不够精细,缺乏细节信息。FCN通过跳层结构将来自 不同层的特征图进行有效融合能有效提升分割精度。 这是由于 FCN中较深的层能学习到目标的全局特征,而较浅的层则可以捕获目标的大量细节信息,这种信息 的互补对目标分割任务有利。

FCN跳层

简单理解就是把第四层的featuremap考虑进来和最后一层得到的featuremap上采样合并信息再进行上采样。这个结构叫做跳层。


标签:分割,预测,卷积,神经网络,概述,输入,FCN
From: https://blog.51cto.com/u_15876949/5857154

相关文章

  • 卷积神经网络
    博主在之前的学习中接触过卷积神经网络,但仍对其一知半解,今天便趁此学习总结一下。参考视频参考视频:​​从“卷积”、到“图像卷积操作”、再到“卷积神经网络”,“卷积”意义......
  • 卷积神经网络研究综述 学习记录
    概要深度学习善于从原始输入数据中挖掘越来越抽象的特征表示,而这些表示具有良好的泛化能力。深度学习是包含多级非线性变换的层级机器学习方法,深层神经网络是目前的主要形式......
  • Tomcat的概述、部署、及优化
    一、Tomcat概述1.1Tomcat的概念Tomcat是Java语言开发的,服务器是一个免费的开放源代码的Web应用服务器,属于轻量级应用服务器,在中小型系统和并发访问用户不是很多的场合下......
  • Bootstrap概述、快速入门
    Bootstrap概述概念:一个前端开发的框架,Bootstrap,来自Twitter,是目前很受欢迎的前端框架。Bootstrap是基于HTML,CSS,JavaScript的,它简洁灵活,使得Web开发更加快捷框架:一个......
  • CSS概述和CSS_与html结合方式
    CSS概述:css:页面美化和布局控制:1.概念:cascadingstylesheets层叠样式表层叠:多个样式可以作用在同一个html的元秦上,同时生效2.好处∶1.功能强大2.将内容展示和样式控......
  • 实验四:神经网络算法实验
    实验四:神经网络算法实验【实验目的】理解神经网络原理,掌握神经网络前向推理和后向传播方法;掌握神经网络模型的编程实现方法。【实验内容】1.1981年生物学家格若根(W......
  • 实验四:神经网络算法实验
    【实验目的】理解神经网络原理,掌握神经网络前向推理和后向传播方法;掌握神经网络模型的编程实现方法。【实验内容】1.1981年生物学家格若根(W.Grogan)和维什(W.Wirth)发现......
  • python神经网络编程
    计算机系统:输入->(计算)->输出建立模型可以模拟事情的运作神经网络的基本思想:持续细化误差值。大的误差需要大的修正值,小的误差需要小的修正值。尝试得到一个答案,并多......
  • 管理信息系统总复习、第一章(信息系统的概述)
    第一章信息系统的概述1.2信息技术对企业不再重要?企业如何利用IT是关键竞争优势不是来源于IT,而是取决于企业如何利用IT。其中业务流程的变革,很难将管理和组织从一个......
  • 实验四:神经网络算法实验
    【实验目的】理解神经网络原理,掌握神经网络前向推理和后向传播方法;掌握神经网络模型的编程实现方法。【实验内容】1.1981年生物学家格若根(W.Grogan)和维什(W.Wirth)发现了......