首页 > 其他分享 >图像分割

图像分割

时间:2023-10-20 11:11:06浏览次数:34  
标签:分割 stuff 语义 thing 实例 全景 图像

2D物体分割

在https://www.cnblogs.com/xiaxuexiaoab/p/17403325.html中提到过,2D物体分割大体可以分为语义分割、实例分割和全景分割,这里对其基本概念进行介绍,并参照一篇综述,按照分割采用的方法不同分为十类。

一、基本概念

语义分割、实例分割和全景分割的区别可以参考下图。

参考资料:Panoptic Segmentation


1.1 stuff和thing

stuff和thing在英文中都表示物体,其主要区别在于stuff不可数,thing可数

在计算机视觉的早期,表示如人、动物、工具等可计数物体的thing受到了主要的关注。2001年阿德尔森提出了研究识别stuff的系统的重要性,stuff主要指类似纹理或材料的无定形区域,如草地、天空、道路。这种thingstuff之间的区分在视觉领域一直持续到今天。

1.2 语义分割

研究stuff通常被定义为一项语义分割任务,即对图片中每个像素分配一个语义标签(类别),但是不区分单个类别中的对象实例。如图b,有汽车,人,道路,树木、交通标志、房屋等,但所有人都归为一类,车也是一样。注意语义分割领域把thing统一作为stuff处理

1.3 实例分割

研究thing通常被定义为一项目标检测或者实例分割任务,实例分割可以理解成目标检测和语义分割的结合,其检测出每个对象的位置,并用分割掩膜(mask)表示每个对象所在区域,同一类别中的不同物体表示为不同的实例。如图c,不同的汽车和人分别被分割成不同的对象。

1.4 全景分割

全景分割任务中同时包含stuff和thing,可以理解成语义分割和实例分割的结合,即每个像素都分配一个语义标签和一个实例ID,语义标签和实例ID都相同的像素认为是属于同一个对象,对于stuff而言实例ID会被忽略。可以参考图d,选择哪个类是stuff还是thing由数据集制作者选择。

和语义分割的关系:全景分割任务格式是语义分割格式的严格概括,实际上,这两个任务都要求为图像中的每个像素分配一个语义标签。如果真实标签未指定实例,或者所有类都是stuff,则任务是相同的(尽管任务指标不同)。此外,如果包含thing类(可能每个图像有多个实例)则可以区分这两个任务。

和实例分割的关系:实例分割任务需要一种对图像中的每个对象实例进行分割的方法,但是它允许重叠的片段,方便全景分割任务仅允许为每个像素分配一个语义标签和一个实例ID。因此,对于全景分割,构造上不可能有任何重叠

测试



二、 按方法划分为十大类

参考综述:Image Segmentation Using Deep Learning: A Survey
这篇综述文献按照分割方法的不同,将图像分割分为以下十大类

2.1 分类

  • 全连接网络 : ParseNet/FCN
  • 卷积+图模型: CRFs / MRFs + 条件随机场
  • 编解码: UNet/VNet(3D)
  • 多尺度: FPN/PSPN(Pyramid Scene Parsing Network)
  • RCNN: Faster RCNN / Mask RCNN
  • 空洞卷积: ENet / DeepLab family/ ASPP(Atrous Spatioal pyramid pooling)
  • RNN: ReSeg(从图像的上下左右四个方向采用RNN) / graph_LSTM / DA_RNNs
  • 注意力机制: RAN / OCNet
  • GAN: 分割 + 对抗网络
  • 轮廓模型: Active Contours Models / DSAC 需要初始轮廓曲线

2.2 2014 ~ 2020 年主要模型

模型按时间划分

三、常见模型

3.1 语义分割模型

UNethttps://arxiv.org/abs/1505.04597


参照上图可以清楚看到,其网络结构呈U字形,先进行下采样,然后再逐步上采样,中间特征通过连接层相结合,实现了特征多尺度融合,其在语义分割应用非常广泛。

3.2 实例分割模型

MaskRCNNhttps://arxiv.org/abs/1703.06870


Yolacthttps://arxiv.org/abs/1912.06218

标签:分割,stuff,语义,thing,实例,全景,图像
From: https://www.cnblogs.com/xiaxuexiaoab/p/17252932.html

相关文章

  • 趋势来袭!大模型时代的文档图像发展与图像安全剖析
    1.前言背景自去年ChatGPT发布之后,各大科技公司纷纷推出了自家的大模型,标志这人类社会正式进入了大模型时代。大模型的发展速度惊人,从最初的只能根据提问生成自然语言文本,到现在可以根据输入文本来绘图,根据输入图像来进行OCR识别,并对文档或图像的内容进行解释。这意味着现在的大模......
  • 大连理工大学——延期博士、结业博士——毕业生图像采集——拍摄毕业生图像总结
    由于种种原因,导致在校期间一直没有参加拍摄毕业生图像,离校后想着总是要弄个结业证回来的,于是就研究起来这个“毕业生图像采集”的事情来。 由于是离校生,所以没法参加学校组织的统一拍照,不过也给出了一条线上的个人拍摄的途径,下面给出操作步骤。  总的来说,分为两步,第一步是......
  • 中国模式识别与计算机视觉大会|多模态模型及图像安全的探索及成果
    前言随着人工智能技术的不断演进,多模态大模型已是当下比较热的研究方向,它可以同时理解和生成多种输入和输出模态,如文本、图像、语音等,能够更好地模拟人类的多感知能力,给文档图像的分析处理带来了新的机遇和挑战!近期,中国模式识别与计算机视觉大会在厦门举办,是国内顶级的模式识别和计......
  • 机器视觉在遥感图像分析中的应用及未来发展。
    机器视觉在遥感图像分析中具有广泛的应用,并且未来发展前景广阔。以下是一些关于该领域的应用和未来发展的关键信息:应用领域:土地利用规划: 机器视觉可用于自动化土地利用规划,通过分析遥感图像中的地物来帮助城市和农村规划师更好地了解土地用途和发展需求。资源管理: 遥感图......
  • 开集分割
    1、2022ECCV_MaskCLIP_ExtractFreeDenseLabelsfromCLIP1.1贡献1.想要保留clip开集能力,imageencoder和textencoder都不能动2.探索CLIP模型细粒度特征表达能力的打开方法2.CLIP模型在不加入参数情况下的开集分割能力,以及提升开集能力的2个trick(KeySmoothingandPromp......
  • 字符按指定个数自动分割实现
    代码:<html><body><inputid="auto_split"/></body><script>document.querySelector('#auto_split').addEventListener('blur',function(){varval=this.value,splitB......
  • 【Python&语义分割】Segment Anything(SAM)模型交互式分割+掩膜保存(三)
    ​我之前分享了SegmentAnything(SAM)模型的基本操作,这篇给大家分享下交互式语义分割代码,可以通过鼠标点击目标物生成对应的掩膜,同时我还加入了掩膜保存的代码。1SegmentAnything介绍1.1概况        MetaAI公司的SegmentAnything模型是一项革命性的技术,该模型能......
  • 树叶识别系统python+Django网页界面+TensorFlow+算法模型+数据集+图像识别分类
    一、介绍树叶识别系统。使用Python作为主要编程语言开发,通过收集常见的6中树叶('广玉兰','杜鹃','梧桐','樟叶','芭蕉','银杏')图片作为数据集,然后使用TensorFlow搭建ResNet50算法网络模型,通过对数据集进行处理后进行模型迭代训练,得到一个识别精度较高的H5模型文件。并基于Dja......
  • 代码随想录算法训练营-动态规划-3-(0-1背包问题)|416. 分割等和子集、1049. 最后一块石
    416.分割等和子集01背包的递推公式为:dp[j]=max(dp[j],dp[j-weight[i]]+value[i]);如果dp[j]==j说明,集合中的子集总和正好可以凑成总和j,理解这一点很重要。1classSolution:2defcanPartition(self,nums:List[int])->bool:3_sum=......
  • 无涯教程-Matplotlib - 图像(Images)
    Matplotlib软件包中的图像模块提供了加载,重新缩放和显示图像所需的功能。Pillow库支持加载图像数据,Matplotlib本机仅支持PNG图像,如果本机读取失败,则下面显示的命令将退回到Pillow上。本示例中使用的图像是PNG文件,但请记住您对自己的数据的Pillow要求。imread()函数用于读取f......