首页 > 其他分享 >深度学习概述

深度学习概述

时间:2023-06-21 19:33:02浏览次数:38  
标签:编码器 卷积 网络 学习 概述 深度 网络结构


深度学习概述

1.深度学习定义

深度学习(Deep learning)起源于人工神经网络,它的定义:通过组合低层特征形成更加抽象的高层特征或类别,从而从大量的输入数据中学习有效特征表示,并把这些特征用于分类、回归和信息检索的一种技术。

何谓为深度:网络学习得到的函数中,非线性运算组合水平的数量。

2深度学习与浅层学习的优势:

(1)具有多层非线性映射的深层结构,可以实现复杂函数逼近。

(2)可以通过非监督预训练实现分布式表示,多层映射提取输入的主要结构信息;而单层计算能力有限,则难以实现。

(3)它是对人类大脑皮层的最好模拟。

3.深度学习网络结构主要分为2大类:

第一类是区分型深度网络结构,这类型的深度网络采用有监督的训练,获得给定目标样本下输入的分布情况,经过有监督的训练以实现区分输入类型的目的。典型的网络结构深度神经网络DNN(例如:多层感知器)和卷积网络(CNN)。

第二类是生成型深度网络结构,这类深度网络采用无监督预训练提取数据的高阶相关特性,而无监督预训练的过程可以看作是一个生成模型的过程。典型的网络结构是深度信念网络(DNN)和堆叠自动编码器(SAE)。

还有一些以上两类的混合类:卷积网络和自动编码器结合成卷积自动编码器,限制玻尔兹曼机和卷积网络结合构成卷积深度信念网络。


标签:编码器,卷积,网络,学习,概述,深度,网络结构
From: https://blog.51cto.com/u_13046751/6530902

相关文章

  • 深度学习一些亟待研究问题整理
    亟待研究的一些问题自己整理的问题:1.深度结构是如何对输入进行表达的。2.寻找更好的输入特征向量(需要提取的特征)和更好的深度组合结构;3.比较降噪编码器和RBM在预训练和微调时,预测能力的差别,分析产生的原因。4.分析RBM在无监督训练时如何提取输入数据的特征。5.进一步探索新的网络拓......
  • 深度学习阅读笔记(四)之卷积网络CNN
    卷积神经网络  17.《基于卷积神经网络的木材缺陷识别》(具体应用)(1)主要内容:采用卷积神经网络(CNN)来建立木材缺陷识别系统。详细介绍了CNN网络的基本结构和技术特点。详细介绍了实验CNN网络模型的构件。(2)采用方法:卷积神经网络(CNN)(3)特点:权值共享,下采样,局部感受野(4)优点:卷积神经网络在处......
  • 深度学习论文阅读笔记(三)之深度信念网络DBN
    深度神经网络   12.《受限波尔兹曼机简介》(1)主要内容:主要介绍受限玻尔兹曼机(RBM)的基本模型、学习算法、参数设置、评估方法、变形算法等,探讨了RBM在未来值得研究的方向。(2)RBM的基本模型和学习算法(描述比较清楚):对比散度学习算法(Gibbs采样),(3)RBM参数设置(叙述比较详细):1)小批量数据处理......
  • 深度学习阅读笔记(二)之自动编码器SAD
    一、自动编码器(DAE)   7. 《深度自动编码器的研究与展望》   主要内容:讲述了自动编码器的发展由来。阐述了DAE的基本概念和原理;网络模型的构建和训练方法。并对DAE进行了分类,指出了DAE存在的问题和对DAE未来发展的展望。  (1)自动编码器比传统BP网络的优势:免去了人工提取数据......
  • 深度学习学术论文阅读笔记(一)之经典学术论文阅读笔记
    深度学习算法主要分类三大类:自动编码器,深度神经网络和卷积神经网络。下面是对这三种网络分类进行的初步调研。深度学习6篇非常重要的文章:  1.《Learning multiple layers of representation》 / G E. Hinton(1)主要内容:论述采用多层网络表达(深度学习网络:卷积网络,堆叠自动编......
  • opencv学习笔记(五)
    Sobel算子:Sobel算子是一种常用的图像梯度算子,用于检测图像中的边缘。它基于离散的差分运算,通过计算图像在水平和垂直方向上的梯度来确定边缘的强度和方向。importcv2importnumpyasnp#读取图像image=cv2.imread('input.jpg',cv2.IMREAD_GRAYSCALE)#计算水平方向......
  • MongoDB学习笔记
    MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似json的bson格式,因此可以存......
  • 从实验中学习ResNet模型:在视频处理任务中取得显著进展
    目录引言技术原理及概念实现步骤与流程示例与应用优化与改进结论与展望"从实验中学习ResNet模型:在视频处理任务中取得显著进展"在视频处理任务中,ResNet模型已经取得了显著进展。ResNet模型是一种深度残差块神经网络,它是由ResNet系列模型发展而来的,被广泛用于图像和视频处理领域。在......
  • 【RealSense】深度图和RGB图生成点云
    rgb_depth_2_pointcloud.cpp#include<iostream>#include<pcl/console/print.h>#include<pcl/filters/voxel_grid.h>#include<opencv2/opencv.hpp>#include<pcl/common/io.h>#include<pcl/io/pcd_io.h>#include<pcl/io/p......
  • python代码-基于深度强化学习的微能源网能量管理与优化策略研究 关键词:微能源网;能量管
    python代码-基于深度强化学习的微能源网能量管理与优化策略研究关键词:微能源网;能量管理;深度强化学习;Q-learning;DQN内容::面向多种可再生能源接入的微能源网,提出一种基于深度强化学习的微能源网能量管理与优化方法。该方法使用深度Q网络(deepQnetwork,DQN)对预测负荷、风光等可......