首页 > 其他分享 >浅谈深度学习中的概率

浅谈深度学习中的概率

时间:2022-11-18 10:31:56浏览次数:78  
标签:状态 概率 函数 概率分布 离散 深度 随机变量 浅谈

摘要:本次就和大家聊一聊深度学习中的概率。

本文分享自华为云社区《​​【MindSpore易点通】深度学习中的概率​​》,作者: chengxiaoli。

为什么会用到概率呢?因为在深度学习中经常会需要处理随机的数据,或者包含随机性的任务,随机性也来自非常多的方面,所以在存在不确定性的情况下,都需要用到概率。本次就和大家聊一聊深度学习中的概率。

随机变量

首先我们来认识下随机变量。变量我们应该都很熟悉,例如在Python语言中,变量会关联并表示一个固定的值;那么随机变量也很好理解,就是可以随机的表示不同值的变量,例如x1和x2都是随机变量X可能取到的值,这种情况而言,一个随机变量只是对可能状态的描述,并且这个描述必须搭配一个概率分布来表达每个取值的可能性。

随机变量可以可以分为两种情况:连续的和离散的。连续的随机变量伴随着实数值;离散的随机变量拥有有限或者可数无限多的状态,这些状态并不一定是整数形式,也可以是一些被命名的状态而没有数值。这也是连续随机变量和离散随机变量的区别。

概率分布

介绍完了随机变量,那么随机变量如何表示呢?答案是概率分布。概率分布就是用来表示连续随机变量或者离散随机变量其中一段中,每个可能取到的值的可能性大小,描述概率分布的方式也取决于随机变量是连续的还是离散的。下面我们就分析这两种情况下的概率分布。

连续型随机变量:当我们面对的是连续型随机变量时,这时会用到概率密度函数,那么什么是概率密度函数呢,我们假设一个函数P,那么P需要满足以下三个条件。

·p的定义范围必须是X所有可能状态的集合;

·p(x)≥0,但并不一定要p(x)≤1;

·∫p(x)d(x)=1。

连续型随机变量的概率密集型函数p(x)不会直接给出不同状态下的概率,而是通过计算p(x)所在区域面积的值表示概率,因此可以对概率密度函数求积分计算出特定状态下的真实概率质量。x落在集合S中的概率可以通过对这个集合积分得到,那么在单变量的例子中,x落在[a,b]的概率则是∫[a,b]p(x)d(x)。

浅谈深度学习中的概率_概率分布

离散型随机变量:如果我们面对的是离散型变量的概率分布,那么就可以用概率质量函数进行计算,这里用大写P表示。一般每一个随机变量都会有一个不同的概率质量函数,并且必须根据随机变量推断出所使用的概率质量函数。

概率质量函数把随机变量可以取得的每一个值映射到随机变量取得该状态的概率,X=x的概率用P(x)进行表示。

·P(x)=1表示X=x是一定发生的;

·P(x)=0表示X=x是不可能发生的。

概率质量函数可以同时作用在多个随机变量。多个变量的概率分布也可以称为联合概率分布。P(X=x,Y=y)表示的X=x和Y=y同时发生的概率,这也可以简写为P(x,y)。

如果函数P是随机变量X的概率质量函数,函数需要满足以下三个条件。

·P的定义范围必须是X所有可能状态的集合;

·0≤P(x)≤1,不可能发生的事件概率为0,一定发生的概率为1;

·∑P(x)=1,保障某一个状态概率不会大于1。

假设一个离散型随机变量X有k个不同的取值,我们可以假设X属于均匀分布的,也就是取得每一个值的可能性是相同的,因此推断出概率质量函数为:

P(X=xi)=1/k

该函数对所有的i都成立,符合成为概率质量函数的条件。

边缘概率:在我们知道一组变量的联合概率分布,但是想要了解其中一个子集的概率分布。这种定义在子集上的概率分布被称为边缘概率计算。

假设有离散型随机变量x和y,并且我们知道P(x,y),如果我们需要计算P(x),那么可以通过求和的办法进行计算。将X=x时,Y=y1、y2、…yi…yn的概率累加求出来。

总结

本次内容给大家分享了深度学习中的概率,分析了概率的两种分布类型:连续型和离散型,以及两种概率分布函数要满足的条件和计算方法。


点击关注,第一时间了解华为云新鲜技术~

标签:状态,概率,函数,概率分布,离散,深度,随机变量,浅谈
From: https://blog.51cto.com/u_15214399/5867797

相关文章

  • 深度学习提取建筑物矢量
    1、ArcgisPro:​​http://www.sohu.com/a/332473946_650579​​​2、ENVI:​​http://blog.sina.com.cn/s/blog_764b1e9d0102zu33.html​​......
  • 深度解读隐语密态计算设备SPU
    SPU是SecretflowProcessingUnit的简称,它作为隐语平台的密态计算单元,为隐语提供安全计算服务。1.SPU概念理解密态计算单元这个概念听起来比较晦涩,我们用一个实际的例子......
  • 深度操作系统 deepin V23 Alpha 正式发布
    深度操作系统deepinV23Alpha正式发布来源:OSCHINA编辑: 局2022-11-1010:28:00 22深度操作系统V23发布了首个Alpha版本,这是V23的阶段性版本。......
  • LeetCode刷题(9)【树】前序&深度&平衡(C语言)
    ​二叉树的前序遍历144.二叉树的前序遍历-力扣(LeetCode)(leetcode-cn.com)本题中,对于C++或者Java等语言,返回的是它们的数据结构库里面的数据结构,而C语言没有,这也就是如果......
  • 联合概率 边缘概率 条件概率
    联合概率联合概率指的是包含多个条件且所有条件同时成立的概率P(X=a,Y=b)或P(a,b)或P(ab)边缘概率仅与单个随机变量有关的概率称为边缘概率,也可以理解为是将某一项写开......
  • 全排列(深度优先遍历)
    一.代码#include<stdio.h>#include<malloc.h>intn;int*a;int*used;int*path;voidinit(){ printf("请输入n:"); scanf("%d",&n); a=(int*)malloc(sizeof......
  • 深度学习框架中的“自动求导”原理是什么?
        =======================================================  参考:深度学习框架——自动求导......
  • 声网深度学习时序编码器的资源预测实践丨Dev for Dev 专栏
    本文为「DevforDev专栏」系列内容,作者为声网大后端智能运营算法团队算法工程师@黄南薰。随着深度学习技术的发展,编码器的结构在构建神经网络中成为了热门之选,在计算......
  • 某个概率题的一、拓展
    题目链接:[https://codeforces.com/gym/104053/problem/I]有很简单的背包做法,但是本人赛后想了很久一些关于\(\times0\)怎么求逆之类的(无聊问题),本文主要讨论了一下......
  • 浅谈智能DNS云解析(一)-中科三方
    智能DNS云解析通过其智能解析,健康监测,负载均衡,宕机切换等高可用性的功能特性,给客户带来快捷,安全,流畅的上网体验。传统的DNS因为其解析时间冗长,易被劫持,无法精准调配用户的......