首页 > 其他分享 >机器学习之相关数学基础

机器学习之相关数学基础

时间:2022-12-01 11:36:43浏览次数:38  
标签:机器 梯度 定理 矩阵 贝叶斯 学习 线性代数 数学 事件

机器学习数学部分常用相关概念:

高等数学

1)函数

2)极限

3)导数

4)极值和最值

5)泰勒级数

6)梯度

7)梯度下降

线性代数

1)基本概念

2)行列式

3)矩阵

4)最小二乘法

5)向量的线性相关性

概率论

1)事件

2)排列组合

3)概率

4)贝叶斯定理

5)概率分布

6)期望和方差

7)参数估计

 

视频学习内容:​点我​

1)P2 概率论与贝叶斯先验

2)P3 矩阵和线性代数

机器学习是一门多领域交叉学科,涉及较多的数学知识,本节课知识之前都有学过,这次根据重点重新梳理一遍,一定要多加重视。通过观看视频,大家对课程的数学基础部分加深印象。

建议大家边看边做笔记,记录要点及所在时间点,以便有必要的时候回看。学习笔记也是作业的一部分。

 

要求

(1)贴上视频学习笔记,要求真实,不要抄袭,可以手写拍照。

1)P2 概率论与贝叶斯先验

  视频中学习的笔记记录(公式)

机器学习之相关数学基础_条件概率

 

机器学习之相关数学基础_线性代数_02

 

机器学习之相关数学基础_条件概率_03

2)P3 矩阵和线性代数

  矩阵和线性代数主要内容有如下几点:

机器学习之相关数学基础_线性代数_04

 

用到的线性代数知识有:

1.方阵的行列式之间的运算

2.代数余子式

3.范德蒙行列式Vandermonde

4.矩阵的乘法

5.矩阵的秩

6.秩与线性方程组的解的关系

7.正交阵

8.特征值和特征向量

9.正定阵

 

(2)用自己的话总结“梯度”,“梯度下降”和“贝叶斯定理”,可以word编辑,可做思维导图,可以手写拍照,要求言简意赅、排版整洁。

简单说在单变量的实值函数的情况,梯度只是导数,或者,对于一个线性代数,也就是线的斜率。

  梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降是最常采用的方法之一。简单说就是从山顶上找一个最快,最陡峭的路线下山

贝叶斯定理:贝叶斯公式是建立在条件概率的基础上寻找事件发生的原因(即大事件A已经发生的条件下,分割中的小事件

机器学习之相关数学基础_条件概率_05

的概率),设

机器学习之相关数学基础_梯度下降_06

是样本空间Ω的一个划分,则对任一事件A(P(A)>0),有贝叶斯定理:

机器学习之相关数学基础_条件概率_07

对于特征集合x,我们想要知道样本在这个特征集合x下属于哪个类别,即求后验概率P(c|x)最大的类标记。这样基于贝叶斯公式,可以得到:

机器学习之相关数学基础_梯度下降_08

  贝叶斯定理是用来描述两个条件概率之间关系的定理,比如P(A|B)和P(B|A),通常,事件A在事件B发生的条件下的概率{P(A|B)}与事件B在事件A的条件下的概率{P(B|A)}是不一样的,但是这两者之间有确定的关系,贝叶斯法则就是这种关系的陈述。



标签:机器,梯度,定理,矩阵,贝叶斯,学习,线性代数,数学,事件
From: https://blog.51cto.com/u_15898395/5901455

相关文章

  • 学习机器学习之了解机器学习与PyCharm环境搭建
    1.python基础的准备本课程拟采用Python做为机器算法应用的实现语言,所以请确保:1)安装好Python开发环境,PyCharm或Anaconda等都可以,按个人习惯喜好。2)基本库的安装,如numpy、......
  • Java进阶学习之反射与动态绑定(5)
    目录1.反射1.1.概述1.2.实现方式1.2.1.获取Class1.2.2.通过反射获取属性、设置属性1.2.3.通过反射获取方法、执行方法1.2.4.通过反射获取构造器并调用2.动态代理2.1.代理模......
  • Java进阶学习之网络编程(4)
    目录1.网络编程概述1.1.目的1.2.常用的网络协议1.2.1.TCP1.2.2.UDP2.Socket网络编程2.1.Socket是什么2.2.Socket工作流程2.3.案例《计算机网络》作为计算机专业的必修课,估......
  • 推荐两本数学方面的书籍《数学要素》和《矩阵力量》
    最近在知乎看到一个话题《线性代数到底应该怎么学?》,有位名叫生姜DrGinger的大佬写了几本相关书。对,你没看错,就是几本,看他的github,应该是7本了,其中两本的草稿已经比较稳定,正......
  • 双目视觉测距原理,数学推导及三维重建资源
    先说一下单/双目的测距原理区别:单目测距原理:先通过图像匹配进行目标识别(各种车型、行人、物体等),再通过目标在图像中的大小去估算目标距离。这就要求在估算距离之前首先对目......
  • cs231n学习笔记——Lecture2 Image Classification
    该博客主要用于个人学习记录,部分内容参考自李飞飞笔记、cs231n计算机视觉课程笔记、图像识别算法(一)、cs231n笔记2—线性分类一、图像识别ImageClassification1、在......
  • 学习随笔-Linux1
    认识[root@localhost~]#在终端上,默认显示了这样的一行内容作为信息提示[root@localhost~]#其中,root代表的是我们当前使用的用户名,localhost代表的是我们当前所在的主......
  • 图解来啦!机器学习工业部署最佳实践!10分钟上手机器学习部署与大规模扩展 ⛵
    ......
  • 小陈学习1
    MakDown学习标题三级标题用#号四级标题  字体Hello.World!用两个**号Hello.World!用三个***号Hello.World!用两个~~号Hello.World!用两个**号引用选......
  • 前端基础学习1
    前端基础学习1一、前端与后端的概念1.前端后端的名词解释?前端:类似于接待员直接与用户打交道到操作界面后端:类似于幕后操作主要负责内的部核心业务逻辑3......