首页 > 其他分享 >吴恩达机器学习第一课 Supervised Machine Learning Regression and Classification

吴恩达机器学习第一课 Supervised Machine Learning Regression and Classification

时间:2024-06-10 11:33:25浏览次数:17  
标签:学习 吴恩达 函数 1.2 梯度 回归 Machine 第一课 线性

Supervised Machine Learning Regression and Classification

第一周

1.1 机器学习定义

image-20240508111023034

1.2 监督学习

image-20240512110944626

1.2.1回归

在输入输出学习后,然后输入一个没有见过的x输出相应的y

image-20240508111444814 image-20240508111914285

1.2.2 classification

有多个输出

image-20240508112336535

1.3 无监督学习

数据仅仅带有输入x,但不输出标签y,算法需要找到数据中的某种结构。

image-20240512111423884

clustering:将相似的数据点组合在一起

anomaly detection:用于检测异常事件

dimensionality reduction:降维 可以压缩大数据集

2.1 线性回归模型

image-20240512202658988

image-20240512203150655

image-20240512204109296

2.2 代价函数公式

image-20240514110552170

2.3 理解代价函数

image-20240514111116925

image-20240514111736641

image-20240514112046130

image-20240514112215956

image-20240514112430750

image-20240514112609585

2.4 代价函数可视化

image-20240514112943095

image-20240516102726668

image-20240516105519741


3.1 梯度下降

最小化成本函数j

image-20240516110031743

image-20240516110530985

3.2梯度下降的实现

α成为learning rate

如果非常大的话,表示一个非常激进的梯度下降过程

image-20240516112116390

image-20240516112847345

3.3 学习率

image-20240516130756767

到达了最小值之后,这个导数变为0,不会更改,保持这个结果。

image-20240516131411072

3.4 用于线性回归的梯度下降

image-20240516131700910

image-20240516132206892

image-20240516132816057

image-20240516132910456

image-20240516133255588

image-20240516134004017

第二周

1.1 多维特征

image-20240516134720078

image-20240516134940656

image-20240516135234616

1.2向量化

image-20240516140403377

image-20240516141029324

1.3 用于多元线性回归的梯度下降法

image-20240516142320778

image-20240516142553982

2.1 特征缩放

image-20240516143343013

对训练数据进行处理,关键是重新标度x1和x2

image-20240516143757637

image-20240516144223440

image-20240516153743788

image-20240516154006175

2.2 判断梯度下降是否收敛

image-20240516155140990

2.3 如何设置学习率

image-20240516155526555

image-20240516155738735

2.4 特征工程

image-20240516160627360

2.5 多项式回归

image-20240516161113500

第三周

image-20240524162210874

image-20240524162823964

1.1 logistic regression

可用作classification ,实际上是用作解决输出标签

image-20240524163623565

image-20240524163911913

1.2 决策边界

image-20240524164456068

image-20240524164800619

image-20240524165100287

叉号表示y类等于1,小圆圈表示y类等于0

image-20240524165208493

1.3 逻辑回归中的代价函数

image-20240524183157272

image-20240524184147468

平方误差成本函数不适用于逻辑回归

image-20240524184342253

1.4 简化逻辑回归代价函数

image-20240524184913786

image-20240524185134127

1.5 实现梯度下降

image-20240524185423468

image-20240524185651486

线性回归与逻辑回归

1.6 过拟合问题 overfitting

image-20240524191155257

generalization 泛化 准确预测出从来没有见过的案例的能力

image-20240524191535939

1.7 解决过拟合问题

收集更多的训练数据

image-20240524191836154

特征选择

image-20240524192227057

正则化:缩小参数而不必将参数设置为0

可以保留所有的特征

image-20240524192510607

1.8 正则化

image-20240524193345658

image-20240524193724910

image-20240524194032844

1.9 用于线性回归的正则方法

image-20240524195202260

image-20240524195616937

image-20240524195916105

去掉求和符号是因为我们是对Wj求偏导,除了Wj那项其他都消除了

1.10 用于逻辑回归的正则方法

image-20240524200244540

image-20240524200409611

标签:学习,吴恩达,函数,1.2,梯度,回归,Machine,第一课,线性
From: https://www.cnblogs.com/MyBlogForRecord/p/18240517

相关文章

  • 【因果推断】【Introduction to Causal Inference from a Machine Learning Perspecti
    第一章动机:为什么你可能关心1.1辛普森悖论考虑一个纯粹假设的未来,有一种被称为COVID-27的新疾病在人类中流行。在这个纯粹假设的未来,有两种治疗方法已经被开发出来:治疗A和治疗B。治疗B比治疗A更稀缺,因此目前接受治疗A和治疗B的比例大致为73%/27%。在一个只关心最大限度......
  • 成员推理攻击(Membership Inference Attacks Against Machine Learning Models)通俗易懂
    成员推理攻击是一种面向AI模型的数据隐私窃取,攻击者以判断==数据是否来源于AI模型的训练集==为目标,本质上是对未知来源的数据进行==二分类==,给出成员数据或者非成员数据的判定。攻击者训练一个二分类器,该分类器将==目标分类器==预测的数据样本的置信度分数向量作为输入,预测该......
  • qemu 新增 machine
    下面以新增一个新的riscvmachine为例子进行说明新增Machine步骤修改Kconfighw/riscv/Kconfig修改configsconfigs/devices/riscv32-softmmu/default.mak新增Machine的编译文件下面两个文件参考的hw/riscv/sifive_e.c,并修改了一些源码,不然会有冲突,导致编译失败......
  • 吴恩达 机械学习笔记1
    机械学习的两个主要模型:笔记右下角有页码1.监督学习......
  • 算法金 | 吴恩达:机器学习的六个核心算法!
    大侠幸会,在下全网同名「算法金」0基础转AI上岸,多个算法赛Top「日更万日,让更多人享受智能乐趣」人工智能领域的权威吴恩达教授,在其创立的《TheBatch》周报中发表了一篇博文,概述了机器学习领域六种基础算法的历史和重要性。他强调了在这一领域不断学习和更新知识的必要......
  • Quanutm machine learning demos from pennylane
    QubitrotationUsingqubitrotationexampletounderstandbasicsyntaxofpennylane,gradientdescent.Seethislinkformoredetails.importpennylaneasqmlfromjaximportnumpyasnpimportjaximportjaxoptdev1=qml.device("lightning.qubit&qu......
  • 回顾一下计算机第一课
    8086cpu是一个完全16位的处理器,也就是说它的寄存器、内部和外部数据总线都是16位的。它有8个16位的通用寄存器AX,BX,CX,DX,SI,DI,BP,SP。通常计算机都是处理单字节(8位)的数据,如果每次都用16位的寄存器来存储就显得有些浪费,因此为了减少这些浪费,AX,BX,CX,DX这个4个寄存器可以拆成一......
  • Java实战开发第一课-接口设计
    1、协议协议通常采用HTTP查询类接口通常为get或者post(查询条件较少用get,较多用post)还需要确定content-type,参数以哪种数据格式提交,结果通过哪种数据格式响应大多数以json格式响应2、分析请求参数根据请求参数定义模型类3、分析响应结果根据响应结果定义模型类4、使......
  • MachineUnlearn 的一种方法
    MachineUnlearnMethod半白盒攻击LLMunlearning[1][2]可以视为RLHF的替代方案,用于消除LLM的幻觉,删除受版权保护的内容等,也可以视为事后防御策略,用于防止JailBreak在Eraser:JailbreakingDefense[2:1]文章中,作者直观地认为同一个问题的多个答案应当有相似之处......
  • 吴恩达机器学习 week1 一元回归模型的成本函数
    01学习目标    学习建立一元线性回归模型的成本函数02实现工具  (1)代码运行环境       Python语言,Jupyternotebook平台  (2)所需模块       NumPy,Matplotlib,lab_utils_uni      (lab_utils_uni是课程中用于绘制复......