首页 > 其他分享 >机器学习1——感知机

机器学习1——感知机

时间:2024-06-22 21:28:58浏览次数:19  
标签:机器 函数 分类 损失 学习 感知机 实例 超平面

1.感知机干什么?

求出二元分类的分离超平面,将实例划分为正负两类,属于判别模型。

ps:是神经网络和支持向量机的基础。

2.感知机是什么?

其中x是n维特征向量,对应于输入控件的点,输出y表示实例的类别,为+1或-1。

(ps:sign是符号函数

几何解释:

w·x+b=0  —— 对应于特征空间的一个超平面,w为超平面的法向量,b为超平面的截距。

3.感知机怎么学?

定义损失函数然后将其最小化 

感知机的损失函数:

正比于所有误分类点到超平面S的距离: 

任意一点x0到超平面S的距离(貌似初高中讲过):

4.感知机有两种形式

①原始形式

感知机学习算法是误分类驱动的,采用随机梯度下降:

首先,任意选取一个超平面w0,b0。损失函数梯度:

然后,随机选取一个误分类点,对w,b进行更新:

其中,η为步长,也就是学习率。

最后,不断迭代使损失函数不断减小,直到为0。

②对偶形式

基本想法:将w和b表示为实例xi和标记yi的线性组合形式,通过求解其系数儿求得w,b。

 

标签:机器,函数,分类,损失,学习,感知机,实例,超平面
From: https://blog.csdn.net/m0_46699339/article/details/139887659

相关文章

  • spring boot(学习笔记第九课)
    springboot(学习笔记第九课)MyBatis多数据库配置,SpringDataJPA多数据库配置学习内容:MyBatis多数据库配置SpringDataJPA多数据库配置1.MyBatis多数据库配置准备多个数据库,配置数据库连接信息。#databasespring.datasource.one.type=com.alibaba.druid.pool.......
  • 自我激励学习提升语言模型的推理能力
    随着人工智能技术的快速发展,语言模型(LMs)在各种下游任务中展现出了卓越的能力。特别是在少样本(few-shot)和零样本(zero-shot)学习环境中,通过吸收特定任务的指令和示例,这些模型已经引起了广泛关注。然而,要提升模型的推理能力,大规模高质量的训练数据是不可或缺的。由于注释成本高昂,包......
  • 【机器人学】4-1.六自由度机器人动力学-开篇-基础知识
        从现在开始进入机器人动力学。前面的正逆解和雅克比矩阵只是开胃小菜,动力学开始进入微观控制层面,难度也比前面的章节难一些,我打算用3个小结带大家入门机器人动力学。在实际的动力学中,质量分布都是已知的,不需要求解。这一章就先到这里,以上4个基础知识足够......
  • 芝麻清单助力提升学习&工作效率 专注时间完成有效的待办事项
    芝麻清单助力提升学习&工作效率专注时间完成有效的工作。今天我们给大家带来一个专注清单,一个更高效的学习和工作的方法!我们都知道,专注做一个事情,会有效的提升效率,让事情更高效的完成。如果是学习的话,专注去学习效果更加的明显。许多人都不容易做到专注一个事情,我们需要一个......
  • 机器学习相关入门零碎知识
    机器学习的学习先后顺序待补充什么是传统机器学习、深度学习、神经网络待补充传统的机器学习与深度学习区别于场景参考:https://cloud.baidu.com/article/2865348在过去的几十年里,机器学习已经取得了长足的进步,从传统的统计学方法到现在的深度学习,其应用范围越来越广泛。然而......
  • GitHub星标破千!斯坦福大学的284个机器学习小抄(漫画中文版)
    说到人工智能必然要了解机器学习,从信息化软件,到电子商务,然后到高速发展互联网时代,到至今的云计算、大数据等,渗透到我们的生活、工作之中,在互联网的驱动下,人们更清晰的认识和使用数据,不仅仅是数据统计、分析,我们还强调数据挖掘、预测。机器学习就是对计算机一部分数据进行学习,......
  • python学习笔记-10
    面向对象编程-下1.私有化属性语法:两个下划线开头,声明该属性为私有,不能在类的外部被使用或直接访问。使用私有化属性的场景:1.把特定的一个属性隐藏起来,不让类的外部进行直接调用。2.不让属性的值随意改变。3.不让子类继承。classPerson():def__init__(self):......
  • 【学习笔记】使用第三方工具(secureCRT软件)通过console口本地访问访问交换机的详细操作
    一、前期准备1.终端设备(个人电脑)已正确安装,并能成功运行secureCRT软件(本次实验软件为:secureCRT)2.通过console口本地访问则需要准备一根console线(本次实验软console线为:USB转RJ45console调试线)二、操作步骤1、简明步骤说明:简明步骤需要一定基础1.1console线的USB端......
  • 【机器学习】基于Softmax松弛技术的离散数据采样
    1.引言1.1.离散数据采样的意义离散数据采样在深度学习中起着至关重要的作用,它直接影响到模型的性能、泛化能力、训练效率、鲁棒性和解释性。首先,采样方法能够有效地平衡数据集中不同类别的样本数量,使得模型在训练时能够更均衡地学习各个类别的特征,从而避免因数据不平衡导......
  • 【球类识别系统】图像识别Python+卷积神经网络算法+人工智能+深度学习+TensorFlow
    一、介绍球类识别系统,本系统使用Python作为主要编程语言,基于TensorFlow搭建ResNet50卷积神经网络算法模型,通过收集'美式足球','棒球','篮球','台球','保龄球','板球','足球','高尔夫球','曲棍球','冰球','橄榄球',&#......