首页 > 其他分享 >支持向量机

支持向量机

时间:2022-12-25 16:11:20浏览次数:43  
标签:alphas dataMatrix 支持 labelMat np dataMat data 向量

一、简介
支持向量机是一类按监督学习方式对数据进行二元分类的广义线性分类器,其决策边界是对学习样本求解的最大边距超平面。SVM使用铰链损失函数计算经验风险并在求解系统中加入了正则化项以优化结构风险,是一个具有稀疏性和稳健性的分类器。SVM可以通过核方法进行非线性分类,是常见的核学习方法之一。
二、基本思想
1、它是针对线性可分情况进行分析,对于线性不可分的情况,通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分,从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能;
2、它基于结构风险最小化理论之上在特征空间中构建最优超平面,使得学习器得到全局最优化并且在整个样本空间的期望以某个概率满足一定上界。
三、最大间隔与分类
如果一个线性函数能够将样本分开,称这些数据样本是线性可分的。显然不只有这一条直线可以将样本分开,而是有无数条,我们所说的线性可分支持向量机就对应着能将数据正确划分并且间隔最大的直线。在样本空间中寻找一个超平面, 将不同类别的样本分开。它的容忍性好, 鲁棒性高, 泛化能力最强。


寻找最大间隔相当于寻找w和b使得以下式子最大

四、对偶问题
最大间隔问题的拉格朗日乘法
第一步:引入拉格朗日乘子

标签:alphas,dataMatrix,支持,labelMat,np,dataMat,data,向量
From: https://www.cnblogs.com/wzjian/p/16993392.html

相关文章