1 什么是朴素贝叶斯算法
2 概率基础
2.1 概率(Probability)定义
概率定义为一件事情发生的可能性
扔出一个硬币,结果头像朝上
某天是晴天
P(X) : 取值在[0, 1]
2.2 女神是否喜欢计算案例
在讲这两个概率之前我们通过一个例子,来计算一些结果:
问题:一直小明是产品经理,体重超重,问她会不会别女神喜欢(二分类问题)
1、女神喜欢的概率?
p(4/7)
2、职业是程序员并且体型匀称的概率?
p(程序员,匀称)=1/7
3、在女神喜欢的条件下,职业是程序员的概率?
p(程序员|喜欢)=1/2
4、在女神喜欢的条件下,职业是产品,体重是超重的概率?
p(程序员,超重|喜欢)=1/4
2.3 条件概率与联合概率
联合概率:包含多个条件,且所有条件同时成立的概率
记作:P(A,B)
特性:P(A, B) = P(A)P(B)
条件概率:就是事件A在另外一个事件B已经发生条件下的发生概率
记作:P(A|B)
特性:P(A1,A2|B) = P(A1|B)P(A2|B)
3.贝叶斯公式
特征与特征之间相互独立也就是p(AB)=p(A)*p(B)
公式分为三个部分:
P(C):每个文档类别的概率(某文档类别数/总文档数量)
P(W│C):给定类别下特征(被预测文档中出现的词)的概率
计算方法:P(F1│C)=Ni/N (训练文档中去计算)
Ni为该F1词在C类别所有文档中出现的次数
N为所属类别C下的文档所有词出现的次数和
P(F1,F2,…) 预测文档中每个词的概率
如果计算两个类别概率比较:
3.2 文章分类计算
假设我们从训练数据集得到如下信息
科技:P(科技|影院,支付宝,云计算) =
标签:概率,算法,贝叶斯,3.4,train,test,import,sklearn
From: https://www.cnblogs.com/lipu123/p/17471648.html