朴素贝叶斯
朴素贝叶斯介绍
-
复习常见概率的计算
-
知道贝叶斯公式
-
了解朴素贝叶斯是什么
-
了解拉普拉斯平滑系数的作用
【知道】常见的概率公式
条件概率： 表示事件A在另外一个事件B已经发生条件下的发生概率，P(A|B)
在女神喜欢的条件下，职业是程序员的概率？
-
女神喜欢条件下，有 2、3、4、7 共 4 个样本
-
4 个样本中，有程序员 3、4 共 2 个样本
-
则 P(程序员|喜欢) = 2/4 = 0.5
联合概率： 表示多个条件同时成立的概率，P(AB) = P(A) P(B|A) 特征条件独立性假设：P(AB) = P(A) P(B)
职业是程序员并且体型匀称的概率？
-
数据集中，共有 7 个样本
-
职业是程序员有 1、3、4 共 3 个样本，则其概率为：3/7
-
在职业是程序员，体型是匀称有 3 共 1 个样本，则其概率为：1/3
-
则即是程序员又体型匀称的概率为：3/7 * 1/3 = 1/7
联合概率 + 条件概率：
在女神喜欢的条件下，职业是程序员、体重超重的概率？ P(AB|C) = P(A|C) P(B|AC)
-
在女神喜欢的条件下，有 2、3、4、7 共 4 个样本
-
在这 4 个样本中，职业是程序员有 3、4 共 2 个样本，则其概率为：2/4=0.5
-
在在 2 个样本中，体型超重的有 4 共 1 个样本，则其概率为：1/2 = 0.5
-
则 P(程序员, 超重|喜欢) = 0.5 * 0.5 = 0.25
简言之： 条件概率：在去掉部分样本的情况下，计算某些样本的出现的概率，表示为：P(B|A) 联合概率：多个事件同时发生的概率是多少，表示为：P(AB) = P(B)*P(A|B)
【理解】贝叶斯公式
-
P(C) 表示 C 出现的概率
-
P(W|C) 表示 C 条件 W 出现的概率
-
P(W) 表示 W 出现的概率
-
P(C|W) = P(喜欢|程序员，超重)
-
P(W|C) = P(程序员，超重|喜欢)
-
P(C) = P(喜欢)
-
P(W) = P(程序员，超重)
-
根据训练样本估计先验概率P(C)：P(喜欢) = 4/7
-
根据条件概率P(W|C)调整先验概率：P(程序员,超重|喜欢) = 1/4
-
此时我们的后验概率P(C|W)为：P(程序员,超重|喜欢) * P(喜欢) = 4/7 * 1/4 = 1/7
-
那么该部分数据占所有既为程序员，又超重的人中的比例是多少呢？
-
P(程序员,超重) = P(程序员) * P(超重|程序员) = 3/7 * 2/3 = 2/7
-
P(喜欢|程序员, 超重) = 1/7 ➗ 2/7 = 0.5
-
【理解】朴素贝叶斯
我们发现，在前面的贝叶斯概率计算过程中，需要计算 P(程序员,超重|喜欢) 和 P(程序员, 超重) 等联合概率，为了简化联合概率的计算，朴素贝叶斯在贝叶斯基础上增加：特征条件独立假设，即：特征之间是互为独立的。
此时，联合概率的计算即可简化为：
-
P(程序员,超重|喜欢) = P(程序员|喜欢) * P(超重|喜欢)
-
P(程序员,超重) = P(程序员) * P(超重)
【知道】拉普拉斯平滑系数
由于训练样本的不足，导致概率计算时出现 0 的情况。为了解决这个问题，我们引入了拉普拉斯平滑系数。
-
α 是拉普拉斯平滑系数，一般指定为 1
-
Ni 是 F1 中符合条件 C 的样本数量
-
N 是在条件 C 下所有样本的总数
-
m 表示所有独立样本的总数
我们只需要知道为了避免概率值为 0，我们在分子和分母分别加上一个数值，这就是拉普拉斯平滑系数的作用。
【案例】情感分析
学习目标：
1.知道朴素贝叶斯的API
2.能够应用朴素贝叶斯实现商品评论情感分析
【知道】api介绍
-
sklearn.naive_bayes.MultinomialNB(alpha = 1.0)
-
朴素贝叶斯分类
-
alpha：拉普拉斯平滑系数
-
【实践】商品评论情感分析
已知商品评论数据，根据数据进行情感分类（好评、差评
步骤分析
-
1）获取数据
-
2）数据基本处理
-
2.1） 取出内容列，对数据进行分析
-
2.2） 判定评判标准
-
2.3） 选择停用词
-
2.4） 把内容处理，转化成标准格式
-
2.5） 统计词的个数
-
2.6）准备训练集和测试集
-
-
3）模型训练
-
4）模型评估
代码实现
import pandas as pd
import numpy as np
import jieba
import matplotlib.pyplot as plt
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB-
1）获取数据
# 加载数据
data = pd.read_csv("./data/书籍评价.csv", encoding="gbk")
data-
2）数据基本处理
# 2.1） 取出内容列，对数据进行分析
content = data["内容"]
content.head()
# 2.2） 判定评判标准 -- 1好评;0差评
data.loc[data.loc[:, '评价'] == "好评", "评论标号"] = 1 # 把好评修改为1
data.loc[data.loc[:, '评价'] == '差评', '评论标号'] = 0
# data.head()
good_or_bad = data['评价'].values # 获取数据
print(good_or_bad)
# ['好评' '好评' '好评' '好评' '差评' '差评' '差评' '差评' '差评' '好评' '差评' '差评' '差评']
# 2.3） 选择停用词
# 加载停用词
stopwords=[]
with open('./data/stopwords.txt','r',encoding='utf-8') as f:
lines=f.readlines()
print(lines)
for tmp in lines:
line=tmp.strip()
print(line)
stopwords.append(line)
# stopwords # 查看新产生列表
#对停用词表进行去重
stopwords=list(set(stopwords))#去重 列表形式
print(stopwords)
# 2.4） 把“内容”处理，转化成标准格式
comment_list = []
for tmp in content:
print(tmp)
# 对文本数据进行切割
# cut_all 参数默认为 False,所有使用 cut 方法时默认为精确模式
seg_list = jieba.cut(tmp, cut_all=False)
print(seg_list) # <generator object Tokenizer.cut at 0x0000000007CF7DB0>
seg_str = ','.join(seg_list) # 拼接字符串
print(seg_str)
comment_list.append(seg_str) # 目的是转化成列表形式
# print(comment_list) # 查看comment_list列表。
# 2.5） 统计词的个数
# 进行统计词个数
# 实例化对象
# CountVectorizer 类会将文本中的词语转换为词频矩阵
con = CountVectorizer(stop_words=stopwords)
# 进行词数统计
X = con.fit_transform(comment_list) # 它通过 fit_transform 函数计算各个词语出现的次数
name = con.get_feature_names_out() # 通过 get_feature_names_out()可获取词袋中所有文本的关键字
print(X.toarray()) # 通过 toarray()可看到词频矩阵的结果
print(name)
# 2.6）准备训练集和测试集
# 准备训练集 这里将文本前10行当做训练集 后3行当做测试集
x_train = X.toarray()[:10, :]
y_train = good_or_bad[:10]
# 准备测试集
x_text = X.toarray()[10:, :]
y_text = good_or_bad[10:]-
3）模型训练
# 构建贝叶斯算法分类器
mb = MultinomialNB(alpha=1) # alpha 为可选项，默认 1.0，添加拉普拉修/Lidstone 平滑参数
# 训练数据
mb.fit(x_train, y_train)
# 预测数据
y_predict = mb.predict(x_text)
#预测值与真实值展示
print('预测值：',y_predict)
print('真实值：',y_text)-
4）模型评估
mb.score(x_text, y_text)课堂笔记
