机器学习基础：朴素贝叶斯及经典实例讲解
共 6338字，需浏览 13分钟
·
2022-05-16 08:12
点击上方“小白学视觉”，选择加"星标"或“置顶”
重磅干货，第一时间送达
原文连接：
https://www.cnblogs.com/lliuye/p/9178090.htmlhttps://www.cnblogs.com/huangyc/p/10327209.html
朴素贝叶斯法（Naive Bayes）是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入 x ，利用贝叶斯定理求出后验概率最大的输出 y ，即为对应的类别。
在夏季，某公园男性穿凉鞋的概率为 1/2 ，女性穿凉鞋的概率为 2/3 ，并且该公园中男女比例通常为 2:1 ，问题：若你在公园中随机遇到一个穿凉鞋的人，请问他的性别为男性或女性的概率分别为多少？
先验概率
我们使用以上例子来解释一下什么是先验概率。根据以上例子我们设定：假设某公园中一个人是男性为事件 Y=ymen ,是女性则是 Y=ywomen ；一个人穿凉鞋为事件 X=x1 ，未穿凉鞋为事件 X=x0 。而一个人的性别与是否穿凉鞋这两个事件之间是相互独立的。于是我们可以看到该例子中存在四个先验概率：
由于男女生的比例是2:1，那么P(Y=ymen)自然等于2/3，P(Y=ywomen)同理。而先验概率 P(Y=ymen)与P(Y=ywomen) 并不能直接得出，需要根据全概率公式来求解。在学习全概率公式之前，我们先了解一下条件概率。
条件概率
条件概率是指在事件 Y=y 已经发生的条件下，事件 X=x 发生的概率。条件概率可表示为：P(X=x|Y=y) 。而条件概率计算公式为：
其中 P(X=x,Y=y) 是联合概率，也就是两个事件共同发生的概率。而 P(Y=y)以及P(X=x) 是先验概率。我们用例子来说明一下就是：“某公园男性穿凉鞋的概率为 1/2 ”，也就是说“是男性的前提下，穿凉鞋的概率是 1/2 ”，此概率为条件概率，即 P(X=x1|Y=ymen)=1/2 。同理“女性穿凉鞋的概率为 2/3 ” 为条件概率 P(X=x1|Y=ywomen)=1/2 。
全概率公式是指：如果事件 Y=y1,Y=y2,...,Y=yn 可构成一个完备事件组，即它们两两互不相容，其和为全集。则对于事件 X=x 有：
因此对于上面的例子，我们可以根据全概率公式求得：
也就是说不考虑性别的情况下，公园中穿拖鞋的概率为 5/9 ，不穿拖鞋的概率为 4/9 。
后验概率
后验概率是指，某事件 X=x 已经发生，那么该事件是因为事件 Y=y 的而发生的概率。也就是上例中所需要求解的“在知道一个人穿拖鞋的前提下，这个人是男性的概率或者是女性的概率是多少”。后验概率形式化便是：
后验概率的计算要以先验概率为基础。后验概率可以根据通过贝叶斯公式，用先验概率和似然函数计算出来。
贝叶斯公式如下：
说明：分母的变形是使用全概率公式，Y事件取值范围为：{men, women}，即男生和女生；分子的变现是根据独立条件概率（贝叶斯定理）：
两边同时除以P(B)得到，上节有证明 贝叶斯定理的通俗理解。
根据前面的约定，X=x1表示穿穿拖鞋，Y=ymen 表示男生，该公式即为，穿拖鞋情况下，是男生的概率，正式题目需要我们求的。
而朴素贝叶斯算法正是利用以上信息求解后验概率，并依据后验概率的值来进行分类。使用上面的例子来进行理解，将先验概率和条件概率带入得，后验概率为：
即，在x1(一个人穿拖鞋的情况下)，是男生概率是3/5，是女生的概率为2/5，那么，对于分类情况，作为单选题的话，我们有理由将这个人归类为男性，因为是男性的概率大些。
朴素贝叶斯
对于样本集:
其中 m 表示有 m 个样本， n 表示有 n 个特征。yi,i=1,2,..,m 表示样本类别，取值为 {C1,C2,...,CK} 。
（怎么理解呢，yi 我们可以理解为前例的男生，女生，特征可以看成，穿拖鞋）
朴素贝叶斯分类的基本公式
化简一下，朴素贝叶斯分类器可表示为：
朴素贝叶斯算法过程
1）计算先验概率：求出样本类别的个数 K 。对于每一个样本 Y=Ck ，计算出 P(Y=Ck) 。其为类别 Ck 在总样本集中的频率（对于前例男生女生，k=2，男生概率，女生概率）。
2）计算条件概率：将样本集划分成 K 个子样本集，分别对属于 Ck 的子样本集进行计算，计算出其中特征 Xj=ajl 的概率：P(Xj=ajl|Y=Ck)。其为该子集中特征取值为 ajl 的样本数与该子集样本数的比值。（前例中，穿拖鞋与否就是一个特征，对于男生，需要计算穿拖鞋的条件概率，女生也一样）
3）针对待预测样本 xtest ，计算其对于每个类别 Ck 的后验概率：
计算结果，概率值最大的类别即为待预测样本的预测类别。（前例中，由于计算出来，男生概率大，对于分类问题，我们认为是男生）
朴素贝叶斯算法分析
优点：
（1）朴素贝叶斯模型发源于古典数学理论，有稳定的分类效率。
（2）对小规模的数据表现很好，能个处理多分类任务，适合增量式训练，尤其是数据量超出内存时，我们可以一批批的去增量训练。
（3）对缺失数据不太敏感，算法也比较简单，常用于文本分类。
缺点：
（1）理论上，朴素贝叶斯模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为朴素贝叶斯模型给定输出类别的情况下,假设属性之间相互独立，这个假设在实际应用中往往是不成立的，在属性个数比较多或者属性之间相关性较大时，分类效果不好。而在属性相关性较小时，朴素贝叶斯性能最为良好。对于这一点，有半朴素贝叶斯之类的算法通过考虑部分关联性适度改进。
（2）需要知道先验概率，且先验概率很多时候取决于假设，假设的模型可以有很多种，因此在某些时候会由于假设的先验模型的原因导致预测效果不佳。
（3）由于我们是通过先验和数据来决定后验的概率从而决定分类，所以分类决策存在一定的错误率。
（4）对输入数据的表达形式很敏感。
垃圾邮件分类实现
朴素贝叶斯 (naive Bayes) 法是基于贝叶斯定理与特征条件独立假设的分类的方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对于给定的输入
输入：
#垃圾邮件的内容
posting_list = [
['my', 'dog', 'has', 'flea', 'problem', 'help', 'please'],
['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
['stop', 'posting', 'stupid', 'worthless', 'garbage'],
['mr', 'licks', 'ate', 'ny', 'steak', 'how', 'to', 'stop', 'him'],
['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']
]
#是否是垃圾邮件的标签
labels = [0, 1, 0, 1, 0, 1]首先得根据上述文本建立一个词汇表，即把重复的词汇剔除。代码如下：
def createVocabList(dataSet):
'''
创建所有文档中出现的不重复词汇列表
Args:
dataSet: 所有文档
Return:
包含所有文档的不重复词列表，即词汇表
'''
vocabSet = set([])
# 创建两个集合的并集
for document in dataSet:
vocabSet = vocabSet | set(document)
return list(vocabSet)然后需要把每句话转化为词袋模型(bag-of-words model)：
# 词袋模型(bag-of-words model):词在文档中出现的次数
def bagOfWords2Vec(vocabList, inputSet):
'''
依据词汇表，将输入文本转化成词袋模型词向量
Args:
vocabList: 词汇表
inputSet: 当前输入文档
Return:
returnVec: 转换成词向量的文档
例子：
vocabList = ['I', 'love', 'python', 'and', 'machine', 'learning']
inputset = ['python', 'machine', 'learning', 'python', 'machine']
returnVec = [0, 0, 2, 0, 2, 1]
长度与词汇表一样长，出现了的位置为1，未出现为0，如果词汇表中无该单词则print
'''
returnVec = [0] * len(vocabList)
for word in inputSet:
if word in vocabList:
returnVec[vocabList.index(word)] += 1
else:
print("the word: %s is not in my vocabulary!" % word)
return returnVec目前为止，我们把每份邮件转化成了一系列的向量形式，向量的长度是词表里面的词的个数，是稀疏矩阵。
接下去就是朴素贝叶斯的步骤了，也就是训练的过程：
def fit(self, trainMatrix, trainCategory):
'''
朴素贝叶斯分类器训练函数，求：p(Ci),基于词汇表的p(w|Ci)
Args:
trainMatrix : 训练矩阵，即向量化表示后的文档（词条集合）
trainCategory : 文档中每个词条的列表标注
Return:
p0Vect : 属于0类别的概率向量(p(w1|C0),p(w2|C0),...,p(wn|C0))
p1Vect : 属于1类别的概率向量(p(w1|C1),p(w2|C1),...,p(wn|C1))
pAbusive : 属于1类别文档的概率
'''
numTrainDocs = len(trainMatrix)
# 长度为词汇表长度
numWords = len(trainMatrix[0])
# p(ci)
self.pAbusive = sum(trainCategory) / float(numTrainDocs)
# 由于后期要计算p(w|Ci)=p(w1|Ci)*p(w2|Ci)*...*p(wn|Ci)，若wj未出现，则p(wj|Ci)=0,因此p(w|Ci)=0，这样显然是不对的
# 故在初始化时，将所有词的出现数初始化为1，分母即出现词条总数初始化为2
p0Num = np.ones(numWords)
p1Num = np.ones(numWords)
p0Denom = 2.0
p1Denom = 2.0
for i in range(numTrainDocs):
if trainCategory[i] == 1:
p1Num += trainMatrix[i]
p1Denom += sum(trainMatrix[i])
else:
p0Num += trainMatrix[i]
p0Denom += sum(trainMatrix[i])
# p(wi | c1)
# 为了避免下溢出（当所有的p都很小时，再相乘会得到0.0，使用log则会避免得到0.0）
self.p1Vect = np.log(p1Num / p1Denom)
# p(wi | c2)
self.p0Vect = np.log(p0Num / p0Denom)
return self训练完了，剩下的是对新数据的预测过程：
def predict(self, testX):
'''
朴素贝叶斯分类器
Args:
testX : 待分类的文档向量（已转换成array）
p0Vect : p(w|C0)
p1Vect : p(w|C1)
pAbusive : p(C1)
Return:
1 : 为侮辱性文档 (基于当前文档的p(w|C1)*p(C1)=log(基于当前文档的p(w|C1))+log(p(C1)))
0 : 非侮辱性文档 (基于当前文档的p(w|C0)*p(C0)=log(基于当前文档的p(w|C0))+log(p(C0)))
'''
p1 = np.sum(testX * self.p1Vect) + np.log(self.pAbusive)
p0 = np.sum(testX * self.p0Vect) + np.log(1 - self.pAbusive)
if p1 > p0:
return 1
else:
return 0下载1：OpenCV-Contrib扩展模块中文版教程 在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。 下载2：Python视觉实战项目52讲 在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。 下载3：OpenCV实战项目20讲 在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。 交流群
欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~