模板实验7 朴素贝叶斯算法Word文档下载推荐.docx
《模板实验7 朴素贝叶斯算法Word文档下载推荐.docx》由会员分享，可在线阅读，更多相关《模板实验7 朴素贝叶斯算法Word文档下载推荐.docx（16页珍藏版）》请在冰点文库上搜索。
7
在学习计算p1和p2概率之前，我们需要了解什么是条件概率（Condittionalprobability），就是指在事件B发生的情况下，事件A发生的概率，用P（A|B）来表示。
根据文氏图，可以很清楚地看到在事件B发生的情况下，事件A发生的概率就是P（A∩B）除以P（B）。
因此，
同理可得，
所以，
即
这就是条件概率的计算公式。
8
除了条件概率以外，在计算p1和p2的时候，还要用到全概率公式，因此，这里继续推导全概率公式。
假定样本空间S，是两个事件A与A’的和。
上图中，红色部分是事件A，绿色部分是事件A’，它们共同构成了样本空间S。
在这种情况下，事件B可以划分成两个部分。
在上一节的推导当中，我们已知
所以，
这就是全概率公式。
它的含义是，如果A和A’构成样本空间的一个划分，那么事件B的概率，就等于A和A’的概率分别乘以B对这两个事件的条件概率之和。
将这个公式代入上一节的条件概率公式，就得到了条件概率的另一种写法：
9
对条件概率公式进行变形，可以得到如下形式：
我们把P（A）称为”先验概率”（Priorprobability），即在B事件发生之前，我们对A事件概率的一个判断。
P（A|B）称为”后验概率”（Posteriorprobability），即在B事件发生之后，我们对A事件概率的重新评估。
P（B|A）/P（B）称为”可能性函数”（Likelyhood），这是一个调整因子，使得预估概率更接近真实概率。
所以，条件概率可以理解成下面的式子：
后验概率＝先验概率ｘ调整因子1
这就是贝叶斯推断的含义。
我们先预估一个”先验概率”，然后加入实验结果，看这个实验到底是增强还是削弱了”先验概率”，由此得到更接近事实的”后验概率”。
在这里，如果”可能性函数”P（B|A）/P（B）>
1，意味着”先验概率”被增强，事件A的发生的可能性变大；
如果”可能性函数”=1，意味着B事件无助于判断事件A的可能性；
如果”可能性函数”<
1，意味着”先验概率”被削弱，事件A的可能性变小。
为了加深对贝叶斯推断的理解，我们一个例子。
两个一模一样的碗，一号碗有30颗水果糖和10颗巧克力糖，二号碗有水果糖和巧克力糖各20颗。
现在随机选择一个碗，从中摸出一颗糖，发现是水果糖。
请问这颗水果糖来自一号碗的概率有多大？
我们假定，H1表示一号碗，H2表示二号碗。
由于这两个碗是一样的，所以P（H1）=P（H2），也就是说，在取出水果糖之前，这两个碗被选中的概率相同。
因此，P（H1）=0.5，我们把这个概率就叫做”先验概率”，即没有做实验之前，来自一号碗的概率是0.5。
再假定，E表示水果糖，所以问题就变成了在已知E的情况下，来自一号碗的概率有多大，即求P（H1|E）。
我们把这个概率叫做”后验概率”，即在E事件发生之后，对P（H1）的修正。
根据条件概率公式，得到
已知，P（H1）等于0.5，P（E|H1）为一号碗中取出水果糖的概率，等于30÷
（30+10）=0.75，那么求出P（E）就可以得到答案。
根据全概率公式，
将数字代入原方程，得到
这表明，来自一号碗的概率是0.6。
也就是说，取出水果糖之后，H1事件的可能性得到了增强。
同时再思考一个问题，在使用该算法的时候，如果不需要知道具体的类别概率，即上面P（H1|E）=0.6，只需要知道所属类别，即来自一号碗，我们有必要计算P（E）这个全概率吗？
要知道我们只需要比较P（H1|E）和P（H2|E）的大小，找到那个最大的概率就可以。
既然如此，两者的分母都是相同的，那我们只需要比较分子即可。
即比较P（E|H1）P（H1）和P（E|H2）P（H2）的大小，所以为了减少计算量，全概率公式在实际编程中可以不使用。
10
理解了贝叶斯推断，那么让我们继续看看朴素贝叶斯。
贝叶斯和朴素贝叶斯的概念是不同的，区别就在于“朴素”二字，朴素贝叶斯对条件个概率分布做了条件独立性的假设。
比如下面的公式，假设有n个特征：
由于每个特征都是独立的，我们可以进一步拆分公式
这样我们就可以进行计算了。
如果有些迷糊，让我们从一个例子开始讲起，你会看到贝叶斯分类器很好懂，一点都不难。
某个医院早上来了六个门诊的病人，他们的情况如下表所示：
症状
职业
疾病
打喷嚏
护士
感冒
农夫
过敏
头痛
建筑工人
脑震荡
教师
现在又来了第七个病人，是一个打喷嚏的建筑工人。
请问他患上感冒的概率有多大？
根据贝叶斯定理：
可得：
根据朴素贝叶斯条件独立性的假设可知，”打喷嚏”和”建筑工人”这两个特征是独立的，因此，上面的等式就变成了
这里可以计算：
因此，这个打喷嚏的建筑工人，有66%的概率是得了感冒。
同理，可以计算这个病人患上过敏或脑震荡的概率。
比较这几个概率，就可以知道他最可能得什么病。
这就是贝叶斯分类器的基本方法：
在统计资料的基础上，依据某些特征，计算各个类别的概率，从而实现分类。
同样，在编程的时候，如果不需要求出所属类别的具体概率，P（打喷嚏）=0.5和P（建筑工人）=0.33的概率是可以不用求的。
11
以在线社区留言为例。
为了不影响社区的发展，我们要屏蔽侮辱性的言论，所以要构建一个快速过滤器，如果某条留言使用了负面或者侮辱性的语言，那么就将该留言标志为内容不当。
过滤这类内容是一个很常见的需求。
对此问题建立两个类型：
侮辱类和非侮辱类，使用1和0分别表示。
我们把文本看成单词向量或者词条向量，也就是说将句子转换为向量。
考虑出现所有文档中的单词，再决定将哪些单词纳入词汇表或者说所要的词汇集合，然后必须要将每一篇文档转换为词汇表上的向量。
简单起见，我们先假设已经将本文切分完毕，存放到列表中，并对词汇向量进行分类标注。
编写代码如下：
#
-*-
coding:
UTF-8
-*-"
"
函数说明:
创建实验样本
Parameters:
无
Returns:
postingList
-
实验样本切分的词条
classVec
类别标签向量
def
loadDataSet（）:
postingList=[['
my'
'
dog'
has'
flea'
problems'
help'
please'
],
#切分的词条
['
maybe'
not'
take'
him'
to'
park'
stupid'
],
dalmation'
is'
so'
cute'
I'
love'
stop'
posting'
worthless'
garbage'
mr'
licks'
ate'
steak'
how'
quit'
buying'
food'
]]
=
[0,1,0,1,0,1]
#类别标签向量，1代表侮辱性词汇，0代表不是
return
postingList,classVec
if
__name__
==
__main__'
:
postingLIst,
loadDataSet（）
for
each
in
postingLIst:
print（each）
print（classVec）
从运行结果可以看出，我们已经将postingList是存放词条列表中，classVec是存放每个词条的所属类别，1代表侮辱类，0代表非侮辱类。
继续编写代码，前面我们已经说过我们要先创建一个词汇表，并将切分好的词条转换为词条向量。
-*-
根据vocabList词汇表，将inputSet向量化，向量的每个元素为1或0
vocabList
createVocabList返回的列表
inputSet
切分的词条列表
returnVec
文档向量,词集模型
setOfWords2Vec（vocabList,
inputSet）:
[0]
*
len（vocabList）
#创建一个其中所含元素都为0的向量
word
inputSet:
#遍历每个词条
vocabList:
#如果词条存在于词汇表中，则置1
returnVec[vocabList.index（word）]
1
else:
print（"
the
word:
%s
is
not
my
Vocabulary!
%
word）
#返回文档向量
将切分的实验样本词条整理成不重复的词条列表，也就是词汇表
dataSet
整理的样本数据集
vocabSet
返回不重复的词条列表，也就是词汇表
createVocabList（dataSet）:
set（[]）
#创建一个空的不重复列表
document
dataSet:
|
set（document）
#取并集
list（vocabSet）
postingList,
loadDataSet（）
print（'
postingList:
\n'
postingList）
myVocabList
createVocabList（postingList）
myVocabList:
myVocabList）
trainMat
[]
postinDoc
trainMat.append（setOfWords2Vec（myVocabList,
postinDoc））
trainMat:
trainMat）
从运行结果可以看出，postingList是原始的词条列表，myVocabList是词汇表。
myVocabList是所有单词出现的集合，没有重复的元素。
词汇表是用来干什么的？
没错，它是用来将词条向量化的，一个单词在词汇表中出现过一次，那么就在相应位置记作1，如果没有出现就在相应位置记作0。
trainMat是所有的词条向量组成的列表。
它里面存放的是根据myVocabList向量化的词条向量。
我们已经得到了词条向量。
接下来，我们就可以通过词条向量训练朴素贝叶斯分类器。
import
numpy
as
np
from
functools
reduce
无
postingList
classVec
postingList=[['
],#切分的词条
['
#类别标签向量，1代表侮辱性词汇，0代表不是
return
postingList,classVec#返回实验样本切分的词条和类别标签向量
dataSet
vocabSet
#创建一个空的不重复列表
for
vocabSet
vocabList
inputSet
returnVec
len（vocabList）#创建一个其中所含元素都为0的向量
#遍历每个词条
if
#如果词条存在于词汇表中，则置1
returnVec[vocabList.index（word）]
else:
word）
returnVec#返回文档向量
朴素贝叶斯分类器训练函数
trainMatrix
训练文档矩阵，即setOfWords2Vec返回的returnVec构成的矩阵
trainCategory
训练类别标签向量，即loadDataSet返回的classVec
p0Vect
非的条件概率数组
p1Vect
侮辱类的条件概率数组
pAbusive
文档属于侮辱类的概率
trainNB0（trainMatrix,trainCategory）:
numTrainDocs
len（trainMatrix）#计算训练的文档数目
numWords
len（trainMatrix[0]）#计算每篇文档的词条数
sum（trainCategory）/float（numTrainDocs）#文档属于侮辱类的概率
p0Num
np.zeros（numWords）;
p1Num
np.zeros（numWords）#创建numpy.zeros数组,
p0Denom
0.0;
p1Denom
0.0
#分母初始化为0.0
i
range（numTrainDocs）:
trainCategory[i]
1:
#统计属于侮辱类的条件概率所需的数据，即P（w0|1）,P（w1|1）,P（w2|1）·
·
p1Num
+=
trainMatrix[i]
p1Denom
sum（trainMatrix[i]）
#统计属于非侮辱类的条件概率所需的数据，即P（w0|0）,P（w1|0）,P（w2|0）·
p0Num
p0Denom
p1Num/p1Denom#相除
p0Num/p0Denom
p0Vect,p1Vect,pAbusive#返回属于侮辱类的条件概率数组，属于非侮辱类的条件概率数组，文档属于侮辱类的概率
myVocabList）
p0V,
p1V,
pAb
trainNB0（trainMat,
classVec）
p0V:
p0V）
p1V:
p1V）
classVec:
pAb:
pAb）
运行结果如下，p0V存放的是每个单词属于类别0，也就是非侮辱类词汇的概率。
比如p0V的倒数第4个概率，就是stupid这个单词属于非侮辱类的概率为0。
同理，p1V的倒数第4个概率，就是stupid这个单词属于侮辱类的概率为0.15789474，也就是约等于15.79%的概率。
我们知道s
升级会员 