Python实现朴素贝叶斯的学习与分类过程解析

Python实现朴素贝叶斯的学习与分类过程解析主要介绍了Python实现朴素贝叶斯的学习与分类过程解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下概念简介:朴素贝叶斯基于贝叶斯定理，它假设输入随机变量的特征值是条件独立的，故称之为“朴素”。简单介绍贝叶斯定理：乍看起来似乎是要求一个概率，还要先得到额外三个概率，有用么？其实这个简单的公式非常贴切人类推理的逻辑，即通过可以观测的数据，推测不可观测的数据。举个例子，也许你在办公室内不知道外面天气是晴天雨天，但是你观测到有同事带了雨伞，那么可以推断外面八成在下雨。若X是要输入的随机变量，则Y是要输出的目标类别。对X进行分类，即使求的使P(Y|X)最大的Y值。若X为n维特征变量X={A1,A2,…..An}，若输出类别集合为Y={C1,C2,….Cm}。X所属最有可能类别y=argmaxP(Y|X),进行如下推导：朴素贝叶斯的学习有公式可知，欲求分类结果，须知如下变量：各个类别的条件概率，输入随机变量的特质值的条件概率示例代码:copyclassnative_bayes_t:definit(self,character_vec_,class_vec_):"""构造的时候需要传入特征向量的值，以数组方式传入class_Y"]"""self.class_set={}记录该类别下各个特征值的条件概率character_condition_per={}forcharacter_nameincharacter_vec_:={}forcharacter_valueincharacter_name[1]:character_condition_per[character_name[0]][character_value]={'num' 0记录该类别下该特征值在训练样本中的数量,'condition_per0.0记录该类别下各个特征值的条件概率}forclass_nameinclass_vec:={'num' :0,#记录该类别在训练样本中的数量,'class_per' 练样本中的先验概率,}#print("init",character_vec_,self.class_set)#fordebugsample_):"""learn参数为训练的样本，格式为[{#特征向量'class_name':'class_X' #类别名称}]"""foreach_sampleinsample:character_vec=each_sample['character']=each_sample['class_name']data_for_class['num']+=1各个特质值数量加1forcharacter_nameincharacter_vec:character_vec[character_name]data_for_character=data_for_class['character_condition_per'][character_name][character_value]data_for_character['num']+=1insample:计算类别的先验概率/sample_num各个特质值的条件概率forcharacter_nameincharacter_vec:character_vec[character_name]data_for_character=data_for_class['character_condition_per'][character_name][character_value]data_for_character['condition_per']=float(data_for_character['num'])/data_for_class['num']frompprintimportpprint#fordebugdefclassify(self,input_):"""对输入进行分类，输入input的格式为{"character_A":"A1","character_B":"B3",}"""best_class=''max_per=0.0forclass_nameinself.class_set:per=class_data['class_per']计算各个特征值条件概率的乘积forcharacter_nameininput_:character_per_data=class_data['character_condition_per'][character_name]per=per*character_per_data[input_[character_name]]['condition_per']ifper>=max_per:=class_namereturnbest_classcharacter_vec=[("character_A",["A1","A2","A3"]),("character_B",["B1","B2","B3"])]class_vec=["class_X","class_Y"]bayes=native_bayes_t(character_vec,class_vec)sample=[{#特征向量'class_name':'class_X' #类别名称},{#特征向量'class_name':'class_X' #类别名称},{#特征向量'class_name':'class_X' #类别名称},{#特征向量'class_name':'class_X' #类别名称},{#特征向量'class_name':'class_Y' #类别名称},{#特征向量'class_name':'class_Y' #类别名称},{#特征向量'class_name':'class_Y' #类别名称},{#特征向量'class_name':'class_Y' #类别名称},]input_data={"