TensorFlow +OpenVINO 整合开发CR-A05-基础AI模型：分类器(Classifier)

1.认识分类器(Classifier)2.分类器的基础：回归(Regression)分析3.回归与分类的重要视角：空间对应4.范例实现：使用TensorFlow5.优化模型：使用OpenVINO优化器6.测试模型：使用OpenVINO推论引擎如何分类呢?·玩具兔与玩具熊之间，有着明显不相同的特征。BCD12耳朵长度体重3输入特征：456我能识别：789耳长单位：厘米(1cm)体重单位：百克(100g)工作表1④BCEF1玩具兔(熊)的特征2耳朵长度体重3输入特征：456我能识别：789耳长单位：厘米(1cm)体重单位：百克(100g)ABCEF1玩具兔(熊)的特征2耳朵长度体重体重3输入特征：456我能识别这是玩具<熊>789耳长单位：公分(1cm)体重单位：百克(100g)如何训练分类器?机器学习学习强化学习学习强化学习·监督式学习(SupervisedLearning)是电脑从标签化的资讯中分析模式后，做出预测的学习方式。·标注过的资料就好比标准答案，电脑在学习的过程中透过准的预测。采取监督式学习·监督式学习是将题目与解答同时提供给AI,由AI自行比对解答，藉此学习新知。即<Q&A>·AI学习时，也是找已经知道题目和答案的老师来教。这就是所谓的：监督是学习。·所谓老师，只会告诉AL<正确与否>。至于问题的解决方案，还是要由AI自行从尝试错误中学习。在监督式学习采取监督式学习·监督式学习是将题目与解答同时提供给AI,由AI自行比对解答，藉此学习新知。即<Q&A>·AI学习时，也是找已经知道题目和答案的老师来教。这就是所谓的：监督是学习。·所谓老师，只会告诉AL<正确与否>。至于问题的解决方案，还是要由AI自行从尝试错误中学习。在监督式学习请老师提供分类标签给我·非监督式学习(UnsupervisedLearning)是另一种机器学习方法，和监督式学习最大差异是训练资料不需要有答案(即标签)。·就像是我们给了机器一堆猫的照片和一堆狗的照片，可是我们并没有告诉机器说哪些是猫哪些是狗，要机器自己去学习判断出分类出图片的不同之处，机器会依据资料的分布、计算出资料间的相似性，相似程度越高，被归类至同一群组。于是就能将比较相似的资料聚集在一起，形成集分类器(Classifier)也复习一下：非监督式学习Ex.推荐系统中，把偏好接近(臭味相投)的人们分为·长期输血会导致过多的铁质累积在体内，造成身体严重的伤害，尤其是心脏与肝脏，甚至可能造成生命的危倦、体重消失等。·此时，可以建立监督式学习的Al模型，这模型的输入值代表Al可以观察到的症状。型，就可由Al模型来进行分类了。·观察患者，并提取症状特征：123456789AB关节痛222110C1211DX(症状组合)102100UnexplainedWeightLoss体重消失101000F腹痛210010G疲劳121111K的级别)·贴上分类标签(Label)·就成为一个Al分类模型。·由专业医生(老师)依据其专业知识和经验，来将<血铁沉积程度>分为5类(5个级别)123456789AB222110C心律不整121100开始训练肤色变化102100体重消失1010000:无症状F210010121111T(标签)KABCDEFGH1JK1X(症状组合)23T(标签)4矢节痛心律不整肤色变化体重消失腹痛疲劳的级别)52111216220012721210181110019100011000001开始训练0:无症状1:轻微学习中…2:显着·经过几分钟，就学习完成了：123456789AB矢节痛222110心律不整肤色变化体重消失开始训练学习完成了!0:无症状1:轻微2:显着F210010疲劳121111T(标签)K(血铁沉积·此时，可以建立监督式学习的Al模型，这模型的输入值代表Al可以观察到的症状。型，就可由Al模型来进行分类了。ABCDEFGH1JK12血铁沉积程度Z(预测值)3TestingX(症状组合)4矣节痛心律不整体重消失腹痛疲劳500110162210127890测预·按下<预测>,就进行推论，并输出如下：12345623456血铁沉积程度789分类器的基础：简介规律。探索规律的基础技术。范例-1复习：回归分析复习：回归分析值是已知的，而W和B是未知的。如下图：BfACDEFGH1线性回归以X*W+22维坐标(Point)W(weight)B(bias)34data[]1352563寻找规律74857(&绘图)9·<回归分析>就是找寻最棒的W和B值。就得到回归线了。回归分析·按下<寻找规律>按钮，就会进行回归分析，找出最适合的W和B值，并输出如下：ABCEFGH1线性回归以X*W+22维坐标(Point)341352563寻找规律(&绘图)748579012(使用规律)34?5?6·刚才的回归分析已经找出最棒的W和B值了，也就是找到最具代表性的回归曲线了。于是就绘出图形如下：(使用规律)就会对映到这回归线上的两个点，如下：复习：回归分析·这就意味着，我们已知X值为：1.5··这是回归分析基本观念和方法。·将得出的Y值，经由sigmoid()函数，可以计算出条件机率P(Y/X)值。这是机器学习的二元分类的标准做法。有7瓶水，其摄氏温度分别是：[-5,-2,-1,2,3,4,6]。此时人们常常将之区分为两个类别：水与冰。就把这X值和·例如，有7瓶水，其摄氏温度分别是：[-5,-2,-1,2,3,4,6]此时人们常常将之区分为两个类别：水与冰。BCDEFGH1逻辑回归(二元分类)2分为水与冰两类WB3X(温度)P(Y=水/X)4-55-26-17283Sigmoid图寻找规律Sigmoid图(Linear图)946·现在，可以按下<寻找规律>,就进行回归分析，找出最棒的W和B值，如下：BCDEFGH1逻辑回归(二元分类)2分为水与冰两类WB3X(温度)P(Y=水/X)4-5-0.0716441355-26-17283寻找规律gmoid图946(Linear图)·这条直线就是Al机器学习里，常常听到的：分类线。将直线转换成为曲线，并绘出图形如下：回归分析·因为Sigmoid()函数能从线性公式计算出来Y值转换成为P(Y/X)概率值。回归线)。这时候，就把7个瓶子区分为两类了：回归分析·于是您就可以了解了，Al(机器学习)就是，透过这样来一堆数据进行分门别类，简称为：分类(Classification)。·简单的回归分析已经找出一条回归直线，然后经由Sigmoid()转换，而找到最具代表性的回归曲线。回归分析(使用规律)XP(Y=水/X)-1.5绘图P(Y=兔/X)-5.6XP(Y=水/X)-1.5-5.6下<寻找规律>来进行训练(即回归分析),找出最棒的W和B分类了。多元分类器：称为多元分类。123456781234567809·按下<学习>,就找出最棒的W和B值，并输出如下：ABCEFGH1JKL1Softmax回归(二元分类)以X*WB=Y&softmax()表示2分为兔与猫两类WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=猫/X)w10w01w11b₀bl410-0.1715016107018109寻找规律(学习)(测试)x0x1P(Y=兔/X)P(Y=猫/X)??????分为兔与猫两类分为兔与猫两类P(Y=猫/X)0-0.452-0.1710.7709110123456789寻找规律寻找规律火ABCEFGH1JKL1Softmax回归(二元分类)以X*W+B=Y&softmax()表示2分为兔与猫两类WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=猫/X)w00w10w01w11b0bl410-0.1715016107018109寻找规律(学习)(测试)火P(Y=兔/X)P(Y=猫/X)????回归分析再将Y(即[y0,y1])值，经由Softmax()函数计算出回归分析就先计算：1x0x1P(Y=兔/X)P(Y=猫/X)·在刚才这范例里，因为计算出y0和y1两个值，经由·以此类推，在这多元分类的情境里，因为计算出y0更多特征的分类器更多特征、更多类别的分类器：·可以活用Softmax(),建立多元的分类器。·这个范例共有6个特征(症状)。123456789AB关节痛222110C心律不整1211开始训练DX(症状组合)102100UnexplainedWeightLoss1010000:无症状F腹痛210010G疲劳121111K(血铁沉积的级别)更多特征、更多类别的分类器：123456789关节痛222110C121100102100UnexplainedWeightLoss101000F腹痛210010G121111K(血铁沉积的级别)更多特征、更多类别的分类器：空间对应回归与分类的重要视角：空间对应1.空间对应的涵意回归与分类的重要视角：空间对应空间对应的涵意·于是，各笔数据的特征值成为该点的坐标值。回归与分类的重要视角：空间对应空间对应的涵意·人们看到自然空间的实际事物，收集这些事物的特征，提供给Al模型。·这些X数据则成为X空间里的坐标，来观察自然空间里实乙空间空间X空间乙空间空间X空间·例如，下图里的数据将成为这些空间里的坐标：模型会很聪明地探索出两个空间的对映矢系：23456789E000Ww00w10w01wl1Bb0blX空间乙空间·人们会在其生活的自然(实物)空间里，对其所感兴趣的各项事物，并收集其特征，就成为各笔原始资料(Rawdata)·各对映到X空间里的一点。·然后再映射(过滤)到Y空间；还可再从Y空间映射(过滤)到·而Al的魅力就是它很擅长于探索出对映的规律性。下期将继续说明ML如何拥有其惊人的探索能力。回归与分类的重要视角：空间对应2.多维度的特征对应回归与分类的重要视角：空间对应维度的特征对映，就能轻易地继续扩大到更多维度的特征对映了。·收集了5个人的特征数据，每个人都有3项特征：ABCDEFGHIJKLMN1分为女士与男士两类232维4擦口红高跟鞋抽烟BTZ510001(女士)611001(女士)7Mike001W10(男士)800110(男士)901001(女士)分类(寻找W&B)·已知这5个人之中，有三位是女士，另两位是男士。也就是，人们心中已经将它们区分为两个类(Class)了。回归与分类的重要视角：空间对应T=[0,1]代表<女士>类；而T=[1,0]代表<男士>类。空间的目标值之间的对应矢系是：表达和记住它。间的内涵如下：和Sigmoid(Y)=Z和Sigmoid(Y)=Z而计算出来ABCDEFGHIJKLMN1232维坐标&Sigmoid4擦口红高跟鞋抽烟BTZ510001(女士)611001(女士)7001W10(男士)800110(男士)901001(女士)分类(寻找W&B)多维度的特征对应0b1多维度的特征对应·将X空间里的5个点都对映到Z空间：TZ01(女士)01(女土)0(男士)10(男士)01(女士)男士类女士类0TZ01(女士)01(女士)10(男士)10(男士)01(女士)多维度的特征对应0回归与分类的重要视角：空间对应3.以三分类(3-class回归与分类的重要视角：空间对应·例如有一位即将毕业的学生，到征求人才的网到7个工作机会，各有3项特征：钱多吗、事少吗、以及离家近吗?如下图：回归与分类的重要视角：空间对应ABCDEFGHIJKLMN0PQ1分为三个类234钱多事少离家近BTZ5111100(喜欢)6101100(喜欢)7110W010(普通)8100010(普通)9010001(不喜欢)001001(不喜欢)000001(不喜欢)分类(寻找W&B)·此时，这位学生对这些工作机会区分为3类。100(喜欢)1100(喜欢)100(喜欢)010(普通)010(普通)001(不喜欢)001(不喜欢)001(不喜欢)T=[1,0,0]代表<喜欢>类。T=[0,1,0]代表<普通>类。T=[0,0,1]代表<不喜欢>类。·按下<分类)>,ML就寻找出来W和B值。此时，X与Z空间的内涵如下：和Sigmoid(Y)=Z而计算出来ABCDEFGHIJKLMN0PQ1分为233维坐标4钱多事少离家近BTZ5111100(喜欢)6101100(喜欢)7110W010(普通)8100010(普通)9010001(不喜欢)001001(不喜欢)0000001(不喜欢)分类(寻找W&B)而计算出预测值Z[0.02,0.12,0.9]。其计算过程是：Sigmoid(2.16)=·同样地，将X空间里的7个点都对映到Z空间，如下图T10000000110000000111(不喜欢)0回归与分类的重要视角：空间对应·其中，可以看到了，将Job5、Job6和Job7所对应的预测值都非常接近于目标值T=[0,0,1],就归于<不喜欢>类。T=[0,1,0]·就归于<普通>类。值T=[1,0,0]·就归于<喜欢>类。范例实现操作范例：延续刚才的<血铁沉积症>范例：123456789AB关节痛222110心律不整肤色变化体重消失2:显着PainFatigueT(标签)(血铁沉积腹痛疲劳的级别)·长期输血会导致过多的铁质累积在体内，造成身体严重的伤害，尤其是心脏与肝脏，甚至可能造成生命的危倦、体重消失等。—空间×空间空间—空间×空间空间123456789AB关节痛222110心律不整肤色变化体重消失腹痛疲劳K(血铁沉积ZABCDEFGH1JK1X(症状组合)23T(标签)(血铁沉积4矢节痛心律不整肤色变化体重消失腹痛疲劳的级别)52111216220012721210181110019100011000001空间对映空间对映importnumpyasnpimportmathimportkerasfromkeras.modelsimportSequentialimporttensorflowastf建立一个分类器model=Sequential()model.add(d)定义np,array([[2,1,1,1,2,1][2,2,0,0,1,2]准备训练数据准备训练数据(0,0,0,0,0,ijj)np,array([[1,0,0,0,0],optimizer=keras,optimizers.SGD(1r=0.25),metrics=['accuracy'])np,array([[2,1,1,1,2,1][2,2,0,0,1,2]2[2,1,2,1,0,12[1,0,0,0,1,1分类标签np,array([[1,0,0,0,0],分类标签np,array([[2,1,1,1,2[2,2,0,0,1,2[2,1,2,1,0,1[1,1,1,0,0,1]][1,0,0,0,1,1][0,0,0,0,0,1]])np,array([[1,0,0,0,0],2[1,0,0,0,0],[0,1,0,0,0],[0,0,1,0,0],[0,0,0,1,0],[0,0,0,0,111)22展开训练optimizer=keras,optimjGD(1r=0.25),metrics=['accuracy']"C:/pb/","classifiermodel.pb",astext=False)tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt",astext=True)TX=np,array([[0,0,1,1,0,1]·刚才已经从TensorFlow汇出*pb档案了，其路径和档名稱sess=['result/BiasAdd'])tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pb"tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt"TX=np,array([[0,0,1,1,[2,2,.1,0,1,2]])z=model.predictproba(TX)print("(nPredicted:")_·输出预测值(分类):Predicted:[0.0.]]Predicted:[0.70.0.30.0.j]空间对映OptimizerPytorch→ONNX优化模型：行优化动作。操作流程：起步名稱步骤-1:进入优化器的工作区1.1首先从Windows的命令行窗口出发：MicrosoftWindows[版本10.0.16299.2166]1.2输入命令：cd"C:\ProgramFiles(x86)\IntelSWTools\openvino\deploymenttools\modeloptimizer"并且按<Enter>。1.3就进入到模型优化器(ModelOptimizer)的工作区了：管理员：命令提示符MicrosoftWindows[版本10.0.16299.2166]ProgramFilesIntelSWToolsopenvinode步骤-2:展开优化2.1输入命令：ProgramFilesInteISWToolslopenvinodep●这指示它：刚才从TensorFlow所产生的*.pb档案是--“C:\\pb\\classifiermode.pb”。●也告诉它：转换出来的IR档案的储存路径(文件夹),例如指定放在”C:\\pb\”里。输入资料的格式是：[1,6]。2.2优化完成了●完成时，会出现画面：