大数据技术与应用项目R语言分类预测的基本流程原理1

大数据技术与应用项目——R语言分类预测的基本流程原理1

项目来自北京诺程佳华教育科技有限公司教学目标•熟悉分类预测的基本流程；•熟悉在R语言中使用程序包caret做分类预测。

R语言分类预测的基本流程原理1.分类预测的基本流程和要素分类预测的基本流程可以归纳为：数据总体->按一定概率随机分成训练集和测试集->用训练集建立分类预测模型->用测试集评估模型效果。分类预测模型的各组成部分包括：问题的提出->输入数据->特征提取->算法选择->参数确定->分类预测效果的评估。

R语言分类预测的基本流程原理1.分类预测的基本流程和要素在选取数据过程中，需要注意输入数据与问题是否相关，且数据是否正确，否则会出现“垃圾进，垃圾出”的效果。在特征提取过程中，需要提取适合的特征，能够压缩数据，保留相关信息，且利用领域知识。不能盲目采用自动化特征选择。算法对于分类预测的效果并不如预期那样重要。选择算法时需要考虑的因素包括可解释性、准确性、可扩展性和时间性能等。可解释性的重要性在于，可以表达特征是如何得到结果的。而可扩展性的重要性在于，算法最终是需要在大数据集上运行，并且计算代价不应该太高。

R语言分类预测的基本流程原理2.分类预测错误和模型评价指标预测错误分为两种：样本内错误（insampleerror）和样本外错误（outofsampleerror）。样本内错误是预测模型在训练模型所用的数据集上得到的错误率，样本外错误是预测模型在新数据集上得到的错误率。真正需要关注的是样本外误差。一般情况下，样本内误差会小于样本外误差，而这源于过拟合（overfitting）。数据都是由两部分组成：信号和噪声。而预测模型的目的是仅仅捕捉信号。我们总是可以设计一个完美的模型使得样本内误差为0，但这会将信号和噪声都捕捉到，因此这样的模型在新样本上性能会下降。

R语言分类预测的基本流程原理对于仅有两类（阳性类和阴性类）的分类问题，则预测值和实际值总共有4种可能的组合情况。•正确的阳性类（truepositive，简称TP），例如在临床诊断中将病人正确诊断为病人；•错误的阳性类（falsepositive，简称FP），例如在临床诊断中将健康人错误诊断为病人；•正确的阴性类（truenegative，简称TN），例如在临床诊断中将健康人正确诊断为健康人；•错误的阴性类（falsenegative，简称FN），例如在临床诊断中将病人错误诊断为健康人。

R语言分类预测的基本流程原理

R语言分类预测的基本流程原理根据上图定义，可以得到预测模型的其他主要评价指标的计算公式。灵敏度（sentitivity）：TP/(TP+FN)特异度（specificity）：TN/(FP+TN)精确度（precision）：TP/(TP+FP)召回率（recall）：TP/(TP+FP)正确阳性率（TPR）：TP/(TP+FN)错误阳性率（FPR）：FP/(FP+TN)准确度（accuracy）：(TP+TN)/(TP+FP+FN+TN)

R语言分类预测的基本流程原理而不同的指标间又存在折衷和权衡。例如，提升灵敏度的同时必然会降低特异度，提升阳性预测正确率的同时必然会降低阴性预测正确率。可以用曲线图表现不同指标的权衡：•ROC曲线：横坐标是阳性预测正确率，纵坐标是阴性预测正确率；•精确度-召回率曲线：横坐标是精确度，纵坐标是召回率；•灵敏度-特异度曲线：横坐标是灵敏度，纵坐标是特异度。

R语言分类预测的基本流程原理R语言中可调用程序包ROCR画出这些曲线图：pred<-prediction(predictions,labels)perf<-performance(pred,measure,x.measure)plot(perf)其中参数predictions表示预测值，参数labels表示真实值，参数measure和x.measure指定曲线类型，常用组合包括：•参数measure="tpr",x.measure="fpr"表示ROC曲线；•参数m