r语言基于SVM模型的文本分类研究附数据代码

1、基于SVM模型的文本分类研究1Perceptron与SVM概念介绍1.1感知机（Perceptron）感知机（perceptron）1957年由Rosenblatt提出，是神经网络与支持向量机的基础感知机，是二类分类的线性分类模型，其输入为样本的特征向量，输出为样本的类别出为样本的类别，取+1和-1二值，即通过某样本的特征即通过某样本的特征，就可以准确判断该样本属于哪一类。感知机能够解决的问题首先要求特征空间是线性可分的，再者是二类分类，即将样本分为+1,-1两类。由输入空间到输出空间的符号函数：/（x）=sig（w%+/）w为权值（weight）,b为偏置（bias）。/+Lwx+方20-L

2、ir*x+6H使得对于所有的psilonTK(%7)=Phi(x)Phiz在学习与预测中只定义核函数，而不显式地定义映射函数尸版.2基于距离的聚类算法层次分析(ClusteringAnalysis):根据在数据中发现的描述对象及其关系的信息，将数据对象分组。其目标是，组内的对象互相之间是相似的(相关的)，不同组中的对象是不同的(不相关的)。组内的余弦距离越小，相似性越大，组间差别越大，聚类就越好。就理解数据而言，簇是潜在的类，而聚类分析就是研究自动发现这些类的技术。这类算法首先要确定聚类数目和聚类中心，通过反复迭代的方法得到最终的聚类结果。典型的基于划分的聚类方法。这些算法对在小规模的数据集中

3、发现球状类别很有效。3文本挖掘中的分类模型支持向量机方法能在训练样本数很小的情况下达到很好分类推广能力的学习算法，它能做到与数据的维数无关。以线性可分的问题为例，从图可直观地理解算法。算法所得到的决策面为：将两类分开最大缝隙的超平面。对决策面设计起作用的点(图中圈中的点)称为支持向量。分类线方程可以对它进行归一化使得对线性可分的样本集。它被成功的应用于手写数字识别和文本自动分类等很多领域。数据预处理用SVM实现文本分类，先要从原始空间中抽取特征，将原始空间中的样本映射为高维特征空间中的一个向量，以解决原始空间中线性不可分的问题.文本分类(TextCategorization或TextClass

4、ification)是在已给定的分类体系下(文本集)，依据文本的内容或对文本的标识信息等，通过分类程序的学习和运算等处理方式，自动地确定文本所关联的类别。从数学角度来看，文本分类是一个映射的过程，即系统根据已经掌握的每类若干样本的数据信息，总结出分类的规律从而建立并关联判别公式和判别规则；当分类器遇到输入的未标明类属的新文本时，根据总结出的判别规则，确定该文本相关联的类别。首先需要一个训练样本集作为输入，以便分类器能够学习模式并找到分类函数。训练集(Trainingset)由一组数据库纪录或元组构成，每个记录是一个由有关字段值组成的特征向量，这些字段称做属性(Feature),用于分类的属性叫

5、做标签(Label)。训练集中标签属性的类型必须是离散的。为降低分类器错误率，提高分类效率，标签属性的可能值越少越好。对于经典支持向量分类机来说，正负二类分类值+1,-1(binaryclassfication)是最理想的分类值状态。从训练集中自动地构造出分类器的算法叫做训练。 得到的分类器常要进行分类测试以确定其分类准确性。测试集使用的数据和训练集通常具有相同的数据格式。在实际应用中常用一个数据集的2/3作为训练集，1/3作为测试集。特征选取将文本转换成为适合分类任务后，本文对各个关键词的词频进行统计。而词频较小的特征词汇对许多任务影响相对较小。因此本文筛选出词频最高的20个特征词汇，并使用

6、这些词频来建模，从而提高准确度。高频特征词汇词云图如下：得到的高频词汇频数。层次聚类结果:tabieCniQinb)mGmb1235533862-4qo)&XClusterDendrogramClusterDendrogramo9ooo从词频云图可以看到，第一个类中评价的主要关键词是发货速度等，从这些关键词来看，本文可以推测这类用户主要看重的是购买体验,物流。也可以推测这些用户比较关注物流。哈国重露流 物 层 电 速流 物 层 电 速地快艮地快艮Z1像.,nI-二13快产上亮国 Wlf 漂极塞nsw务友口又月Rd目口口得商需慎畅福流濯购品第购品第正货发看快M流蠹嵋患并且主要集中在第二个类别中主要的关键词是物流、好评、性价比等。从这些关键词我们大致可以推测这类用户主要看重的是购物的综合评价。他们比较看重手机的物流、好评，更在乎购物给他们使用的直观体验。第三个类别中主要的关键词是正品，满意。从这些关键词我们可以推测这类用户