数据挖掘实验报告

1、数据挖掘实验报告K最近邻分类算法学生证：姓名：沈洁一、数据源描述1.数据理解选择第二套虹膜数据集，有150组数据。考虑到训练数据集的随机性和多样性，选择100组rowNo模数3不等于0的组作为训练数据集，其余50组作为测试数据集。(1)每组数据有五个属性，即：1。以厘米为单位的独立长度2.萼片宽约厘米3.花瓣长度(厘米)4.花瓣宽度(厘米)5.class:-爱丽丝塞塔斯-蝴蝶花-爱丽丝弗吉尼亚(2)为了操作方便，给每组数据添加rowNo属性，第一组rowNo=1。2.数据清理真实世界的数据通常是不完整的、嘈杂的和不一致的。数据清理例程试图填充缺失值、平滑噪声和识别异常值，并纠正数据中的不一致。

2、a)缺失值：如果数据中有缺失值，忽略元组(注意：缺失属性值：无本文选择的第二组数据Iris数据集)。噪声数据：本文尚未考虑。第二，K近邻分类算法KNN(k近邻)算法也被称为K近邻法。假设每个类别包含多个样本数据，每个数据都有一个唯一的类别标记，指示这些样本属于哪个类别。KNN将计算每个样本数据和待分类数据之间的距离。如果特征空间中的大多数K个最相似的样本属于某一类别，那么该样本也属于该类别。在分类决策中，该方法仅根据一个或几个最近样本的类别来确定待分类样本的类别。虽然KNN方法在原理上也依赖于极限定理，但在进行类别决策时，它只与非常少的相邻样本相关。因此，这种方法可以避免样本的不平衡。此外，由

3、于KNN方法主要依赖于有限的相邻样本，而不是判断类域的方法，因此KNN方法比其他方法更适合于将样本集划分为更多重叠或重叠的类域。这种方法的缺点是计算量大，因为必须计算每个待分类文本和所有已知样本之间的距离，然后才能获得其K个最近邻。目前常用的解决方法是预先裁剪已知的样本点，并预先去除对分类影响不大的样本。该算法更适合于大样本类别域的自动分类，而小样本类别域更容易出现不匹配。(1)算法思想：k近邻分类方法存储所有训练样本，在接受新的待分类样本之前不需要构造模型，并且直到新的(未标记的)样本需要被分类时才建立分类。k近邻分类基于类比学习，其训练样本由N维数值属性描述，每个样本代表N维空间中的一个点

4、。这样，所有训练样本都存储在N维模式空间中。给定一个未知样本，K近邻分类搜索模式空间，找出最接近未知样本的K个训练样本。这k个训练样本是未知样本的k个“邻居”。“接近度”，也称为相异度，由欧几里德距离定义，其中两点X(x1，x2，xn)和Y(y1，y2，yn)之间的欧几里德距离为：未知样本被分配到k个最近邻中最常见的类别。在最简单的情况下，即当K=1时，未知样本被分配给模式空间中最近的训练样本的类别。(2)算法步骤：步骤1 -将距离初始化为最大值步骤2 -计算未知样本和每个训练样本之间的距离距离步骤3 -获取当前k个最近样本之间的最大距离maxdist步骤4 -如果距离小于最大距离，将训练样本

5、作为最近邻样本步骤5 -重复步骤2、3和4，直到计算出未知样本和所有训练样本之间的距离步骤6 -计算每个类别标签在最近邻样本中出现的次数步骤7 -选择频率最高的类别标签作为未知样本的类别标签第三，算法源代码/KNN.cpp K-最近邻分类算法/#包括#包括#包括#包括#包括#包括#包括/宏定义/#定义ATTR _数字4 /属性数目#定义最大尺寸训练集1000 /训练数据集的最大大小#定义最大尺寸测试集100 /测试数据集的最大大小#定义最大值10000.0 /属性最大值#定义K 7/结构体结构数据向量内部标识；/标识号char ClassLabel15；/分类标号双重属性ATTR数字；/属性；

6、结构距离结构内部标识；/标识号双倍距离；/距离char ClassLabel15；/分类标号；/全局变量/结构化数据向量训练集最大大小训练集；/训练数据集结构化数据向量测试集最大大小测试集；/测试数据集构造距离构造距离K；/K个最近邻距离int CurtiraningSetSize=0；/训练数据集的大小int CurtestSetSize=0；/测试数据集的大小/求向量1=(x1，x2，xn)和向量2=(y1，y2，yn)的欧几里德距离/双倍距离（结构数据向量向量向量1，结构数据向量向量2)双倍距离，总和=0.0；对于(整数1=0；点火电阻最大值.距离)最大值=1；返回maxNo/对未知样本样品分类/字符*分类（结构化数据向量示例)double dist=0；整数最大值=0，频率K，I，tmp频率=1；char * CurClassTable=GneArestDistance0.classLabel .memset(freq，1，size