机器学习实验1-Fisher线性分类器设计

1、一、 实验意义及目的掌握Fisher分类原理，能够利用Matlab编程实现Fisher线性分类器设计，熟悉基于Matlab算法处理函数，并能够利用算法解决简单问题。二、算法原理Fisher准则基本原理：找到一个最合适的投影周，使两类样本在该轴上投影之间的距离尽可能远，而每一类样本的投影尽可能紧凑，从而使分类效果为最佳。内容：（1） 尝试编写matlab程序，用Fisher线性判别方法对三维数据求最优方向w的通用函数（2） 对下面表1-1样本数据中的类别w1和w2计算最优方向w（3） 画出最优方向w 的直线，并标记出投影后的点在直线上的位置（4） 选择决策边界，实现新样本xx1=（-0.7，0.

2、58，0.089）,xx2=（0.047，-0.4，1.04）的分类三 、实验内容（1） 尝试编写matlab程序，用Fisher线性判别方法对三维数据求最优方向w的通用函数程序清单：clcclear all%10*3样本数据w1=-0.4,0.58,0.089;-0.31,0.27,-0.04;-0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18;-0.27,0.61,0.12;-0.065,0.49,0.0012;-0.12,0.054,-0.063;w2=0.83,1.6,-

3、0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14;-0.3,-0.22,2.2;1.1,1.2,-0.46;0.18,-0.11,-0.49;W1=w1;%转置下方便后面求s1W2=w2;m1=mean(w1);%对w1每一列取平均值 结果为1*3矩阵m2=mean(w2);%对w1每一列取平均值 结果为1*3矩阵S1=zeros(3);%有三个特征 所以大小为3S2=zeros(3);for i=1:10%1到样本数量n s1=(W1(:,i)

4、-m1)*(W1(:,i)-m1); s2=(W2(:,i)-m2)*(W2(:,i)-m2); S1=S1+s1; S2=S2+s2;endsw=S1+S2;w_new=transpose(inv(sw)*(m1-m2);%这里m1m2是行 要转置下 3*3 X 3*1 =3*1 这里提前转置了下 跟老师ppt解法公式其实一样%绘制拟合结果 数据画图用 y1=w_new*W1y2=w_new*W2;m1_new=w_new*m1;%求各样本均值 也就是上面y1的均值m2_new=w_new*m2;w0=(m1_new+m2_new)/2%取阈值%分类判断x=-0.7 0.047 0.58 -

5、0.4 0.089 1.04 ;m=0; n=0;result1=; result2=;for i=1:2%对待观测数据进行投影计算 y(i)=w_new*x(:,i); if y(i)w0 m=m+1; result1(:,m)=x(:,i); else n=n+1; result2(:,n)=x(:,i); endend%结果显示 display(属于第一类的点)result1display(属于第二类的点)result2figure(1)scatter3(w1(1,:),w1(2,:),w1(3,:),+r),hold onscatter3(w2(1,:),w2(2,:),w2(3,:)

6、,sg),hold onscatter3(result1(1,:),result1(2,:),result1(3,:),k),hold onscatter3(result2(1,:),result2(2,:),result2(3,:),bd)title(样本点及实验点的空间分布图)legend(样本点w1,样本点w2,属于第一类的实验点,属于第二类的实验点)figure(2)title(样本拟合结果)scatter3(y1*w_new(1),y1*w_new(2),y1*w_new(3),b),hold onscatter3(y2*w_new(1),y2*w_new(2),y2*w_new(3),sr)（2） 对下面表1-1样本数据中的类别w1和w2计算最优方向w（3） 画出最优方向w 的直线，并标记出投影后的点在直线上的位置最优方向w 的直线投影后的位置（4） 选择决策边界，实现新样本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分类决策边界取法：分类结果：四、实验感想通过这次实验