机器学习实验1-Fisher线性分类器设计

1、精选优质文档-倾情为你奉上一、 实验意义及目的掌握Fisher分类原理，能够利用Matlab编程实现Fisher线性分类器设计，熟悉基于Matlab算法处理函数，并能够利用算法解决简单问题。二、算法原理Fisher准则基本原理：找到一个最合适的投影周，使两类样本在该轴上投影之间的距离尽可能远，而每一类样本的投影尽可能紧凑，从而使分类效果为最佳。内容：（1） 尝试编写matlab程序，用Fisher线性判别方法对三维数据求最优方向w的通用函数（2） 对下面表1-1样本数据中的类别w1和w2计算最优方向w（3） 画出最优方向w 的直线，并标记出投影后的点在直线上的位置（4） 选择决策边界，实现新样

2、本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分类三 、实验内容（1） 尝试编写matlab程序，用Fisher线性判别方法对三维数据求最优方向w的通用函数程序清单：clcclear all%10*3样本数据w1=-0.4,0.58,0.089;-0.31,0.27,-0.04;-0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18;-0.27,0.61,0.12;-0.065,0.49,0.0012;-0.12,0.054,-0.063;

3、w2=0.83,1.6,-0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14;-0.3,-0.22,2.2;1.1,1.2,-0.46;0.18,-0.11,-0.49;W1=w1'%转置下方便后面求s1W2=w2'm1=mean(w1);%对w1每一列取平均值 结果为1*3矩阵m2=mean(w2);%对w1每一列取平均值 结果为1*3矩阵S1=zeros(3);%有三个特征 所以大小为3S2=zeros(3);for i=1:1

4、0%1到样本数量n s1=(W1(:,i)-m1)*(W1(:,i)-m1)' s2=(W2(:,i)-m2)*(W2(:,i)-m2)' S1=S1+s1; S2=S2+s2;endsw=S1+S2;w_new=transpose(inv(sw)*(m1'-m2');%这里m1m2是行 要转置下 3*3 X 3*1 =3*1 这里提前转置了下 跟老师ppt解法公式其实一样%绘制拟合结果 数据画图用 y1=w_new*W1y2=w_new*W2;m1_new=w_new*m1'%求各样本均值 也就是上面y1的均值m2_new=w_new*m2'w

5、0=(m1_new+m2_new)/2%取阈值%分类判断x=-0.7 0.047 0.58 -0.4 0.089 1.04 ;m=0; n=0;result1=; result2=;for i=1:2%对待观测数据进行投影计算 y(i)=w_new*x(:,i); if y(i)>w0 m=m+1; result1(:,m)=x(:,i); else n=n+1; result2(:,n)=x(:,i); endend%结果显示 display('属于第一类的点')result1display('属于第二类的点')result2figure(1)scatt

6、er3(w1(1,:),w1(2,:),w1(3,:),'+r'),hold onscatter3(w2(1,:),w2(2,:),w2(3,:),'sg'),hold onscatter3(result1(1,:),result1(2,:),result1(3,:),'k'),hold onscatter3(result2(1,:),result2(2,:),result2(3,:),'bd')title('样本点及实验点的空间分布图')legend('样本点w1','样本点w2'

7、,'属于第一类的实验点','属于第二类的实验点')figure(2)title('样本拟合结果')scatter3(y1*w_new(1),y1*w_new(2),y1*w_new(3),'b'),hold onscatter3(y2*w_new(1),y2*w_new(2),y2*w_new(3),'sr')（2） 对下面表1-1样本数据中的类别w1和w2计算最优方向w（3） 画出最优方向w 的直线，并标记出投影后的点在直线上的位置最优方向w 的直线投影后的位置（4） 选择决策边界，实现新样本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分类决策边界取法：分类结果：四、实验感想通过这次