一元线性回归

一元线性回归分析及方差分析与显著性检验某位移传感器的位移X与输出电压y的一组观测值如下：(单位略)1510152025y0.10510.52621.05211.57752.10312.6287设x无误差，求y对x的线性关系式，并进行方差分析与显著性检验。(附:F0Ji，4)=4.54,F0Ji，4)=7.71，F0。1(1，4)=21.2)回归分析是研究变量之间相关关系的一种统计推断法。一.一元线性回归的数学模型在一元线性回归中，有两个变量，其中x是可观测、可控制的普通变量，常称它为自变量或控制变量，y为随机变量，常称其为因变量或响应变量。通过散点图或计算相关系数判定y与x之间存在着显著的线性相关关系，即y与x之间存在如下关系：(1)通常认为且假设与x无关。将观测数据(i=1，……，n)代入(1)再注意样本为简单随机样本得：(2)称(1)或(2)(又称为数据结构式)所确定的模型为一元(正态)线性回归模型。对其进行统计分析称为一元线性回归分析。模型(2)中EY=，若记y=E(Y),则y=a+bx,就是所谓的一元线性回归方程，其图象就是回归直线，b为回归系数，a称为回归常数，有时也通称a、b为回归系数。设得到的回归方程y-b+bx残差方程为v-y一y-y一b一bx,t-1,2,…,Nitt0t根据最小二乘原理可求得回归系数b和b。对照第五章最小二乘法的矩阵形式，0令(y)nx)rv)iiiy1xrb)v2X-2b-0V-2:b:"JJx/、ATz顿J、ATz则误差方程的矩阵形式为Y-Xb-V...人…y的精度相等，则有t对照V-L-A)(，设测得值b-(XTX)-iXtYy的精度相等，则有t将测得值分别代入上式，可计算得NAy—乙)(潺)NAy—乙)(潺)ttttb=—t=it=it=iN^x2-(iLx)2t=1t=1l=广，bxx(乙2)乙)一(乙)(乙y)ttttt———1=11=11=11=1——一=y—bxN艺xt2-(艺气)2t=1t=1其中-1yx=—"xNtt=1-1yy=篇乙yNtt=1尤…寸勺t=1t=17y，-、l=乙(尤…寸勺t=1t=1t=1yt)t=1TOC\o"1-5"\h\z1=y(x—x)(y—y)=yxy—^yx)(yxytttyt)t=1t=1t=1t=11=y(y—y)2=yy2—{a川yyttNtt=1t=1t=1二、回归方程的方差分析及显著性检验问题：这条回归直线是否符合y与x之间的客观规律回归直线的预报精度如何？解决办法：方差分析法一分解N个观测值与其算术平均值之差的平方和；从量值上区别多个影响因素；用F检验法对所求回归方程进行显著性检验。（一）回归方程的方差分析总的离差平方和（即N个观测值之间的变差）S=y（y—y）2=1，v=N—1t=1可以证明：S=U+Q其中U=y（y一y）2=bl，v=1t=1Q=y（y一y）2=1一bl，v=N—2

ttyyxyQt=1U一回归平方和，反映总变差中由于x和y的线性关系而引起y变化的部分。Q一残余平方和，反映所有观测点到回归直线的残余误差，即其它因素对y变差的影响。（二）回归方程显著性检验一F检验法基本思路：方程是否显著取决于U和Q的大小，U越大Q越小说明y与x的线性关系愈密切。计算统计量F口UlvF=uQ/vQ对一元线性回归，应为F=U/1Q/(N-2)查F分布表，根据给定的显著性水平a和已知的自由度1和N-2进行检验:若，F>F001(1,N-2),回归在0.01的水平上高度显著。F005(1,N-2)<F<F001(1,N-2),回归在0.05的水平上显著。F010(1,N-2)<F<F005(1,N-2),回归在0.1的水平上显著。F<F.10(1,N-2),回归不显著。残余方差与残余标准差残余方差：排除了x对y的线性影响后，衡量y随机波动的特征量。9Qb2=N-2残余标准差:=I_Q__\：N-2含义：b越小，回归直线的精度越高。程序如下：test=[1.2510152025;5.110.114.821.525.228.4]N=length(test(1,:));sx=0;sx2=0;sy=0;sy2=0;sxy=0;Lxy=0;Lyy=0;fori=1:Nsx=sx+test(1,i);sx2=sx2+test(1,i)八2;sy=sy+test(2,i);sy2=sy2+test(2,i)八2;sxy=sxy+test(1,i)*test(2,i);Lxy=Lxy+(test(1,i)-sum(test(1,:))/N)*(test(2,i)-sum(test(2,:)/N))Lyy=Lyy+(test(2,i)-sum(test(2,:))/N)八2;endr=[N,sx;sx,sx2]\[sy;sxy];a=r(1);b=r(2);U=b*Lxy;Q=Lyy-U;F=(N-2)*U/Q;x=test(1,:);y=a+b*x;eq=sum(test(2,:))/N;ssd=0;ssr=0;fori=1:Nssd=ssd+(test(2,i)-y(i))八2;ssr=ssr+(y(i)-eq)八2;endsst=ssd+ssr;RR=ssr/sst;str=[blanks(5),'y=','(',num2str(a),')','+','(',num2str(b),')','*x'];disp('')disp('回归方程为')disp(str)disp('R八2拟合优度校验，)strin=['R八2=',num2str(RR)];disp(strin)disp('方差检验：')strin=['sgm八2=',num2str(sgm)];disp(strin)disp('F-分布显著性校验')stri=['F计算值',num2str(F),blanks(4),'自由度f1=1,f2=',num2str(N-2)];disp(stri)disp('注：请对照F-分布表找到所需置信水平下的F临界值Fa，若F>Fa，则通过检验。')yy=a+b*test(1,:);plot(test(1,:),test(2,:),'r.'),holdonplot(test(1,:),yy,'b-'),holdofftitle(str)结果如下:回归方程为：y=(0.0003321)+(0.10514)*xRA2拟合优度检验：RA2=1方差检验：sgmA2=8.1002e-008F-分布显著性检验：F计算值：56408931.6024自由度：f1=1,f2=4注：请对照F-分布表找到所需置信水平下的F临界值Fa，若F>Fa，则通过检验。polyfit函数基于最小二乘法，使用的基本格式为：[plain]viewplaincopy1.p=polyfit(x,y,n)2-[p,S]=polyfit(x,y,n)3.[p,S,mu]=polyfit(x,y,n)其中每个命令中的n为多项式拟合的次数，当n为1时，即为一次拟合(很多情况下等价于一元线性回归)。p是n+1维参数向量p(1)，p(2)….那么拟合后对应的多项式即为p(1)*XAn+p(2)*xA(n-1)+•・•+p(n)*x+p(n+1)。S是规模为1x1的结构数组，包括R（系数矩阵的QR分解的上三角阵），df（自由度），normr（拟合误差平方和的算术平方根）。求出p之后我们需要作出拟合函数那么只需要使用命令：[plain]viewplaincopy1.f=polyval（p,x）然后plot出x和f即可。另外需要强调一点的是，往往需要在回归分析的时候给出相关系数（correlationcoefficient），实际上也很简单，我们可以使用命令：[plain]viewplaincopy1.r=corrcoef（x,y）;这样得到的r即为相关系数矩阵，其中r（1,2）=r（2,1）为相关系数，其值在[-1,1]之间，1表示最大程度的正相关，-1表示最大程度的负相关。相关系数绝对值越靠近1，线性相关性质越好，根据数据描点画出来的函数-自变量图线越趋近于一条平直线，拟合的直线与描点所得图线也更相近。另外，转载两条使用polyfit的注意事项1.使用polyfit命令进行多项式拟合时要注意的是，向量x（其中元素作为自变量）中不重复的元素个数m，和拟合阶数k需要满足m>=k+1.简单分析：k阶拟合需要确定k