多元线性回归模型参数的最小二乘估计_第1页
多元线性回归模型参数的最小二乘估计_第2页
多元线性回归模型参数的最小二乘估计_第3页
多元线性回归模型参数的最小二乘估计_第4页
多元线性回归模型参数的最小二乘估计_第5页
已阅读5页,还剩8页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、3.2多元线性回归模型参数的最小二乘估计 一、一般模型的参数最小二乘估计 设与总体线性回归模型(3.1.1)对应的样本线性回 归模型为,(3.2.1),i =1,2,,n 或表示为矩阵形式为,其中,相应的样本线性回归方程为 (3.2.2) i =1, 2 ,,n,利用最小二乘法求参数估计量 : 设残差平方和为Q,则,我们的任务是寻求适当的 使Q达到极小。 根据多元函数的极值原理, 应是下列方 程组的解:, ,得到正规方程组,整理可得正规方程组:, ,(3.2.3),由(3.2.3)第一个方程,得,(3.2.4),将正规方程组写成矩阵形式:,(3.2.3),其中,于是正规方程组的矩阵形式为,(3

2、.2.5),可得最小二乘法的参数估计式:,(3.2.6),这就是向量的OLS估计量。,其中( X X )根据假定6,rk(X) = k+1,(X X) 为(k+)阶方阵,所以( X X )满秩,其逆矩阵 ( X X )-1存在。,二、中心化模型的参数最小二乘估计,(3.2.7),相应的样本线性回归模型可以表示为,(3.2.8),对于样本容量为n的y的均值 可分别表示为,(3.2.9),和,(3.2.10),这里 =,可以看作是对参数施加一个限制条件。,方程(3.2.7)减方程(3.2.9)得,(3.2.11),i =1,2,,n,方程(3.2.8)减方程(3.2.10),(3.2.12),i =1,2,,n,(3.2.11)和(3.2.12)是分别由n个方程组成的 方程组。将它们写成矩阵形式:,(3.2.13),(3.2.14),其中,应用OLS,求残差平方和,其中用到 是标量的性质。,将残差平方和(3.2.15)对求导,并令其为零:,正规方程组,(3.2.16),解方程组(3.2.16)得,(3.2.17),矩阵运算等价于行列式计算(对正规方程(3.2.16) 应用克莱姆法则):,j =1,2,,k (3.2.28),(3.2.29),(j列),思考题: 与一元回

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论