第01章 误差理论与最小二乘法

第一章

误差理论与最小二乘法随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容

随机误差是因很多暂时未能掌握或不便掌握的微小因素产生的，主要有以下几方面：①测量装置方面的因素②环境方面的因素

③

人为方面的因素零部件变形及其不稳定性，信号处理电路的随机噪声等。温度、湿度、气压的变化，光照强度、电磁场变化等。瞄准、读数不稳定，人为操作不当等。第一节随机误差一、随机误差产生的原因随机误差：在同一条件下，多次测量同一值，绝对值和符号以不可预测规律变化的误差。第一节随机误差随机误差的特点：1、每个测量值都含有误差，这些误差的出现没有确定的规律，即前一个数据出现后，不能预测下一个数据的大小和方向。2、就误差整体而言，具有某种统计规律。一、随机误差产生的原因（1）随机误差分布具有对称性。绝对值相等的正、负误差产生的数量相等。第一节随机误差在不考虑系统误差和粗大误差影响的条件下，随机误差服从正态分布，具有如下特点：测量值测量次数真值误差：（2）随机误差分布具有单峰性。绝对值小的误差出现几率远远大于绝对值大的误差出现几率。第一节随机误差测量值测量次数真值在不考虑系统误差和粗大误差影响的条件下，随机误差服从正态分布，具有如下特点：误差：（3）随机误差具有有界性。在一定测量条件下，随机误差的出现不会超过某一范围。第一节随机误差测量值测量次数真值在不考虑系统误差和粗大误差影响的条件下，随机误差服从正态分布，具有如下特点：误差：（4）随机误差具有抵偿性。测量次数趋于无穷大时，随机误差的算术平均值趋于0。第一节随机误差归纳随机误差的特点为：对称性、单峰性、有界性、抵偿性。测量值测量次数真值在不考虑系统误差和粗大误差影响的条件下，随机误差服从正态分布，具有如下特点：误差：第一节随机误差二、正态分布误差：概率密度函数：1）概率密度函数：均方根误差/标准误差误差：第一节随机误差二、正态分布2）特点:①对称性---可正可负---绝对值相等的正负误差出现的机会相等

P()-曲线对称于纵轴②

有界性

---绝对值不会超过一定的范围（一定的测量条件下）绝对值很大的误差几乎不出现第一节随机误差二、正态分布-KK③

抵偿性---测量次数n∞时（相同条件下）全体随机函数值的代数和为零④

单峰性

---绝对值小的误差出现的机会多（概率密度大）

=0处随机误差概率密度有最大值2）特点:第一节随机误差二、正态分布-KK-KK数学期望（Expectation）---真值x0标准偏差（Standarddeviation）3）特征量：小，h大大，h小第一节随机误差二、正态分布

对某量进行一系列测量时，由于存在随机误差，因此其获得的测量值不完全相同，此时应以算术平均值作为该量的真值。

设为n次测量所得的值，则算术平均值为:

第一节随机误差三、算术平均值当测量次数无限增加时，算术平均值必然趋近于真值。

由于σ值反映了测量值或随机误差的散布程度，因此σ值可作为随机误差的评定尺度。第一节随机误差标准差σ不是测量当中任何一个具体测量值的随机误差。σ的大小只说明，在一定条件下随机误差的概率分布情况。哪条曲线表示数据更集中？四、测量的标准差随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容研究系统误差的重要意义第二节系统误差

系统误差不易被发现，多次重复测量不能减小它对测量结果的影响。系统误差:

在确定的测量条件下，某种测量方法和装置，在测量之前就已存在误差，并始终以必然性规律影响测量结果的正确度，如果这种影响显著的话，就要影响测量结果的准确度。测量结果的精度，与随机误差和系统误差都有关。计量校准后发现的偏差、仪器设计原理缺陷、仪器制造和安装不正确等。测量时的实际温度对标准温度的偏差、测量过程中的温度、湿度按一定规律变化的误差。采用近似的测量方法或计算公式引起的误差等。测量人员固有的测量习性引起的误差等。第二节系统误差一、系统误差产生的原因

系统误差由固定不变的或按确定规律变化的因素造成，在条件充分的情况下这些因素可以掌握。①测量装置方面的因素②环境方面的因素③

测量方法的因素④

测量人员的因素第二节系统误差二、系统误差的分类和特征特征：在同一条件下，多次测量同一测量值时，误差的绝对值和符号保持不变，或者在条件改变时，误差按一定的规律变化。系统误差不具有抵偿性，它是固定的或服从一定函数规律的误差。从广义上讲，系统误差是指服从某一确定规律变化的误差。分类：不变系统误差变化系统误差第二节系统误差（一）不变系统误差二、系统误差的分类和特征在整个测量过程中，误差的大小和符号始终不变。如：调零误差，量块或其它标准件尺寸的偏差等。它对每一测量值的影响均为一个常量。（二）变化系统误差

在整个测量过程中，误差的大小和方向随测试的某一个或某几个因素按确定的函数规律而变化。①线性变化的系统误差第二节系统误差二、系统误差的分类和特征②周期变化的系统误差③复杂规律变化的系统误差

例：微安表的指针偏转角与偏转力距间不严格保持线性关系，而表盘仍采用均匀刻度所产生的误差。随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容第三节粗大误差可疑数据：在一系列重复测量中，与其它数据相比有明显差异的数据。可疑数据很可能含有粗大误差（简称粗差）。测量值测量次数真值精度偏精度偏将大误差当成粗差导致将粗差当成大误差导致影响对的估计要对数据中异常值正确判断和处理。高低第三节粗大误差一、粗大误差产生的原因产生粗大误差的原因是多方面的，大致可归纳为：①测量人员的主观原因②客观外界条件的原因测量者工作责任感不强、工作过于疲劳、缺乏经验操作不当，或在测量时不小心、不耐心、不仔细等，造成读数错误等。测量条件意外地改变（如机械冲击、外界振动、电磁干扰等）。第三节粗大误差二、判别粗大误差的准则首要方法：从技术上和物理上找出产生异常值的原因。（读错记错数据，仪器的突然故障，或外界条件的突变等）统计方法：测量完成后也不能确知数据中是否含有粗大误差。P测量值测量次数真值第三节粗大误差二、判别粗大误差的准则统计法的基本思想是：给定一个显著性水平，按一定分布确定一个临界值，

凡超过这个界限的误差，就认为它属于粗大误差，应予以剔除。粗大误差的判定，要特别慎重，应作充分的分析和研究。P测量值测量次数真值第三节粗大误差二、判别粗大误差的准则第三节粗大误差（一）准则最常用、最简单的判别准则。前提：测量次数充分大。以贝塞尔公式算得，以代替真值。对某个可疑数据，若其残差满足：则可认为该数据含有粗大误差，应予以剔除。随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容第四节最小二乘法

一、引入待测量（难以直接测量）：直接测量量：问题：如何根据

和测量方程解得待测量的估计值？直接求得。有利于减小随机误差，采用最小二乘原理求。讨论：二、最小二乘原理

设直接测量量的估计值为，则有:由此得测量数据的残余误差：残差方程式第四节最小二乘法

各测量数据同时出现的概率为

若不存在系统误差，相互独立并服从正态分布，标准差分别为，则出现在相应真值附近区域内的概率为测量值真值这n个测量值出现于相应区间的概率P为最大。最小最小近似真值第四节最小二乘法

最小二乘原理：最小最小二乘原理

测量结果的最可信赖值应使残余误差平方和最小。第四节最小二乘法

线性参数的测量方程和相应的估计量为：残差方程为：令第四节最小二乘法

最小二乘原理的矩阵形式：最小二乘原理：最小第四节最小二乘法

随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容第五节正规方程

正规方程：误差方程按最小二乘法原理转化得到的

有确定解的代数方程组。正规方程：特点：

主对角线分布着平方项系数，正数；

相对于主对角线对称分布的各系数两两相等。第五节正规方程

则正规方程可写成正规方程的矩阵形式将代入到中，得（待测量Ｘ的估计）第五节正规方程

解：1）列出误差方程令

为两个待估参量，则误差方程为2001.602001.482001.072000.82000.722000.36454030252010例:已知铜棒的长度和温度之间具有线性关系：为获得０℃时铜棒的长度和铜的线膨胀系数，现测得不同温度下铜棒的长度，求，的最可信赖值。因此：第五节正规方程

组合测量：直接测量待测参数的组合量,

然后对这些测量数据进行处理，从而求得待测参数的估计量。以检定三段刻线间距为例，要求检定刻线A～D间的距离。ABCDABCD测量数据的估计待测参数的估计第五节正规方程

直接测量各组合量，得首先列出误差方程第五节正规方程

求得估计量为则式中，第五节正规方程

随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容第六节回归分析的基本概念函数与相关函数关系：可以用明确的函数关系式精确地表示出来。例电费与用电量：电费=用电量每度电单价相关关系：某些变量之间既存在着密切的关系，又不能由一个（或几个）自变量的数值精确地求出因变量的数值，而是要通过试验和调查研究，才能确定它们之间的关系。例家庭收入与恩格尔系数：家庭收入高，则恩格尔系数低。XY线性正相关

自变量(independentvariable)：解释变量，给定的或可以控制的、用来解释、预测因变量的变量。因变量(dependentvariable)：响应变量，由自变量来解释其变化的变量。XYXY••••••••第六节回归分析的基本概念回归分析分类按自变量个数分类一元回归简单回归多元回归复回归按方程式特征分类线性回归非线性回归一元线性回归SimpleLinearregression第六节回归分析的基本概念随机误差系统误差粗大误差最小二乘法正规方程回归分析的基本概念一元线性回归分析多元线性回归内容一、参数估计：

确定两个变量之间的线性关系，即直线拟合问题。第七节一元线性回归分析最小二乘法(Leastsquaresmethod):以极小化为目标的求估计方程的过程。残差(Residual):e第七节一元线性回归分析从散点图可以看出：体重与身高大致成线性关系。设测量数据有如下结构形式：式中，分别表示其它随机因素对身高和体重影响的总和。思路：要求y与x的关系，即根据测量数据要求出的估计值。根据测量数据，可得到10个测量方程，结合前面所学，未知数有两个，方程个数大于未知数的个数，适合用最小二乘法求解。和第七节一元线性回归分析设得到的回归方程为残差方程为根据最小二乘原理可求得回归系数b0和b。对照最小二乘法的矩阵形式，令第七节一元线性回归分析则误差方程的矩阵形式为对照，有将测得值分别代入上式，可计算得第七节一元线性回归分析学生身高x体重yx2y2xy估计值ŷ残差y-ŷABCDEFGHIJ1581601621641661681701721741764750485562605261706524964256002624426896275562822428900295843027630976220925002304302538443600270437214900422574268000777690201029210080884010492121801144047.29149.44851.60653.76455.92158.07960.23662.39464.55266.709-0.2910.552-3.6061.2366.0791.921-8.236-1.3945.448-1.70916705702792203303295546-0第七节一元线性回归分析SST(Sumofsquaresoftotal)：总的（离差）平方和SSR(Sumofsquaresofregression):

回归平方和SSE(Sumofsquaresoferrors):

误差（残差）平方和第七节一元线性回归分析二、回归估计误差：第七节一元线性回归分析SST=SSR+SSE第七节一元线性回归分析第七节一元线性回归分析

由于样本的相应统计量（相关系数、回归系数等）具有随机性，因此，我们需要对其进行显著性检验，以验证是否可以据此推断总体的参数。

第七节一元线性回归分析三、回归方程的检验(F检验)F检验是基于F分布进行的，是方差分析内容之一。第七节一元线性回归分析问题：这条回归直线是否符合y与x之间的客观规律？对N个测量值与其算术平均值之差的平方和分解；从量值上区别对Ｎ个测量值的影响因素；用F检验法对所求回归方程进行显著性检验。方差分析法：三、回归方程的检验(F检验)第七节一元线性回归分析1、引起变差的原因：

A、自变量x取值的不同；

B、其它因素（包括试验误差）的影响。2、方差分析总的离差平方和（即N个观测值之间的变差）第七节一元线性回归分析可以证明：S=U+Q其中回归平方和，反映S中由于x和y的线性关系引起y变化的部分。残差平方和，反映其它因素对y变差的影响。基本思路：方程是否显著取决于U和Q的大小，U越大，Q越小，说明y与x的线性关系愈密切。计算统计量F对一元线性回归，应为查F分布表，根据给定的显著性水平和已知的自由度1和N-2进行检验：S=U+Q第七节一元线性回归分析3、F检验若