版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
现代测试技术Moderntestingandmeasurementtechnology
苏州科技学院电子与信息工程学院电子科学技术系潘敬熙Jingxi-pan@163.com53832713@
第3章误差分析和数据处理
3.1误差的表示法3.2误差的来源和分类3.3系统误差3.4随机误差3.5误差的合成与分配3.6测量数据的处理
3.1误差的表示法
3.2.1几个概念真值——
测量的目的就是获得被测量的真值。所谓真值,就是一个物理量在一定的时间和环境条件下,被测量所呈现的客观大小或真实数值。真值是利用理想的量具或测量仪器而得到的无误差的测量结果,它只是一个理想的概念,实际的测量无法得到。
实际值——
实际值是在实际测量中,用高一级标准的仪器示值来代替真值,通常称为实际值,也叫相对真值。标称值——
标称值的是指测量器具上标定的数值。由于制造和测量精度不够以及环境因素的影响,标称值并不一定等于它的真值或实际值。为此,在标出测量器具的标称之时,通常还要标出它的误差范围或准确度等级。
示值——
示值的定义是测量器具指示的被测量的量值,也称作测量器具的测量值,它包括数值和单位。测量就是通过实验手段求出被测量与计算单位的比值的过程,所以测量结果就包括数字和计量单位两部分。测量误差就是测量值与真值之间存在的差异。
3.1.2误差基本表示法
1.绝对误差 设测量值为AX,被测量真值为A0,则绝对误差ΔX可表示为ΔA=AX-A0
(3-1-1)
A0通常用高一等级标准器具的示值A来替代(也可以是多次测量的最佳估值),这时误差可表示为 ΔA=AX-A(3-1-2)
误差伴随着测量过程的始终,人们只能根据需要和可能,将其限制在一定范围内而不能完全加以消除。在实际测量中,应分析误差产生的原因,合理选用仪器和测量方法,正确处理数据,使测量结果尽可能逼近真值。
如果测量误差是统计独立且不随时间变化的,则可以用高一等级标准检定出来,在实际测量时对测量结果加以修正。修正值一般用C表示:
C=-ΔA=A-AX
因而有 A=C+AX
2.相对误差 相对误差有以下几种: (1)实际相对误差。它是用绝对误差ΔA与被测量的实际值A0的百分比值来表示的,即(3-1-3)(2)标称相对误差。它是用绝对误差ΔA与仪器的测量值AX的百分比值表示的,即3.1.2仪表的误差表示法 满度相对误差,也即引用误差。定义为绝对误差与测量仪器满度值的百分比: (3-1-4) 式中γm为满度相对误差,ΔA为绝对误差,Am为仪器的满度值。 如果已知仪器的满度相对误差γm
,则可以方便地推算出该仪器最大的绝对误差,即 γm×Am≤
ΔAm
练习:
试证明实际相对误差γ实与示值相对误差γ示二者差值等于γ实γ示即
γ实-γ示
=γ实γ示。并比较①A=99,A0=100②A=80,A0=100两种情况下γ实与γ示的差值。
结论:
1、γ实、γ示定义不同。但当误差值较小时,γ实≈γ示。
2、当误差值较大时,γ实与γ示相差较大。因此在计算时两者不能混用。要严格按规定的要求进行。3.2误差的来源和分类3.2.1测量误差的来源 一般的测量过程都是条件受限的测量,必然存在不同程度的误差。测量误差的主要来源有以下几个方面:(1)仪器误差(2)使用误差(3)人身误差(4)环境误差(5)方法误差
(1)仪器、仪表误差仪器仪表本身及其附件设计、制造、装配、鉴定等的不完善以及仪器使用过程元器件的老化、机械部件磨损、疲劳等因素而使测量仪器引入的误差称为仪器仪表误差。仪器仪表误差是测量误差的主要来源之一,减少仪器误差的主要途径是根据具体测量任务,正确地选择测量方法和使用仪器。
(2)使用误差是指人们在使用仪器过程中出现的误差。又称操作误差。例如,安装、调试、布置或使用不当等所导致的误差。(3)人身误差由于测量者的分辨能力、视觉疲劳、固有习惯或缺乏责任心等因素引起的误差称为人身误差。
(4)环境误差由于各种环境因素与仪器仪表所要求的使用条件不一致所造成的误差称为影响误差。(5)方法误差和理论误差由于测量方法不合理造成的误差称为方法误差。理论误差是用近似的公式或近似值计算测量结果而引起的误差。要减小该误差必须选择合适的测量方法。
3.2.2测量误差的分类
虽然多种测量误差产生的原因不尽相同,但按误差的性质和特点,大致可以划分为三类:
1.系统误差 在相同条件下多次测量同一量时,误差的绝对值和符号保持恒定,或在条件改变时按某种确定规律而变化的误差称为系统误差。系统误差可表示为:
下图描述了几种不同系统误差的变化规律:直线a属于恒定系差;直线b属于变值系差中的累进性系差,而且是误差递增的;直线c表示周期性系差,在整个测量过程中,系差值成周期性变化;曲线d属于按复杂规律变化的系差。系统误差特征
产生系统误差的原因主要有以下几种:
(1)测量仪器的局限性。
(2)测量时环境条件(如温度、湿度及电源电压)与仪器使用要求不一致。
(3)采用近似的测量方法或近似的计算公式。(4)测量人员读取仪器示值的偏差。2.随机误差在实际相同条件下多次测量同一量时,误差的绝对值和符号以不可预定的方式变化着的误差称为随机误差。 产生随机误差的主要原因有:
(1)测量仪器产生噪声,零部件配合不良等。
(2)温度及电源电压的无规则运动,电磁干扰等。
(3)测量人员感觉器官的无规律变化产生的读数偏差。
随机误差的这些特性表明其服从统计规律,用数理统计的方法来表征,若服从正态分布,如下图所示。测量值xi的正态分布曲线误差δi的正态分布曲线
一般来说,有 式中Ex称为数学期望,其定义为
σ称为方差,其定义为
在工程中实际上当n足够大时,定义:
3.粗大误差 粗大误差是指明显超出规定条件下能预期的误差。产生粗大误差的原因主要有:
(1)测量方法不当或错误。
(2)测量操作疏忽和失误。
(3)测量条件的变更。3.2.3评定测量结果 测量结果常用“准确度”(有些书表述成“正确度”)、“精密度”和精确度(有些书表述成“准确度”)来评定。准确度表示系统误差的大小。系统误差越小,则准确度越高,即测量值与实际值符合的程度越高。精密度表示随机误差的影响。精密度越高,表示随机误差越小。随机因素使测量值呈现分散而不确定,但总是分布在平均值附近。精确度用来反映系统误差和随机误差的综合影响。精确度越高,表示准确度和精密度都高,意味着系统误差和随机误差都小。测量结果评价:(a)准确度高、精密度低;(b)准确度低、精密度高;(c)精密度、准确度均高,即精确度高射击误差示意图测量值
是粗大误差
3.3系统误差
3.3.1削弱系统误差的方法举例一、概述系统误差定义:在相同条件下多次测量同一量时,误差的绝对值和符号保持恒定,或在条件改变时按某种确定规律而变化的误差称为系统误差。系统误差特点:①是一个非随机变量。即系统误差出现不服从统计规律,而服从确定的函数规律。②重复测量时误差具有重现性。③可修正性。由于系统误差的重现性,确定了具有可以修正的特点。
系统误差按其出现的规律分类分为:固定系统误差和变化系统误差
1、固定系统误差:在重复测量中,误差的符号和数值都不变的误差。如仪表的刻度不准、分压器没有调准等原因产生的误差。
2、变化系统误差:按其不同变化规律又分为三种:①单方向线性变化的系统误差②周期性变化的系统误差③变化规律复杂的系统误差
(1)单方向线性变化的系统误差在测量过程中是以单一方向不断增长或不断减少的误差。例如用电池做电源的测量仪器,他们的误差随着电池放电逐渐增大;相反,作为频率标准的有恒温槽的石英晶体振荡器,它的频率误差随着恒温时间增长而不断减少。(2)周期性变化的系统误差在测量过程中误差的符号和数值作周期性变化。例如作圆周扫描的图示仪,由于读数中心和扫描中心不重合所产生的误差。
从系统误差产生的原因和特点可以确认:系统误差是一个非随机量。其出现有一定规律。其产生的原因一般是可知的,能掌握的。操作人员应尽力做到:⑴尽可能预见到各种系统误差的具体来源,极力设法消除其影响。⑵设法确定或估计出未能消除的系统误差值,至少要确定误差的大小范围。因为有些系统误差不能通过数据处理来发现和消除。
二、消除或减弱系统误差的方法测量准确度由系统误差大小表征。系统误差越小,则测量准确度越高典型的消除或减弱系统误差方法有:1、零示法;2、替代法;3、交换法;4、补偿法;5、微差法等。此外还有修正法,即对仪器定期进行鉴定,并确定修正值的大小;检查各种外界影响,如温度、气压、磁场、电场等对仪器指示值的影响,并作出各种修正公式、修正曲线或表格,用它们对测量结果加以修正,来提高测量准确度。零示法
通过平衡电路,使指示仪表示零。于是被测量就等于已知的标准量。如用零示法测未知电压,当检流计G指针示零时,有:
VX=VS
即只要标准电池及标准分压器准确,检流计转动灵敏,测量就会准确。而检流计的系统误差并不影测量的误差。
替代法在测量条件不变的情况下,用一个标准已知量去代替被测量,并调整标准量使仪器的示值不变。在这种情况下,被测量就等于标准量的数值。由于在替代过程中,仪器的状态和示值都不变,所以仪器的误差和其他造成系统误差的因素对测量结果基本不产生什么影响。替代法测电阻举例
替代法被广泛应用在测量元件参数上,如用谐振法或电桥法测量电容器的电容和线圈的电感的电感量时,都可辅之以替代法。采用替代法的优点:可消除对地电容,导线的电容、电感,和电感线圈的固有电容的影响。
交换法(对照法、二次测量法)
这种方法往往是使固定的系统误差在测量结果中一次为正、另一次为负,而其绝对值相等。于是仪器两次读数的平均值将与系统误差无关。在实际测量中,由于测量环境不可完全一致,故利用交换法得到的仪器两次读数的平均值只是大大削弱系统误差的影响,而不能完全消除。微差法
考察零示法情况:被测量与标准量对指示仪表的作用完全相同,使指示仪表示零。而当测量中指示仪表不能完全示零时(往往因为标准量不能连续可变),只要标准量与被测量差别较小,则指示仪表的误差对测量结果的影响将大大减弱。这就是所谓微差法的情况。用微差法求测量相对误差的公式(3-3-6):式中:VX——测量值;
VS——标准量;
Vδ——被测量与标准量之微差,由毫伏表读出;
ΔVX
/VX——测量相对误差;
ΔVS
/VS——标准量的相对误差;
ΔVδ
/Vδ——指示仪表的相对误差;
Vδ
/VS——微差Vδ与标准量VS的比值,也称为被测量与标准差之微误差,或称为相对微差。3.3.2系统误差的判别1.恒系差的判别(1)校准用仪器仪表本身的校准装置进行自校,发现并消除之,如磁电系仪表的“机械调零”等;用更高级别的仪表来校准所使用的仪表,给出的修正值,如仪表的出厂鉴定和使用过程中的定期送计量部门鉴定。(2)比对用多台同类仪器测量同一量进行相互对比,从而发现系差(研制仪器时常用)。(3)改变测量条件通过对不同条件下测量结果进行比较来发现系差并消除。如,对环境磁场的影响,可将仪表位置调转180°前后测两次来发现系差,并取平均值来消除系差。2.变系差的判别(1)残差观察法3.3.2系统误差的判别(续)
当系差明显大于随差时,有规律地变化某一测量条件进行测量,求出残差,并按先后次序列表或作图,观察各残差大小和符号的变化。再判断是累进性的还是周期性变系差。(2)公式法当随差明显大于变系差时,变系差不易发现,则用公式法判别。
3.3.2系统误差的判别(续)①马利科夫判据:
若测量中有累进性系统误差,则M值应明显异于零(与残差比较,若小一个数量级及以上就认为M为零)。当测量次数n为奇数时,当测量次数n为偶数时,②阿卑-赫梅特判据:检验周期性系差的存在。注意:变系差使测量值偏离正态分布,因而有变系差的测量数据原则上应舍弃不用,重新测量。3.3.2系统误差的判别(续)3.4随机误差
3.4.1随机变量的平均值和方差随机误差定义在同一测量条件下(指在测量环境、测量人员、测量技术和测量仪器都相同的条件下),多次重复测量同一量值时(等精度测量),每次测量误差的绝对值和符号都以不可预知的方式变化的误差,称为随机误差或偶然误差,简称随差。
随机误差的统计特性及减少方法在测量中,随机误差是不可避免的。随机误差是由大量微小的没有确定规律的因素引起的,比如外界条件(温度、湿度、气压、电源电压等)的微小波动,电磁场的干扰,大地轻微振动等。多次测量中,测量值和随机误差服从概率统计规律。可用数理统计的方法,处理测量数据,从而减少随机误差对测量结果的影响。例:对一不变的电压在相同情况下,多次测量得到1.235V,1.237V,1.234V,1.236V,1.235V,1.237V。单次测量的随差没有规律,但多次测量的总体却服从统计规律。可通过数理统计的方法来处理,即求算术平均值随机误差也可表示成:测量结果与在重复性条件下,对同一被测量进行无限多次测量所得结果的平均值之差
随机变量的数字特征①
数学期望:反映其平均特性。其定义如下:X为离散型随机变量:
X为连续型随机变量:
随机误差的分布规律
②方差和标准偏差方差是用来描述随机变量与其数学期望的分散程度。设随机变量X的数学期望为E(X),则X的方差定义为:
D(X)=E(X-E(X))2
标准偏差定义为:
标准偏差同样描述随机变量与其数学期望的分散程度,并且与随机变量具有相同量纲。
测量中的随机误差通常是多种相互独立的因素造成的许多微小误差的总和。中心极限定理:假设被研究的随机变量可以表示为大量独立的随机变量的和,其中每一个随机变量对于总和只起微小作用,则可认为这个随机变量服从正态分布。为什么测量数据和随机误差大多接近正态分布?3.4.2误差的正态分布正态分布的概率密度函数和统计特性
概率密度——
测量值X落在区间(x,x+Δx)内的概率为P(x<X<x+Δx)。当Δx趋近于零时,若P(x<X<x+Δx)与Δx之比的极限存在,就把它称为测量值X在x点的概率密度,记为随机误差的概率密度函数为:测量数据X的概率密度函数为:
随机误差和测量数据的分布形状相同,因为它们的标准偏差相同,只是横坐标相差随机误差具有:①对称性②单峰性③有界性④抵偿性
若测量列中不包含系统误差和粗大误差,则该测量列中的随机误差一般具有以下几个特征:①绝对值相等的正误差与负误差出现的次数相等,这称为误差的对称性。②绝对值小的误差比绝对值大的误差出现的次数多,这称为误差的单峰性。③在一定的测量条件下,随机误差的绝对值不会超过一定界限,这称为误差的有界性。④随着测量次数的增加,随机误差的算术平均值趋向于零,这称为误差的抵偿性。最后一个特征可由第一特征推导出来,因为绝对值相等的正误差和负误差之和可以互相抵消。对于有限次测量,随机误差的算术平均值是一个有限小的量,面当测量次数无限增大时,它趋向于零。而测量数据的数学期望E(X)=方差D(X)=随机误差的数学期望和方差为:标准偏差意义
标准偏差是代表测量数据和测量误差分布离散程度的特征数。标准偏差越小,则曲线形状越尖锐,说明数据越集中;标准偏差越大,则曲线形状越平坦,说明数据越分散。概率密度分布曲线为:误差之间出现于区间(δ1,δ2)内的概率为P(δ1<δ<δ2)=即等于上图中阴影部分的面积。
概率密度曲线下的面积是概率值。由于随机变量的所有量值出现的概率的总和必然等于1,所以分布曲线下的总面积等于1。对随机误差,则有测量结果的置信问题
置信概率与置信区间:有时我们需要计算误差在某范围内的概率。该范围称为置信区间。一般表示为(k称置信系数,有点书中用t表示),而对应的概率称为置信概率。一般表示为
例如,已知被测量的数学期望M(X),对n→∞的测量值X,可估计测量值偏离其数学期望M(X)的上界限。即有:
|X—M(X)|<δm
δm
——
称为不确定度或置信限。表示误差的估计极限范围。一般取为σ(X)的若干倍。
即:
δm=Kσ(X)
于是,测量值偏离其数学期望M(X)上界限的估计值可写成:
|X–M(X)|<kσ(X)k——称为置信因子(或置信系数)对上面这种误差估计值的可信度:
P[|X–M(X)|<kσ(X)]
称为置信概率。置信概率的值在0~1之间。置信概率所对应的确定区间称为置信区间。置信概率是图中阴影部分面积即置信概率可写成置信系数k置信概率P10.68320.95530.997区间越宽,置信概率越大当k=3时,置信概率与置信区间有两种情况:(1)已知数学期望M(X),求测量结果在数学期望附近某一确定范围(即置信区间)——[M(X)-kσ(X),M(X)+kσ(X)]内的可信度(即置信概率)。这是因为置信问题可做如下转换——
|X–M(X)|<kσ(X)→-kσ(X)<X–M(X)<kσ(X)→M(X)-kσ(X)<X<M(X)+kσ(X)
求上式的概率值就是所谓“置信概率”。而确定区间:[M(X)-kσ(X),
M(X)+kσ(X)]就是所谓“置信区间”。
(2)已知测量的标准偏差σ(X),由得到的测量结果x,估计被测量的数学期望M(X)落在测量结果x附近某一确定范围(即置信区间)——[x-kσ(X),x+kσ(X)]内的可信程度(即置信概率)。这是因为置信问题又可做如下转换——
|x–M(X)|<kσ(X)
→-kσ(X)<x–M(X)<kσ(X)
→x-kσ(X)<M(X)<x+kσ(X)
上式的概率就是所谓第二种情况的“置信概率”。而下面的确定区间:
[x-kσ(X),x+kσ(X)]
就是第二种情况的“置信区间”。
两种情况的置信概率都是由下式推出:|x–M(X)|<kσ(X)
因此,这两种情况的置信概率是相等的。在实际计算时,我们不必去仔细区分这两种不同的情况。而只需根据给定的置信区间求出置信概率;或者反过来根据已知的置信概率求出相应的置信区间。
注意:(1)置信区间和置信概率总是联系在一起的。在讨论置信问题时,只有明确一方,才能讨论另一方。(2)测量次数n→∞。3.4.3有限次测量的数学期望和标准偏差的估计值求被测量的数字特征,理论上需无穷多次测量,但在实际测量中只能进行有限次测量,怎么办?
答案:有限次测量的平均值(即算术平均值)是测量的最佳估计值。规定使用算术平均值为数学期望的估计值,并作为最后的测量结果。即:算术平均值的标准偏差
算术平均值的标准偏差比总体或单次测量值的标准偏差小倍。原因是随机误差的抵偿性。故:(注:这里用到了“几个相互独立的随机变量之和的方差等于各个随机变量方差之和”的原理。)算术平均值:(2)有限次测量数据的标准偏差的估计值残差:实验标准偏差(标准偏差的估计值),贝塞尔公式:算术平均值标准偏差的估计值:【例1】用温度计重复测量某个不变的温度,得11个测量值的序列(见下表)。求测量值的平均值及其标准偏差。解:①平均值
②用公式计算各测量值残差列于上表中③实验偏差④标准偏差t分布的置信限
t分布与测量次数有关。当n>20以后,t分布趋于正态分布。正态分布是t分布的极限分布。当n很小时,t分布的中心值比较小,分散度较大,即对于相同的概率,t分布比正态分布有更大的置信区间。给定置信概率和测量次数n,查表得置信因子kt。(也用ta表示)自由度:v=n-1-3-2-10123
t分布之性质非正态分布的置信因子
由于常见的非正态分布都是有限的,设其置信限为误差极限,即误差的置信区间为置信概率为100%。例:均匀分布
有故:(P=1)反正弦均匀三角分布3.5误差的合成与分配
3.5.1误差的合成 设最终测量结果为y,各分项测量值为x1,x2,…,xn,且满足函数关系 y=f(x1,x2,…,xn)
并设各xi间彼此独立,xi的绝对误差为Δxi,y的绝对误差为Δy,则 y+Δy=f(x1+Δx1,x2+Δx2,…,xn+Δxn)用级数展开上式,并舍去高次项,得到式中,Δy为系统总的合成误差,其相对误差形式为
(3-5-1)(3-5-2)
例:已知电阻上电压及电流的测量相对误差分别为γV=±3%,γi=±2%,求功率P=UI的相对误差。。 解:由式(3-5-1)可得
例:电阻R1=1kΩ,R2=5kΩ,相对误差均为5%,求串联后总的相对误差。 解:串联后,R=R1+R2。串联后电阻的相对误差为误差的合成的具体方法1.系统误差的合成
(1)恒系差的合成恒系差具有恒定的大小和确定的符号,因而采用代数合成绝对误差相对误差(2)变系差的合成变系差是一个误差范围,而误差的大小和符号在该范围内不确定。有时,变系差变化的最大幅度称为系统不确定度,因而变系差合成的结果就是总合不确定度,用Ф(以区别恒系差)来表示。
①绝对值合成从最不利出发,认为各分项误差同时取正或同时取负值,故总合不确定度为各分项不确定度的绝对值的和,即绝对误差相对误差
绝对值合成获得最大误差(误差限),虽比较安全,但偏于保守,在分项数较多时更是如此。注意:绝对值合成仅用于分项数目较小时的总合不确定度的估计。
注意:均方根合成已认为各分项误差的分布形状相同且总合后也未变(即ki=ky),故叫“广义”。其实,分项数较多、各分项对总合的影响相差不大,则总合后将接近正态分布,则广义均方根合成是可行的。但合成可能偏小,有一定的冒险性,因计算简便而被常用。其次,是按随机误差方法在处理变系差(因变系差在误差范围内不定)。②均方根合成当分项数较多时,用均方根合成更为合理,用得比较多的是广义均方根合成。总和的随机误差
标准差合成2.随机误差的合成随差在一定范围内随机变化,则其最大幅度叫随机不确定度。随差符合统计规律,分项正态分布,总合后也是正态分布的,故按均方根合成。3.含不同性质误差时不确定度的合成同时含有系差和随差,应先将恒系差、变系差、随差分离,再分别合成,最后进行总合。恒系差绝对值合成(前述)。变系差合成系统不定度是仿照随差方法处理,则变系差、随差可总合成总的不确定度。总合的不确定度考虑恒系差合成后的总误差合成
这里的n是分项数,i代表各分项,ε、Φ分别代表恒系差和变系差。若不含恒系差或变系差或随差,可将其视为零带入公式进行总合
3.5.2误差的分配
1.等准确度分配 当总误差中各分项性质相同(量纲相同)、大小相近时,分配给各组成环节的以相同的误差。
例:有一工作在220V交流电压下的变压器,其工作电路如图所示,已知初级线圈与两个次级线圈的匝数比为W12∶W34∶W45=1∶2∶2,用最大量程为500V的交流电压表测量变压器总输出电压U,要求相对误差小于±2%,问应该用哪个级别的交流电压表?
解:由于变压器次级线圈的两组电压U1、U2为440V,总电压U为880V,故应分别测量U1、U2,再用求和的方法求得总电压U=U1+U2。已知总的绝对误差为ΔU=U×(±2%)=±17.6V,由于U1、U2性质完全等同,根据等准确度分配原则分配误差,则有选用1.5级的电压表能满足测量要求。
2.等作用分配 等作用分配是指分配给各分项的误差在数值上尽管有一定差异,但它们对误差总和的作用和影响是相同的,即有此时,分配公式为m为分项数
例:用电压表与电流表测量电阻上消耗的功率,已测出电流为100mA,电压为3V,算出功率为300mW,若要求功率测量的系统误差小于5%,则电压和电流的测量误差应在多大范围?
解:按题意,功率测量允许的系统误差为
ΔP=300mW×5%=15mW
由P=IU
项数m=2,根据等作用分配原则,有
最佳测量方案选择
例:用电阻表、电压表、电流表的组合来测量电阻消耗的功率,已知电阻的阻值R,电阻上的电压V,流过电阻的电流I,其相对误差分别为γR=±2%,γV=±2%,γI=±3%,试确定最佳测量方案。 解:有三种测量方法,即P=UI、P=U2/R、P=I2R,现分别计算每种方案的最大测量误差。
(1)P=UI:
(2)P=U2/R: (3)P=I2R:3.6测量数据的处理
1.数字修约规则由于测量数据和测量结果均是近似数,其位数各不相同。为了使测量结果的表示准确唯一,计算简便,在数据处理时,需对测量数据和所用常数进行修约处理。数据修约规则:(1)小于5舍去——保留的末位不变。(2)大于5进1——在保留的末位增1。(3)等于5时,取偶数——保留的末位是偶数,则末位不变;末位是奇数,则在末位增1(将末位凑为偶数)。3.6.1有效数字的处理例:将下列数据舍入到小数第二位。12.4344→12.43 63.73501→63.740.69499→0.6925.3250→25.32 17.6955→17.70 123.1150→123.12注意:舍入应一次到位,不能逐位舍入。上例中0.69499,正确结果为0.69,错误做法是:
0.69499→0.6950→0.695→0.70。对“等于5”
采用取偶数规则,是为了使在较多的数据舍入处理中产生正负误差的概率近似相等。2.有效数字若截取得到的近似数其截取或舍入误差的绝对值不超过近似数末位的半个单位,则该近似数从左边第一个非零数字到最末一位数为止的全部数字,称之为有效数字。例如:
3.142 四位有效数字,极限误差≤0.00058.700 四位有效数字,极限误差≤0.00058.7×103
二位有效数字,极限误差≤0.05×1030.0807 三位有效数字,极限误差≤0.000053.近似运算法则保留的位数原则上取决于各数中准确度最差的那一项。(1)加法运算以小数点后位数最少的为准(各项无小数点则以有效位数最少者为准),其余各数可多取一位。例如:
(2)减法运算
当两数相差甚远时,原则同加法运算;当两数很接近时,有可能造成很大的相对误差,则应尽量避免导致相近两数相减的测量方法,并在
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- GB/T 44727-2024报废机动车回用件拆卸技术规范
- 2024年度新能源项目开发合同项目投资估算与风险评估
- 2024年度版权许可使用合同标的:音乐作品版权3篇
- 泡茶课件教学课件
- 物流信息技术与应用 课件 9.项目九 数据交换与共享技术 下
- 《餐饮单位索证索票》课件
- 2024年度租赁合同租金调整及违约金规定3篇
- 2024年度教育培训与人才输出服务合同2篇
- 《s教学课件选区》课件
- 《公务员保险与福利》课件
- GB/T 26140-2023无损检测残余应力测量的中子衍射方法
- 转述句和直述句互换复习公开课一等奖市优质课赛课获奖课件
- 2023学年完整公开课版S三英下Unit3Whatcolouristhisballoon
- 卷扬机吊装方案施工方案
- 2023-2024学年甘肃省平凉市小学语文六年级期末自测考试题附参考答案和详细解析
- 《3D打印实训》课程标准-现代学徒制
- 自愈合密实混凝土防水工法
- 高中心理健康教育-【16 飘动的红丝带】
- TGDMDMA 0024-2023 个性化基台制作规程
- DB65-T 4572-2022 建材企业安全生产等级评定技术规范
- 李约瑟难题解读
评论
0/150
提交评论