误差理论基础_第1页
误差理论基础_第2页
误差理论基础_第3页
误差理论基础_第4页
误差理论基础_第5页
已阅读5页,还剩94页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

误差理论基础第一页,共九十九页,编辑于2023年,星期三

在计量工作中,为了建立基准标准和进行量值传递,进行着大量的测量工作。当我们进行测量的时候,必然有误差,这是由于测量设备、环境、人员、方法等因素造成的。随着科学水平的提高和人们的经验、技巧及专业知识的丰富,误差可以被控制得愈来愈小,但却无法使误差降低为零。误差定义及表示方法第二页,共九十九页,编辑于2023年,星期三

测量结果都有误差,误差自始至终存在于一切科学实验和测量的过程中,这就是误差公理。

任何测量,无论仪器多么精密,测量多么认真,方法如何合理,都存在或大或小的误差。学习误差理论就是要通过对误差的认识和研究,采取相应的措施以达到减少或消除某些误差的目的,从而提高计量准确度。误差公理第三页,共九十九页,编辑于2023年,星期三测量结果减去被测量的真值。误差=测量结果-真值由测量所得到的赋予被测量的值即为测量结果。与给定的特定量的定义一致的值为真值,真值也可理解为“在一定的时间、空间和环境状态下,某量的客观实际值”。[测量]误差的定义第四页,共九十九页,编辑于2023年,星期三

真值是理想的概念,通常是未知的,但以下三种情况可以认为真值是已知的:理想真值、计量学约定真值、上一等级的标准值。真值第五页,共九十九页,编辑于2023年,星期三理想真值:同一量值自身之差为零而自身之比为一。如平面三角形的内角之和恒定为180°。

计量学约定真值:如国际单位制的七个基本单位的定义。标准器相对真值:指当标准器的误差与低一级标准器或普通计量仪器的误差相比,为其1/5(或1/3~1/20)时,可认为前者是后者的相对真值。

真值第六页,共九十九页,编辑于2023年,星期三

绝对误差:所获得结果减去被测量的真值。即:ΔX=X-X0ΔX—绝对误差

X—测量结果(如,测得值、示值)

X0—真值(如,相对真值、约定真值)示值:测量仪器所给出的量的值。误差表示方法第七页,共九十九页,编辑于2023年,星期三

标称值为10g的二等标准砝码,经检定其实际值为10.003g,该砝码的标称值的绝对误差为多少?

[解]∵X=10gX0=10.003g∴ΔX=X-X0

=10-10.003

=-0.003g=-3mg例第八页,共九十九页,编辑于2023年,星期三绝对误差有单位,其单位与测得结果相同。绝对误差有大小(值)、有符号(+、-),表示测量结果偏离真值的程度。绝对误差不是对某一被测量而言,而是对该量的某一给出值来讲。如:砝码的误差为-3mg(错误);

10g砝码的误差为-3mg(正确)。绝对误差第九页,共九十九页,编辑于2023年,星期三绝对误差与误差绝对值的区别:绝对误差是有(+、-)符号。误差绝对值是不考虑正、负号的误差值。它们是两个不同的概念,误差绝对值不等于绝对误差,误差绝对值是误差的模。绝对误差第十页,共九十九页,编辑于2023年,星期三示值误差:测量仪器示值与对应输入量的真值之差。修正值(c):用代数方法与未修正测量结果相加,以补偿其系统误差的值。即:使含有误差的测量结果加上修正值,以补偿系统误差的影响。其大小等于绝对误差,但符号相反。

ΔX=X-X0→X0=X-ΔX=X+c

示值误差、修正值(c)第十一页,共九十九页,编辑于2023年,星期三根据JJF1001—1998《通用计量术语及定义》中给出的定义是“一个值减去其参考值。”。参考值也就是我们平常所说的标称值,偏差描述了标称值偏离(约定)真值的程度,即:

偏差=实际值-标称值偏差第十二页,共九十九页,编辑于2023年,星期三

标称容量为100L的标准金属量器,经上一级标准量器检定,结果为100.004L,那么该金属量器的偏差=100.004L-100L=0.004L=4mL。

例第十三页,共九十九页,编辑于2023年,星期三偏差与修正值相等,与绝对误差的值的符号相反,而它们的绝对值相等。偏差、修正值、误差各指的对象不同。所以在分析误差时,首先要分清所研究的对象是什么,即要表示的是哪个量值的误差。偏差、修正值、误差第十四页,共九十九页,编辑于2023年,星期三

在准确的计量中,通常都采用加修正值的办法来保证量值的准确一致。计量标准器或工作计量器具送上级计量检定机构检定,其目的之一就是为了获得一个准确的修正值。油品计量用的量油尺、玻璃水银温度计、石油密度计(玻璃浮计)经检定后,检定机构出具的证书一般附有该器具的分段修正值表,而在具体测液高、油温、密度时,在计量器具上显示的读数不可能恰好落在有修正值的刻度上,大多数情况都是在两相邻刻度修正值之间。比例内插法(线性插值法)第十五页,共九十九页,编辑于2023年,星期三

对于温度计和密度计,采用比例内插法(线性插值法)求被测量的修正值,其计算公式如下:

Δx=Δx1+(Δx2-Δx1)/(x2-x1)

×(x-x1)

x、Δx—测量示值和其对应的修正值;

x1、x2—测量示值x的下、上邻近被检分度值;

Δx1、Δx2—分度值x1、x2的修正值。比例内插法(线性插值法)第十六页,共九十九页,编辑于2023年,星期三

对量油尺则一般按就近原则进行修正,这是因为量油尺每米误差不会大于+1mm(检定合格要求)。设x1≤x≤x2,则有:当x-x1<x2-x时,取Δx=Δx1;当x-x1>x2-x时,取Δx=Δx2;当x-x1=x2-x时,取Δx=Δx1,亦可取Δx=Δx2。量油尺的示值修正方法第十七页,共九十九页,编辑于2023年,星期三

用全浸式玻璃棒水银温度计测得柴油的温度为28.6℃,已知此温度计在20℃时的修正值为-0.2℃,30℃时的修正值为+0.1℃,求修正后的实际油温是多少?

例第十八页,共九十九页,编辑于2023年,星期三

∵x1=20℃Δx1=-0.2℃x2=30℃Δx2=+0.1℃x=28.6℃∴Δx=Δx1+(Δx2-Δx1)/(x2-x1)

×(x-x1)=-0.2+[0.1-(-0.2)]/(30-20)

×(28.6-20)=-0.2+0.258=+0.058∴ts=28.6+0.058=28.658≈28.7℃解:第十九页,共九十九页,编辑于2023年,星期三

用石油密度计测得柴油的视密度为826.5kg/m3,已知此密度计在820.0kg/m3分度的修正值是+0.2kg/m3,830.0kg/m3分度的修正值是+0.5kg/m3,求修正后的视密度。例第二十页,共九十九页,编辑于2023年,星期三

∵x1=820.0kg/m3Δx1=+0.2kg/m3

x2=830.0kg/m3Δx2=+0.5kg/m3x=826.5kg/m3∴Δx=Δx1+(Δx2-Δx1)/(x2-x1)

×(x-x1)=0.2+(0.5-0.2)/(830.0-820.0)

×(826.5-820.0)=0.2+0.195=+0.395∴ρt′=826.5+0.395=826.895≈826.9kg/m3解:第二十一页,共九十九页,编辑于2023年,星期三

绝对误差除以被测量的[约定]真值。Δr=ΔX÷X0×100﹪

式中:X0不为零,且ΔX与X0的单位相同,故相对误差(Δr)呈无量纲形式。

相对误差(Δr)第二十二页,共九十九页,编辑于2023年,星期三

有一标称范围为0~300V的电压表,在示值为100V处,其实际值为100.50V,则该电压表示值100V处的相对误差?

[解]∵ΔX=(100-100.50)VX0=100.50V∴Δr=ΔX÷X0

=(100-100.50)V÷100.50V

=-0.5﹪(或-5×10-3)例第二十三页,共九十九页,编辑于2023年,星期三

用量油尺测量液位高度1m油高时,量油尺的读数是1.001m;用同一把尺测量液位高度10m的油高,量油尺的读数是10.001m(不考虑尺本身的误差),分别求两次测量的相对误差?例第二十四页,共九十九页,编辑于2023年,星期三

当油高1m时的测量相对误差是:

Δr=ΔX÷X0

=(1.001-1)m÷1m=0.1﹪

当油高10m时的测量相对误差是:

Δr=ΔX÷X0

=(10.001-10)m÷10m=0.01﹪

同样一把尺,测量的准确度后者比前者高。说明相对误差能更好地描述测量的准确程度。解:第二十五页,共九十九页,编辑于2023年,星期三相对误差表示的是给出值所含有的误差率;绝对误差表示的是给出值减去真值所得的量值。相对误差只有大小和正负号,无计量单位(无量纲量);绝对误差不仅有大小和正负号,还有计量单位。相对误差与绝对误差第二十六页,共九十九页,编辑于2023年,星期三

实际工作中,不难发现,在仪表的一个量程的分度线上,当绝对误差保持不变,相对误差将随着被测量的量值增大而减小,即各个分度线上的相对误差是不一致的。为了便于划分这类仪表准确度级别,取某一被测量的量值为特定值。这个特定值一般称为引用值。由此引出引用误差的概念(引用误差可以看成是一种简化和实用方便的“相对误差”)。引用误差、最大引用误差第二十七页,共九十九页,编辑于2023年,星期三

计量器具的绝对误差与其特定值(XN)之比。即:r=ΔX/XN

引用误差一般用百分数(﹪)表示,也可以用A×10-n表示。引用误差(r)第二十八页,共九十九页,编辑于2023年,星期三量程(或标称范围):计量器具标称范围上、下限之差的模。当下限为“0”时,量程即为标称范围的上限值(或称最高值)。特定值:一般称为引用值,是指计量器具的量程。量程、特定值第二十九页,共九十九页,编辑于2023年,星期三

某台标称范围为0~150V的电压表,当其示值为100.0V时,测得的电压的实际值为99.4V,则该电压表在示值100.0V处的引用误差?

例第三十页,共九十九页,编辑于2023年,星期三r=ΔX/XN

=(100.0-99.4)/(150-0)=+0.004=+0.4﹪Δr=ΔX÷X0

=(100.0-99.4)/99.4

=+0.006=+0.6﹪解:第三十一页,共九十九页,编辑于2023年,星期三

是仪器的最大误差除以仪器的特定值。

r=ΔX/XN最大引用误差第三十二页,共九十九页,编辑于2023年,星期三

在计量检定中最大引用误差不得超过仪表技术规范、规程等给定测量仪器所允许的误差极限值(称为最大允许误差),否则该仪器不合格。仪表的准确度级别,就是根据它允许的最大引用误差来划分的。如1.5级表,表示该仪表允许的最大引用误差为1.5﹪。如仪表为S级,则其最大引用误差为S﹪,即最大引用误差区间为[-S﹪,+S﹪],简写为±S﹪。最大引用误差第三十三页,共九十九页,编辑于2023年,星期三

对于电工仪表,把用百分比表示的最大引用误差去掉百分号(﹪)后的值即为仪表的准确度等级。准确度等级按国家规定:电工仪表等级:

0.1、0.2、0.5、1.0、1.5、2.5、5.0。精密压力表等级:

0.15、0.25、0.4、0.6仪表等级第三十四页,共九十九页,编辑于2023年,星期三

工作压力表等级:1.0、1.5、2.5、4.0。仪表的引用误差不能超越的界限,即在标称范围内的每个分度测量值的误差只能≤最大允许误差。若实际最大引用误差在两级之间,则该仪表归属到最相近的较低的那一级,如最大引用误差为0.3﹪的仪表应属0.5级。仪表等级第三十五页,共九十九页,编辑于2023年,星期三

一般而言,如果仪表的准确度等级为S级,仅说明仪表的最大引用误差不会超过S﹪,而不能认为它在各刻度上的示值误差都具有S﹪的准确度,假如仪表的量程为0~Xn,测量点为X,则该仪表在X点临近处:

示值误差≤Xn×S﹪;相对误差≤Xn×S﹪/X。仪表等级第三十六页,共九十九页,编辑于2023年,星期三

显然,X≤Xn,故当X→Xn时,其相对误差最小,即测量准确度最高;反之,X离Xn越远,其测量准确度越低。使用以引用误差确定准确度级别的仪表时,从提高测量准确度考虑,应尽可能使被测量的示值在量程(标称范围)上限的临近或量程的2/3以上(使用弹性元件仪表如压力表应另外考虑),同时在选择这类仪表进行测量时,不能单纯追求仪表的准确度,应根据仪表的级别、量程以及测量值的大小,合理选用。合理选用仪表等级第三十七页,共九十九页,编辑于2023年,星期三

设某一被测电流约为70mA,现有两块表,一块是0.1级,标称范围为0~300mA;另一块是0.2级,标称范围为0~100mA,问采用哪块表测量准确度高?例第三十八页,共九十九页,编辑于2023年,星期三

对0.1级表:

Δr1

=(r1×Xn)/X

=(0.1%×300)/70=0.43%对0.2级表:

Δr2

=(r2×Xn)/X

=(0.2%×100)/70=0.28%解第三十九页,共九十九页,编辑于2023年,星期三

可见,测量70mA电流时,只要量程选择得当,用0.2级电流表反而比0.1级电流表测量相对误差小,更准确。因此用第二块表测量准确度高。解第四十页,共九十九页,编辑于2023年,星期三

在测量过程中,引起测量误差的因素是众多的,但在分析和计算误差时,不可能也没有必要逐一的对所有误差因素进行分析计算,而是着重分析引起误差的主要因素。通常情况下,误差的主要来源有以下几个方面:测量误差的来源第四十一页,共九十九页,编辑于2023年,星期三装置误差:计量装置是指为确定被测值所必须的计量器具和辅助设备的总称。由于计量装置本身不完善和不稳定所引起的计量误差称为装置误差。其来源有:标准器的误差仪器、仪表误差附件误差产生误差的原因第四十二页,共九十九页,编辑于2023年,星期三[器具误差]:计量器具本身所具有的误差。器具误差主要是由于计量器具本身的结构、工艺水平、调整以及磨损、老化或故障等原因所引起。产生误差的原因第四十三页,共九十九页,编辑于2023年,星期三环境误差:由于各种环境因素与测量所要求的标准状态不一致,以及随时间和空间位置的变化引起的测量装置和被测量本身的变化而造成的误差,称为环境误差。这些因素包括温度、湿度、气压、震动、照明、重力加速度、电磁场和野外工作时的风效应、阳光照射、透明度、空气含尘量等。产生误差的原因第四十四页,共九十九页,编辑于2023年,星期三

实际环境条件(或称工作条件)主要有:计量器具及配套设备的环境条件,如温度、湿度、气压、振动、重力加速度(重力场)和电磁干扰(电磁场)等。被测量的附属特性(源),如交流电的电压、电频率、功率因素和波形失真等。对流量计的附属特性还有安装、温度、压力、密度、粘度、流速等。测量设备的特殊工作状态,如电桥的不平衡程度、电源和负载的匹配状态等。产生误差的原因第四十五页,共九十九页,编辑于2023年,星期三环境误差主要由基本误差与附加误差组成的。基本误差为计量器具在标准条件下所具有的误差(也称固有误差);附加误差为计量器具在非标准条件下(超出或偏离标准条件)所增加的误差。规定条件主要是指技术标准、检定规程中规定的检定工作条件。如规程或技术标准所规定的环境条件。

产生误差的原因第四十六页,共九十九页,编辑于2023年,星期三人员误差:测量人员主观因素和操作技术所引起的误差。人员误差主要是测量人员生理上的最小分辨力、感觉器官的生理变化,反应速度和固有习惯等引起的误差。如记录某一信号时,测量人员滞后和导前的趋向;对准读数标志时,始终偏左或偏右,偏上或偏下,常表现为观察误差、读数误差(视差、估读误差)等。如指针式仪表以指针估读、数字式仪表以末位数字变化瞬态记录均会引起误差。产生误差的原因第四十七页,共九十九页,编辑于2023年,星期三方法误差:测量方法不完善所引起的误差。由于测量方法和计算方法不完善所引起的误差。比如经验公式函数类型选择的近似性,以及公式中各系数确定的近似性;在推导测量结果表达式中没有得到反映,而在测量过程中实际起作用的一些因素引起的误差等。产生误差的原因第四十八页,共九十九页,编辑于2023年,星期三

在误差理论中,按照误差表现的特性可分为:系统误差、随机误差粗大误差。误差表现形式及其分类第四十九页,共九十九页,编辑于2023年,星期三

指在重复条件下,对同一被测量进行无限多次测量所得结果与被测量的真值之差。系统误差表现为:在同一条件下,对同一给定量进行多次重复测量的过程中,其误差的绝对值和符号均保持不变;或当条件改变时,误差按某一确定的规律变化,且可以表示为某一个或某几个因素的函数,而这些因素的变化情况是我们可以掌握的。系统误差第五十页,共九十九页,编辑于2023年,星期三恒定系统误差(定值系统误差):包括恒正系统误差和恒负系统误差。可变系统误差(变值系统误差):包括线性系统误差、周期性系统误差和复杂规律系统误差等。系统误差的表现形式第五十一页,共九十九页,编辑于2023年,星期三

按对系统误差掌握的程度,系统误差又可分为:已定系统误差:能够修正。未定系统误差:不能修正,但有的可以在测量中消除。系统误差的表现形式第五十二页,共九十九页,编辑于2023年,星期三

消除系统误差的基本方法有:以修正值的方法对测量结果进行修正;在实验过程中消除一切产生系统误差的因素;选择适当的测量方法,使系统误差抵消而不致带入测量结果中。

系统误差的消除第五十三页,共九十九页,编辑于2023年,星期三检定修正法:将计量器具送检,求出示值的修正值,对测量结果进行修正。异号法(反向对称法):改变测量中的某些条件,如测量方向等,使两种条件下测量结果的误差符号相反,取平均值,以消除误差。恒定系统误差的消除第五十四页,共九十九页,编辑于2023年,星期三交换法:本质上也是异号,但在形式上是将测量中的被测物的位置等相互交换,使产生系统误差的原因对测量结果起相反的作用,然后取交换前后测量结果的平均值,从而抵消系统误差。替代法:保持测量条件不变,用某一标准量替换被测量。恒定系统误差的消除第五十五页,共九十九页,编辑于2023年,星期三对称测量法半周期偶数测量法(对径测量法)函数修正法可变系统误差的消除第五十六页,共九十九页,编辑于2023年,星期三

指测量结果与在重复条件下,对同一被测量进行无限多次测量所得结果的平均值之差。随机误差是由许多微小的、难以控制的或尚未掌握规律的变化因素造成的。或单次测量而言,其误差值的出现纯属偶然,不具有任何的规律,但若反复测量的次数足够多,则可发现随机误差具有统计的规律性。随机误差的这种统计规律常称误差分布率。随机误差第五十七页,共九十九页,编辑于2023年,星期三正态分布:在测量误差理论中,最重要的一种分布是正态分布率,因为通常的测量误差是服从正态分布的。均匀分布三角形分布

偏心分布反正弦分布

误差分布率的类型第五十八页,共九十九页,编辑于2023年,星期三有界性:在一定测量条件下(指一定的计量器具、环境、被测对象和人员等),随机误差的绝对值不会超过一定的界限;单峰性:小误差出现的机会比大误差出现的机会要多;对称性(抵偿性):测量次数足够时,绝对值相等、符号相反的随机误差出现的机会相等,或出现的概率相等;算术平均值将趋于零:当测量次数无限增加时。

正态分布的特征第五十九页,共九十九页,编辑于2023年,星期三

根据随机误差的的对称性和抵偿性可知,当无限次的增加测量次数时,就会发现测量误差的算术平均值的极限为零。为消除随机误差,就要求尽可能地多次测量,以达到减少或消除随机误差的目的。随机误差的消除第六十页,共九十九页,编辑于2023年,星期三

指明显超出规定条件下预期的误差。(粗大误差主要是人为造成的,其次是环境条件变化的影响、使用严重缺陷的仪器等)含有粗大误差的测得值会歪曲客观现象,严重影响测量结果的准确性。含有粗大误差的测得值也称为坏值或异常值,必须在测量列中找出来加以剔除,以保证测量结果的正确性。粗大误差(过失误差或疏忽误差)第六十一页,共九十九页,编辑于2023年,星期三

判别粗大误差的主要方法:莱依达准则(3σ准则)肖维勒准则狄克逊准则罗曼诺夫斯基准则(t分布准则)上述准则都以数据按正态分布为前提的。粗大误差的剔除第六十二页,共九十九页,编辑于2023年,星期三

下列数服从正态分布的测量列:

x1=41.84x2=41.85x3=41.82x4=41.85x5=41.84x6=41.85x7=41.81x8=41.72x9=41.82x10=41.85x11=41.84x12=41.83x13=41.81x14=41.81x15=41.82莱依达准则(3σ准则)第六十三页,共九十九页,编辑于2023年,星期三

标准差,贝塞尔公式:

σ=[Συi2/(n-1)]1/2

υi=xi-x

当υi符合下列条件,该测量值剔除

∣υi∣

≥3σ莱依达准则(3σ准则)第六十四页,共九十九页,编辑于2023年,星期三

计量数据处理时计量工作的一个重要环节,只有科学的数据处理,才能得到合理的测量结果。计量数据处理第六十五页,共九十九页,编辑于2023年,星期三

测量结果与被测量真值之间的一致程度。1、不要用术语精密度代替准确度。2、准确度是一个定性概念。测量准确度第六十六页,共九十九页,编辑于2023年,星期三

在相同测量条件下,对同一被测量进行连续多次测量所得结果之间的一致性。[测量结果]的重复性第六十七页,共九十九页,编辑于2023年,星期三[测量结果]的重复性的条件:相同的测量程序相同的观测者在相同的条件下使用相同的测量仪器相同地点;在短时间内重复测量。测量结果的重复性是针对测量结果而言的。第六十八页,共九十九页,编辑于2023年,星期三

在改变了的测量条件下,同一被测量的测量结果之间的一致性。[测量结果]的复现性第六十九页,共九十九页,编辑于2023年,星期三1、在给出复现性时,应有效地说明改变条件的详细情况。2、改变条件可包括:测量原理;测量方法;观测者;测量仪器;参考测量标准;测量地点;使用条件;时间。3、复现性可用测量结果的分散性定量地表示。4、测量结果在这里通常理解为已修正结果。[测量结果]的复现性第七十页,共九十九页,编辑于2023年,星期三

表征合理地赋予被测量之值的分散性,与测量结果相联系的参数。

依据JJF1059-1999《测量不确定度评定与表示》进行评定。测量不确定度的报告应注明:是A类评定、是B类评定、是合成不确定度、还是扩展不确定度。测量不确定度第七十一页,共九十九页,编辑于2023年,星期三1、此参数可以是诸如标准偏差或其倍数,或说明了置信水准的区间的半宽度。

2、测量不确定度由多个分量组成。其中一些分量可用测量列结果的统计分布估算,并用实验标准偏差表征。另一些分量则可用基于经验或其他信息的假定概率分布估算,也可用标准偏差表征。测量不确定度第七十二页,共九十九页,编辑于2023年,星期三3、测量结果应理解为被测量之值的最佳估计,而所有的不确定度分量均贡献给了分散性,包括那些由系统应引起的(如,与修正值和参考测量标准有关的)分量。

4、为了在国际上对测量结果进行比对,现在均采用测量不确定度来描述测量结果。为此,国家发布了JJF-1999《测量不确定度评定与表示》,对测量结果按照此计量技术规范进行评定与报告。测量不确定度第七十三页,共九十九页,编辑于2023年,星期三确定测量结果的方法算术平均值最小二乘法标准误差σ加权平均值第七十四页,共九十九页,编辑于2023年,星期三

由于测量结果含有测量误差,测量结果的位数,应保留适宜,不能太多,也不能太少,太多易使人认为测量准确度很高,太少则会损失测量准确度。测量结果的数据处理和结果表达是测量过程的最后环节,因此,有效位数的确定和数据修约对测量数据的正确处理和测量结果的准确表达有很重要的意义,从事检测工作人员都应掌握其方法。测量结果的数字处理第七十五页,共九十九页,编辑于2023年,星期三不带测量误差的数均为正确数。如教室里有45人的“45”;平面三角形内角和为180º中的“180”;C=2πR中的“2”;1h=3600s中的“3600”等均为正确数。从中可以看出,正确数确实存在的。可将理论定义中、假设中的数作为正确数对待。正确数第七十六页,共九十九页,编辑于2023年,星期三接近但不等于某一数的数,称为该数的近似数。如π=3.1459926358…的近似数为3.14;又如自然数e=2.7188182845…的近似数为2.72。在自然科学中,一些数的位数很长,甚至是无限长的循环小数或无理数,但运算时只能取有限位,所以实际工作中我们经常遇到近似数。近似值第七十七页,共九十九页,编辑于2023年,星期三

若近似数与经修约后的绝对误差值不超过修约后的该数末位数的正负半个单位值时,则该数值称为有效数字,即从左起第一个非零的数字到最末一位数字的所有数字都是有效数字。有效数字第七十八页,共九十九页,编辑于2023年,星期三

如1/3的小数值为0.333…,若取0.33,则其末位数的半个单位值为0.005,而误差绝对值为︱0.333-0.33︱=0.003<0.005,故0.33的有效数字为二位。如某近似数的欲取数字的下一位数大于5,或等于5,但其后有不为零的数字时,则应将其进位后再确定有效位数。如0.336,若取至小数点后第二位,则应先将其中的6进位得0.34,︱0.336-0.34︱=0.004<0.005,即0.34为二位有效数字。有效数字第七十九页,共九十九页,编辑于2023年,星期三从左边第一个非零数字算起所有有效数字的个数,即为有效数字的位数,简称有效位数。如0.0025是2位有效数字;1.001000是7位有效数字;2.8×107是2位有效数字,对a×10n形式表示的数值,其有效数字的位数由a中有效数字来决定。有效位数第八十页,共九十九页,编辑于2023年,星期三

因此,在有效数字位数中“0”不能随意取舍,否则会改变有效数字的位数,影响其数据准确度。有效位数第八十一页,共九十九页,编辑于2023年,星期三任何一个数字的最末一位数字所对应的量值单位。如:1.327mm最末一位数字“7”的单位为1μm,即0.001mm。末位数字第八十二页,共九十九页,编辑于2023年,星期三拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。将12.1498修约到一位小数,得:12.1498≈12.1

把12.1498修约成二位有效位数,得:12.1498≈12数据修约规则第八十三页,共九十九页,编辑于2023年,星期三拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。将1268修约到“百”位数,得:1268≈13×102

将1268修约成三位有效位数,得:1268≈127×10

将10.502修约到个位数,得:10.502≈11数据修约规则第八十四页,共九十九页,编辑于2023年,星期三拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。将1.050修约到一位小数,得:1.050≈1.0

将0.35修约到一位小数,得:0.35≈0.4数据修约规则第八十五页,共九十九页,编辑于2023年,星期三负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按上述规则连续修约。数据修约规则第八十六页,共九十九页,编辑于2023年,星期三

将下列数修约到“十”位数

-355≈-36×10-325≈-32×10

将下列数修约成二位有效位数

1268≈13×102-365≈-36×10-0.0365≈-0.036例第八十七页,共九十九页,编辑于2023年,星期三对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论