有效数字修约.ppt

1、有效数字修约规则,术语,修约间隔：修约值的最小数值单位，系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍 。 例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。,有效位数：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。例1：35000，若有两个无效零，则为三位有效位数，应写为350102；若有三个无

2、效零，则为两位有效位数，应写为35103。例2：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。例3：12.490为五位有效位数；10.00为四位有效位数。,0.5单位修约（半个单位修约）：指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。 修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得数值再除以2。 例1：将60.28修约到个数位的0.5单位（或修约间隔为0.5），得60.5。 例2：将60.25修约到个数位的0.5单位（或修约间隔为0.5），得60.0。,将下列数字修约到个数位的0.5单位（或修约间隔为0.5）,0.2

3、单位修约：指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。 将拟修约数值乘以5，按指定数位依数字修约规则修约，所得数值再除以5。 例1：将830修约到“百”数位的0.2单位（或修约间隔为20） ，得840。 例:2：将842修约到“百”数位的0.2单位（或修约间隔为20） ，得840。 ,将下列数字修约到 “百”数位的0.2单位（或修约间隔为20）,确定修约位数的表达方式,指定数位(指定修约间隔)； 指定将数值修约成n位有效位数。,四舍六入五考虑， 五后非零则进一， 五后皆零视奇偶， 五前为偶应舍去， 五前为奇则进一， 不论数字多少位， 都要一次修约成。,进舍规则,拟舍弃数字的

4、最左一位数字小于5时，则舍去，即保留的各位数字不变。 例1：将12.1498修约到一位小数，得12.1。 例2：将12.1498修约成两位有效位数，得12。,拟舍弃数字的最左一位数字大于5；或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加1。 例1：将1268修约到“百”数位，得13102（特定时可写为1300）。 例2：将1268修约成三位有效位数，得12710（特定时可写为1270）。 例3：将10.502修约到个数位，得11。,拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时， 若所保留的末位数字为奇数（1，3，5，7，9）则进一， 若所保留的末位数字为偶数（2，

5、4，6，8，0）则舍弃。 例1：修约间隔为0.1 拟修约数值 1.050修约值结果 1.0,负数修约时，先将它的绝对值按数字修约规定进行修约，然后在修约值前面加上负号。 例1：将下列数字修约到“十”数位 拟修约数值 修约值 -355-3610,不许连续修约 拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按进舍规则连续修约。 例如：修约15.4546，修约间隔为1 正确的做法： 15.454615 不正确的做法： 15.454615.45515.4615.516,在具体实施中，有时测试与计算部门先将 获得数值按指定的修约位数多一位或几位报 出，而后由其他部门判定。为避免产生连续 修约的

6、错误，应按下述步骤进行。,1. 报出数值最右的非零数字为5时，应在数值后面加“（）”或“（）”或不加符号，以分别表明已进行过舍、进或未舍未进。 例：16.50（）表示实际值大于16.50，经修约舍弃成为16.50； 16.50（）表示实际值小于16.50，经修约进一成为16.50。,2. 如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值后面有(+)号者进一，数值后面有(-)号者舍去，其他仍按数字修约规则进行。 例：将下列数字修约到个数位后进行判定（报出值多留一 位到一位小数）。 实测值 报出值修约值 15.4546 15.5（一） 15 16.5203 1

7、6.5（） 17 -17.5000 -17.5 -18 -15.4546-(15.5(一) -15,计算法则,加减运算,应以各数中有效数字末位数的数位最高者为准（小数即以小数部分位数最少者为准），其余数均比该数向右多保留一位有效数字。 例如： 5.89+15.2551=5.89+15.255=21.145,乘除运算,应以各数中有效数字位数最少者为准，其余数均多取一位有效数字，所得积或商也多取一位有效数字。 例如： 2.13.1242.13.126.55,平方或开方运算,其结果可比原数多保留一位有效数字。 例如： 1.421.96 1.233=1.861,对数运算,所取对数位数应与真数有效数字位

8、数相等。 例如： lg12.3=1.09,特殊实例,非连续型数值,个数、分数、倍数、名义浓度或标示量等是没有欠准数字的，其有效位数可视为无限多位； 常数、e和系数2，1/2 等数值的有效位数也可视为是无限多位。,例如： 1. 分子式“H2S04”中的“2”和“4”是个数； 2. 含量测定项下“每1ml的滴定液（0.1mol/L）”中的“0.1”为名义浓度，其有效位数均为无限多位； 3. 规格项下的“0.3g”或“1ml ”，“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。,结论： 在计算中，其有效位数应根据其他数值的最少有效位数而定。,pH值,pH值等对数值，其有效位数是

9、由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。 例如： pH=11.26(H+=5.510-12 mol/L) 其有效位数只有两位。,检测方法,1、Q检验法 2、4d检验法 3、F检验法 4、T检验法 5、u检验法,4d法检验 例：测得如下一组数据，30.18、30.56、30.23、30.35、30.32其中最大值是否舍去？ 解：30.56为最大值，定为可疑值。 x= 30.27 ，d= 0.065 若（可疑值x）4d，则可疑值应舍去； 若（可疑值x）4d，则可疑值应保留。,是迪克森(WJDixon)在1951年专为分析化学中少量观测次数(n10)提出的一种简易判据式。检验时将

10、数据从小到大依次排列：X1，X2，X3，Xn-1，Xn，然后将极端值代入以下公式求出Q值，将Q值对照表3的Q090，若Q值Q090则有 90的置信此极端值应被舍去。 式中 及 极端值与邻近值间的偏差； 全距。 例 现场仪器测在同一点上4次测出：01014，01012，01025，01016，其中01025与其他数值差距较大，是否应该舍去? 根据“Q值检验法”： (4次观测的Q090=076) 所以，01025不能舍弃，测出结果应用4次观测均值01017。,F检验法是检验两个正态随机变量的总体方差是否相等的一种假设检验方法。设两个随机变量X、Y的样本分别为X1，x2，xn与y1，y2，yn，其样

11、本方差分别为s12与s22。现检验X的总体方差DX与Y的总体方差DY是否相等。假设H0：DX=DY=2。根据统计理论，如果X、Y为正态分布，当假设成立时，统计量(如右图)服从第一自由度为n11、第二自由度n21的F分布。预先给定信度。查F分布表，得F/2。若计算的F值小于F/2，则假设成立，否则假设不合理。F检验法还可用于两个以上随机变量平均数差异显著性的检,可用于两样本含量n1、n2较小时，且要求两总体方差相等，即方差齐（homoscedasticity）。若被检验的两样本方差相差较大且差别有统计学意义则需用t检验。 公式（19.10） 公式（19.11） 式中sx1x2，为两样本均数之差的

12、标准误，s2c为合并估计方差（combined estimate variance）。算得的统计量为t，按表19-4所示关系作出判断。 例19.7某医生统广西瑶族和侗族正常妇女骨盆X线测量资料各50例。骨盆入口前后径：瑶族的均数为12.002（cm），标准差0.948（cm），侗族相应的为11.456（cm）和1.215（cm）。问两族妇女的骨盆入口前后径是否有差别？ H0： 1=2 H1： 12=0.05 已知n1=n2=50， x1=12.002（cm），s1=0.948（cm）； x2=11.456（cm），s2=1.215（cm）。 本例自由度v =n1+n2-2=98，查t界值表表内自由度一栏无98，可用内插法（从略）或用v =100估计.T0.05（100）=1948，t0.01（100）=2.626，今t=2.505t0.05（1000，P0.05，按=0.05检验水准拒绝H0，接受H1，可认为广西瑶族和侗族妇女骨盆入口前后径不同，前者大于后者。,t检验,可用于两样本含量n1、n2、均足够大时，如均大于50或100. 公式（19.9） 例19.6某地抽样调查了部分健康成人红细胞数，其中男性360人，均数为4.6601012/L，标准差为0.5751012/L；女性255人，均数为4.1781012/L，标准差为0.29