理学3数据处理方法-白

数据处理方法2025/2/141

培训内容

一.平均值计算和异常值剔除

二.

数据修约(GB/T8170-2008标准修约规则)三.有效数字运算

四.

极限数值的表示方法

五.

极限数值的判定方法六.测量仪器特性评定(JJF1094-2002)

2025/2/142

一.平均值计算和异常值剔除

1.平均值计算

Y=f(X1，X2，···XN），Xi都测量n次

1）先求每次测量的Yj，再求Y平均值。

Yj=f（X1j，X2j，···XNj），Y=∑Yj/n

2）先求各个Xi平均值，再求Y平均值。

Xi=∑Xij/n，Y=f(X1，X2，···XN）。注：公式线性，两法一样；非线性，法1）好。有多个输入量重复性，用法1）可一起解决；仅被测重复性，用法2），计算方便。2025/2/143

2.异常值剔除先根据测量过程中异常情况立即判断.

数学判断方法很多,介绍二种:

1)3σ准则

n次独立测量,求得实验标准差s,│残差│大于3s的测量值为异常值删去.重新反复计算之.

2)格拉布斯准则

同上求得实验标准差和残差,│残差│大于

g(n)s的测量值为异常值删去.重新反复计算之.g(n)–临界系数,可查表获得.2025/2/144

格拉布斯准则临界系数表(p=95%)

n

g(n)n

g(n)31.15592.21541.481102.29051.715112.35561.887122.41272.020132.46282.126142.5072025/2/145

二.数据修约

1.有效数字

1个数据中由前面几位可靠数字加上末位1位可疑数字（有时加上2位可疑数字）组成，则这个数据及其中的每个数字都称为有效数字.例如：1.351,3两个数字可靠.5--可疑

232---可靠数字,3--可疑数字

123451,2,3,4,--可靠数字,5--可疑数字

一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,该近似数为有效数字.2025/2/146有效数字的获得从测量获得

在测量中,从测量仪器直接观测到或直接读出的数据中的每个数字都是有效数字从修约获得

在数据修约完成后的修约数据中的每个数字都是有效数字(无效数字已舍去）2025/2/147

2.有效位数

1个数据都由有效数字组成，这个数据有几位数字，则称这个数据有几位有效数字或称这个数据的有效位数有几位。

有效位数怎么数:

1个数据的有效位数是从第一个非零数字往后（右）数，共有几位，则这个数据有几位有效位数。2025/2/148有效位数例

有效位数与小数点位置无关例:有效数字有效位数误差

1200.23?位？

1.20023?位？

0.120023?位？

0.001020?位？•1.0×105?位？2025/2/149

3.数据修约修约间隔（修约区间、化整区间）：

修约值的最小数值单位。修约间隔一经确定，修约数（保留数）只能是修约间隔的整数倍。是确定修约保留位数的一种方法，修约间隔可能是：0.001,0.01,0.2,1,2,5,10,200,5000N×10kN=1,2,5k=0,±1,2,3---·拟修约数:一个准备进行修约的数.2025/2/1410GB/T8170-2008标准修约规则

1.拟舍弃数字的最左一位数字小于5时，

则舍弃，即保留数字不变。

2.拟舍弃数字的最左一位数字大于5时或等于5，且后面非全部为0时，则进一。

3.拟舍弃数字的最左一位数字等于5，且后面无数字或皆为0时，保留的末位数为奇数，则进一。末位数为偶数，则舍弃.4.非1单位间隔(0.2或0.5单位)修约,先乘5或乘2,按1单位间隔修约,再除5或除2.2025/2/1411

修约例1:

间隔0.01,15.24499

？

0.1,18.4501

？0.1,18.45？

0.1,18.55？

0.05,18.225×236.45按0.1修约36.4÷218.20

0.2,15.10×575.5按1修约76÷515.2

2025/2/1412例2:修约间隔0.1,即保留一位小数.(1)14.2631→(2)14.3426→(3)14.2501→(4)14.1500→(5)14.2500→(6)1.050→例2:修约为百位整数(1)1264→1300→13×102→1.3×103(2)1325→1300→最后两个0只起定位作用.(3)1250.2→1300→(4)1350→1400→14×102→1.4×103(5)1250→1200→12×102→1.2×1032025/2/1413修约注意事项

一个数据的修约应按修约间隔一次完成修约（一步到位）。特殊情况下（考虑安全问题）修约，可以规定全部进位或全部截尾（舍弃）。不确定度要进,有效自由度要舍.•按修约规则修约结果从总体上看，有一半进位，有一半舍弃，是合理的。2025/2/1414

四.有效数字运算

1.

加法或减法运算计算结果的末位数，应与参加运算数据中的末位数位最大（最左）的数位相同。12.01328.642101

0.12345-

0.101+0.10修约8.54110112.2366512.248.541修约2025/2/14152.乘法或除法运算·

计算结果的有效位数，应与参加运算数据里有效数字最少的位数相同。0.001234×100×10=1.234修约为?123.45÷100÷1.0=1.2345修约为?1.2345×10.00÷10=1.2345修约为?0.00001234×1.00·105=1.234修约为?

1234×100=123400

修约为?

2025/2/1416

3.乘方或开方运算

计算结果的有效位数与原来数据的有效位数相同.10的三次方=1000修约

？混合运算方法：先乘方和/或开方运算，并修约，再乘法和/或除法运算,并修约，最后加法和/或减法运算,对结果修约。

（遵循先乘除后加减的四则运算原则）2025/2/1417

五.

极限数值的表示方法5.1极限数值(GB/T8170-08极限数值表示和判定)标准、规程中规定考核项目是定量的（以数量形式表示）指标或参数，应当规定极限数值，它表示符合标准要求的数值范围的界限。•极限数值有3种形式：最小极限值、最大极限值、基本数值和极限偏差值。•规定的极限数值书写位数应该适当，有效位数可以表示精确程度，即规定了为检验实际产品得到的测定值应具有的相应精确程度。

2025/2/1418

5.2最大、最小极限数值的表示某考核指标X,允许采用下列用语,符号用语符号从A到BA≤X≤BA～B

超过A到BA＜X≤B＞A～B至少A不足BA≤X＜B

A～＜B超过A不足BA＜X＜B2025/2/1419

5.3极限偏差值的表示基本数值A带有绝对极限上偏差+b1和绝对极限下偏差－b2，表示为：A-b2+b1指实测值从（A-b2）

到（A+b1）符合标准要求基本数值A带有相对极限上偏差+b1%,相对极限下偏差－b2%,表示为：A-b2%+b1%指实测值R对A的偏差[(R-A)/A]从－b2%

到+b1%,符合标准要求•510Ω(1±5%),指实测值R对510Ω的偏差值[(R-510Ω)/510Ω]从-5%到+5%符合要求2025/2/1420

六.

极限数值的判定方法

6.1两种判定方法(GB/T8170-2008)在判定检测数据是否符合标准要求时,应将实测结果与标准规定的极限数值作比较,比较方法有两种：a）修约值比较法b）全数值比较法(应用不同).修约值比较法用于：只有当标准中规定采用修约值比较法时，才能使用。全数值比较法用于：标准中规定未加说明时,特别涉及安全性能\仪器误差应用全数值比较法

2025/2/1421

6.2

修约值比较法将测定值或其计算值进行修约,修约后位数与标准规定极限数值书写位数一致,再将修约后数值与极限数值比较/判定.。项目极限数值测定值修约值符合否抗拉强度

MPa≥56×10

55455555655×1056×1056×10???盘条直径

mm

5±0.5

4.454.465.545.55

4.4

4.5

5.5

5.6?

?

??2025/2/1422

6.3全数值比较法将检测所得测定值或其计算值的全部有效位数与标准规定的极限数值作比较项目极限数值测定值是否符合抗拉强度

MPa≥56×10

555559560

???

直径

mm

10.0±0.1

9.899.9010.1010.11

????2025/2/14237.测量仪器特性评定

七.测量仪器特性评定(JJF1094-2002)

7.1基本术语

1)测量仪器的准确度(是定性的概念)

测量仪器给出接近于真值的响应的能力

2)测量仪器的[示值]误差

测量仪器的示值与对应输入量的真值之差.

3)[测量仪器的]最大允许误差对给定仪器,规范,规程等所允许误差极限值.

2025/2/1424

4)准确度等级

符合一定的计量要求,使误差保持在规定极限以内的测量仪器的等别、级别。（等别以赋值的不确定度来划分,级别以最

大允许误差来划分.)5)[测量仪器的]重复性在相同测量条件下,重复测量同一个被测量,测量仪器提供相近示值的能力.2025/2/1425

6)稳定性测量仪器保持其计量性能随时间恒定的能力.7)漂移测量仪器计量特性的慢变化.8)灵敏度

测量仪器响应的变化除以对应的激励变化.9)[显示装置的]分辨力

显示装置能有效辨别的最小的示值差.(对数字式仪器即末位一个字)2025/2/1426

7.2测量仪器特性评定的基本原则

1)评定的依据

型式评价大纲、检定规程、校准规范、技术标准、仪器说明书等.必须考虑不确定度.2)评定的形式

a)型式评价:政府指定,按型式评价大纲,进行全性能试验并审查资料.法制,计量,技术要求.b)检