测量数据的处理

测量数据的处理一、数据舍入规章

1．有效数字

由于含有误差，所以测量数据及由测量数据计算出来的算术平均值等都是近似值。

（1）若末位数字是个位，则包含的肯定误差值不大于0.5；

（2）若末位是十位，则包含的肯定误差值不大于5；

（3）对于其肯定误差不大于末位数字一半的数，从它左边第一个不为零的数字起，到右面最终一个数字(包括零)止，都叫做有效数字。中间的0和末尾的0都是有效数字，不能随便添加。开头的零不是有效数字。

测量数据的肯定值比较大（或比较小），而有效数字又比较少的测量数据，应采纳科学计数法，即a×10n，a的位数由有效数字的位数所打算。

例1用10v指针式电压表测得U=5.64V三位有效数字，如图1：

图1有效数字示意图

最末位有效数字常称存疑数，它主要由仪表所能达到的精度打算。例如用10V量程指针式电压表测得电压5.64V，这是三位有效数字组成的数据，这三位数中前二位是可从刻度上精确     读出的，而最终一位是估读的，是含有误差的近似数，常称为存疑数。

例20.0038KΩ=3.8Ω，两位有效数字；

例30.026m两位有效数字，

0.0260m三位有效数字；

例48700四位有效数字，

87×102两位有效数字；

2.多余数字的舍入规章

由于测量数据和测量结果均是近似数，其位数各不相同。为了使测量结果的表示精确     唯一，计算简便，在数据处理时，需对测量数据和所用常数进行修约处理。

数据修约规章：

（1）小于5舍去——末位不变。

（2）大于5进1——在末位增1。

（3）等于5时，取偶数——当末位是偶数，末位不变；末位是奇数，在末位增1（将末位凑为偶数）

例5：将下列数字保留到小数点后一位：l2.34，l2.36，l2.35，l2.45。

解：12.34→l2.3(45，舍去)

12.36→l2.4(65，进一)

l2.35→l2.4(3是奇数，5入)

12.45→12.4(4是偶数，5舍)

例6：将下列数据舍入到小数其次位。

12.4344→12.4363.73501→63.74

0.69499→0.6925.3250→25.3217.6955→17.70123.1150→123.12

需要留意的是，舍入应一次到位，不能逐位舍入。二、等精密度测量结果的处理步骤

①用修正值等方法，减小恒值系统误差的影响,列出测量数据x1，x2，x3，……，xn。

②求算术平均值,;

③求剩余误差（残差）vi=xi–，并验证。

④用贝塞尔公式计算标准偏差估量值：;

⑤利用莱特准则，即3σ准则，判别是否存在粗差。

⑥剔除坏值后，再重复求剩下数据的算术平均值、剩余误差及标准差，并再次推断，直至不包括坏值为止。

⑦推断有无变值系统误差。

⑧求算术平均值的标准差估量值

⑨求算术平均值的不确定度

⑩给出测量结果的表达式（报告值）。

例7：对某电压进行了16次等精密度测量，测量数据中已计入修正值，列于表1–1要求给出包括误差（即不确定度）在内的测量结果表达式。

表1–1测量值及其计算值n

xi/V

首次计算

其次次计算

vi

vi2

vi′

(vi′)2

备注

1

205.24

－0.06

0.0036

＋0.03

0.0009

2

205.21

－0.09

0.0081

0.00

0.0000

3

205.35

＋0.05

0.0025

＋0.14

0.0196

4

204.94

－0.36

0.1296

－0.27

0.0729

5

205.32

＋0.02

0.0004

＋0.11

0.0121

6

204.97

－0.33

0.1089

－0.24

0.0576

7

205.71

＋0.41

0.1681

＋0.50

0.2500

8

205.63

＋0.33

0.1089

＋0.42

0.1764

9

204.70

－0.60

0.3600

－0.51

0.2601

10

205.30

＋0.00

0.0000

＋0.09

0.0081

11

205.36

＋0.06

0.0036

＋0.15

0.0225

12

205.21

－0.09

0.0081

0.00

0.0000

13

204.86

－0.44

0.1936

－0.35

0.1225

14

206.65

＋1.35

1.8225

x13为坏值

15

205.19

－0.11

0.0121

－0.02

0.0004

16

205.16

－0.14

0.0196

－0.05

0.0025

计算值

解：①求出算术平均值：；

②计算残差vi列于表中，并验证；

③计算标准差(估量值)：

④利用莱特准则判别是否存在粗差。查表中第14个数据的残差v14=1.353=1.33，应将此对应的x14=206.65视为坏值加以剔除，现剩下15个数据；

⑤重新计算剩余15个数据的平均值：；

⑥重新计算残差vi′，列于表中，并验证；

⑦重新计算标准差(估量值)：

⑧再利用莱特准则判别是否存在粗差。现各残差vi′3=0.804，则认为剩余数据中不再含有坏值，并且n=1510；

⑨对vi′作图，