(完整版)数据处理作业指导书_第1页
(完整版)数据处理作业指导书_第2页
已阅读5页,还剩4页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、作业指导书数据处理)LU吕梁天基建设工程质量检测有限公司二。一四年八月十日作业指导书数据处理)编制:审核:批准:吕梁天基建设工程质量检测有限公司LU年八月十日前言1. 目的为确保实验室数据的准确性和处理的科学性,将实验过程中实验数据处理时常用到的基本概念和有效数字的处理方法,特制定本作业指导书。2. 适用范围适用于吕梁天基建设工程质量检测有限公司检验人员的学习和数据处理参考资料。3发放范围:检测室4生效时间:下发即日起生效吕梁天基建设工程质量检测有限公司数据处理方法受控编号:LLTJ-ZY-SJCL-01共3页第1页标题:数据处理方法实施日期:2014年08月10日1允许差的基本概念1.1准确

2、度和误差1.1.1准确度:值测得结果与真实值接近的程度。1.1.2误差:指测得结果与真实值之差。1.2精密度和偏差1.2.1精密度:指在同一个实验中,每次测得的结果与它们的平均值接近的程度。1.2.2偏差:指测得的结果与平均值之差。1.3误差和偏差由于“真实值”无法准确知道,因此无法计算误差。在实际工作中,通常是计算偏差(或用平均值代替真实值计算误差,其结果仍然是偏差)。1.4绝对偏差和相对偏差绝对偏差=测得值-平均值相对偏差=绝对偏差/平均值X100%若两份平行操作,设A、B为两次测得值,则其相对偏差如下式计算:相对偏差二A;平均值X100%=A一(A+B)/2X100%二二BX100%平均

3、值(A+B)/2A+B1.5标准偏差和相对标准偏差1.5.1标准偏差:是反映一组样品测定值的离散的统计指标。若设样品的测定值为Xi,则其平均值为X,且有n个测定值,那么标准偏差为:叵(X一X)2标准偏差(SD):S一(x耳n1吕梁天基建设工程质量检测有限公司数据处理方法受控编号:LLTJ-ZY-SJCL-01共3页第2页标题:数据处理方法实施日期:2014年08月10日相对标准偏差(RSD):RSD=ixx100%X1.6最大相对偏差最大相对偏差:是用于表示测定结果的精密度,根据对分析共阿诺的要求不同而制定的最大值(也称允许差)1.7误差限度误差限度:指根据生产需要和实际情况,通过大量的实践而

4、制定的测定结果的最大允许相对偏差。2有效数字的处理2.1有效数字2.1.1在分析工作中实际测量到的数字就称为有效数字。2.1.2在记录有效数字时,规定中允许数的末位欠准,而且只能上下差12.2有效数字修约规则用“四舍六入五成双”规则舍去过多的数字。即当尾数W4时,则舍;尾数三6时,则入;尾数等于5时,若前面为偶数则舍,为奇数时则入。当5后面还有不是零的任何数时,无论5前面是偶或奇皆入。例如:将下面三个数字修约为三位有效数字2.324-2.322.325-2.322.326-2.332.335-2.342.32501-2.332.3有效数字运算法则2.3.1在加减法运算中,每数及它们的和或差的有

5、效数字的保留,以小数点后面的有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。吕梁天基建设工程质量检测有限公司数据处理方法受控编号:LLTJ-ZY-SJCL-01共3页第2页标题:数据处理方法实施日期:2014年08月10日例如:2.0375+0.0745+39.54=?39.45是小数点后位数最少的,在这二个数据中,它的绝对误差最大,为+0.01,所以应以39.54位准,其它两个数字也要保留小数点后第二位,因此三数字计算应为:2.04+0.07+39.542.3.2在乘除法运算中,每个数字及它们的积或商的有效数字的保留,以每个数字中有效数字位数最少为标准。在乘除法运算中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。例如:13.92X0.0112X1.9723=?0.0112是二位有效数字,位数最少,它的相对误差最大,所以应以0.0112的位数为准,即:13.9X0.0112X1.97=0.3072.3.3分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。2.3.4实验结果在运算过程中,可比规定的有效数字多保留一位数,然后根据有效数字的修约规则取舍至规定

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论