第二章误差和分析数据的统计处理_第1页
第二章误差和分析数据的统计处理_第2页
第二章误差和分析数据的统计处理_第3页
第二章误差和分析数据的统计处理_第4页
第二章误差和分析数据的统计处理_第5页
已阅读5页,还剩4页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、第二章 误差和分析数据的统计处理 一、误差 误差是衡量一个测量值不准确的尺度,误差越小,测量的准确度越高。 1. 误差的分类 按计算方法,分为绝对误差和相对误差。 绝对误差:测定值与真值之差。 = x µ 相对误差:绝对误差与真值的比值。 相对误差 = 按来源分类,分为系统误差和偶然误差。系统误差:由某种确定的原因引起的误差,有固定的大小和方向,重复测定时重复出现,又称为可定误差。系统误差可分为方法误差,仪器误差、试剂误差和操作误差等。 偶然误差:由偶然因素引起的误差。又成为随机误差或不可定误差。 2. 误差的传递 (1)系统误差的传递 加减运算:和、差的绝对误差等于个测量值绝对误差

2、的和、差。 若 则 积、商的相对误差等于各测量值相对误差的和、差。 若 则 (2)偶然误差 标准偏差法:和、差结果的标准偏差的平方,等于各个测量值标准偏差的平方和。 如滴定时消耗滴定液的体积 V=25.25-0.10 (ml) 积、商结果的相对标准偏差的平方,等于各个测量值相对标准偏差的平方和。(3)极值误差法: 加减运算:和、差结果的绝对误差等于各测量值最大绝对误差的加和。 若 则积、商结果的相对误差等于各测量值最大相对误差的加和。 若 则 3. 提高分析准确度的方法 (1)选择适当的方法; (2)减小测量误差; (3)增加平行测定的次数; (4)消除测定中的系统误差,如对仪器进行校正,做空

3、白试验等。 二、有效数字1. 有效数字 是分析工作中实际测量到的数字。记录测量数字时,只允许保留一位可疑数据,即数字的末位欠准,其误差是末位数的±1个单位。 常量分析一般有4位有效数字,误差为0.1%。 2. 运算法则 (1)加、减运算 结果的有效数字以小数位数最少的为准。 (2)乘、除运算 结果的有效数字以有效数位最少的为准。 第一位是8或9的可少保留1位。 3. 修约 (1)四舍六入五成双; (2)中间运算时可多保留1位; (3)修约标准差时,应使标准差变得更差一些。三、分析数据的统计处理 (一)均值的置信限 1. 均值和偏差 测量值比较的判据主要有2个:均值和偏差。 均值: =

4、( )/n 标准偏差:用于数据离散程度的度量 S = 2. 数据的分布 若对一个样品进行无限多次测定,所得的全部数据称为总体。 总体的均值用表示,若进行了n次测定,样本均值为 , 是的估计。 总体的标准差用表示,若n次测定的标准偏差为S,则S为的估计。(1)正态分布 分析测试的数据一般符合正态分布 y = 式中y为概率密度函数,x为随机变量(测定数据)。正态分布具有以下重要性质: 数据关于µ为对称分布 越大,离散程度越大。分布在 的范围内的概率为68%;在 的范围为95.5%;在 的范围为99.7%。(2)t分布 对正态分布的随机变量,当总体标准差未知时,用样本标准差S代替,随机变量

5、服从 t 分布。 t = f = n-1 当n无限增大时,t分布趋向于正态分布。 3. 均值的置信限 均值的置信限:在一定的置信度下,总体均值所在的范围。(1)均值的分布:对于一个样本,进行了m次采样,mi为(i =1,2, M)第i次采样,有nj个测定值,均值为 , 的分布称为均值的分布。 可以推导,均值的分布仍符合正态分布, 的均值与总体均值相同, 均值的标准偏差为总体标准差除以测定次数n的平方根从上式可以看出,n次测定平均值的标准偏差是1次测定的 ,测定次数越多,平均值的标准偏差越小,越可靠。但测定次数增加到一定程度,继续增加测定次数,标准偏差的减小越不显著,一般测定59次。 (2)当总

6、体标准差已知时 对于N(µ,2),可按下式化为标准正态分布N(0,1): u = 对平均值的分布, u = u为一定置信水平下标准正态分布随机变量的取值。已知: 范围概率范围概率68.3%95.5%90.0%99.0%95.0%99.7% 所以,当总体标准差已知时,均值的置信限:置信度均值的置信区间90%95%99%(2)当总体方差未知时当总体标准差未知时,用样本的标准差S代替,随机变量符合t分布:t = f = n-1对均值的分布: t = t是一定置信度下t的临界值。 如t0.05,5 = 2.57,(显著性水平= 0.05,f=5,双侧) 例如,用HPLC法测定某药物的含量,分

7、别为99.0%,99.3%,98.5%,求置信度为95%和99%时的置信区间。 计算得为98.9%,S为0.40(%), 查t0.05, 2 = 4.30, t0.01,2 = 9.92, 置信度为95%的置信区间: =98.9 ± 4.30×0.40/=98.9±1.0置信度为99%的置信区间: µ=98.9±9.92×0.40/=98.9±2.3 测定结果的表示: 用平均值和标准偏差表示:±S = 98.9±0.40(%) 用平均值和相对标准偏差表示:=98.9%,RSD=0.41% 98.9

8、7;1.0(%):在未指明时表示均值和均值的置信区间。 (二)显著性检验 1. t检验 (1)样本均值与标准值的比较 用来评价样本的平均值与真值、基准式样的测定值是否有差异。 t分布: 的t分布: 假设 与µ无显著差异,则有 计算t值,并查t分布的百分数表中t,f的值,如t0.05,5=2.57, 如果 t > t,f, 则假设不成立,有显著性差异; t t,f, 则假设成立,无显著性差异。(1)两个样本均值的比较 可用于判断两个人、两种方法或两台仪器分析的结果是否有差异,或两个样品的测定结果是否有差异。 假设两个均值无显著差异, 式中,SR为合并标准偏差,自由度 f = n1

9、+n2 -2 如果 t > t,f, 则假设不成立,有显著性差异; t t,f, 则假设成立,无显著性差异。 药物分析中t检验一般为双侧的检验。 2. F检验 用以检验两个样本的标准偏差是否有显著差异。 假设,和无显著差异, F=/ (>) f1=n1-1 f1=n2-1 如果 F>F,f1,f2,两个方差有显著性差异; FF,f1,f2,两个方差没有显著性差异。 一般为单侧检验,结论为明显大于。 (三)回归分析 1. 最小二乘法 如果有n个实验点,(xi , yi)(i=1, 2, , n ), 两个变量之间有线性关系,可表示为: yi = a + bxi 令为yi的估计值

10、, = a + bxi yi= ei 最小二乘法的基本思想是直线方程的a, b 应使残差的平方和最小。即 应最小。以Q对a,b偏微分,并令其等于0,可解得: 2. 相关系数 相关系数用来表征变量x与y之间的相关关系。平方相关系数可用下式表示: 当个点在同一条直线上时,r =1。 相关系数的显著性检验:判断两个变量之间是否确有线性关系。 F检验:假设(r为的估计值)= 0, 符合F分布,计算F值,如果F > F,n-2,则拒绝接受假设 = 0,两个变量之间有相关性。也可以直接查r的临界值表。 3. 斜率(b)和截距(a)的区间估计 令 根据Sx/y 可计算b和a的标准差。 斜率b的置信区间:b±t Sx/y 截距a 的置信区间:a±t Sx/y t为自由度n-2, 一

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论