统计决策及其例题

1、 统计学家瓦尔德统计学家瓦尔德(A.Wald)(A.Wald)把关于假设检验把关于假设检验和参数估计的经典统计理论加以概括，将不确和参数估计的经典统计理论加以概括，将不确定意义下的决策科学也包括在统计学范围之内，定意义下的决策科学也包括在统计学范围之内，于于19391939年创立了统计决策理论，该理论弥补了年创立了统计决策理论，该理论弥补了过去统计理论的缺陷。过去统计理论的缺陷。统计决策的显著特点是：统计决策的显著特点是： 统计决策建立在统计分析和统计预测的基础统计决策建立在统计分析和统计预测的基础 上，是一种上，是一种定量决策定量决策 。 统计决策是在不确定情况下，应用概率来进统计决策是在不

2、确定情况下，应用概率来进行决策的计算和分析，是一种行决策的计算和分析，是一种概率决策概率决策。 统计决策统计决策决策问题的决策问题的三个基本要素三个基本要素状态集状态集行动集行动集行动空间行动空间损失函数损失函数依统计决策论的观点，对决策有用的信息依统计决策论的观点，对决策有用的信息先验信息先验信息样本信息样本信息决策问题的分类决策问题的分类无数据无数据（无样本信息）（无样本信息）决策问题决策问题统计决策问题统计决策问题贝叶斯贝叶斯决策问题决策问题一、基本概念一、基本概念1 1、损失函数、损失函数),(aLa描述当未知量处于状态描述当未知量处于状态 而采取行动而采取行动 时所引时所引起的损失，

3、记为起的损失，记为2 2、决策函数、决策函数)(xd由样本空间由样本空间 到行动空间到行动空间 的可测映射的可测映射 称称为决策函数。为决策函数。3 3、风险函数、风险函数)/()(,()(,(),(|xdFXdLXdLEdRXx )( d称为决策函数称为决策函数 的风险函数。的风险函数。)(,(XdL设设 是一个决策函数，则损失函数是一个决策函数，则损失函数 关于样本分布关于样本分布 的数学期望的数学期望)( d)/(xF平均损失愈小，决策函数愈好。平均损失愈小，决策函数愈好。风险函数风险函数 描述在未知量处于状态描述在未知量处于状态 而采取决策而采取决策 时所蒙受的平均损失。时所蒙受的平均

4、损失。),(dRd二、常用的决策准则二、常用的决策准则1、一致最优决策准则、一致最优决策准则*( ,)( , ),RdRd 则称则称 为决策函数类为决策函数类 的一致最小风险决的一致最小风险决策函数，或称为一致最优决策函数。策函数，或称为一致最优决策函数。*()d D 定义定义 设设 表示定义在样本空间表示定义在样本空间 上取值于行上取值于行 动空间动空间 的某一决策函数类，若存在一个决的某一决策函数类，若存在一个决 策函数策函数 ，使得对任意，使得对任意 ，都有，都有 ()dHA*() d() dDDD2、最小最大（、最小最大（Minimax）决策准则）决策准则则称则称 为该统计决策问题的最

5、小最大决策函数，为该统计决策问题的最小最大决策函数，相应的风险称为最小最大风险。相应的风险称为最小最大风险。*d定义定义 对于一个统计决策问题，设对于一个统计决策问题，设 表示定义表示定义 在样本空间在样本空间 上取值于行动空间上取值于行动空间 的某一决策的某一决策 函数类。若有决策函数函数类。若有决策函数 ，使得，使得 ()dHA*() dDD*sup ( ,)infsup ( , )dRdRdD3、贝叶斯决策准则、贝叶斯决策准则 先验信息与先验分布先验信息与先验分布 无论是在统计决策问题还是在统计推断问题中无论是在统计决策问题还是在统计推断问题中总会包含未知量总会包含未知量 。为了对。为了

6、对 作统计决策或者作作统计决策或者作统计推断，样本信息是必不可少的，因为它包含统计推断，样本信息是必不可少的，因为它包含 的最新信息。除此之外，一些非样本信息也可用于的最新信息。除此之外，一些非样本信息也可用于统计决策和统计推断。这些非样本信息主要来源于统计决策和统计推断。这些非样本信息主要来源于经验或历史资料。由于此类经验或历史资料大多存经验或历史资料。由于此类经验或历史资料大多存在于（获取样本的）试验之前，故称这些非样本信在于（获取样本的）试验之前，故称这些非样本信息为先验信息。息为先验信息。 统计学中有两个主要学派：经典（频率）学派统计学中有两个主要学派：经典（频率）学派与贝叶斯学派。经

7、典学派认为与贝叶斯学派。经典学派认为 是未知参数；贝叶是未知参数；贝叶斯学派认为斯学派认为 是随机变量，应该用一个概率分布去是随机变量，应该用一个概率分布去描述描述 的未知状况。这个概率分布在抽样之前就已的未知状况。这个概率分布在抽样之前就已存在，它是关于存在，它是关于 的先验信息的概率陈述。这个概的先验信息的概率陈述。这个概率分布就称为先验分布，用率分布就称为先验分布，用 来表示。来表示。( ) 贝叶斯公式与后验分布贝叶斯公式与后验分布( ) ()()( ) () p xxp xd称称 为为 的后验分布。的后验分布。() x先验风险准则与后验风险准则先验风险准则与后验风险准则定义定义1： 在

8、给定的统计决策问题中，设在给定的统计决策问题中，设 为决策为决策函数函数 的风险函数，的风险函数， 为为 的先验分布，则平均风的先验分布，则平均风险险( , )Rd() d( ) ( ) ( , )( , ) ( ) B dE RdRdd称为决策称为决策 的贝叶斯风险。若在决策函数类的贝叶斯风险。若在决策函数类 中存中存在在 ，使得，使得() d*() dD*()inf( )dB dB dD则称则称 为决策函数类为决策函数类 在贝叶斯（先验）风险准则在贝叶斯（先验）风险准则下的最优决策函数，简称贝叶斯决策函数或贝叶斯下的最优决策函数，简称贝叶斯决策函数或贝叶斯解。解。*dD定义定义2： 在给定

9、的统计决策问题中，设在给定的统计决策问题中，设 为决为决策函数策函数 的损失函数，的损失函数， 为为 的后验分布，则条的后验分布，则条件期望风险件期望风险( )d X( , ( )Ld X() x() ( , ( )( , ( ) () xR d xELd xLd xx d称为决策函数称为决策函数 的贝叶斯后验风险。若在决策函数的贝叶斯后验风险。若在决策函数类类 中存在中存在 ，使得，使得D() d*() d则称则称 为决策函数类为决策函数类 在贝叶斯后验风险准则下的在贝叶斯后验风险准则下的最优决策函数，或称其为贝叶斯后验型决策函数。最优决策函数，或称其为贝叶斯后验型决策函数。D*d*() i

10、nf (),dRd xRd xxDH 例6.1 一位收藏家拟收购一幅名画，这幅画标价为5000元。若这幅画是真品，则值10000元；若是赝品，则一文不值。此外，买下一幅假画或者没有买下一幅真画都会损害这位收藏家的名誉，其收益情况如下表 采取的行动画的状态 买 不 买 真 品+5000-3000 赝 品-60000现在，这位收藏家需要决定是买还是不买这幅画？(1) 如果收藏家有以下三种决策可供选择： ：以概率0.5买下这幅画； ：请一位鉴赏家进行鉴定（已知该鉴赏家以概率0.95 识别一幅真画，以概率0.7识别一幅假画），如果鉴赏家鉴定为真品就买下这幅画； ：肯定不买那么，什么是这位收藏家的最小最

11、大决策？1d2d3d（2）如果根据卖画者以往的资料得知， 发生的概率为0.75， 发生的概率为0.25，那么这位收藏家是否应买下这幅画呢？12 （3）在（2）的条件下，这位收藏家为稳妥起见，聘请一位鉴赏家做鉴定。已知鉴赏家以概率0.95识别一幅真画，以概率0.7识别一幅假画。如果鉴赏家说这幅画是真品，那么这位收藏家是否应买下这幅画呢？这是一个决策问题，状态集 ， 为真品，为赝品,行动集 表示“买”， 表示“不买”，损失函数 用矩阵可表示为12, 12121 ,a aa 2a( , )La 统计决策中所说的损失可以理解为统计决策中所说的损失可以理解为“该赚到而没有赚到的该赚到而没有赚到的钱钱”，

12、“不该亏而亏损的钱不该亏而亏损的钱”或者或者“不该支付而支付的钱不该支付而支付的钱”。( , )Qa( , )max( , )( , )a ALaQaQa采用收益函数时，损失函数( , )( , )min( , )a ALaWaWa( , )Wa时，损失函数采用支付函数21210600080000Laa解：（1）对 ，1d40005 . 080005 . 00,11dR30005 . 005 . 06000,12dR对 ，2d40005. 0800095. 00,21dR18007 . 003 . 06000,22dR对 ，3d80001800000,31dR01006000,32dR4000

13、3000,4000max,max1d18001800,400max,max2d80000 ,8000max,max3d18008000,1800,4000min),(supinfdRd21210600080000Laa 计算结果表明，收藏家的最小最大决策为 ，即如果鉴赏家鉴定为真品就买下这幅画，这一决策的最小最大风险为1800元。2d 根据先验分布 ，可分别算出行动 ， 的平均损失，亦即，行动 ， 的平均风险，因为这是无数据决策问题，所以1a2a1a2aaLaR,150025. 0600075. 00,1aLE600025. 0075. 08000,2aLE对比上述结果可知，采取行动 为上策，

14、即，收藏家应该买下这幅画。1a（2）由题意知， 的先验分布 为：1275. 025. 0 (3) 引入随机变量 由题意知： 若鉴赏家识别为假画若鉴赏家识别为真画, 0, 1X95. 011XP05. 001XP3 . 012XP7 . 002XP( )12( )0.75, ( )0.25 的先验分布 为 ， 由贝叶斯公式可得 的后验分布9048. 0|1)(|1)() 1|(21111jjjXPXP0952. 0|1)(|1)() 1|(21222jjjXPXP8235. 0|0)(|0)()0|(21222jjjXPXP1765. 0|0)(|0)()0|(21111jjjXPXP12,11

15、,0( )axaxdx21,12,0()axaxdx31( ),d xaxH 42( ),d xaxH 这样样本空间 ，行动空间 ，所以决策函数只有以下4个1,0H 12,A a a这样本值 时，这些决策函数的贝叶斯后验风险分别是：1x1111 = =00.9048+60000.952=571.2R dLd（）E（ ， （1）2211 = =8000 0.9048+0 0.952=7238.4R dLd（）E（ ， （1）3311 = =00.9048+60000.952=571.2R dLd（）E（ ， （1）4411 = =80000.9048+00.952=7238.4R dLd（）E（

16、 ， （1）在 时，这些决策函数的贝叶斯后风险分别是： 1100 = =80000.1756+00.8235=1412R dLd（）E（ ， （0）2200 = =00.1756+60000.8235=4941R dLd（）E（ ， （0）3300 = =00.1756+60000.8235=4941R dLd（）E（ ， （0）4400 = =8000 0.1756+0 0.8235=1412R dLd（）E（ ， （0）0 x 可见在贝叶斯后验风险准则下， 是最优决策函数，换言之，当鉴定家说这幅画是真品时，这位收藏家应买下这幅画。 下面计算（3）中那些决策函数的贝叶斯风险， 先算 的边缘分布：1( )d X7875. 0| 1)() 1 (21jjjXPm21(0)() 0|0.2125jjjmP X 2()6750.202B d3()1499.782B d4()6000.29B d从而，87.7492125. 014