稳态概率马氏链的两个重要类型w与a0无关Math课件

5.5随机状态转移模型5.6马尔可夫链的应用模型概率方法建模(二）5.5随机状态转移模型概率方法建模(二）马氏链模型

系统在每个时期所处的状态是随机的。

从一时期到下时期的状态按一定概率转移。

下时期状态只取决于本时期状态和转移概率，与以前的各时期状态无关。描述一类重要的随机动态系统（过程）的模型马氏链(MarkovChain)——时间、状态均为离散的随机转移过程已知现在，将来与过去无关（无后效性）马氏链模型系统在每个时期所处的状态是随机的。从一时期到下人的健康状态随着时间的推移会随机地发生转变，保险公司要对投保人未来的健康状态作出估计,以制定保险金和理赔金的数额。

5.5

随机状态转移模型问题背景通过有实际背景的例子介绍马氏链的基本概念和性质。人的健康状态随着时间的推移会随机地发生转变，保险公司要对投例1.

人的健康状况分为健康和疾病两种状态，设对特定年龄段的人，今年健康、明年保持健康状态的概率为0.8,而今年患病、明年转为健康状态的概率为0.7。若某人投保时健康,问10年后他仍处于健康状态的概率。问题5.5

随机状态转移模型例1.人的健康状况分为健康和疾病两种状态，设对特定年龄

状态与状态转移随机变量Xn：第n年的状态今年处于状态i,来年处于状态j的概率:转移概率状态概率0.80.20.3120.75.5

随机状态转移模型状态与状态转移随机变量Xn：第n年的状态今年处于状态i,Xn+1只取决于Xn和pij,与Xn-1,

…无关。状态转移具有无后效性

状态与状态转移第n+1年的状态概率可由全概率公式得随机状态转移模型——马氏链模型5.5

随机状态转移模型Xn+1只取决于Xn和pij,与Xn-1,…无关。状n0a2(n)0a1(n)1设投保时健康设投保时疾病a2(n)1a1(n)0n时状态概率趋于稳定值,稳定值与初始状态无关3…

0.778…

0.222…

∞

7/9

2/9

0.70.770.777…0.30.330.333…

7/9

2/9

10.80.220.780.22，给定a(0),预测a(n),n=1,2…注5.5

随机状态转移模型

状态与状态转移，给定a(0),预测a(n),n=1,2…n0a2(n)0a1(1230.10.0210.80.250.180.65例2.

健康和疾病状态同上，Xn=1~健康,Xn=2~疾病死亡为第3种状态，记Xn=3~死亡p11=0.8,p12=0.18,p13=0.02p21=0.65,p22=0.25,p23=0.1p31=0,p32=0,p33=1问题5.5

随机状态转移模型1230.10.0210.80.250.180.65例2.n

0123a2(n)00.180.1890.1835

a3(n)00.020.0540.0880

a1(n)10.80.7570.7285设投保时处于健康状态，预测a(n),n=1,2…

不论初始状态如何，最终都要转到状态3

；一旦a1(k)=a2(k)=0,a3(k)=1,则对于n>k,a1(n)=0，

a2(n)=0,a3(n)=1,

即从状态3不会转移到其它状态。00150

0.12930.0326

0.8381

状态与状态转移注5.5

随机状态转移模型n01基本方程

马氏链的基本方程Pnana)()1(=+nPana)0()(=5.5

随机状态转移模型基本方程马氏链的基本方程Pnana)()1(=+nPana

正则链

:从任一状态出发经有限次转移能以正概率到达另外任一状态（如例1）。w~稳态概率

马氏链的两个重要类型w与a(0)无关正则链:从任一状态出发经有限次转移能以正概率到达另外任

吸收链存在吸收状态(一旦到达就不会离开的状态i,pii=1),且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态(如例2)。有r个吸收状态的吸收链的转移概率阵标准形式R必有非零元素，Q的特征值绝对值小于1，所以yi~

表示从第i个非吸收状态出发，被某个吸收状态吸收前的平均转移次数。

马氏链的两个重要类型吸收链存在吸收状态(一旦到达就不会离开的状态i,有r个设状态i是非吸收状态，j是吸收状态，则首达概率fij

(n)实际上是i经n次转移被j吸收的概率。而则是从非吸收状态i出发终将被吸收状态j吸收的概率。记则F={fij}F=MR例如，可以算出前面第二种情况中F=MR=(11)T,y=Me=(25.757528.1818)T即，从两个非吸收状态“健康”和“疾病”出发终将被吸收状态“死亡”吸收的概率是1,且平均转移次数分别为26次和28次。fij=fij

(1)+fij(2)+…+fij(n)+…

马氏链的两个重要类型设状态i是非吸收状态，j是吸收状态，则首达概率fij(n钢琴销售量很小，商店的库存量不大以免积压资金。

一家商店根据经验估计，平均每周的钢琴需求为1架。存贮策略：每周末检查库存量，仅当库存量为零时，才订购3架钢琴供下周销售；否则，不订购。

失去销售机会的可能性有多大？以及每周的平均销售量是多少？

背景与问题5.6

马尔可夫链的应用模型估计在这种策略下钢琴销售量很小，商店的库存量不大以免积压资金。一家商店根据问题分析

顾客的到来相互独立，需求量近似服从泊松分布，其参数由需求均值为每周1架确定，由此计算需求概率。存贮策略是周末库存量为零时订购3架周末的库存量可能是0,1,2,3，周初的库存量可能是1,2,3。用马氏链描述不同需求导致的周初库存状态的变化。动态过程中每周销售量不同，失去销售机会（需求超过库存）的概率不同。

可按稳态情况（时间充分长以后）计算失去销售机会的概率和每周的平均销售量。

5.6

马尔可夫链的应用模型问题分析顾客的到来相互独立，需求量近似服从泊松分布，其参数模型假设1.钢琴每周需求量服从泊松分布，均值为每周1架。

2.存贮策略：当周末库存量为零时，订购3架，下周初到货；否则，不订购。

3.以每周初的库存量作为状态变量，状态转移具有无后效性。4.在稳态情况下计算该存贮策略失去销售机会的概率，和每周的平均销售量。5.6

马尔可夫链的应用模型模型假设1.钢琴每周需求量服从泊松分布，均值为每周1架。模型建立

Dn~第n周需求量，均值为1的泊松分布

状态转移规律

状态转移阵

假设(1)Sn~第n周初库存量(状态变量

)Dn0123>3P0.3680.3680.1840.0610.0195.6

马尔可夫链的应用模型模型建立Dn~第n周需求量，均值为1的泊松分布状态转移规……状态转移阵

状态转移矩阵的计算模型建立

5.6

马尔可夫链的应用模型……状态转移阵状态转移矩阵的计算模型建立5.6马尔状态概率

正则链

稳态概率分布w满足wP=w,模型建立

马氏链的基本方程状态转移矩阵

n,状态概率

已知初始状态,可预测第n周初库存量Sn=i的概率5.6

马尔可夫链的应用模型状态概率正则链稳态概率分布w满足wP=w,模型建立模型求解

从长期看，失去销售机会的可能性大约10%。估计在这种策略下失去销售机会的可能性第n周失去销售机会的概率

Pn充分大5.6

马尔可夫链的应用模型模型求解从长期看，失去销售机会的可能性大约10%。估计在第n周平均售量Rn从长期看，每周的平均销售量为0.857(架)

。

估计这种策略下每周的平均销售量模型求解

n充分大需求不超过存量,销售需求需求超过存量,销售存量5.6

马尔可夫链的应用模型第n周平均售量Rn从长期看，每周的平均销售量为0.857(敏感性分析

当平均需求在每周1(架)附近波动时,最终结果有多大变化？设Dn服从均值为的泊松分布

状态转移阵

第n周(n充分大)失去销售机会的概率

模型分析

5.6

马尔可夫链的应用模型敏感性分析当平均需求在每周1(架)附近波动时,最终结果有多0.80.91.01.11.2P0.0730.0890.1050.1220.139当平均需求增长（或减少）10%时，失去销售机会的概率将增长（或减少）约15%~16%

。敏感性分析

当平均需求在每周1(架)附近波动时,最终结果有多大变化模型分析

第n周(n充分大)失去销售机会的概率

5.6

马尔可夫链的应用模型0.80.91.01.11.2P0.0730.0890.15.5随机状态转移模型5.6马尔可夫链的应用模型概率方法建模(二）5.5随机状态转移模型概率方法建模(二）马氏链模型

系统在每个时期所处的状态是随机的。

从一时期到下时期的状态按一定概率转移。

下时期状态只取决于本时期状态和转移概率，与以前的各时期状态无关。描述一类重要的随机动态系统（过程）的模型马氏链(MarkovChain)——时间、状态均为离散的随机转移过程已知现在，将来与过去无关（无后效性）马氏链模型系统在每个时期所处的状态是随机的。从一时期到下人的健康状态随着时间的推移会随机地发生转变，保险公司要对投保人未来的健康状态作出估计,以制定保险金和理赔金的数额。

5.5

随机状态转移模型问题背景通过有实际背景的例子介绍马氏链的基本概念和性质。人的健康状态随着时间的推移会随机地发生转变，保险公司要对投例1.

人的健康状况分为健康和疾病两种状态，设对特定年龄段的人，今年健康、明年保持健康状态的概率为0.8,而今年患病、明年转为健康状态的概率为0.7。若某人投保时健康,问10年后他仍处于健康状态的概率。问题5.5

随机状态转移模型例1.人的健康状况分为健康和疾病两种状态，设对特定年龄

状态与状态转移随机变量Xn：第n年的状态今年处于状态i,来年处于状态j的概率:转移概率状态概率0.80.20.3120.75.5

随机状态转移模型状态与状态转移随机变量Xn：第n年的状态今年处于状态i,Xn+1只取决于Xn和pij,与Xn-1,

…无关。状态转移具有无后效性

状态与状态转移第n+1年的状态概率可由全概率公式得随机状态转移模型——马氏链模型5.5

随机状态转移模型Xn+1只取决于Xn和pij,与Xn-1,…无关。状n0a2(n)0a1(n)1设投保时健康设投保时疾病a2(n)1a1(n)0n时状态概率趋于稳定值,稳定值与初始状态无关3…

0.778…

0.222…

∞

7/9

2/9

0.70.770.777…0.30.330.333…

7/9

2/9

10.80.220.780.22，给定a(0),预测a(n),n=1,2…注5.5

随机状态转移模型

状态与状态转移，给定a(0),预测a(n),n=1,2…n0a2(n)0a1(1230.10.0210.80.250.180.65例2.

健康和疾病状态同上，Xn=1~健康,Xn=2~疾病死亡为第3种状态，记Xn=3~死亡p11=0.8,p12=0.18,p13=0.02p21=0.65,p22=0.25,p23=0.1p31=0,p32=0,p33=1问题5.5

随机状态转移模型1230.10.0210.80.250.180.65例2.n

0123a2(n)00.180.1890.1835

a3(n)00.020.0540.0880

a1(n)10.80.7570.7285设投保时处于健康状态，预测a(n),n=1,2…

不论初始状态如何，最终都要转到状态3

；一旦a1(k)=a2(k)=0,a3(k)=1,则对于n>k,a1(n)=0，

a2(n)=0,a3(n)=1,

即从状态3不会转移到其它状态。00150

0.12930.0326

0.8381

状态与状态转移注5.5

随机状态转移模型n01基本方程

马氏链的基本方程Pnana)()1(=+nPana)0()(=5.5

随机状态转移模型基本方程马氏链的基本方程Pnana)()1(=+nPana

正则链

:从任一状态出发经有限次转移能以正概率到达另外任一状态（如例1）。w~稳态概率

马氏链的两个重要类型w与a(0)无关正则链:从任一状态出发经有限次转移能以正概率到达另外任

吸收链存在吸收状态(一旦到达就不会离开的状态i,pii=1),且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态(如例2)。有r个吸收状态的吸收链的转移概率阵标准形式R必有非零元素，Q的特征值绝对值小于1，所以yi~

表示从第i个非吸收状态出发，被某个吸收状态吸收前的平均转移次数。

马氏链的两个重要类型吸收链存在吸收状态(一旦到达就不会离开的状态i,有r个设状态i是非吸收状态，j是吸收状态，则首达概率fij

(n)实际上是i经n次转移被j吸收的概率。而则是从非吸收状态i出发终将被吸收状态j吸收的概率。记则F={fij}F=MR例如，可以算出前面第二种情况中F=MR=(11)T,y=Me=(25.757528.1818)T即，从两个非吸收状态“健康”和“疾病”出发终将被吸收状态“死亡”吸收的概率是1,且平均转移次数分别为26次和28次。fij=fij

(1)+fij(2)+…+fij(n)+…

马氏链的两个重要类型设状态i是非吸收状态，j是吸收状态，则首达概率fij(n钢琴销售量很小，商店的库存量不大以免积压资金。

一家商店根据经验估计，平均每周的钢琴需求为1架。存贮策略：每周末检查库存量，仅当库存量为零时，才订购3架钢琴供下周销售；否则，不订购。

失去销售机会的可能性有多大？以及每周的平均销售量是多少？

背景与问题5.6

马尔可夫链的应用模型估计在这种策略下钢琴销售量很小，商店的库存量不大以免积压资金。一家商店根据问题分析

顾客的到来相互独立，需求量近似服从泊松分布，其参数由需求均值为每周1架确定，由此计算需求概率。存贮策略是周末库存量为零时订购3架周末的库存量可能是0,1,2,3，周初的库存量可能是1,2,3。用马氏链描述不同需求导致的周初库存状态的变化。动态过程中每周销售量不同，失去销售机会（需求超过库存）的概率不同。

可按稳态情况（时间充分长以后）计算失去销售机会的概率和每周的平均销售量。

5.6

马尔可夫链的应用模型问题分析顾客的到来相互独立，需求量近似服从泊松分布，其参数模型假设1.钢琴每周需求量服从泊松分布，均值为每周1架。

2.存贮策略：当周末库存量为零时，订购3架，下周初到货；否则，不订购。

3.以每周初的库存量作为状态变量，状态转移具有无后效性。4.在稳态情况下计算该存贮策略失去销售机会的概率，和每周的平均销售量。5.6

马尔可夫链的应用模型模型假设1.钢琴每周需求量服从泊松分布，均值为每周1架。模型建立

Dn~第n周需求量，均值为1的泊松分布

状态转移规律

状态转移阵

假设(1)Sn~第n周初库存量(状态变量

)Dn0123>3P0.3680.3680.184