概率论精要回顾与补充

1、龚光鲁, 钱敏平著 应用随机过程教程 及其在算法和智能计算中的应用清华大学出版社,2004目录前言符号说明第1章 概率论精要回顾与补充1 基本框架与典型分布1. 1 概率1. 2 随机变量 1. 3 d维随机向量1. 4 独立性 1. 5 Chebyshev 不等式 1. 6 基本极限与基本极限定理(大数定律与中心极限定理) 1. 7 典型分布 1. 8 次序随机变量的分布2 条件概率，条件分布，条件(数学)期望2. 1 条件概率 2. 2 条件分布 2. 3 条件（数学）期望 2. 4 期望与方差的Wald等式3 统计简要 3. 1 用样本作矩估计 3. 2 最大似然估计 3. 3 线性模型

2、的最小二乘估计及其推广 习题第2章 随机样本生成法 1一维随机数 1. 1 均匀随机变量的计算机模拟 1. 2 分布函数F(x)的随机数1. 3 正态随机数14 Poisson随机数15 混合分布随机数1. 6 Von Neuman 取舍原则 1. 7 Gamma随机数与Beta随机数的生成 2 多维随机数 2. 1 连续型多维随机数 2. 2 离散型多维随机数 2. 3 多维正态随机数 2. 4 多维Beta随机数（Dirichlet随机数）的生成 3附录 用Matlab生成随机数31 Matlab语言的简单提示 32Matlab生成随机数的语句习题第3章 随机过程的一般概念与独立增量过程1

3、 一般概念 1. 1 随机过程与有限维分布族1. 2 独立增量过程2 Poisson 过程与复合Poisson过程 2. 1 事故申报次数的概率模型与Poisson过程2. 2 Poisson过程与指数流的关系 2. 3 与指数流有关的一些随机变量与分布2. 4 常见的推广2. 5 复合Poisson过程3 Brown 运动(Wiener 过程)及其函数 3. 1 历史背景与物理模型 3. 2 Brown 运动 (数学模型) 3. 3 Brown运动的简单性质 3. 4 Brown运动的反射原理及首达性质3. 5 与Brown有关的几个简单随机过程 3. 6 漂移Brown运动 3. 7 几何

4、Brown运动4 简单随机徘徊 4. 1 双侧吸收壁的吸收概率4. 2 随机徘徊的对称原理 4. 3 随机徘徊的首达时刻 4. 4 简单随机徘徊与首达时习题第4章 更新现象及其理论1 Stieltjes 积分2 更新过程的概念 2. 1 作为Poisson过程推广的更新过程 2. 2 更新函数的更新方程 2. 3 年龄与剩余寿命3 更新定理与更新次数的正态近似 3. 1 更新定理 3. 2 更新过程的正态近似 33 Blackwell定理与主更新定理 3. 4 更新间隔为正整值随机变量的更新过程4 更新过程的变种模型41 交错更新过程 42 延迟更新过程 43 带酬更新过程5 再生过程与其相系

5、的更新过程 51 再生过程的概念 5. 2 与再生过程相系的更新过程 5. 3 比例极限定理在再生过程中的应用 5. 4 存储模型的一个例子6 Erlang 更新过程61 Erlang更新过程的定义 62 Erlang 更新过程的矩母函数习题第5章 离散时间的Markov链1 Markov链的概念 1. 1 定义与Markov性质 1. 2 概率转移矩阵 1. 3 时齐的Markov链 1. 4 Markov链的例2 Markov链的状态分类 首达分解, 步转移概率的递推式，矩母函数, 常返性 常返性再访与Markov链的基本结构平均回访时间与正常返性3 Markov链的转移概率的极限与不变分

6、布 不变分布与平稳Markov链 有限状态Markov链的的不变分布与极限分布 转移矩阵的平均极限4 Dobrushin 不等式与指数收敛性 4. 1 Dobrushin 不等式4. 2 Dobrushin 收敛定理5 与常返态相系的延迟更新流, 互通常返Markov链的极限定理 与常返态相系的延迟更新流 互通常返链的极限定理6 停时与强Markov性 停时 强Markov性7 禁忌概率与首达分布 禁忌概率 首达时与首达分布 禁忌概率, 首达分布与平均首达时间8 可逆Markov链与可逆分布可逆Markov链 例 可逆初分布存在性判别法9 分支Markov链(Galton-Watson简单分支

7、过程)习题第6 章 连续时间的Markov链 (Q-过程) 1 时间连续的Markov链及其转移矩阵 1 定义与等价性叙述2 连续时间的Markov链概率转移矩阵3 连续时间的时齐的Markov链2 Poisson 过程与复合Poisson 过程再访 Poisson 过程作为Markov过程转移矩阵与转移速率阵 复合Poisson 过程的转移矩阵与转移速率阵3 由转移速率矩阵确定的连续时间的Markov链 Kolmogorov 方程及Master 方程 转移速率矩阵的概率含义4连续时间的Markov链的极限分布 连续时间的Markov链的转移矩阵的平均极限 连续时间的Markov链的极限分布5

8、连续时间的Markov链的转移矩阵的不变分布 连续时间的Markov链的转移矩阵及其嵌入链的不变分布连续时间Markov链的遍历极限 对称的与可逆的连续时间的Markov链6 例 连续时间分支过程有限格点上的Ising模型与Gauber动力学生灭类过程系统与有效度7 连续时间的Markov链的模拟与加速收敛 连续时间的Markov链的模拟 加速收敛的均匀化方法习题第7 章 排队过程简介1 排队过程的描述 排队系统 排队系统的一般框图,输入过程与输出过程 可逆性引理2 最简单排队过程Markov排队过程 最简单的排队过程-M/M/1系统 N个服务员的简单排队过程M/M/N 系统 序贯排队与排队网

9、络系统 MM排队系统3 排队系统的一般概念 关于排队论的一般注记 MMN消失制 M/G/1排队系统 G/M/1排队系统4 半Markov过程 半Markov过程半Markov过程的渐近性质5 有限位相型分布( PH-分布) 1 背景2 PH分布(有限位相型分布)3离散位相型分布4PH分布类的封闭性习题 第8章 Markov 链Monte Carlo 方法 计算积分的Monte Carlo方法与采样量估计 用频率估计概率来计算积分的Monte Carlo方法 用样本函数的平均值估计期望来计算积分的Monte Carlo方法 减少方差的技术2 Markov 链Monte Carlo (MCMC)

10、Gibbs 采样 (Gibbs sampler) 按有限状态空间上分布作随机采样的Metropolis-Hasting 方法 通过条件分布对分布作随机采样的Gibbs方法2. 4 MCMC应用于Bayes参数估计3 模拟退火 模拟退火方法的基本想法 有关模拟退火算法的非时齐马氏链的理论背景第9章 以图像信息为背景的随机场, 迭代Markov系统1 有限格点上的Markov随机场与图像 有限格点上的Markov随机场 相邻系统Gibbs随机场 - 邻位势Gibbs场 图像处理的随机过程方法的思路原则简介Gibbs分布的样本的Gibbs采样法 Gibbs分布的模拟退火2 时间离散状态连续的Mark

11、ov链 概率空间再访 时间离散状态连续的Markov链 概率转移核 时齐的连续状态Markov链 例 上函数的最小值位置与模拟退火算法 Dobrushin 不等式.指数遍历性与收敛性3 随机迭代函数系统 1 局部相似性的基本想法 2 轮廓图全体组成的距离空间 3 灰度图与随机迭代函数系统 4. 统计中的Bayes方法与图象的处理, 分割与重建Bayes统计要义 Bayes方法在图像中的应用与观测量不是状态变量时的参数估计 习题第10章 隐马氏模型及其应用 熵与相对熵 离散分布的熵与相对熵. 分布密度的熵与相对熵 隐Markov 模型 一个实例 隐Markov 模型的描述 隐Markov模型的等

12、价表述 非线性滤波作为隐Markov模型的特例在应用中研究隐Markov模型的主要方面 解码问题 - 已知模型与观测时状态的估计 1 出现当前的观测的概率 的计算 解码问题 - 已知模型与观测时状态 的估计 学习问题 -由观测估计模型参数状态链样本已知时的参数的频率估计 模型参数估计的EM算法的思想 隐Markov 模型中M 步骤的解 关于隐Markov 模型 的评注 隐Markov 模型包容度大有非常宽的应用面隐Markov 模型的更为一般的形式 隐Markov模型的应用例子梗概 语音的机器识别 脱机手写体汉字识别 DNA序列片断装配习题第11章 二阶矩过程, Gauss 系与时间序列 1

13、全体方差有限的随机变量构成的Hilbert空间 1 实值情形 1 复值情形2 随机变量族的均方信息空间与滤波 2 均方信息空间 2 滤波问题 3 Gauss系与投影再访 3定义, 等价条件与特性 3Gauss过程的投影 - 线性滤波 3复Gauss过程3Gauss过程的特征泛函4 平稳性与宽平稳性 4平稳序列与宽平稳序列4渐近平稳序列与渐近宽平稳序列4平稳增量序列5 ARMA模型 5ARMA (p, q) 5AR模型的定阶与偏相关系数以及模型参数的估计 5MA模型的定阶与参数估计6ARCH 模型 6ARCH(p) 6ARCH(p)的参数估计 6 ARCH(q)模型的方差的预报7 GARCH (

14、p,q) 模型与其它随机方差模型7GARCH模型 7金融证券模型中的GARCH(1,1) 7GARCH的参数估计8 二阶矩序列的滤波再访 8线性滤波的一般概念 8Kalman-Bucy滤波9 二阶自相似时间序列与长程相关9统计自相似性9二阶自相似性 9 长程相关性10 非线性AR模型与二重ARMA模型 10非线性AR模型 (Non Linear AR, NLAR)10非线性AR模型的常见例子10二重ARMA模型习题第12章连续状态的Markov过程, 鞅, Ito积分与随机微分方程1 连续时间连续状态的 Markov过程 平稳Gauss过程时间与状态都连续的时齐Markov过程2 鞅列与鞅1条

15、件期望再访2鞅列3连续时间参数的鞅3 Ito 积分 - 对 Brown 运动的积分对 Brown 运动的积分与其特殊性 Ito公式4 随机微分方程与扩散过程简介随机微分方程 扩散过程 Girsanov定理与Feyman-Kac公式5 随机微分方程的解的数值模拟算法随机微分方程在固定时刻附近的随机Taylor展开与解的差分近似Ito过程的一个光滑函数在固定时刻附近的随机Taylor展开差分近似模型的改进习题第13章 金融证券未定权益的定价1 Black-Scholes模型的欧式未定权益的定价术语与基本假定套期方法风险中性概率方法 币值单位与随机折现因子方法 倒向随机微分方程方法 时变Black-

16、Scholes模型2 二叉模型 二叉模型与Black-Scholes模型的二叉近似Black-Scholes模型的二叉近似3 二叉模型的美式未定权益简述美式未定权益 二叉模型美式未定权益的定价与定价函数组4 随机利率与债券利率的期限结构 零息债券 零息债券导出的各种的随机利率概念 资产定价基本定理与利率衍生证券 利率的风险中性模型5. 基于证券的随机利率的债券为币值单位折现的证券的未定权益的定价习题第14章 在风险模型中的应用1基本概念保险中的利率概念生存模型的寿命分布与精算模型中的余寿2 集体风险模型与破产理论 盈余过程与永不破产的概率时刻前不破产的概率的公式与估计最终破产概率的上界与调节系

17、数 保险费的效用函数与制定保险费策略 最大损失的分布3 考虑利率与投资的保险模型简述第15章 与数据建模有关的几个算法 1 EM算法 隐状态变量分布中参数的最大似然估计EM算法的基本想法 Rubin算法EM算法的变通 广义EM算法2在数据不完全时，用增补潜在数据，对参数的Bayes分布作估计 TannerWong的潜变量法 基本想法 估计后验分布 未知参数的后验分布的迭代估计3 几种智能算法背景决定性的人工神经网络 随机的人工神经网络 演化算法，遗传算法4 聚类，Kohonen 自组织学习, 自适应算法k平均聚类 自适应聚类的基本思路 固定规模的Kohonen网络网络的规模的竞争学习5 适应最

18、小二乘法 - 一种适应的变步长的随机逼近第16章状态连续的Markov控制与决策过程简介1 例随机决策模型的简单例子 简单模型的启示 2 动作只依赖当前所处状态的简单决策模型 简单模型的一般描述有限时段总报酬准则下的最佳Markov决策的构造 无穷时段下的总报酬情形第17 章 Poisson随机分析简介1 非时齐的Poisson过程与非时齐的复合Poisson过程与特征泛函的特征泛函数值函数对Poisson过程的积分 Poisson过程的特征泛函 非时齐Poisson过程的统计性质函数对非时齐Poisson过程的积分，非时齐的Poisson过程的特征泛函 非时齐的复合Poisson过程及其特征泛函 与非时齐的复合Poisson过程相系的Poisson点过程将非时齐复合Poisson过程表示为非时齐Poisson过程的积分（时间积分表示）将非时齐复合Poisson过程表