基于单调三次样条的数据分析

1、东北师范大学硕士学位论文基于单调三次样条的数据分析姓名：徐超申请学位级别：硕士专业：概率论与数理统计指导教师：高巍20090501摘要函数估计是非参统计中经常研究的问题，其中单调函数经常出现在经济和许多其他的学科中，例如：需求供应曲线，公司破产概率和持有危险资本的关系函数，表示小孩随时间生长模式的函数等在很多应用中，我们可以认为潜在函数有一个定性性质：单调性，因此，把单调信息加入到一个函数估计过程会有更好的结果本文选用单调三次样条函数做潜在函数估计首先根据这个样条的性质得到一个序约束最小二乘估计，用这个模型对一个单调函数做了模拟，并且找到了模型中参数的合理取值这样得到的模拟函数在整个定义域上都

2、是单调的，而且有足够的光滑性，模拟曲线和理论曲线很接近，模拟结果表明这个方法很好最后利用这个方法对一组剂量反应数据作了分析关键词：函数估计：单调三次样条；序约束最小二乘估计 ， ￥ ， ， ， ， ， ， ， ， ， ， ： ； ； 独创性声明本人郑重声明：所提交的学位论文是本人在导师指导下独立进行研究工作所取得的成果。据我所知，除了特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果。对本人的研究做出重要贡献的个人和集体，均已在文中作了明确的说明。本声明的法律结果由本人承担。学位论文作者签名：兰金堑圣日期：学位论文使用授权书本学位论文作者完全了解东北师范大学有关保留、使用

3、学位论文的规定，即：东北师范大学有权保留并向国家有关部门或机构送交学位论文的复印件和电子版，允许论文被查阅和借阅。本人授权东北师范大学可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或其它复制手段保存、汇编本学位论文。（保密的学位论文在解密后适用本授权书）学位论文作者签名：盆孟墨日学位论文作者毕业后去向：工作单位：通讯地址：指导教师签名：日 期：电话：邮编：期芈东北师范大学硕士学位论文引言考虑一个回归问题。弘，）龟，刀，其中墨是提前设定的点，满足而，白独立同分布与均值方差为沪的分布许多应用中，回归函数被认为拥有一个定性性质例如单调性或者凸性当我们估计回归函数时，很自然的

4、把这个信息加入到估计方法中本文主要考虑单调回归（）提出了单调回归的最小二乘估计，的估计由下式给出：（）当服从正态分布时，估计（）是非参最大似然估计有关这个估计的详细阐述见，逝和（）然而，当试验者证明潜在函数是光滑的时候，这就不是一个令人满意的估计由于多项式样条方法的简单特性，它被广泛应用单调光滑样条估计就是要找到不减的，使最小化下面的式子：协一他）】 五广（力（）其中是一个确定的光滑参数第一项来测量拟合与数据有多近，第二项控制被拟合函数的光滑度参数五调节二者之间的平衡时，光滑样条估计是有（）给出的石似）的单调插值五时，不减样条估计就变成非负斜率的简单线性二乘拟合和（ ）讨论了对于的不同取值单调

5、样条估计的收敛速率和（）讨论了时的保序光滑样条估计，而这个估计是分段线性函数为了得到更光滑的单掉估计，需要加上回归函数的二阶或更高阶导数作为惩罚项当时，在所有单调光滑函数中找到一个最小化（）是一个非线性优化问题，是非常困难的和（）把函数空间限制为带有节点麓的三次样条估计潜在函数，把未知参数的限制转化成凸锥，也只是朝着这个目标向前迈进了一步，但没有完全解决这个问题我们也按照这个思路研究在序约束下，用个单调函数拟合未知量，即求 】，一剖，在序约束最小二乘回归基础上得到的最优近似最小化一个方差表达式与有关序约束条件的许多问题，其解必须满足某些条件，（）给了很多例子，仃（）应用一种简单的迭代技巧，这个

6、方法不依赖于寻找技巧和复杂的分支逻辑，因此，一般来说很容易编程，可以在现代化的高速计算机上使用，我们应用他的这个算法来做函数估计五魄）吲晓，篙百 东北师范大学硕士学位论文下嚣的文章安排如下；第部分根据对这个兰次榉条函数的分析提出一个食适的方法，第部分介绍基予序约束的最小二黎算法，并针对我们提出的方法找出对应的算法。第部分剩甩本文提出的算法对个单调函数徽模拟，找出参数酶合理取值，第部分根据得到鲍模越做实际数据分析最后徽个总绪。东北师范大学硕士学位论文模型的提出考虑这样一个回归问题：烈其中服从均值，方差为的正态分布这里的（）是单调函数，我们选取（）为一个单调的三次样条函数在区间沁】上定义一个三次样

7、条：定义：烈功）：（一娩）；白一而）：，玎，：之，刀一）， （）其中“劫勋而确，而，是节点，（，功令是舻中元素形如（，岛）的一个集合，和（”靠）满足条件（），则是尺州中的一个凸锥我们针对这个样条提出下面的方法：协椭，丢眺一如）】“丢幽】定理分析了所定义的样条性质，为方法（）的可靠性作了保证定理。（）当（岛）满足条件（）时，圣 冬 幽（）若（）是区间沁上由以上定义的三次样条，则（）关于单调不减证明：（）令：，名 则勺一，且，疗一）（）。澍毋而（奶一阻一矾札 扫（）东北师范大学硕士学位论文）由： 知扭 （一勃）（，）一而）阮一而）一一而）（）（一而）（一）锄一（而一一而）（）（一）一一一翰）（）一

8、一而）由于而一一而所以一，而已知名 （，刀一），所以和，得到岛反复以上过程，可以得到岛（）若，贝 （功，若工，设，），贝（）一而）（功（）一砧（），（）芝（而，川，有反功一）疗一而）（）。（一砀）（一而）（白）所以（）关于单调不减证毕从定理的结论中可以看到（）在阻，上为一次不减函数，在（，】与（，甜】上都是三次不减函数正是（）的单调不减性，使得其在定义域末端的拟合值与数据值有较大的偏差，东北师范大学硕士学位论文所以应该约束（）在定义域末端的上升速度当（，川时，（岛）一（岛而）（而）因为。导致，此时（），不再是三次样条，所以这里白现在想要）很小，所以（）中加上了 这一项求解（）就会使得： 达到很

9、小从而控制了（）在定义域末端的上升速度对于给定的观测值，），），翰），通过（）用序约束最乘给出这个单调三次样条的估计东北师范大学硕士学位论文基于序约束的最小二乘算法介绍及应用基于序约束的最小二乘算法介绍现在选用由在年给出的一个关于闭凸锥约束条件的最、乘的简单迭代算法，做函数估计令和（）为彤中确定的点，的内积范数由下式定义：，功（霹似这个算法的目的是求解以下式子：患（岈三。（一而）纰其中蜀，局，墨为闭凸锥，这个基于序约束条件的最小二乘的简单迭代算法如下：（） 璺如，而。，三，）岛。嘛一。，一厶一， ），厶。劭，一（踟一，一厶一，），）。一厶一 ），：厶，颤，一协。一厶一，），力踟。，踟，一一厶一

10、，墨），厶，岛，一（，一厶一，）这里彤 ）表示在局上的投影，厶，待，为第轮在局上投影后的改变量做第一轮投影时，由于而，三，所以被投影的量就是上一次投影后的结果从第投影开始，每次在局上投影之前，都将上一轮在鹭上投影后的改变量去掉这样做下去，直到，算法收敛到理想解在年给出下面定理保证这个算法收敛：定理；对于所有的，当一时，向量岛收敛到（）的真实解证明：见（）东北师范大学硕士学位论文基于序约束的最小二乘算法的应用这一节我们根据自己提出来的模型来应用这个算法一将约束条件（）转化成所需的形式：令名 ，则，力一即：局（口，巩一）憨（口，一），一】）局（口，矾，“一）一）令口，“一，卢（口，以一），则口邛，

11、这里的定义如下：一一则一与（口，矾，巩一）各为营条件（）二做序约束最乘回归；令，朋，）恐（扔一）而一）（）（渤一）顺（翔一而）颂（一岛）领一一而）令娩（双），（），（），颂銎 ），则咄他，局（）的解就满足要求将对做线性回归，得到声在，刀）上投影，循环多次逐步更新夕通过设定的值，选取不同的值，将拟合结果与原数据作图比较，选择较好的五值东北师范大学硕士学位论文模拟用上面的方法对函数进行模拟选取的区间为，在这个区间上等间隔取个数作为数据中的取值，与每个而对应的乃，其中独立同分布与正态分布（，），扛，这样就产生了对数据，下面用这些数据做模拟，找到的合适取值通过反复试验知时算法已经收敛，所以所有的图像都

12、取在这里分别取，每间隔取一个值，每间隔取一个值，每间隔取一个值，每间隔取一个值在模拟的过程中发现，五从开始图像就不再变化了，下面三个图像中的五取值分别为，（实线表示模拟曲线，长点虚线表示理论曲线，短点虚线表示数据曲线）（）（）（）东北师范大学硕士学位论文这四幅图都是用同一组数据拟合得到的，所以具有可比性。每幅图中的拟合曲线都呈线性上升，其中图（）中的拟合曲线与理论曲线交点横坐标为，而其它三幅图拟合曲线与理论曲线交点横坐标为。，更接近区间，的中间位置，所以图（）中的取值范围大于其它三个图中的范围，这就说明图（），（）与（）的拟合效果比（）好但是这里若将矗取很大，在做最小二乘时会使： ，这样函数（

13、）成为线性的，不是我们提的这种情况，所以这里选取，下面的数据分析就用这个值来算东北师范大学硕士学位论文实际数据分析在这部分，我们考虑一个来自带羰基铁的食谱营养研究的例子这是一个剂量反应数据，剂量有，五个水平，对应黑鼠的葡萄糖水平如下表：我们把黑鼠的葡萄糖水平作为响应变量，葡萄糖水平高被视为异常，极高的水平就认为黑鼠得糖尿病下面应用上面算法做数据拟合由于这个算法在刀时收敛，但是已经知道循环次数时已经收敛，所以考虑到运算速度，下面的拟合图像都选取，这组数据中葡萄糖水平变化范围是，最大值与最小值之差小于，现在根据这个把得到的拟合图像分成种类型；东北师范大学硕士学位论文一、拟合数据的纵轴变化小于：包括

14、第，组数据下面是这组数据的拟合图像（数字代表拟合点，数字代表数据点）（）（）（）（。）（）（）东北师范大学硕士学位论文二、拟合数据的纵轴变化大于；包括第， ，组数据。下面是这组数据的拟合图像（数字代表拟合点，数字代表数据点）（）（）（）（）东北师范大学硕士学位论文（）（）（）（）（）（）东北师范大学硕士学位论文（）（）（）（）（）（）第一个类型的图像拟合的好，第二类不好拟合函数是单调不减的，如果数据中最后一列东北师范大学硕士学位论文的葡萄糖水平与前几列的葡萄糖水平相比不是很大，那么这时用单调函数拟合的值就会与原来的数据有很大差别这里的数据还有一个特点：在定义域的前面一段一之间有四个数据，而在后

15、面之间只有一个在定义域末端点处的数据，这样的观测数据对于拟合函数是单调的情形很不利正是因为图中定义域末端的拟合点与数据点有较大差距，才使得拟合函数值的取值范围扩大这些观测数据会存在一些误差，这里如果不看第对点，那么前对点的拟合效果很好这就说明用这个单调不减的三次样条函数（）是合理的这个结论告诉我们：黑鼠得糖尿病的概率随着食谱中羰基铁剂量的增大而增加东北师范大学硕士学位论文结论本文第节得到的模拟函数在整个定义域上都是单调不减的，而且有足够的光滑性，模拟曲线和理论曲线很接近，很好的拟合了潜在函数，模拟结果表明这个方法很好这里在选择模拟函数时也限制了函数空间，我们是在单调三次样条函数中寻找使（）达到

16、最小值的函数，所以只是在寻求用单调光滑函数做函数估计这个这个问题上迈进了一小步东北师范大学硕士学位论文参考文献【 ， ，： ， ： ， ， ，： ， ，： ， ，： ， ， ， ，：， 叨 ， ，： （） ， ， ， ，： ，（），： 】 ，（），： ， ，： ，：东北师范大学硕士学位论文 ， ，： ：， ，： ，： ： ，： ， ， ，： ， ， ： ，：王小明，韩小亮应用统计教程上海财经大学出版社，东北师范大学硕士学位论文附录程序（，）（）（），（：）（刁，司，刁，）（，）口妣木（，脚）一“）（）砒宰口【，东北师范大学硕士学位论文（，曲口（，孵），力一（，掰一）霉（，（，功”口 （）（，栉）（）烈，】（，（，刀）（，），（聊一）（，朋一），的（，（，），目（，（，所），的（，）牛，刀）（）出东北师范大学硕士学位论文（刀）（：），甜材“，司（“一（）（）（）（一，一习），（）（），司（）甜材（），甜“（“一（） （）东北师范大学硕士学位论文（，甩）（：聊）（）口口阴）（），母鼢奉（，（，）东北师范大学硕士学位论文致谢此文是在我尊敬的导师一一高巍教授的耐心指导和启发下完成的两年来，高老师在我的学习和生活中倾注了无限的关怀他广博扎实的专业知识，富有启发性的思维方法，孜孜不倦的言传身