（概率论与数理统计专业论文）测量误差模型的估计理论和方法.pdf

摘要 摘要 在科学实验、工农业生产以及社会调研等领域中，对兴趣变量进行测量时， 往往会受到多种因素的影响，导致一些偏差，如抽样误差、仪器误差、记录误差 等等；另外，人们考察变量之间的关系时，往往只关心主要因素对兴趣变量的影 响，其它影响不大的因素的效应将反映于兴趣变量取值的偏差中文献中这种观 测数据带有误差的问题通常称为“测量误差问题”，分析这些数据的统计模型通 常称为“测量误差模型”或“e v ( e r r o r s - i n - v a r i a b l e s ) 模型”在实践中，利用各 种e v 模型( 包括线性e v 模型、非线性e v 模型、半参数e v 模型等) 解决实 际问题时，常常会遇到各种各样的复杂数据，例如删失数据、纵向数据、缺失数 据以及时间序列数据等等因此，研究各种复杂数据下的e v 模型富有现实意义， 此类问题目前已经成为统计学界研究的热点课题之一 本论文研究的模型主要包括：线性e v 模型、半参数e v 模型、非线性半参 数e v 模型以及单指标e v 模型等统计模型研究的主要目的是：基于各种复杂 数据( 如纵向数据、删失数据、缺失数据等等) 研究此类模型中兴趣参数及兴趣 函数估计的大样本问题，如估计量的渐近正态性、相合性及其收敛速度等统计性 质 首先，在生存数据分析中，数据删失的现象是非常普遍的，因此考虑响应变量 随机删失情形下的半参数e v 模型较单纯的半参数e v 模型而言更富有现实意 义由于数据随机删失，通常的处理e v 模型的方法不能直接使用通过对数据 的适当转化，我们构造了未知参数的两种经验对数似然比统计量，即估计的经验 对数似然比统计量和调整的经验对数似然比统计量证明了所构造的统计量的分 一i 一 北京工业大学理学博士学位论文 布渐近于) ( 2 分布，所得结果可以用来构造未知参数的置信域模拟研究说明所提 出的经验似然比统计量在有限样本情形下具有良好的表现 其次，考虑了纵向数据下半参数e v 模型的估计问题针对协变量两种不同 的设计情形，即固定设计和随机设计，分别讨论了半参数e v 模型中未知参数和 未知函数的估计问题对于固定设计下半参数e v 模型，基于一般非参数权函数 估计方法和广义的最小二乘法给出了未知参数、误差方差以及未知函数的估计 在一般的条件下，证明了未知参数和误差方差估计的渐近正态性，同时也给出了 未知函数估计的收敛速度其结果是独立数据情形下相应结果的推广对于随机 设计下半参数e v 模型，应用核估计和修正的加权最小二乘法给出了未知参数和 未知函数的估计在一般的条件下，证明了估计量的渐近正态性另外，模拟结果 表明我们的估计方法在有限样本情形下具有良好的表现，说明我们的估计方法是 可行的 再次，虽然e v 模型在工农业生产等众多领域中有了广泛的应用，然而当该 模型用于缺失数据的分析时却遇到了困难因为对于缺失数据，通常的回归方法 不能直接使用本论文考虑了响应变量缺失而协变量带有测量误差的两类e v 模 型( 即线性可加e v 模型，非线性半参数一般e v 模型) 的估计问题对于线性 e v 模型，通过引进调整因子，给出了调整的经验似然比统计量，证明了所构造的 统计量的分布渐近于标准x 2 分布，从而解决了由于数据缺失而带来的估计困难 对于非线性半参数一般e v 模型，由于在实际问题中，核实数据往往很难得到，或 者耗费较大因而要获得大量核实数据往往不太现实对此我们提出了一种新的 修正的核估计方法；较好地解决由于高维核估计而带来的“维数灾祸 问题通 过利用核实数据，分别构造了未知参数和非参数函数的两种估计量证明了未知 摘要 参数估计的渐近正态性，并给出了非参数函数估计的最优收敛速度 最后，讨论了解释变量带有测量误差的单指标e v 模型单指标模型的提出 就在于解决维数灾祸问题然而当协变量带有测量误差，尤其是当替代变量和解 释变量的关系不能确定时，单指标模型的估计实际上就成了一般非参数估计的问 题了这样一来就存在维数灾祸问题如何有效地估计单指标e v 模型是本论文 讨论的核心问题之一虽然利用高维核估计可以给出未知函数的估计，然而在非 参数回归估计中，这一推断需要较大的核实数据才能达到合适的精度为此，我们 提出了一种降维方法通过利用核实数据，构造了未知参数的两种经验对数似然 比统计量证明了所构造的经验似然比统计量的分布渐近于) ( 2 分布，所得结果 可以用来构造未知参数的置信域由于估计过程采用降维技术，因而所得结果可 以用于生物工程，网络工程等领域的高维数据的处理之中 关键词e v 模型；经验似然；删失数据；纵向数据；缺失数据 北京工业大学理学博士学位论文 4b s t r a c t i nm a n yf i e l d ss u c ha ss c i e n t i f i ce x p e r i m e n t ，i n d u s t r ya n da g r i c u l t u r ep r o d u c - t i o na 8w e l la ss o c i e t yi n v e s t i g a t i o n ，a n ds oo n ，t h ee x a c tm e a s u r e m e n to ft h ev a r i - a b l e so fi n t e r e s ti sd i f f i c u l tt oo b t a i no w i n gt ot h ee f f e c t so fv a r i o u sk i n d so ff a c t o r s i n c l u d i n gs a m p l i n ge r r o r ，i n s t r u m e n te r r o r ，r e c o r d i n ge r r o r ，e t c ，a n dc o n s e q u e n t l y s o m ed e v i a t i o nm a ya p p e a ri nt h em e a s u r e m e n to ft h ev a r i a b l e s m o r e o v e r ，w h e n a n a l y z i n gt h er e l a t i o n s h i pb e t w e e nt h ev a r i a b l e so fi n t e r e s t ，w eo f t e nc o n c e r nt h e e f f e c to ft h em a i nf a c t o r st ot h ev a r i a b l e so fi n t e r e s t ；a l lt h es e c o n d a r yf a c t o r sm a y b ei g n o r e da n dd e s c r i b e da st h eb i a st ot h em e a s u r e m e n t t h es e t t i n g si nt h e p r e s e n c eo fe r r o ri nv a r i a b l e si sk n o w na st h es o - c a l l e d “m e a s u r e m e n te r r o rp r o b - l e m ”i nt h el i t e r a t u r e ，a n dt h es t a t i s t i c a lm o d e lu s e dt oa n a l y z et h ed a t aw h i c h w a sm e a s u r e de r r o n e o u s l yi sa l s od e s c r i b e da st h e“m e a s u r e m e n te r r o rm o d e l o r e v ( e r r o r - i n - v a r i a b l e s ) m o d e l i nm a n yp r a c t i c a la p p l i c a t i o n s ，as e r i e so fc o m p l i - c a t e dd a t a ( f o re x a m p l e ，c e n s o r e dd a t a ，l o n g i t u d i n a ld a t a ，m i s s i n gd a t aa sw e l la s t i m es e r i e sd a t a ) i so f t e ne n c o u n t e r e dw h e nt h ee vm o d e li su s e dt od e a lw i t h t h ea c t u a lp r o b l e m s h e n c e ，i th a sp r a c t i c a ls i g n i f i c a n c et os t u d ye vm o d e lu n d e r v a r i o u sc o m p l i c a t e dd a t a ，w h i c hi sb e c o m i n go n eo ft h eh o ti s s u e st ob ed i s c u s s e d i nc o n t e m p o r a r ys t a t i s t i c s ac l a s so fe vm o d e l si n c l u d i n gt h el i n e a re vm o d e l ，t h es e m i p a r a m e t r i c e vm o d e l ，t h en o n l i n e a rs e m i p a r a m e t r i ce vm o d e l ，t h es i n g l e - i n d e xe vm o d e l a r es t u d i e di nt h i st h e s i s t h em a i np u r p o s eo ft h i sd i s s e r t a t i o ni st os t u d yt h e l a r g es a m p l ep r o p e r t i e s ( s u c ha st h ea s y m p t o t i cn o r m a l i t y ，t h ec o n s i s t e n c ya n d 一一 a b s t r a c t c o n v e r g e n c er a t e ) f o rt h ee s t i m a t o r so ft h ep a r a m e t e r so fi n t e r e s ta n dt h ef u n c t i o n o fi n t e r e s t ，b a s e do nv a r i o u sc o m p l i c a t e dd a t as u c ha sc e n s o r e dd a t a ，l o n g i t u d i n a l d a t a ，m i s s i n gd a t a ，a n ds oo n a sw ea l lk n o w ，i ti su n i v e r s a lt h a tt h ed a t ai sc e n s o r e di ns u r v i v a ld a t a a n a l y s i s c o m p a r e dw i t ht h ep u r ep a r t i a l l yl i n e a re vm o d e l ，i th a sm o r ep r a c t i c a l m e a n i n gt od i s c u s st h ep a r t i a l l yl i n e a re vm o d e lw i t ht h er e s p o n s ev a r i a b l eb e i n g r a n d o mc e n s o r e d h o w e v e r ，t h eu s u a lt e c h n i q u e sf o re s t i m a t i o nc a n n o tb ea p p l i e d d i r e c t l yj u s tb e c a u s eo ft h ec e n s o r i n g b yt h ep r o p e rt r a n s f o r m a t i o no fd a t a ，t w o e m p i r i c a ll o g - l i k e l i h o o dr a t i os t a t i s t i c sf o rt h eu n k n o w np a r a m e t e r si nt h em o d e l a r es u g g e s t e d i ti sp r o v e dt h a tt h ed i s t r i b u t i o n so ft h ep r o p o s e ds t a t i s t i c sa r e a s y m p t o t i c a l l yc h i s q u a r e du n d e rs o m em i l dc o n d i t i o n s ，a n dh e n c ec a nb eu s e d t oc o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h ep a r a m e t e r so fi n t e r e s t f i n i t es a m p l e p e r f o r m a n c eo ft h ep r o p o s e dm e t h o di si l l u s t r a t e di ns i m u l a t i o ns t u d y a p a r t i a l l yl i n e a re vm o d e lw i t hl o n g i t u d i n a ld a t ai sc o n s i d e r e di nt h i sa r - t i c l e f o rt h ed i f f e r e n td e s i g nt y p eo fc o v a r i a b l e s ，t h a ti s ，t h ef i x e dd e s i g na n d t h er a n d o md e s i g n ，w ed i s c u s st h ee s t i m a t i o no ft h eu n k n o w np a r a m e t e r sa n dt h e u n k n o w nf u n c t i o nr e s p e c t i v e l y c o n c r e t e l ys p e a k i n g ，f o rt h ep a r t i a l l yl i n e a re v u n d e rf i x e dd e s i g n ，b yu s i n ga n o n p a r a m e t r i ck e r n e lw e i g h tf u n c t i o nm e t h o da n d t h eg e n e r a l i z e dl e a s ts q u a r em e t h o d ，t h ee s t i m a t o r so fu n k n o w np a r a m e t e r ，t h e v a r i a n c eo fe r r o r sa sw e l la st h eu n k n o w nf u n c t i o na r ec o n s t r u c t e d t h ea s y m p - t o t i cn o r m a l i t yo ft h ee s t i m a t o r so ft h eu n k n o w np a r a m e t e ra n dt h ev a r i a n c eo f e r r o r si so b t a i n e d a tt h es a m et i m e ，t h ec o n v e r g e n c er a t eo ft h ee s t i m a t o ro ft h e u n k n o w nf u n c t i o ni si n v e s t i g a t e d t h er e s u l t so b t a i n e di nt h i sa r t i c l ea r eg o o d a st h ec o r r e s p o n d i n go n e sf o ri n d e p e n d e n ts a m p l e s f o rt h ep a r t i a l l yl i n e a re v v 一 北京工业大学理学博士学位论文 m o d e lu n d e rr a n d o md e s i g n ，b yu s i n gak e r n e lm e t h o da n dt h em o d i f i e dw e i g h t e d - l e a s t - s q u a r e dm e t h o d ，t h ee s t i m a t o r so ft h eu n k n o w np a r a m e t e ra n dt h eu n k n o w n f u n c t i o na r ec o n s t r u c t e d t h ea s y m p t o t i cn o r m a l i t yo ft h ee s t i m a t o r sa r ed e r i v e d s i m u l a t i o ns t u d i e sa r ec o n d u c t e dt oi l l u s t r a t et h ef i n i t e - s a m p l ep e r f o r m a n c eo ft h e p r o p o s e dm e t h o d i ti sw e l lk n o w nt h a te vm o d e lh a sw i d ea p p l i c a t i o n si nm a n yf i e l d ss u c ha s i n d u s t r ya n da g r i c u l t u r ep r o d u c t i o n h o w e v e r ，t h ea b o v em o d e lc a nn o tb ea p - p l i e dd i r e c t l yi nm i s s i n gd a t aa n a l y s i s i nt h i sd i s s e r t a t i o n ，w eh a v ec o n s i d e r e dt h e e s t i m a t i o no ft w ok i n do fe vm o d e l s ( t h a ti s ，t h el i n e a re vm o d e la n dt h en o n l i n e a rs e m i p a r a m e t r cm o d e l ) f o rt h em i s s i n gr e s p o n s e f o rt h el i n e a re vm o d e l ， a na d j u s t e de m p i r i c a ll o g l i k e l i h o o dr a t i os t a t i s t i cf o rt h eu n k n o w np a r a m e t e ri n t h em o d e li ss u g g e s t e d i ti sp r o v e dt h a tt h ed i s t r i b u t i o n so ft h ep r o p o s e ds t a - t i s t i c sa r ea s y m p t o t i c a l l yc h i - s q u a r eu n d e rs o m em i l dc o n d i t i o n s ，a n dh e n c ec & n b eu s e dt oc o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h ep a r a m e t e r f o rt h en o n l i n e a r s e m i p a r a m e t r i cm o d e l ，b e c a u s ei np r a c t i c es u c has e m i p a r a m e t r i cm e t h o dw o u l d r e q u i r eal a r g ev a l i d a t i o nd a t as e t ，w h i c hi sh a r do re x p e n s i v et oo b t a i n ，i no r d e r t ob ef e a s i b l ef o rt h eu s eo ft h eh i g h d i m e n s i o nk e r n e le s t i m a t i o n i nt h i sa r t i c l e ， w ep r o p o s ean e wm e t h o d ，n a m e l y ，t h em o d i f i e dk e r n e le s t i m a t i o n ，b yw h i c ht h e “c u r eo fd i m e n s i o n ”p r o b l e mc a l lb es e t t l e de f f e c t i v e l y w i t ht h eh e l po fv a l i - d a t i o nd a t a ，t w oe s t i m a t o r sf o rt h eu n k n o w np a r a m e t e r sa n dt h en o n p a r a m e t r i c f u n c t i o ni nt h em o d e la r ep r o p o s e d t h ea s y m p t o t i cn o r m a l i t yo ft h ep r o p o s e d s t a t i s t i c sf o rt h eu n k n o w np a r a m e t e r sa sw e l la st h eo p t i m a lc o n v e r g e n c er a t ef o r t h ee s t i m a t o r so ft h en o n p a r a m e t r i cf u n c t i o na r eo b t a i n e d f i n a l l y ，w ed i s c u s st h ee s t i m a t i o no ft h eu n k n o w np a r a m e t e ri nt h es i n g l e - 一一 a b s t r a c t i n d e xm o d e lw h e r et h ee x p l a n a t o r yv a r i a t ei sm e a s u r e de r r o n e o u s l y t h ea p p e a l o ft h es i n g l e - i n d e xm o d e li st h a tb yf o c u s i n go na ni n d e x 矿x ，t h es o - c a l l e d “c u r s eo fd i m e n s i o n a l i t y i nf i t t i n gm u l t i v a r i a t en o n p a r a m e t r i cr e g r e s s i o nf u n c - t i o ni sa v o i d e d h o w e v e r ，w h e nt h ee x p l a n a t o r yv a r i a t ei se r r o n e o u s l ym e a s u r e d ， e s p e c i a l l yt h er e l a t i o n s h i pb e t w e e nt h es u r r o g a t ev a r i a t ea n dt h ee x p l a n a t o r yo n e i su n k n o w n t h e 翻c u r s eo fd i m e n s i o n a l i t y 。a p p e a r si nt h ee s t i m a t i o no ft h e s i n g l e - i n d e xm o d e l h o wt oe s t i m a t et h es i n g l e - i n d e xe vm o d e li so n eo ft h ec o r et o p i c i nt h i sp a p e r t h o u g hw ec a ne s t i m a t et h eu n k n o w nf u n c t i o nb yt h ek e r n e lr e g r e s s i o nt e c h n i q u ew i t ht h eh e l po fv a l i d a t i o nd a t a ，i ti se x p e n s i v et oo b t a i ns u c ha l a r g ev a l i d a t i o nd a t as e t i nt h i sd i s s e r t a t i o n ，w ep r o p o s eam e t h o do fd i m e n s i o n r e d u c t i o n ，b yw h i c ht h ea b o v ep r o b l e mc a nb es e t t l e de f f e c t i v e l y w i t ht h eh e l p o fv a l i d a t i o nd a t a ，t w oe m p i r i c a ll o g l i k e l i h o o dr a t i os t a t i s t i c sf o rt h eu n k n o w n p a r a m e t e ri nt h em o d e la r es u g g e s t e d i ti sp r o v e dt h a tt h ed i s t r i b u t i o n so ft h e p r o p o s e ds t a t i s t i c sa r ea s y m p t o t i c a l l yc h i - s q u a r eu n d e rs o m em i l dc o n d i t i o n s ，a n d h e n c ec a nb eu s e dt oc o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h ep a r a m e t e r b e c a u s e as e m i p a r a r n e t r cd i m e n s i o nr e d u c t i o nt e c h n i q u ei se m p l o y e di nt h ee s t i m a t i o n p r o c e d u r e s ，t h er e s u l t so b t a i n e di nt h ep a p e rc a nb eu s e dt od e a lw i t ht h eh i g h d i m e n s i o nd a t ap r o c e s s i n gi nt h ef i e l d ss u c ha sb i o l o g i c a le n g i n e e r i n ga n dn e t w o r k e n g l n e e r m g k e yw o r d s e vm o d e l ；e m p i r i c a ll i k e l i h o o d ；c e n s o r e dd a t a ；l o n g i t u d i n a l d a t a ；m i s s i n gd a t a i 北京工业大学理学博士学位论文 2 。 工 - - - - p - - - - - _ q s y = o ( 1 ) v = o ( 1 ) 矗= o p ( r l n ) 矗= o p ( 1 ) o r ( 1 ) k ( ) h 或k ( p ，e ) i i d 1 1 | | a 0 2 t r ( a ) m i n e i g ( a ) d i a g ( a l ，) c 符号表 “定义为 或“记为” 向量或矩阵的转置 依分布收敛 依概率收敛 强收敛( 依概率1 ) 是有界变量 可是无穷小量 对任一e 0 ，有p i i 矗i i e i i n n l l 一。 厶依概率收敛到0 随机有界 核函数 窗宽 均值为p ，协方差阵为的正态分布 自由度为p 的卡方分布 独立同分布 e u c l i d e a n 范数 a a t 方阵a 的迹 矩阵a 的最小特征值 由元素a l ，组成的对角阵 正的常数，在不同地方可以表示不同的值 一i i 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研 究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得北京工业大学或其它教育 机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何 贡献均已在论文中作了明确的说明并表示了谢意。 签名： 乡盖孙 l _ 日期： 关于论文使用授权的说明 本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有 权保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部 或部分内容，可以采用影印、缩印或其他复制手段保存论文。 ( 保密的论文在解密后应遵守此规定) 始举翮签名私苫期： 第1 章绪论 第1 章绪论 在科学实验、工农业生产以及社会调研等领域中，利用所获数据分析变量之 间的关系时，往往假定自变量不带有测量误差，换言之，自变量可精确观测然而 在实际生活中，事实并非如此在对兴趣变量进行观测时，往往会受到多种因素 的影响( 例如抽样误差、仪器误差、记录误差等等) ，导致一些观测偏差；另一方 面，人们考察变量之间的关系时，往往只关心主要因素对兴趣变量的影响，诸多的 影响不大的因素的效应将反映于兴趣变量取值的偏差中文献中这种观测变量带 有误差的问题通常称为“测量误差问题”，分析这些数据的统计模型通常称为 “测量误差模型”或“e v ( e r r o r s i n - v a r i a b l e s ) 模型”e v 模型是处理变量间 数据关系的一种有力工具，目前，无论在理论上还是在实际应用中该模型都有了 长足的发展 在解决实际问题时，实际工作者和学者们又提出了多种回归模型例如，线 性回归模型，半参数回归模型( 包括部分线性模型) ，单指标模型以及半参数变系 数模型等等利用这些模型在处理实际问题时，常常又会遇到各种各样的复杂数 据，如删失数据、纵向数据、缺失数据以及时间序列数据等等因此，研究各种 复杂数据下各类e v 模型( 如线性e v 模型，半参数e v 模型，非线性半参数e v 模型，单指标e v 模型等) 具有较高的实用价值，目前此类问题已经成为统计学界 研究的的热门课题之一 本论文研究的模型主要包括：线性e v 模型，半参数e v 模型，非线性半参 数e v 模型，单指标e v 模型等统计模型；研究的主要目的是：基于各种复杂数据 ( 如纵向数据、删失数据、缺失数据等等) 研究此类模型中兴趣参数及兴趣函数 估计的大样本问题，如估计量的渐近正态性、相合性及其收敛速度等统计性质 下面分别对半参数回归模型，单指标模型，e v 模型，不同的数据类型，经验 似然方法以及它们的研究现状进行简单的回顾 一】一 北京工业大学理学博士学位论文 1 1 半参数回归模型 自e n g l e 等【1 】在研究气象条件对电力需求这一实际问题时提出部分线性回 归模型以来，该模型已经成为当今统计学界的一个热点课题之一作为部分线性 模型的一般推广，半参数回归模型可以表示如下 = ，( 砥，p ) + 夕( 正) + g i ，i = 1 ，几，( 1 1 ) 其中，( ) 为己知的联系函数，夕( ) 为未知的非参数函数， ( 矸，正) ，i = 1 ，2 ，几) 为协变量，p 为p 维未知参数，白为随机误差当，( x ，p ) = 霹p 时， 模型( 1 1 ) 变为 = 叉? 卢+ 夕( 正) + 毛，i = 1 ，n ，( 1 2 ) 这就是在文献中频繁出现的部分线性回归模型 半参数回归模型( 包括部分线性回归模型) 的优点在于，它既含有参数分量， 又含有非参数分量，可以概括和描述众多实际问题，因而引起统计学界的广泛重 视从实践意义上讲，半参数回归模型可以说是更接近于真实，更能充分利用数 据信息的一种提法在处理方法上，这种模型融合了常用的参数方法以及各种非 参数方法( 例如，核估计、局部多项式估计、近邻估计、样条估计、小波估计 等) ，但又不是两类方法的简单叠加，因而其复杂性和难度超过了单一性质的回归 模型可以说，半参数回归模型的核心在于它既集中了主要部分( 参数分量) 的 信息，又兼顾了干扰因素( 非参数部分) 的信息，因而具有较强的解释能力随 着半参数回归模型在理论和方法上的日益成熟，它必将具有广阔的应用前景 对于半参数回归模型的研究，目前仍集中在大样本性质上研究的基本问题 大致有如下几点 ( 1 ) 未知回归参数及误差方差的相合估计主要讨论参数的估计在什么条 件下是强相合或弱相合的 ( 2 ) 回归参数及误差方差估计的渐近性质这主要包括：估计的收敛速 度，渐近分布等等关于渐近分布是研究在什么条件下，所构造的估计是渐近正 一2 一 第1 章绪论 态或) ( 2 分布的，这也是目前文献研究的热点 ( 3 ) 回归参数的置信域要想获得回归参数估计的置信域，通常需要考虑回 归参数估计的渐近分布以及渐近方差的相合估计 ( 4 ) 非参数回归函数9 ( ) 的估计及其收敛速度和渐近分布通过非参数方 法构造估计，例如可以利用核估计法、近邻估计法、局部多项式估计，小波估计 等方法构造其估计讨论的问题往往是估计的相合性和收敛速度目前，部分文献 已经将重点放到了估计量的渐近分布上 ( 5 ) 回归参数估计的稳健性直观意义是说，当假设模型与真实模型相符时 估计量具有良好的性质；当假设模型与真实模型稍许偏离时，其性能所受影响较 小；当假设模型与真实模型发生严重偏离时，其性能也还过得去如在线性回归 情形中已经证明m 估计是一种稳健估计 对于部分线性回归模型( 1 2 ) ，当设计点列 ( 砰，正) ，i = 1 ，佗) 独立同 分布时，文献【2 - 6 】先后讨论了当夕( ) 的估计分别取样条估计、核估计和最近邻 估计时参数p 的加权最小二乘估计的渐近正态性及强弱收敛速度等；h a m i l t o n 和t r u o n g 7 】采用局部线性回归构造了参数和非参数分量的估计，并证明了估计 量的渐近正态性：m a m m e n 和v a nd eg e e r s l 应用经验过程理论构造了惩罚拟似 然估计，并给出了该估计的渐近性质 m a 等【9 】研究了异方差的部分线性回归模型，对加权估计方程进行了修正， 即 丢喜叫c 五t 一砰卢一c 正厕，卜二笔勰 = 。，c 1 3 ， 其中u ( x ，正) 表示权函数，通常使用方差的逆( i n v e r s e - t o - v a r i a t i o n ) 权， 雪( 正，卢) 表示夕( ) 的非参数估计，亩 u ( x ，t ) x i z 和雪 u ( x ，t ) i 正) 分别表 示e w ( x ，t ) x i z 和e w ( x ，丁) i 正) 的非参数相合估计研究发现：当被错 误指定时，( 1 3 ) 式的左边仍可收敛到0 ，甚至错误地取雪三0 ，解方程( 1 3 ) 仍可 得到p 的相合估计p ，该估计具有渐近正态性，并且是半参数有效估计 北京工业大学理学博士学位论文 s e v e r i n i 等【1 0 】和h a r d l e 等 1 1 】研究了部分线性回归模型的推广形式，即广 义部分线性模型 s ( r d x t ，正) = 日 叉? p + 夕( 正) 】， i = 1 ，n ， ( 1 4 ) 其中日为一个已知函数，称为联系函数为了估计p 和9 ( ) ，s e v e r i n i 等 1 0 1 引进 了拟似然估计方法，该方法有类似于似然函数的性质，但仅需指定y 的二阶矩而 不是完全分布基于s e v e r i n i 等人的方法，h h r d l e 等【1 1 】考虑了夕( ) 的线性检验 问题，他们对检验问题的研究补充了s e v e r i n i 等人的工作 我国许多统计学者在部分线性模型的研究中也做了大量的深刻的工作 l i a n g 12 j 系统地研究了多种场合下p 的渐近有效估计的构造s h i 1 3 】利用分块多 项式逼近方法得到了卢和夕( ) 的稳健m 估计矽和雪( ) ，在一定条件下证明了矽 具有渐近正态性值得注意的是，小波作为一种技术在上世纪九十年代已经应用 到密度估计和非参数回归估计中来受此启发，柴根象、钱伟民等人将小波技术 推广到了半参数回归模型中来，利用小波估计给出了未知参数的估计，讨论了估 计的相合性、收敛速度、渐近正态性等大样本性质，取得较好的效果，参见文献 【1 4 1 6 等 文献【2 1 3 】大都是在( x t ，正) 随机设计情形下进行讨论的，文献【1 4 - 1 6 是 在x 随机设计而正为固定设计时进行讨论的当( x t ，正) 均为固定设计时的 研究成果相对较少我们知道，固定设计情形并不是随机设计情形的特例，随机 设计情形下的结果往往也不能简单地推广到固定设计情形，因为二者的处理方法 和假设条件有一定的区别对于固定设计情形，胡舒合【1 7 】和高集体等【1 8 2 0 1 分 别研究了未知参数p 的最 b - - 乘估计和加权最小二乘估计的强相合性、渐近正 态性、收敛速度、b e r r y e s s e e n 界限以及重对数律等方面的大样本性质王启华 【2 1 ，2 2 j 在截断样本下研究了p 和夕( ) 的估计的强相合性，p 2 ) 阶平均相合性 和渐近正态性陈明华【2 3 矧讨论了卢和夕( ) 的估计的强相合性，p 2 ) 阶平 均相合性和收敛速度 柴根象和孙平【2 5 】基于部分线性模型的可加性，提出了二阶段估计方法，得 一4 一 第1 章绪论 到了p 和9 ( ) 的核权函数形式的估计量矽和( ) 在五为固定设计而五为 随机设计的情形下，得到了声的渐近正态性，证明了雪( ) 的强相合性和一致强 相合性，其一致强收敛速度可达到非参数回归函数估计的一致最优强收敛速度 ( 亿l o g n ) 1 薛留根【2 6 ，2 7 】将随机加权方法应用于部分线性模型的研究中，证明了用随机 加权统计量的分布逼近原估计量误差的分布的强有效性，并给出了估计量的最优 收敛速度和随机加权逼近速度薛留根【2 8 2 9 】研究了部分线性模型中误差方差估 计之分布的b e r r y e s s e e n 界和非一致收敛速度 刘强和薛留根【3 0 】在误差序列为妒混合或妒混合下，通过小波估计法给出 了未知参数p 和未知函数9 ( ) 的估计在较弱的条件下得到p 的强相合性以及 雪( ) 的一致强相合性、一致7 阶矩相合性 柴根象和洪圣岩【3 1 】与h a r d l e 等【3 2 】分别对半参数回归模型的估计问题进行 了总结前者着重研究大样本领域的一些传统问题，包括估计的相合性、渐近分 布、收敛速度和渐近效率等；后者涉及若干较新题材，包括b o o t s t r a p 、截尾数 据、非线性和非参数时间序列等 1 2 单指标模型 单指标模型作为一种广义的回归模型，是上世纪八十年代中后期发展起来的 一种