（通信与信息系统专业论文）灰色预测和神经网络在电信客户流失预测中的应用.pdf

tlj，1、，i-_l，-ll 独创性( 或创新性) 声明 本人声明所呈交的论文是本人在导师指导下进行的研究工作及取得的研究 成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不 包含其他人已经发表或撰写过的研究成果，也不包含为获得北京邮电大学或其他 教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任 何贡献均已在论文中作了明确的说明并表示了谢意。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 本人签名： 互蠡氢 日期： 丝丝玺丕目：! 旦 关于论文使用授权的说明 学位论文作者完全了解北京邮电大学有关保留和使用学位论文的规定，即： 研究生在校攻读学位期间论文工作的知识产权单位属北京邮电大学。学校有权保 留并向国家有关部门或机构送交论文的复印件和磁盘，允许学位论文被查阅和借 阅；学校可以公布学位论文的全部或部分内容，可以允许采用影印、缩印或其它 复制手段保存、汇编学位论文。( 保密的学位论文在解密后遵守此规定) 保密论文注释：本学位论文属于保密在一年解密后适用本授权书。非保密论 文注释：本学位论文不属于保密范围，适用本授权书。 本人签名： 导师签名： 日期：一趁丝至羽幽雪 日期：趁肥经翻姻 北京邮电大学硕士学位论文 摘要 摘要 客户流失分析作为经营分析系统中的一个重要主题，主要任务是 根据流失客户和没有流失的客户性质和消费行为，进行挖掘分析，建 立客户流失预测模型，分析哪些客户的流失率最大，流失客户的消费 行为如何，并预测在该策略下客户流失情况。 灰色系统是指信息不完全、不确定的系统。灰色问题是指结构、 特征、参数等信息不完备的问题。，而神经网络具有并行计算，分布式 信息存储，容错能力强，自适应学习功能等优点，在处理复杂的人工 问题上显示出极优越的地位。通过对灰色系统和神经网络的研究，发 现灰色系统和神经网络可以作为数值化的函数估计器，两种方法 各有所长。把两者结合起来，建立一种兼有两者优点的方法一灰色 神经网络模型。 所谓灰色神经网络模型就是将灰色系统方法与神经网络方法通 过有效的途径有机地结合起来，对复杂的不确定性问题进行求解所建 立的模型。利用这种方法求解灰色问题时，与神经网络方法相比，计 算量小，在少样本情况下也可达到较高精度，与灰色系统相比，计算 精度高，且误差可控。 关键字：客户流失灰色预测神经网络灰色神经网络 北京邮电大学硕士学位论文 c h u r na n a l y s i s ，a sa ni m p o r t a n ts u b j e c to f b u s i n e s sa d m i n i s t r a t i o n ，i s m a i n l yu s e dt od od a t am i n i n g ，e s t a b l i s ht h ef o r e c a s t i n gm o d e l ，a n a l y z e w h i c hk i n do fc u s t o m e rt a k eo nt h eb i g g e s ta t t r i t i o nr a t ea n df i n a l l y , f o r e c a s tt h es t a t u so fc u s t o m e ra t t r i t i o n t h eg r e ys y s t e mi sa s y s t e mo ft h ei n c o m p l e t ea n di n d e t e r m i n a t e i n f o r m a t i o na n dt h eg r e yp r o b l e mi st h ep r o b l e mo ft h e i n c o m p l e t e i n f o r m a t i o ni nc o n s t r u c t i o n ，c h a r a c t e r b u tt h en e u r a ln e t w o r kh a sm a n y a d v a n t a g e s ，f o re x a m p l e ，t h ep a r a l l e lc a l c u l a t i o n ，t h e d i s t r i b u t e d i n f o r m a t i o nm e m o r y , t h ea d m i t t i n g e r r o ra b i l i t y , t h es e l f - a d a p tl e a r n i n g f u n c t i o n ，e t c s ot h en e u r a ln e t w o r ks h o w st h ev e r ys u p e r i o rp o s i t i o ni n h a n d l i n gc o m p l i c a t e da r t i f i c i a lp r o b l e m f r o ms t u d y i n gt h eg r e ys y s t e m a n dt h en e u r a ln e t w o r k ，w eh a v ed i s c o v e r e dt h a tt h e yc a ne s t i m a t et h e f u n c t i o n e a c ho ft h et w ok i n d so fm e t h o d sh a si t so w n s t r o n gp o i n t i fw e p u tt w ok i n d so fm e t h o d st o g e t h e r , w ec a ne s t a b l i s ht h eg r e yn e u r a l n e t w o r km o d e l t h e g r e yn e u r a ln e t w o r km o d e li sam o d e lt h a tn e a r l yi n t e g r a t e st h e g r e ys y s t e mm e t h o dw i t ht h en e u r a ln e t w o r k sm e t h o db yav a l i dp a t hi n o r d e rt os o l v et h ec o m p l i c a t e di n d e t e r m i n a t ep r o b l e m s w h e nw es o l v e t h eg r e yp r o b l e m ，t h ec a l c u l a t i n gq u a n t i t yo ft h i sm o d e li sl e s st h a nt h a t o ft h en e u r a ln e t w o r ka n du n d e rt h ef e ws a m p l e sc o n d i t i o ni ts t i l lc a n 北京邮电大学硕士学位论文 a b s t r a c t a t t a i nt h eh i g h e rp r e c i s i o n a n dc o m p a r e dw i t ht h en e u r a ln e t w o r k m e t h o d ，t h eg r e yn e u r a ln e t w o r km o d e lh a st h eh i g h e rp r e c i s i o na n d c a l l c o n t r o lt h ee r r o r k e yw o r d s ：c u s t o m e ra t t r i t i o n ，g r e yf o r e c a s t i n g ，n e u r a ln e t w o r k ，g r e y n e u r a ln e t w o r km o d e l m 北京邮电大学硕士学位论文 目录 目录 第一章绪论1 1 1 选题背景及意义。1 1 2 本文研究的意义、目标及主要内容3 第二章灰色预测模型5 2 1 灰色系统基本概述s 2 2 数据序列的预处理7 2 3 灰色预测常用的生成算子9 2 4 灰色模型原理1 2 2 4 1 灰色预测基本思想1 2 2 4 2 灰色预测的算法流程1 4 2 4 3 g m ( 1 ，1 ) 模型的特征。1 6 2 4 4 灰色预测的检验。1 7 2 4 5g m ( 1 ，1 ) 模型的局限性：1 8 2 s 灰色模型的改进1 9 2 5 1 优化初值的g m ( 1 ，1 ) 模型1 9 2 5 2 无偏g m ( 1 ，1 ) 模型2 0 2 6 灰色预测的应用实例2 1 2 7 本章小结2 4 第三章神经网络模型原理。2 5 3 1 人工神经网络概述2 5 3 2 神经网络的发展2 5 3 3 神经元模型2 7 3 3 1 神经元基本结构2 7 3 3 2 神经元激活函数2 8 3 4 神经网络的结构2 9 3 5b p 神经网络结构。2 9 l v 北京邮电大学硕士学位论文 目录 3 5 1b p 算法的原理3 0 3 5 2b p 算法的数学表达3 0 3 5 3b pf 网络的缺陷3 3 3 6 本章小结3 4 第四章灰色神经网络模型原理3 s 4 1 灰色神经网络模型3 s 4 1 1 组合预测技术。3 5 4 1 2 灰色预测和神经网络融合的原因3 7 4 1 3 灰色一神经网络混合预测模型3 9 4 1 4 灰色系统与神经网络的结合方式4 1 4 2 一阶灰色神经网络模型g n n m ( 1 ，1 ) 4 5 4 2 1 一阶灰色神经网络模型g n n m ( 1 ，1 ) 的建立4 6 4 2 2 一阶灰色神经网络模型g n n m ( 1 ，1 ) 的学习算法4 8 4 2 3 灰色神经网络模型的应用实例5 0 4 2 4 灰色神经网络模型的缺陷5 1 4 3 本章小结5 2 第五章模型比较和总结。s 3 5 1 三种模型的比较s 3 5 2 总结5 3 参考文献5 s 至i 谢s 9 攻读学位期间发表的学术论文目录6 0 v 北京邮电大学硕士学位论文第一章绪论 1 1 选题背景及意义 第一章绪论 在我国加入1 f r o 之后，电信企业正面临着巨大的挑战和机遇。一些世界级的 电信巨头将通过多种手段逐步渗透到中国电信市场，国内电信运营商正面对一个 全新的更加激烈的市场竞争环境。落后的管理手段和经营方式己经难以适应信息 化社会的潮流。市场竞争越来越激烈，客户生命周期不断的缩短，采用先进的管 理手段和技术已成为各电信企业解决问题的必由之路。因竞争加剧而导致电信利 润下降，迫使国内运营商也不得不考虑寻求新的盈利模式，以及如何提升自身的 核心竞争力。电信运营商意识到，客户才是企业生存和发展的根基，而保有客户， 吸引客户和充分发掘客户的盈利潜力是企业提高核心竞争力的关键。据统计，电 信领域的客户流失率估计每年在3 0 0 , 6 左右。与此同时，电信企业代理费用的升高 和宣传费用的升高，使进一步发展新客户越来越难，并且发展新客户的平均成本 和新客户带来的平均利润的比例在逐步升高，依靠扩大规模而实现利润增长的难 度在迅速提高。 随着我国通信市场竞争激烈程度的日益加剧，多家运营商共同“逐鹿 市场 格局的形成，作为通信市场竞争主体的各运营企业，一方面投入大量的时间、人 力、财力去发展新客户，另一方面又面临着现有存量客户的严重流失。激烈的竞 争必然导致客户处于不稳定状态，客户的平均生命周期不断缩短，严重影响了通 信企业的发展，不仅给运营商的收入造成损失，也给企业的经营带来压力。对电 信运营商来说，客户即生命，如何保有客户是企业客户管理的重中之重。因而， 如何有效防止客户流失，完善客户保持工作，越来越成为企业关注的焦点问题。 面对日益激烈的电信市场竞争环境，传统的被动式服务体系己无法满足客户 需要，应对挑战。同时，为了在新的市场形势下能够培育和创造出新的差异化竞 争优势，电信企业应以客户为中心，深入地了解客户，引导客户，留住客户。由 北京邮电大学硕士学位论文 第一章绪论 于电信市场日趋饱和，所以获取新客户的成本比留住现有客户群要昂贵得多，并 且竞争对手、技术以及法律法规等动态市场变化更容易使并且竞争对手、技术以 及法律法规等动态市场变化更容易使客户流失到其他公司。众所周知，中国移动、 中国联通在前几年就采取了单向收费的套餐业务，而且部分还针对学生群体增加 了赠送短信业务，这在一定程度上大大增加了移动和联通的忠实客户；在最近两、 三年他们推出了预存话费送话费、预存话费送手机等业务，这些优惠活动以退为 进，不但在心理上抓住了顾客的需求，而且更主要的是在利润上实现了企业的目 标，让企业在激烈的竞争中能更好的生存下去。 从电信运营商自身的角度来看，客户流失管理是企业生存发展的需要。有关 数据显示： ( 1 ) 发展一位新客户的成本是挽留一个老客户的4 倍； ( 2 ) 向新客户进行推销的花费是向现有客户推销花费的6 倍； ( 3 ) 向新客户推销产品的成功率是1 0 9 6 ，然而，向现有客户推销产品的成功 率是5 0 ； ( 4 ) 如果将每年的客户关系保持率增加5 个百分点，可能使利润增长8 5 ； ( 5 ) 客户忠诚度下降5 ，则企业利润下降2 5 ； ( 6 ) 一个对服务不满的客户会将他的不满经历告诉其他8 到1 0 个人，而一 位满意的客户则会将他的满意经历告诉2 到3 人： ( 7 ) 如果公司对服务过失给予快速关注，7 0 9 6 对服务不满的客户还会继续与 其进行商业合作。 以上数据充分说明，客户是目前商业活动的中心，衡量一个企业是否成功的 标准将不再仅仅是企业的投资收益率和市场份额，而是该企业的客户流失率、客 户份额及客户资产收益率等指标。可见，客户挽留，即忠诚客户的价值体现在增 加企业的盈利、降低企业的成本以及提高企业的竞争力等方面。 而电信部门最近几年的运营情况却不容乐观，其大部分原因在于客户流失。 所以如何防止电信部门的客户流失，如何识别客户流失的种类，以及根据其每个 月的消费额如何去判断该客户是否会发生流失等问题是电信部门应该主要关注 的问题，然后电信部门针对不同类型的客户采取相应的应对措施，来防止客户流 失的进一步发生。根据调查机构的数据显示，“用户保持率一增加5 ，就有望 为运营商带来8 5 的利润增长，由此可见用户流失对业绩的巨大影响。客户离网 给运营商带来的主要问题是，客户群大进大出，对营销成本造成很大压力，严重 影响业务收入增长缓慢。 2 北京邮电大学硕士学位论文 第一章绪论 目前，新增用户是带动收入增长的主要因素，而离网用户造成的收入损失占 新增用户收入的很大一部分，大大降低了收入增幅。 客户流失分析作为经营分析系统中的一个重要主题。主要任务是根据流失客 户和没有流失的客户性质和消费行为，进行挖掘分析，建立客户流失预测模型， 分析哪些客户的流失率最大，流失客户的消费行为如何，客户流失的其他相关因 素，如竞争对手的优惠政策、业务系统事故、国家政策和现行经济运行环境等。 为市场经营与决策人员制订相应的策略、留住相应的客户提供决策依据，并预测 在该策略下客户流失情况。 通过建立客户流失预测模型，使企业能够预测客户离网的可能性，并通过对 客户离网原因的分析，提出相应的挽留政策，从而使客户保有在自己的网上，降 低客户离网率，从而减少企业的运营成本。因此，该模型的建立对企业来说有着 极为重要的意义。 从电信企业所处的外部环境来看，客户流失管理是进行市场竞争的需要。在 科技进步的影响之下，我国的电信市场逐渐扩大，电信业务的需求量不断增长。 由此大量吸引了电信市场新运营商的进入，更激发了新的市场进入者的竞争积极 性。以微观经济学的理论分析，随着电信市场垄断局面的打破，市场上的厂商获 利由垄断时期的高额利润逐步降至市场平均利润水平。企业为了尽量保持利润， 必然要采取各种方法，客户流失管理的重要性就在竞争中凸现出来。 1 2 本文研究的意义、目标及主要内容 当前，各运营商对电信客户流失的研究十分活跃，也提出了很多新方法，各 有特色，也存在一定的弊端。统计预报方法，由于用回归的方法处理非线性数据， 准确度和精度都不是非常理想：数值预报方法，方法难度大、花费的计算时间长。 现有方法的缺点和不足给电信客户流失的预测带来了一定的难度，因此，如 何进行客观、合理、科学、准确的预测电信客户流失一直是人们努力研究的课题。 考虑到人工神经网络是描述和刻画非线性现象的有力工具，具有自学习功能，可 以避免人为因素的影响，这使它较适合应用于电信客户流失预测，但是神经网络 预报同样具有一定的缺陷，如容易陷入局部最小值、收敛速度慢等，导致需要反 3 北京邮电大学硕士学位论文 第一章绪论 复进行训练，才能得到精度满意的解。本文从这个角度出发，将灰色神经网络技 术引入该领域，进行了基于灰色神经网络的电信客户流失预测。 本文的主要研究内容如下： 1 灰色预测建模和神经网络理论的融合研究 本文对灰色预测建模和神经网络理论及各自的优缺点进行了比较研究，充分 利用了灰色预测建模所需信息少、方法简单的优点和神经网络具有较强的非线性 映射能力的特点，采用先确定灰色微分方程中参数的初始值，进而得到网络初始 的权值及阈值，从而得到了预测精度更高目方便使用的灰色神经网络模型。 2 基于灰色神经网络模型应用研究 本文构建了一种新的改进的灰色神经网络模型。即将灰色模型的预测结果和 神经网络的输入，通过神经网络训练过程中权值的不断修正去学习灰色模型预测 结果的长期趋势，并考虑影响因素对未来消费水平的非线性作用，实现预测值与 观察值的最佳拟合。应用灰色神经网络进行电信客户流失进行预测，并对各种结 果进行误差比较以及取优分析。 4 北京邮电大学硕士学位论文第二章灰色预测模型 第二章灰色预测模型 2 1 灰色系统基本概述 灰色系统研究的是“部分信息己知，部分信息未知 的“小样本“贫信息 不确定性系统。灰色系统的提出最早是在控制领域，在控制理论中，人们经常用 颜色深浅来表示系统信息的明确程度，“黑一表示信息完全未知，“白 则表示信 息完全明确，“灰一则表示部分信息己知，部分信息未知。相应的，信息完全未 知的系统被称为黑色系统，信息完全已知的系统被称为白色系统，而部分信息明 确，部分信息不明确的系统即是灰色系统。 灰色理论问世以来的理论和实践证明，与其它预测方法相比，灰色模型普遍 精度高，误差小，在理论和方法上都得到了实际应用。己经成为许多领域进行系 统分析、建模、预测、决策、规划、评估、控制等的独特思路和崭新方法。灰色 理论的主要内容包括以灰色代数系统、灰色方程、灰色矩阵等为基础的理论体系， 以灰色序列生成为基础的方法体系，以灰色关联空间为依托的分析体系，以灰色 模型( g m ) 为核心的模型体系，以系统分析、评估、建模、预测、决策、控制、 优化为主体的技术体系。 1 9 8 2 年，邓聚龙教授发表的一篇名为，c o n t r o lp r o b l e mo fg r e ys y s t e m ， 的论文，宣告了灰色系统理论的诞生。当前对于研究那些信息比较充分的系统， 可以得出很好的结论，对一些信息比较贫乏的系统，利用黑箱的方法，也取得了 较为成功的经验。但是，对一些部分信息确知、部分信息不确知的系统，却研究 得很不充分。这一空白区便成为灰色系统理论的诞生地在客观世界中，大量存 在的不是白色系统( 信息完全明确) ，也不是黑色系统( 信息完全不明确) ，而是灰 色系统。因此灰色系统理论以这种大量存在的灰色系统为研究而获得进一步发 展。当今灰色系统的理论和方法广泛地应用于不同学科、不同领域的研究之中， 获得了许多可喜的成果。 5 北京邮电大学硕士学位论文第二章灰色预测模型 灰色模型( g r e ym o d e l ) 简称g m 模型，是灰色系统理论的基本模型，也是灰 色控制理论的基础。灰色模型是灰色系统中抽象出来的模型。研究灰色系统的重 要内容之一是如何从一个不甚明确的、整体信息不足的系统中抽象并建立起一个 模型，该模型能够为灰色系统的信息由不明确到明确，由知之甚少发展到知之较 多提供研究基础。 g m ( n ，h ) 模型为一般g m 模型，它表示对h 个变量用n 阶微分方程建立的 模型。在g m ( n ，h ) 模型中，当h 2 时，所建g m 模型不能用作预测，只能用于 分析因子之间的相互关系。作预测用的g m 模型一般为g m ( n ，1 ) 模型，其中， 最重要同时也是在实际生活中应用最多的，是用灰色微分拟合法建立的g m ( 1 ，1 ) 模型。它是一个近似微分和差分方程的模型，具有微分、差分、指数兼容等性质， 模型的参数、结构随着时间推进而改变，突破了一般建模要求大样本数据的局限， 是建模思路和方法上的创新g m ( 1 ，1 ) 模型是灰色预测理论的基础，可用于数列预 测、灾变预测、拓扑预测等。目前，g m ( 1 ，1 ) 模型及其扩展形式已经被广泛用于 工业、农业、社会、经济等领域，其应用价值已经逐渐为人们所认识。然而，在 实践中发现此模型的拟合或预测效果有时佳，有时出现很大偏差，甚至完全失效。 如何合理地使用该模型，提高它的拟合和预测精度一直是科技工作者感兴趣，也 是比较困难的问题。因此，进一步优化和改进灰色预测模型，提高它的预测精度 和拓广它的适用范围，使它更好地服务于社会，有着十分重要的意义。 当今灰色g m ( 1 ，1 ) 模型广泛地应用于不同的领域并取得了一定的成果。但在 实际应用与理论研究过程甲，也发现了g m ( 1 ，1 ) 模型的诸多局限性与不足。为了 提高模型拟合和预测精度，人们从理论与实践中不断探索新的建模技术，对灰色 g m ( 1 ，1 _ ) 模型的研究取得了一些成果。如何勇，鲍一丹，吴江明等人提出了一种 随机型时间序列预测的新方法，特别适用于趋势随机型数据序列的预测问题，与 传统方法相比，具有计算简单，精度高的特剧2 j 目前g m ( 1 ，1 ) 模型的改进方法主要集中在以下几个方面： 1 对初值条件进行修正；在传统的g m ( 1 ，1 ) 模型中是采用原始数据列的第一 个数据作为初值进行建模的，而第一个数据也存在一定波动，直接作为初值可能 会有一定误差因此对初值条件进行修正能在一定程度上提高模型精度。 2 改进模型的时间响应函数；传统的g m ( 1 ，1 ) 模型中的时间响应函数的确定 受到初值的影响，因此避开初值的选取，构造与初值无关的时间响应函数，也是 g m ( 1 ，1 ) 模型研究的一方面。 6 北京邮电大学硕士学位论文第二章灰色预测模型 3 对g m ( 1 ，1 ) 模型的残差建立修正模型；这类方法是通过对g m ( 1 ，1 ) 模型的 残差建立模型，将g mo ，1 ) 模型的残差模型与g m ( 1 ，1 ) 模型相结合作为模型进 行预测的。 4 对原始数据进行处理，使其更适合建立模型；这种方法主要是针对于波动较 大的原始数据通过对原始数据的处理，降低原始数据的随机性，提高原始数据 的光滑度增强了数据序列的规律性，从而使灰色模型的预测精度得到提高，使 用范围得到扩大。 5 采用新的背景值构造法；传统的g m ( 1 ，1 ) 模型是通过梯形公式来构造背景 值的，因此采用其他更为精确的背景值构造公式，也是提高模型精度的一个方面。 6 寻找最优的背景值参数；在这类方法中是缸( 1 ) ( f ) + ( 1 一g ) x 0 ) ( f 一1 ) 作为背 景值的构造公式，通过寻找最优的背景值参数入，来对模型进行优化的【3 1 。 7 避开背景值，直接寻找最优模型参数a 和b 。统的g m ( 1 ，1 ) 模型是通过最 小二乘法得到参数a 和b ，但这涉及到背景值的优化问题采用优化的方法直接寻 找最优模型参数a 和b 。这样可以避开背景值的选取。 2 2 数据序列的预处理 数据序列是预测的基础，是所考察事物行为特征的外在表现，预测者正是通 过对数据序列的分析，挖掘该事物的内在规律性，从而结合现在已经存在或将来 可能出现的条件，对事物的发展趋势做出预测。然而，由于事物发展的复杂性， 以及在发展中受到随机因素的干扰，表现其特性的数据序列一般来说会发生变 化。这样，实际数据序列的振荡可能会很严重，以至使预测方法失效。解决这一 问题的常用手段就是在建模分析之前，首先对数据序列进行预先的处理，使其达 到一定的标准。灰色预测理论对数据序列建模时，同样对数据序列也有一定的要 求，所以数据序列预处理就显得十分必要。 但是数据序列的处理并不是随心所欲的，要遵循一定的准则，也就是说，经 过处理，序列达到要求时应该满足何种条件。灰色理论要求序列满足光滑条件或 者准光滑条件后才能进行更为准确的预测和判断，其中光滑条件的界定与以下几 7 北京邮电大学硕士学位论文 第二章灰色预测模型 项指标有关： 定义1 ：离差 令x 为序列， x 一( x ( 1 ) ，石( 2 ) ，z ( 3 ) 。( 七一1 ) ，工( 七) ，工( 忍) ) ，x ( k - 1 ) ，石( 七) z ： 则称，( 七) 为x 在点k 的差异信息，简称离差。 其中a x ( k ) - i x ( k ) - x ( k - * ”( 2 1 ) 定义2 ：级比与平滑度 令x 为序列， z - ( z ( 1 ) ，x ( 2 ) ，x ( 3 ) j ( 七一1 ) ，工( 七) ，z ( 刀) ) ，x ( k - 1 ) ，x ( k ) z x 则q ( 七) 为x 的级比 嘶) 一帮，z ( k - 1 ) 州眯卜2 ) 灰色理论经典论著给出了数据处理的原则，即数据序列的级比。q ( 七) 必须 在落在可行域( 0 1 3 5 3 ，7 3 8 9 ) 之内，才能进行灰色建模【4 l 。 序列x 的级比偏差屯( k ) 6 ( k ) - l l - a ( k ) ( 2 3 ) 定义3 ：级比偏差的倒数称为平滑度，记为a ，( k ) ( 七) 南( 2 1 4 ) 从平滑度的定义中可以看出，如果数据序列中的数据彼此差别不大，则级 比吒( 七) 接近于1 ，级比偏差的值很小，平滑度人，( k ) 的值很大，说明序列的光 滑性越高。 定义4 ：光滑比 令x 为序列，xf f i ( x ( 1 ) ，工( 2 ) ，工( 以) ) 则称j d ( 七) 为i 的光滑比。 8 北京邮电大学硕士学位论文第二章灰色预测模型 p ( 七) 。掣，七。2 ，3 ，甩( 2 - 5 ) 善毛 建立g m 模型要求序列x 为光滑序列，并且x 为光滑序列的充要条件为： v 占 0 砜，当七 k o 时，p ( k ) 芎。 定义5 - 准光滑序列 上述的光滑序列条件比较抽象，实际操作性不是很强，所以，以光滑比p ( 七) 来定义准光滑序列。 若序列x 满足 1 帮嘶m 柚小6 ， 2 p ( 七) 【0 f ，k - 2 , 3 ， 。 3 g 0 5 时，称x ( 七) 的生成是“重新信息一，“轻老信息 的： 当t o , i l 2 ，j l x ( o ) 的一阶正向累加生成数列x ( 1 ) 为： x ( 1 o ) 一 工o ( 1 ) ，z 1 ( 2 ) ，x o ( 3 ) ，。j 1 ( 忍) ，f l2 m 北京邮电大学硕士学位论文 第二章灰色预测模型 其中， 川七) - 妻州z ) ，七邶棚； 紧邻生成序列z f l ) 为： z ( 1 ) 一( z ( 2 ) ，z ( 3 ) 叩z ( 捍) ) ，z ( o 为刀一1 维序列。 其中z ( k ) 一o 5 x ( k ) + o 5 x ( k - 1 ) ，k 一2 ，3 ，n ： 令x ( 0 ( 七) + 豇x ( d ( 七) 一b ”( 2 一i i ) 则称式子( 2 - 1 1 ) 为g m ( 1 ，1 ) 模型的原始形式。 令x ( o ( 七) + 口z ( 1 ( 七) 6 ”( 2 1 2 ) 则称公式( 2 - 1 2 ) 为g m ( 1 ，1 ) 模型的基本形式。 2 4 2 灰色预测的算法流程 对于a 、b 的计算，可以采用最b - - 乘法( o l s ) 来求解它们的值。 设建模序列为x ( o ) 一缸o ( 1 ) ，工( o ( 2 ) ，工o o ) ，以k = 2 ，3 ，n 代入模型 x ( o ) + a z 1 ) 。b 中去。 若m - a ，6 r 表示参数列，则令 y b = z ( 。( 2 ) 工( o ( 3 ) x ( 。( 万) 一z ( 1 ( 2 ) 一z ( 1 ( 3 ) 一z ( 1 ( 靠) ( 2 - 1 3 ) ( 2 - 1 4 ) 北京邮电大学硕士学位论文第二章灰色预测模型 则g m ( 1 ，1 ) 模型的基本形式( 灰色微分方程) 石( o ( 七) + 韶m ) 一6 的最小二 乘估计参数列满足m - ( b r 曰) 1 b r y 最小二乘法的估计参数列为： a_l(br6r)-1br，r-【：】c2。15， 其中矿为口的转置矩阵，( b r 曰) - 1 为矿j 5 l 的逆矩阵 如果把由一( 口r b - t b r y = 【三】展开，把各个矩阵的有关内容补充进入，就可 以得到a 、b 的表达式： 。，。磊三! ：竺! 墨二! ! ：竺! 二! ! ! ：二竺丕三：竺! ! ! ：竺!。2 1 6 ， 扩 ，) 2 一) ，塞= ! ! ：竺! 塞! 三! ：竺! ! ! 二塞三：竺! 耋三：竺三二! ! ：竺! 。2 1 7 ， 扩 ，) 2 一伊) 在g m ( 1 ，1 ) 模型的参数列中，称参数a 为发展系数，它反映了序列的发展趋 势和方向。b 为灰色作用量，它是从背景值挖掘出来的数据，反映了数据变化的 关系，它的存在是区别灰色建模与一般输入输出建模的差别，也是区分灰色系统 观点的重要标志f 1 1 。 称 掣+ 麟( 1 ) 。6 ( 2 - 1 8 ) 为g m ( 1 ，1 ) 模型的白化方程或影子方程。 若x ( 叭，x ，z ( ，b ，y ，m 如上定义， 则白化方程害竺+ 戤( 1 ) ；6 的解也称为时间响应函数为： c(1o)=(，c(1(。)-鲁)t；口i刍-(2。9) 北京邮电大学硕士学位论文第二章灰色预测模型 c m ( 1 ，1 ) 模型的灰色微分方程x o ) + 舷1 ) - b 的时间响应序列为 铲协1 ) 。( ) ( o ) - 护+ 1 ，, n - - - - - - - - - - - - - - - - - - - - ( 2 - 2 。) 取x o ) ( o ) 一x ( 。( 1 ) ，则 宕( 1 ( 七+ 1 ) 2 ( z ( o ( 1 ) 一鲁) p 一口i + 罢，七= l , n - - - - - - - - - - - - - - - - - ( 2 2 1 ) 还原值也即预测值为 i o ( 七+ 1 ) ；戈o ( 七+ 1 ) 一戈1 ( 七) ，七- 1 , 2 ，万”t ( 2 - 2 2 ) 以上式子综合起来，完成了模型建立、求解、预测公式建立的全过程，成为 运用g m ( 1 1 ) 模型进行预测的理论基础。 2 4 3 g m ( 1 ，1 ) 模型的特征 建立在灰色系统理论基础上的灰色预测方法具有原理简单、所需样本少、不 需考虑分布规律、计算方便、预测精度高和易于检验等优点，但是灰色预测方法 也存在较大缺陷而使得灰色模型一般不宜用于中长期预测，有关文献已经证明了 灰色模型参数与模型的适用性具有如下的关系吼 当a o 3 时，g m ( 1 ，1 ) 模型可用于中长期预测； 当0 3 a o 5 时，g m ( 1 ，1 ) 模型可用于短期预测，中长期预测慎用； 当0 5 a o 8 时，用模型作短期预测应十分谨慎； 当0 8 a l 时，不宜采用g m ( 1 ，1 ) 模型。 由此可见，g m ( 1 ，1 ) 模型虽然可以作为长期预测模型，但受到发展系数a 的限制，而且真正具有实际意义、精度较高的预测值仅仅是最近的一两个数据， 而其他更远的数据则只反映趋势值或称规划值( 长期规划性的预测) ，不具有很大 的参考价值，因此对灰色预测模型做出改进和优化具有重要的意义。 1 6 北京邮电大学硕士学位论文第二章灰色预测模型 2 4 4 灰色预测的检验 得到预测结果后，我们需要就结果进行检验，以判断灰色预测的精确性和实 际效果。常用的检验方法包括： 1 残差检验：残差检验就是直接利用残差序列，考察各个时刻的绝对残差和 相对残差的大小是一种很有效的算术检验。一般用误差平方和或者平均相对误差 作为检验标准1 8 l 。 初始条件：工( 0 ) 为原始数列，戈( o 为通过以上式子得到的预测数据列通过求 残差：a ( k ) = x 仰 ) 一戈 ) ；( 2 2 3 ) 残差相对值：艿= 平均残差： ) 瑚宰 石( ) 1 0 0 ；( 2 2 4 ) ( a v g ) 一击耋) 1 ( 2 - 2 5 ) 最后求建模精度：桫一【l e c a v g ) ) 币1 0 0 ；( 2 2 6 ) 注：如果痧越大，则说明建模精度就越高，也就是说侈越大越好。 2 后验差检验： 求出原始数据平均值鬟，残差平均值暮 扩k 昙砉( 2 - 2 7 ) ：；- = 昙耄t ；( 七) ；( 2 - 2 8 ) 然后j 重用公j i ：s - - ：。砉。( 七) - i ( 。) 2 ；( 2 2 9 ) s 2 一 c 。曼 s l ：( 2 3 1 )、_ 1 7 北京邮电大学硕士学位论文 第二章灰色预测模型 尸- e le ( k ) 一fi 0 对于u 的不同取值范围，人们就可得到不同的神经网络模型，而不再限于用 逻辑的数学工具来讨论问题。 从5 0 年代末6 0 年代初，人们开始将人工神经网络的研究与人工智能联系。 1 9 5 7 年r o s e n b l a t t 引进了感知机( p e r c e p t i o n ) 概念，可用于两类线性可分模式 的识别，试图模拟人脑的感知和学习能力，这是第一次把神经网络研究从纯理论 的探讨付诸工程实践；1 9 6 0 年w i d r o w 提出了自适应线性元件( a d e l i n e ) ，它是 连续取值的线性网络，主要用于自适应系统，可对连续时间过程进行自适应调节， 这与当时占主导地位的以符号推理为特征的传统人工智能途径完全不同，因而形 成了神经网络、脑模型研究的高潮【硼。然而，自从1 9 6 9 年人工智能的创始人之 一m i n s k y 和p a p e r t 出版了颇有影响的感知器一书，并给出了悲观的结论后， 有关的研究进入了低潮。因为经过数年潜心研究，他们从数学上证实，感知器不 能识别具有非线性边界的不同异或( x o r ) 值的点。 不过仍有不少学者继续对神经网络进行研究。g r o s s b e r g 提出了自适应共振 理论；k o h e n e n 提出了自组织映射；f u k u s h i m a 提出了神经认知机网理论； a n d e r s o n 提出了b s b 模型；w e b o s 提出了b p 理论等。这些都是在2 0 世纪7 0 年 代和8 0 年代初进行的工作【2 5 1 。直到1 9 8 2 年，美国加州工学院物理学家h o p f i e l d 提出了由相同元件构成的单层自联想网络模型，即h o p f i e l d 模型，神经网络才 又重新引起人们的重视。h o p f i e l d 引入了“计算能量函数 的概念，给出了网 络稳定性的判据。f e l e m a n n 和b a l l a r d 的连接网络模型指出了传统的人工智能 “计算 与生物的“计算”的区别，给出了并行分布处理的计算原则；h i n t o n 北京邮电大学硕士学位论文第三章神经网络模型原理 和s e j n o w s k i 提出的b o l t z m a n 机模型借用了统计物理学的概念和方法，首次提 出了多层网络的学习算法；1 9 8 6 年，r u m e l h a r t 和m c c e l l a n d 等人提出并行分布 处理( p d p ) 的理论，同时提出了多层网络的误差反向传播学习算法( ( b p 算法) ， 这些都加快了人i = 神经网络方法走向实用的步伐。 近年来，人工神经网络的研究得到了世界各国的重视。目前，神经网络的应 用领域比过去更广泛，在控制、决策领域有突破性的进展；神经网络与专家系统 相结合己成为重要的发展趋势【2 9 1 。i b m 公司于1 9 9 0 年进入神经网络市场，提供 了一个自由的神经网络仿真开发环境，跨学科的思想成为本学科的发展动力，从 而对神经网络性能有了更深入的了解，在理论上发展了知识网络。学习训练方面 开发了激励增强理论d r t 算法，它模仿了动物的巴甫洛夫条件反射，并且神经网 络与当前的一些技术相结合，使处理更快、开发更容易、适应性更强。 3 3 神经元模型 3 3 1 神经元基本结构 神经元是神经网络的基本处理单元，它一般是多输入单输出的非线性元件， 基本结构如图3 - i 所示： 幽3 - 1 神经元模型 船 勋 ：； 输 入 北京邮电大学硕士学位论文 第三章神经网络模型原理 其中，毛，屯，毛分别是来自其它神经元的输入。 。，：，表示与第j 个神经元的连接强度，即连接权重。正值 表示兴奋型，负值表示抑制型。 p ，表示神经元j 的阈值。 ，