（电力系统及其自动化专业论文）基于小波理论的短期负荷预测模型研究.pdf

华中科技大学硕士学位论文 = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = 一 a b s t r a c t t h e r ea r et h r e e t y p e s o fp o w e rs y s t e ml o a d f o r e c a s t i n ga c c o r d i n gt o t i m e s p a n ： l o n g t e r m ，s h o r t - t e r ma n dv e r ys h o r t - t e r m l o n g t e r mf o r e c a s t i n gr a n g e sf r o ms e v e r a ly e a r s t os e v e r a ld e c a d e s ，w h i c hi sv e r yi m p o r t a n tt oc o n s t r u c t i o no fn e ws t a t i o n sa n de x p a n s i o n p l a no f t r a n s m i s s i o nn e t w o r k s h o r t t e r ml o a df o r e c a s t i n g ，w h i c hr a n g e sf r o mo n eh o u rt o s e v e r a lh o u r s ，h a sa s i g n i f i c a n ti m p a c to np o w e rs y s t e ms i n c es o m ec o s t l yd e c i s i o n ss u c ha s e c o n o m i c a r r a n g e m e n to fg e n e r a t i n gc a p a c i t y , s c h e d u l i n go f f u e lp u r c h a s ea n d p l a n n i n gf o r e n e r g yt r a n s a c t i o na r eb a s e do ns u c hf o r e c a s t s l o a df o r e c a s t sw i t h i ns h o r t e rt i m el e a d s ， f r o ms e v e r a lm i n u t e st oo n eh o u r , a r er e f e r r e dt oa sv e r ys h o r t - t e r ml o a df o r e c a s t i n g ，w h i c h i sas a f e g u a r df o ra u t o m a t i cg e n e r a t i o nc o n t r o l ，d y n a m i c a le c o n o m i c d i s p a t c h ，o n l i n es a f e t y s u r v e i l l a n c e ，i ti sa l s ot h ep r e m i s ef o r r e a lt i m ee l e c t r i ce n e r g y p r i c ei np o w e r m a r k e t i nt h i sp a p e r , t h ef r u i t so fr e c e n tr e s e a r c h e si nl o a df o r e c a s t i n gf i e l d ，a sw e l la se a c h f o r e c a s t - t e c h n o l o g i e si n c l u d i n gn o to n l yc l a s s i c a la n dc o n v e n t i o n a lt e c h n o l o g i e sb u ta l s o m o d e mt e c h n o l o g i e s ，a r e e x p l a i n e d i n g r e a td e t a i l s f u r t h e r m o r e ，m a n y m o d e m t e c h n o l o g i e s ，s u c ha sa n n ( a r t i f i e i a ln e u r a ln e t w o r k ) ，f u z z ys y s t e m ，e x p e r ts y s t e ma n d w a v e l e t a n a l y s i sa n d s oo n ，a r ea n a l y z e dt h e o r e t i c a l l y t h e e m p h a s e s i sp u to ns e v e r a lf o r e c a s ts t r a t e g i e sb a s e d0 1 1w a v e l e tt h e o r ya n da n n ， o fw h i c ha d v a n t a g e sa n dt h eo p t i m i z ea p p l i c a t i o nc a s e se r ed i s c u s s e d t h e s ef o r e c a s t s t r a t e g i e si n c l u d e ：c o m p o u n d i n gm o d e l b a s e do nw a v e l e td e c o m p o s a t i o n ，w a v e l e tn e u r a l n e t w o r k ( w n n ) ，c a s c a d e d n e t w o r kb a s e do na n na n dw n n t h e s es t r a t e g i e sa r ea p p l i e d t o h u a z h o n gp o w e rs y s t e m ，h u b e ip o w e rs y s t e m a n dy o n g a np o w e rs y s t e m ( f u j i a n p r o v i n c e ) r e s p e c t i v e l y , a n d t h er e s u l t si n d i c a t et h a tt h e ya r ep r a c t i c a b l e i na d d i t i o n ，i nt h i sp a p e r , t h ep r o b l e mo fv e r ys h o r t - t e r mf o r e c a s t si sa l s od i s c u s s e d ， a n di t sc h a r a c t e r sa n dm e t h o d sa r ei n t r o d u c e db r i e f l y w i mt h ee s t a b l i s h m e n to fm a r k e t e c o n o m ya n dt h e r e f o r m a t i o no fp o w e rs y s t e m ，t h e r ei sa ni n c r e a s i n gi m p o r t a n c ei n i i 华中科技大学硕士学位论文 = = = = = = = = = = = = = = = = = = 一 s h o r t t e r mf o r e c a s tu n d e rt h ec o n d i t i o no f p o w e rm a r k e t ，o fw h i c hn e wc h a r a c t e r sc o n t r a s t t oc u s t o m t e c h n o l o g i e s i nt h ee n d ，aw h o l es y s t e mo fs h o r t - t e r mf o r e c a s ta p p l i e di np o w e r m a r k e ti si n t r o d u c e d k e y w o r d s ：l o a d f o r e c a s t i n gp o w e r m a r k e t w a v e l e t t h e o r y a r t i f i c i a ln e u r a ln e t w o r k f u z z ys y s t e m l i i 华中科技大学硕士学位论文 = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = 一= ：一： 1 引言 电力系统的负荷预测按照预测期的长短可以分为长期的、中期的、短期的和超短 期的。中长期负荷预测可达几十年或几年，它对新的发电机组的安装( 包括装机容量的 大小、型式、地点、时间) 与电网的增容和改扩建有重要的意义。短期负荷预测则为几 个月、几周、几天、几小时或者更短，其意义在于：( 1 ) 为了能对运行中的发电厂出力 作出分配安排，对发电机的出力变化的情况事先得以估计，对于装机容量不大的独立 电网，短期负荷预测尤为重要；( 2 ) 对于大电网，为了经济合理的安排网内各发电机 组的起停，以使系统在要求的安全范围内，为保持系统必要的旋转备用容量的耗费最 小，短期负荷预测也是必须的。( 3 ) 当电网进行计算机在线控制时，应当用短期负荷 预测的信息来实现发电容量的合理调度，以满足给定的运行要求，同时使发电成本最 小：( 4 ) 对于联营电网，准确的负荷预测是制定恰如其分的送受电计划，保证电网的 最经济运行所不可缺少的【1 1 1 2 1 。超短期负荷预测一般是对未来三十分钟以内的负荷作 出预报，其意义在于：实现发电机组运行容量的合理组合与调度，实现电网的安全运 行。超短期负荷预测是指未来几分钟到一个小时的负荷预测，它是自动发电控制、动 态经济调度、在线安全监测以及电力市场中实时电价预报的前提，其精度是电网经济 安全运行的重要保障1 3 j 。 1 1 负荷预测工作所依据的基本原理“1 由于负荷预测具有不准确性、条件性、时间性和多方案性等特点，必须科学地总 结预测工作的基本原理，指导预测工作。目前已经总结出的原理有以下几个： ( 1 ) 相关性原理。即未来负荷的发展变化同许多其他因素( 如历史负荷值、气象因 素等) 有很强的相关性。 ( 2 ) 规律性原理。这是指事物的发展变化有内在的规律，这些规律是可以为人们 所认识的。 华中科技大学硕士学位论文 = = = = = = = = = = = = ；= = = = = = = = = = = = = = 一一： ( 3 ) 连续性原理。预测对象从过去发展到现在，再从现在发展到将来，其中某些 特征得以保持和延续，这一过程是连续变化的。了解事物的过去和现在，掌握其变化 规律，就可以对其未来的发展情况进行连续性预测。 ( 4 ) 相似性原理。即事物现在的发展过程和发展状况可能与过去一定阶段的发展 过程和发展规律存在相似性，可以根据已知的发展状况预测未来的发展状况。 1 2 负荷预测的简要评述 负荷预测的核心问题是预测的技术方法，或者说是预测数学模型，随着现代科学 技术的不断进步，负荷预测理论得到了很大发展，理论研究逐渐深入，适合本地特点 的预测程序、软件已经出现。 短期负荷预测的发展大致经历了三个阶段：传统预测方法阶段、现代预测方法阶 段和应用研究阶段。传统预测方法的基础是传统数学工具，如回归模型法、时间序列 法、趋势外推法等。现代预测方法是随着人工智能研究领域的兴起而出现的，它结合 了人工智能领域的神经网络、模糊数学、专家系统等学科的最新研究成果。负荷预测 的应用研究阶段主要是各种组合算法研究，它把几种较好的负荷预测方法优化处理、 取长补短，达到进一步提高预测精度并使之实用化的目的。 目前对超短期负荷预测的研究尚处于起步阶段，成熟的方法很少，其中大部分的 尝试都是在短期负荷预测方法的基础上改进算法而成，改进的重点是提高算法的实时 性和准确性，如神经网络法、小波分析法和卡尔曼滤波法等。另外，预测软件的可操 作性与预测方法同样重要。简单友好、功能完备的操作界面也是超短期负荷预测的重 要内容。 1 3 本文的主要内容及作者所做的主要工作 本文从电力系统负荷预测的基本原理出发，介绍了负荷预测技术的发展及现状， 对各种预测方法进行了讨论，既包括经典预测方法、现代预测方法和组合预测方法， 也包括中长期预测方法、短期预测方法和超短期预测方法。并且分析了他们各自的特 点、使用条件以及局限性等问题。对基于人工智能的各种短期负荷预测方法的理论依 2 华中科技大学硕士学位论文 = = = = = = = = = = = = = = = = = = = = = = 一 据进行了较为详细的分析。在此基础上提出了几种较为理想的预测策略，特别是对基 于小波理论和人工神经网络的短期负荷预测模型进行了深入的研究，并同时考虑了气 象因素的影响。最后对超短期负荷预测的有关问题进行了简单的讨论。具体来说，本 文所做的主要工作包括以下几个方面： ( 1 ) 在阅读了大量的中外文献的基础上，对电力系统负荷预测技术做了综述。对几 种常用方法进行了深入的理论分析，并分析了它们各自的优缺点及最佳使用范围。 ( 2 ) 对基于小波分析理论和人工神经网络的预测方法进行了较为深入的探讨，重点 研究了基于二者的三种结合方案，这些预测方案具体包括基于小波分解的组合模型预 测技术、小波网络预测技术、以及神经网络和小波网络的级联预测技术，并将之应用 与实际电力系统，取得了较好的效果。 ( 3 ) 气象信息是影响负荷值的重要因素，但对不同的电力系统，他们的影响程度并 不相同，本文对气象信息和电力负荷之间的关系进行了定性的研究，这对改善模型结 构，提高预测速度有重要的意义。 ( 4 ) 对负荷预测工作的若干相关问题进行了研究。主要包括超短期负荷预测问题和 电力市场下的短期负荷预测问题。分析了超短期负荷预测的特点并介绍了相应的算 法，指出了超短期负荷预测要进行的主要工作；对面向电力市场的负荷预测进行了论 述，分析了它同传统负荷预测相比的新特点，并介绍了一个完整的应用于电力市场的 负荷预测系统。 华中科技大学硕士学位论文 = = = 2 = = = = = = = = = = = = = = = = = = = = 一 2 传统预测技术介绍 电力系统负荷预测是指在充分考虑些重要的系统运行特性、增容决策、自然条 件和社会影响下，研究或利用一套系统地处理过去和未来负荷的数学方法，在满足一 定精度要求的前提下，确定未来的负荷数值。这里首先对早期的预测技术做一简单介 绍。 2 1 电力负荷预测的经验技术与经典技术 从严格意义上讲，负荷预测的经典技术并不是真正的负荷预测方法，它仅仅是依 靠专家的经验或一些简单的变量之间的相关关系对未来负荷值作一个方向性的结论， 它是各种电力系统负荷预测技术的萌芽，是与早期预测手段少、精度要求不高的现实 相适应的。负荷预测的经典技术包括比例法、单耗法、弹性系数方法、比例系数增长 法等。 这里略去各种经典技术的具体细节，但是值得注意的是，这些方法仍有各自的适 用范围，在某些场合仍然相当有效，参考文献【4 】、【5 】、 6 】、【7 】、 8 】等对此进行了论 述。 2 2 几种重要的传统预测技术 传统预测方法的产生和发展是与概率论和数理统计等数学理论的发展密不可分 的，主要的预测方法包括回归法、趋势外推法、时间序列法、灰色系统法等。 回归法的特点是具有较强的内插能力，时间序列法和趋势外推法则具有较强的外 推能力，时间序列法适用于平稳随机变化的序列，指数平滑法适用于随时间增长的负 荷变化序列。 另外，在短期负荷预测中，气象因素对负荷值有较大的影响，而气象因素和负荷 值之问的关系往往无法进行数学描述，因此各种传统预测方法很难考虑这些因素，这 华中科技大学硕士学位论文 是他们的一个共同缺点。 2 2 1 回归预测技术 回归预测技术就是根据负荷过去的资料，建立可以进行数学分析的数学模型，对 未来的负荷进行预测。从数学上看，就是利用数理统计中的回归分析方法，即通过对 变量的观测数据进行统计分析，确定变量之间的相关关系，从而实现预测的目的。 从影响未来负荷因素的多寡分，回归模型可分为一元回归和多元回归；按照影响 因素和预测变量之间的关系可以分为线性回归和非线性回归。下面以一元线性回归模 型为例来介绍回归预测技术。 ( 1 ) 建立一元线性回归模型 y=a+k+占(2-1) 其中，y 表示电力负荷，x 表示负荷的影响因素，e 是随机干扰，并且服从n ( 0 ，口2 ) 分布。 ( 2 ) 求模型的参数a 、b 的估计值口和b b i 炒，一歹) b = 丝1 一 ( 2 2 ) g 。一覃) 2 口；歹一6孑(2-3) ( 3 ) 回归模型的假设检验 检验式( 2 - - 1 ) 所示的线性模型是否成立，这里给出两个假设： h o ：b = 0且：b0(2-4) 若给定显著性水平为口( 0 口 1 ) ，得h 0 的拒绝域为 h 笪压：”) ( 。叫 华中科技大学硕士学位论文 = = = = = = = = 一一 这里，s 。= ( 一一_ ) 2 ，n 为样本数。 l f f i l ( 4 ) 预测值与置信区间 由上述推导很容易得出预测值和置信区间如下： y o = 口+ b x( 2 6 ) y 。n ( a + b x 。，盯2 l ( o ，盯2 ) ( 2 7 ) 但是必须指出，回归预测技术比较实用于中长期的负荷预测，对于短期负荷预测， 特别是对于规模较小的电网，日负荷曲线的变化往往很剧烈，因此这种方法往往难以 奏效。 2 ，2 2 灰色理论预测技术 灰色系统理论是中国学者邓聚龙教授1 9 8 2 年3 月在国际上首先提出来的，在国 际期刊 ( s y s t e m sa n dc o n t r o ll e t t e r 刊物上发表，题为“c o n t r o lp r o b l e m s o f g r e ys y s t e m ”，引起了国际上的充分重视“l 。灰色系统理论的特点在于建立负荷预测 的数学模型之前，先对各影响因素进行关联度分析，从而“生成”一个随机性弱化、 规律性强化的新的负荷序列，揭示潜藏在负荷数据背后的内在规律，获得较高的预测 精度要求。 数列的生成有累加生成、累减生成、均值生成等，以累加生成为例来简要介绍灰 色理论预测技术的步骤。 ( 1 ) 数列的累加生成 记x 删为原始数列 x 一= 【x o ( k ) l k = 1 , 2 ，玎】= k o ( 1 ) ，x ( 2 ) ，x 一( h ) 】 用1 一a g 0 生成一阶累加生成数列为x ( 1 ) x 1 = 【x ( k ) l k = 1 , 2 ，玎】= k ( 1 ) ，x 1 ( 2 ) ，x 1 ( ，明 其中x ( o 和x ( 1 之间满足下述关系： 6 华中科技大学硕士学位论文 = = = = = = = = = = = = = = = = ；= = = = = = 一一= ： z 1 1 ( ) = z t x o ( f ) 】 这里必须指出的是，如果阶生成后的x ( 1 具有明显的指数增长规律，则不必再 做二阶生成，如果指数规律仍不明显，则需作高阶生成，直至具有明显的指数增长规 律。 ( 2 ) 生成数列的求解 无规律的历史数据列经累加生成后，使其变为具有指数增长规律的上升形状数 列，由于阶微分方程解的形式即是指数增长形式，所以可对生成后数列建立微分方 程模型。设生成数列满足的一阶微分方程为： 掣+ 扩( 2 - - 8 ) d t 则由式( 2 - 8 ) 可以得到生成数列的离散形式的解为： x m ( + 1 ) = x ( 1 ) 一孙一：+ 要( 2 9 ) 其中，0 ，“) 7 = ( 曰7 曰) _ 1 8 7 匕，e = o o ( 2 ) ，x o ( 3 ) ，x o ( n ) ) 7 ， b = 一昙【x 一( 1 ) + x ( 1 ( 2 ) 】 一1 f x o ) ( 2 ) + x ( 1 ( 3 ) z 一三 x ( 1 ( 胛一1 ) + x ( 1 ( ) 】 1 r 2 l o ) ( 3 ) 建立原始数列的灰色预测模型 对式( 2 9 ) 再做累减还原，便可得到原始数列x o 的g m 0 ，1 ) 灰色预测模型为： x ”( 七+ 1 ) ：( p 叫( ) ( 1 ) 一马e 袅( 2 1 1 )( 七+ 1 ) = ( p 一4 一1 ) ( x 伊( 1 ) 一二) e 一4 ( 2 a 另外，灰色模型的建模优劣通常用后验差检验方法进行分析。总的来说，灰色预 测虽然具有要求负荷数据少、不考虑分布规律、不考虑变化趋势、运算方便、短期预 7 华中科技大学硕士学位论文 = = = = = = = = = = = ；= = = = ；= = = = = = = = = = = = = = 一= 一： 测精度高、易于检验等优点，但是也存在局限性。一是当数据离散程度越大，及数据 灰度越大，则预测精度越差：二是不太适合后推若千年的预测。或者说，g m ( 1 。1 1 模型虽然可以作为长期预测模型，但真正具有实际意义、精度较高的预测值仅仅是最 近的一两个数据，而其他更远的数据则只反应趋势值或者规划值( 长期规化性的预测模 型、。 长期以来已经出现了许多灰色理论预测技术的改进方法，具体细节见参考文献 9 】、【1 0 】、【1 1 1 、【1 2 】、【1 3 】、【1 4 、 1 5 】等等。 2 2 3 时间序列预测技术 实际问题中，多数预测目标的观测值构成的序列表现为平稳的随机序列或可以转 化为平稳的随机序列。虽然在某一给定时刻预测目标的观测值是随机的，但从整个观 测序列看，却表现出某种随机过程( 如平稳随即过程) 的特性。随机时间序列预测方法 正是依据这一规律性去建立和估计产生实际序列的随机过程的模型，然后用这些模型 进行预测。时间序列预测模型有线性模型和非线性模型两类，其中线性时间序列预测 模型的一般形式为： m 一氟m l 一一砟以一p = 口9 口f - l 一一珐q 一。 ( 2 1 2 ) 式中：哦、如、九和q l 、q 2 、乌都是常数；a ，是白噪声系列a ( 1 ) 自回归模型a r 以一以只一1 一一九只一，= q ( 2 一1 3 ) 称做p 阶自回归模型，记做彳月( p ) 。因变量只作为待预测的屯力负荷，而自变量 y 。、m 一：、只一。则是负荷自身的过去值，a t 表示干扰。 ( 2 ) 滑动平均模型m a _ ) ，= q 一蜴d f - i 一一岛a t g ( 2 一1 4 ) 称做g 阶滑动平均模型，记做 翻( g ) 。从以上我们可以看出，如果自回归模型式 ( 2 1 3 ) 表示当前时刻的观测值y r 是由过去p 个历史时刻的观测值和一个当前时刻的随 华中科技大学项士学位论文 = = = = = = = = = = = = = = = = = 2 一 机误差来表示的话，那么滑动平均模型式( 2 1 4 ) 表示当前时刻的观测值儿是由称作随 机干扰的白噪声组合来表示的。 ( 3 ) 自回归一一滑动平均模型i r m a 儿一办”一i 一一九以一，= 口，一蜴q 一。一一珐q 一。 ( 2 1 5 ) 记做a r m a ( p ，g ) ，其中( p ，g ) 称为模型的阶。混合模型爿脚铂( p 川) 可以看作是自 回归模型a r ( p ) 和滑动平均模型m a ( q ) 两者的结合。在客观实际中，许多随机序列常 常同时具有两个模型m a ( q ) 和a r ( p ) 的特性，这样运用混合模型解决预测问题就显得 十分必要t t l 6 1 。 ( 4 ) 非线性时间序列模型： 上面三种模型均是相对平稳时间序列来说的，但是，相对于非平稳时间序列，必 须建立如下的非线性时间序列模型： j ，( f ) = f q ) + p ( f ) + x ( o( 2 1 6 ) 其中，( f ) 和p ( t ) 是非随机项，厂( f ) 成为趋势项，反映r ( t ) 的变化趋势，如y ( f ) 按 直线上升或者按指数下降：p ( t ) 称为周期项，反映y ( r ) 周期性的变化，如按年、季、 月或日变化等。而x ( t ) 是随机项，它反映随机因素对】，( f ) 的影响。 实际中有许多非平稳随机过程，从中可以分离出平稳随机因素，当把这些平稳随 机因素抽出来之后，就可以用a r m a 模型来描述。本着这种指导思想，对一个非平稳 的时间序列式( 2 一1 6 ) 要用差分算子消除其增长趋势。一般的说，一阶差分可以消除序 列的线性趋势，二次差分可以消除二次曲线趋势。如果二阶差分后的序列仍然达不到 平稳的目的，可对原数列进行三阶差分变换，直到数列平稳为止【1 1 。 2 2 4 趋势外推预测技术“” 电力负荷的变化一方面有其不确定性，如气候的变化、意外事故的发生等造成对 电力系统的随机性干扰。另一方面，电力负荷存在着明显的变化趋势。当然有时表现 9 华中科技大学硕士学位论文 为几种变化趋势的叠加。因此，一旦找到了负荷的变化趋势，按照该变化趋势就能对 未来负荷情况作出判断，这就是趋势外推预测技术。 这种预测方法的主要缺点是精度较差，并且模型的选取也十分困难“”。因此，采 用趋势外推技术进行短期负荷预测，首先就需要对负荷的变化规律有一个十分准确的 认识，其次是选取正确的数学模型并对其参数进行校验，要尽可能是模型参数具有自 适应性，做好上述工作，对提高预测精度具有非常重大的意义“”。”。“。 最后，由于趋势外推预测技术过分依赖于对负荷变化规律性的认识，因此它仅仅 适用于随机影响因素很弱的少数电力系统中。 1 0 华中科技大学硕士学位论文 = = = = = = = = = = = = = 2 = = = = = = = = = = = = = = 一 3 负荷预测的新进展及其理论依据 上个世纪八十年代以来，随着科学技术的迅速发展，预测理论也取得了长足的进 步，新的预测方法不断出现，这些方法为电力负荷预测问题的研究提供了有力工具。 在这些崭新的方法中具有代表性的有：神经网络预测技术、小波分析理论、模糊数学 方法、专家系统和混沌等，下面将针对这些方法展开讨论。 3 1 人工神经网络方法 人工神经网络的一个基本特点是它的处理单元( 神经元) 在一种或几种性质上与大 脑神经元相似。将这些神经元按一定的方式连接起来组成网络，各神经元之间联系的 强弱和连接的方式决定了整个神经网路的特性，各神经元之间联系的强弱能自适应的 进行选择是神经网络学习的基础。 对人工神经网络的研究可以追溯到二十世纪四十年代美国神经生理学家 1 1 r s m c c u l l o c h 和w p i t t s 创立的神经元模型，但是直到八十年代，d e r u m e l h a r t 等人提出了反向传播神经网络b p n n ( b a c k p r o p a g a t i o nn e u r a ln e t w o r k ) 以后，神经 网络技术才得到了广泛的研究。它的主要优点是可以模仿人脑的智能化处理，对大量 非结构性、非精确性规律具有自适应功能，具有信息记忆、自主学习、知识推理和优 化计算的特点。并且它强大的多元非线性映射能力使得它能够准确捕捉并学习负荷值 与天气之间的非线性关系，使考虑气象因素的电力系统短期负荷预测成为可能。 神经网络的性质主要决定于以下两方面的因素：一是网络的拓扑结构，另一个是 网络的学习规则。根据拓扑结构的不同，可以将神经网络分为带反馈的神经网络和无 反馈的神经网络：根据学习规则的不同，神经网络又有监督学习和无监督学习的区别， 这两方面的结合就构成了各种各样的神经网络。 3 1 1 前馈网络 ( 1 ) 神经元模型 华中科技大学硕士学位论文 人工神经元模型如图3 1 所示，其中，而、x ：、x 。是输入，。、2 、 k 表示输入对应的权重，它有三个基本要素： 一组连接，连接强度由各连接上的权值表示。 一个求和单元，用于求取各输入信号的加权和( 线性组合) 。 一个非线性激活函数。 此外还有一个阈值0 。( 在这里假设为o ) 。 x i 8 k 圈3 - 1 神经元模型 f i 9 3 - 1 m o d e lo f n e r v ec e l l 则一个神经元的作用可以用以下的数学式表达出来： _ y = f ( x ) = t ；i i 两1 ，三l 。 x = k i x i y ( 3 1 ) 在式( 3 - 1 ) 中，k 为足够大的正数，f ( x ) 又被称为s i g m o i d 型激活函数。 图3 1 神经元的工作过程为：先完成输入信号与神经元连接强度的内积运算， 然后经阈值进行判决，如果输出值大于阈值门限，则该神经元被激活，否则处于抑制 状态。 ( 2 ) 前馈神经网络的结构 前向神经网络的原理及其算法是其它神经网络的基础，图3 - - 2 是一个前向神经 网络的典型结构图，它包含一个输入层，一个输出层，一个或多个隐含层。有关文献 已经证明，具有两个隐含层的前向神经网络可以完成任意维空间的映射问题。在对许 多实际电力系统的研究发现，用于负荷预测的前向神经网络通常只需要一个隐含层就 1 2 华中科技大学硕士学位论文 足够了。 输入层 隐舍层输出层 圈3 - 2 前向神经网络结构圈 f i 9 3 3t p o l o g y o f f o r w a r dn e u r a ln e t w o r k ( 3 ) 前传神经网络的反向学习算法p 算法) 研究神经网络的关键问题是解决好算法问题。如今广泛采用的训练算法及其各种 改进算法都是以r u m e l j a r t 和m c c l l a n d 所提出的误差反向传播算法( 以后简称b p 算 法) 为基础。反向传播算法的步骤可归纳如下： 初始化，选定一结构合理的网络，置所有的可调参数( 权和阈值) 为均匀分布的 较小数值。 对每个输入样本做如下计算： a 前向计算对第，层的_ ，单元 v y ( 竹) = 蟛( 以) y ：。1 ( 玎) ( 3 2 ) 其中y ；1 ( ，1 ) 为前一层( ，一1 ) 的单元f 送来的工作信号，r 为( ，1 ) 层单元的个数，若，层单 元的激活函数为s i g m o i d 函数，则 y y ( 万) 。百丽而1 ( 3 - - 3 ) 若神经元，属于输出第一隐层( 即? = 1 ) ，则有 ( ”) = x 加) ( 3 4 ) 一一_ 一一一 华中科技大学硕士学位论文 = = = = ；= = ；= = = = = = = = = ；一一 若神经元，属于输出层( ，= l ) ，则有 b 反向计算占 对输出单元： 对隐含层单元： y 严( 功= q ( 门) 且 e j ( 刀) = _ ( 功一d j ( ”)( 3 5 ) 矽( 珂) = g 尹( n ) o j ( n ) i - o i ( n ) ( 3 - 6 ) 掣( 门) = ) ，夕( ”) 【l y p ( 一) 醪“( 一) w ( 疗) ( 3 - 7 ) k c 按下式修正权值 譬( 一+ 1 ) = w 譬( ”) + ，7 砖。( 以) y ：- 1 ( n )( 3 8 ) 仃= n + l 输入新的样本( 或新一周期样本) ，直至e ，达到要求，训练时各周 期中样本的输入顺序要重新随机排序 从以上计算过程可以看出，b p 算法采用的最速梯度下降法，虽然它算法简单，但 学习速度幔，尤其在局部最优点附近收敛速度慢，易于陷入局部最优点。仔细分析不 能发现，导致网络陷入局部最优点的原因有两个：一是网络结构上存在输入与输出之 间的非线性关系，从而使网络误差或能量函数所构成的空间是一个含有多个极小点的 非线性空间i 另外就是算法上，误差或能量函数只能按单方向减小而不能有丝毫的上 升趋势，因此网络跳出局部最小点的可能性非常小。 3 1 2h o p f i e i d 网络模型 1 9 8 2 年，h o p f i e l d 提出一个神经网络模型，如图3 - 3 所示( 由于空间所限，联系 权重未在图中标出) 。各单元的外部输入信号是一个二进制的数，即0 或1 两种状态， 而其输出则为1 或一1 。当单元的所有加权和超过阈值时，输出为1 ，否则为1 。该 模型假定单元数量很大，且每个单元都以某种方式与其他所有单元相连，一个神经元 的输出经加权后输入到其他所有单元。此外，每一单元都有自身的、独立的输入，这 个独立的输入代表神经元与外部世界的联系。 1 4 华中科技大学硕士学位论文 鼍一 数据或信号加入到神经元的独立输入端，通过调整内部输入的权重使得网络产生 与输入模式相联系的输出模式，调整权重的过程成为学习的过程。h o p f i e l d 模型调 整权重的目标是使全网络的能量函数达到最小值，能量函数定义为： e = 一去w f 4 s ( 3 9 ) - f j * l 其中e 为能量函数，刀为全网络的神经单元总数，和5 分别为第f 个单元和第， 个单元的输出，其值为1 和一1 ，为第j 个单元的输出作为第_ ，个单元的输入时的权 萤。 圈3 - 3 h o p f l e l d 舟络模型 f i 9 3 - 3h o p f i e l dm o d e l o f a n n 3 1 3 径向基菡数神经网络r b f 1 9 8 5 年，p o w e l l 提出了多变量插值的径向基函数( r b f ) 方法。1 9 8 8 年，b r o o m h e a d 和l o w e 首先将径向基函数应用于神经网络设计，从而构成了径向基函数神经网络。 径向基函数网络的结构与多层前向网络类似，它是一种三层前向网络。输入层由信号 源节点构成。第二层为隐含层，单元数视所描述问题的需要而定。第三层是输出层， 它对输入模式的作用作出响应。从输入空间到隐含空间的变换是非线性的，而从隐含 空间到输出空间的变换是线性的。 构成r b f 网络的基本思想是：用r b f 作为隐单元的“基”构成隐含层空间，这样 可以将输入矢量直接映射到隐空间。当r b f 的中心点确定以后，这种映射关系也就确 华中科技大学硕士学位论文 = = = = = = = ；= ；= = = = = = = = ；= = = = = = = = = = = = = = = 一 定了。而隐含层空间到输出空间的映射是线性的，即网络的输出是隐单元输出的线性 加权和。此处的权即为网络的可调参数。由此可见，从总体上看，网络由输入到输出 的映射是非线性的，而网络的输出对可调参数而言又是线性的。这样网络的权就可由 线性方程组直接解出，从而大大加快学习速度并避免局部最小问题。 3 1 4 其他类型的神经网络 ( 1 ) 随机神经网络 为了克服神经网络易于陷入局部极小值的缺陷，随之出现了随机神经网络，它是 基于热力学的概念和方法提出的，模拟退火算法是它的基础。具体来讲，它仍然在大 多数时间按梯度下降方法演化，而在某些情况下，还允许按梯度上升方向演化，这样 网络就有可能跳出局部最优点而向全局最优点收敛。 ( 2 ) 自组织竞争神经网络 神经网络的一个重要特点是具有向环境学习，并通过学习来改变自身功能的能力。这 种学习可以通过训练样本( 监督学习) ，也可以不通过训练样本( 非监督学习) 。自组织 过程就是一种非监督学习，这种学习的目的是从一组数据中提取有意义的特征或某种 内在的规律性。 与其它神经网络相比，自组织竞争的神经网络的结构与其学习规则又有自己的特 点。在网络结构上，自组织系统可以有不同的结构，例如，它可由一个输入层( 信息 来源) 和输出层组成，两层间有前向连接，输出层各单元之间可以有侧向连接；它也 可由多层前向网络组成，自组织过程是逐层进行的自组织网络的学习算法主要包括 基于h e b b 的学习算法、基于自由竞争的学习算法和基于信息论的自组织原则。它们 大都模仿生物神经系统依靠神经元之间的兴奋协调与抑制竞争作用来进行信号处理 的动力学原理指导网络的学习和工作，而不像大多数神经网络那样是以网络的误差或 能量函数作为算法准则。 另外。只有当输入数据中存在冗余性时，非监督学习才得以进行。如果没有这种 冗余性，非监督学习也无从发现数据中的重要特性和模式，从这种意义上可以说冗余 性提供了知识，这种知识是自学习的必要前提。 1 6 华中科技大学硕士学位论文 = = = = = = = = = = = ；= ；= = = = = ；= ；= = = = = = = = = = 一一 3 ，2 小波分析方法 小波分析( w a v e l e t ) 是本世纪数学研究成果中最杰出的代表。它作为数学学科的一 个分支，吸取了现代分析学中诸如泛函分析、数字分析、f o u r i e r 分析、样条分析、调 和分析等众多分支的精华，并包罗了他们的特色。 1 9 8 6 年，法国数学家m a y e r 创造性的构造出了一个具有一定衰减特性的光滑函 数，它的二进制伸缩和平移系构成p ( 月) 的规范正交基，实现了信号在时频空间同时 局部化的正交分解。他为小波理论的形成和完善作出了重大贡献，是小波理论的奠基 人之一。1 9 8 7 年，m a l l a t 巧妙的将计算机视觉领域内的多尺度分析的思想引入到小波 分析中小波函数的构成及信号按小波变换的分解和重组，从而统一了此前各种具体小 波函数的构造，得到了相应的m a l l a t 金字塔算法，显著减少了计算量，使小波分析具 有工程使用价值。下面对小波理论做一简单分析： 3 2 1 小波基本理论“” 信号三，的积分变换：( 口，6 ) 。三。孑- 2 ( t ) d t 称为小波变换- 其中： 埘= 1 , 4 “2 c ，( 争 ( 3 1 2 ) y 。i t ) 称为小波函数，简称小波y ( f ) 称为母小波，需满足两个条件： y ( 伽f 。0 ( 3 1 3 ) j 1 y o ) f 2 d t ( 3 一1 4 ) 式( 3 - - 1 3 ) 说明矿( r ) 具有波动性，式( 3 1 4 ) 说明y ( f ) 具有紧支性( 在有限区间外恒 等于0 或者很快的趋近于o ) ，因此矿( f ) 是象波一样快速衰减的函数，这也就是小波名 称的由来。式( 3 - 1 2 ) 中口称为伸缩因子，它的改变会引起小波窗1 ：3 大小与形态的改变； 6 称为平移因子，它的改变会引起小波窗口位置的改变。 将小波分析理论应用与电力系统短期负荷预测，必需要解决好两个问题a 一是各 种小波的构造形式及其特性；二是小波的快速运算问题，即小波理论在负荷预测中的 华中科技大学硕士学位论文 。2 。2 。2 2 。亨= 一一 方便使用问题。 3 2 2 几种常用小波介绍 ( 1 ) s h a n n o n 正交小波 s h a n n o n 正交小波的双尺度方程为： ( f ) = h 。妒( 2 t - k ) t 上式中： h o = 1 h 2 。= 0 ，”0 2 “= 丽2 ( - - 1 ) “ ( 3 1 5 ) ( 3 1 6 ) 利用g 。= ( 一1 ) ” 。s h a n n o n 正燹小坡的表达式为： 邮，= 竺警芳咝 c ，咖 s h 锄o n 正交尺度函数妒( ，) 和小波函数 f ，( ，) 的频域局部化能力较强，但它们在时 域中是子集无限的，当l f i _ o 时它们仅按。l ( 确) 的衰减速度趋于o 。它们的时域局部 化能力差，双尺度系数溉) 和 晶) 的数据不是有限值，虽可截取主要部分加以应用， 但是使用m a l l a t 算法时的计算量较大。 ( 2 ) h a a r 小波 h 强r 小波的双尺度方程为： 舶= 1 罟巍1 c ，堋， 由此可以推导出h a a r 小波的表达式为： = i _ 1 ，1 , o t 纵 1 2 ， ( s z ，) 华中科技大学硕士学位论文 h a a r 小波在时域中的子集很短，在时域中的局部能力很强，但 ) 类似于 s h a n n o n 小波的时域表现，l y ( ) l 的衰减速度慢，y ) 在频域中的局部分析能力差。 另外，用h a a r 小波级数表述近似函数，其光滑程度太低，表现力差。 ( 3 ) d a u b e c h i e s 紧支集正交小波 d a u b e e h i e s 紧支集正交小波有如下几个方面的特点： 关于支集。庐( f ) 和缈( f ) 的支集大d , - q 吃) 的数据个数有关。一般，矿( f ) 的支 集为 o ，n 】，e ( r ) 的支集为i - n + l ，】。 关于