（计算机科学与技术专业论文）神经网络在外汇交易信号预测中的应用.pdf

北京邮电大学硕士论文 ! ! ! 鲷垡壅丛篓窑墨堕曼臻鲤史丝廛恩 神经网络在外汇交易信号预测中的应用 摘要 当今经济日益开放条件下，无论是企业、银行、政府以及个人都 不得不面对外汇交易这个客观存在，都会主动或被动地受到汇率变动 的影响，当持有硬货币时，汇率的上涨会带来收益；当持有软货币时， 汇率的下跌会带来损失。为了克服人性的弱点，消除在实际交易中情 绪的负面作用，有相当多的交易者( 包括政府、企业、个人等) 开发 研制各种各样的机械交易系统，期待通过机器交易实现确定性盈利目 标。 机械交易系统主要分为三个子系统，一是市场交易信号决策子系 统，二是风险管理子系统，三是资金管理子系统。其中市场交易信号 决策子系统是另外两个子系统的基础，其他两个子系统根据交易信号 决策子系统输出交易信号来进行风险管理及投资管理。 本文对机械交易系统中的核心部分，即交易信号，进行有益探索； 短线外汇交易中，运用目前流行的神经网络( r r l 、b p 、s 0 m 神经网 络) 来建立预测模型，并通过比较试验来确定使用哪种神经网络来预 测一定交易时间间隔的交易信号( 买入或卖出) 。 关键词：b p 神经网络s o m 神经网络r r l 神经网络外汇交易信号预 测 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 p r e d i c 兀n gt r a d i n gs i g n a lo ft h ef o r e i g n e x c h a n g ew i t hn e u r a ln e t w o r k s a b s t r a ( 了r n o w a d a y s ， t h ee n v i r o n m e n t so fe c o n o m ya r et r e n d i n gt oo p e n i n c r e a s i n 出y ，g o v e m m e n t s ，b a n l ( sa n de n t e 叩r i s e se v e ni 1 1 d i v i d u a l sh a v et o a c c e p t f h i s f a c t ，t h e y a r ea f ! i e c t e d b ye x c h 柚g e r a t e i n i t i a t i v e l y o f p a s s i v e ly w h e nt h e yp o s s e s sh a r dc u 盯c n c y ，t h er i s i n go fe x c h 柚g er a t e w i l lb r i n gt h e mp r o f i t ，w h e nt h e yp o s s e s ss o f tc u r r e n c y ，t h ef a l l i n go f e x c h a n g et a t ew i l lb r i n gt h e ml o s s i no r d e rt 0o v e r c o n l et h ew e a l c i l e s s0 f h u m a nn a t u r ea n de r a s en e g a t i v ee f f e c to ff o r e i g i le x c h 锄g et r a d i n g ，q u i t e an u m b e ro f b a r g a i n e r s ，i n c l u d i n gg o v e m m e n t s ，e n i e 印r i s e a i l d i i l d i v i d u a l s ，r c s e a r c ha n dd e v e l o pa l lk i n d so fm a c h i n et r a d i n gs y s t e m s t 1 1 e yl o o kf o r w a r dt oo b t a i ns c h e d u l e dp m f i tt h r o u g ht h e s es y s t e m s m a c h i n et r a d i n gs y s t e mm c l u d e st h r e es u b s y s t e m s ，t h e ya r et r a d i n g s i g l l a ld e c i s i o n m a k i n gs u b s y s t e m ，r i s km a n a g e m e n ts u b s y s t e ma n d m o n e ym a n a g e m e n ts u b s y s t e m n l ef i r s to n ei st h ef o u n d a d o no ft h e t w o0 t h e r s ，t h e ym a k et h er i s k sm a n a g e m e n ta n di n v e s t m e n tm a n a g e m e n t a c c o r d i n gt ot h eo u c p u to fd e a ls i g n a l sb yt r a d i n gs i g n a ld e c i s i o n - m a k i n g s u b s y s t e m 7 n a d i n gs i g n a l ，t h ek e yp a no fm a c h i n et r a d i n gs y s t e m ，i sd e e p l y r e s e a r c h e di n t h i st h e s i s i ns h o r t t e 册f xt r a d i n gs y s t e m ，p r e d i c t i o n m o d e ls y s t e mi sd e s i g n e du s i n gc u r r e n tp r c v a l e n tn nt h e o r y ( r r l 、b p 、 s o m ) b yc o m p a r i n gw i c ht h ee x p e r i m e n t sr e s u l t s o fg i v e ni n t e r v a l s ， w r i t e rw i l jf i n do u tw h i c ht h e o r yi st h eb e s to n et oo b t a i nt h es i g n a lo f f o r e i g ne x c h a n g e k e y w o r d s ：b p ，s o m ，r r l ，f b r e i g ne x c h a n g et r a d i n g ，s i g n a lp r e d i c t i n g v 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 声明 独创性( 或创新性) 声明 本人声明所呈交的论文是本人在导师指导下进行的研究工作及取得的研 究成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中 不包含其他人已经发表或撰写过的研究成果，也不包含为获得北京邮电大学或其 他教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的 任何贡献均已在论文中作了明确的说明并表示了谢意。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 本人签名： 爷 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 关于论文使用授权的说明 学位论文作者完全了解北京邮电大学有关保留和使用学位论文的规定， 即：研究生在校攻读学位期间论文工作的知识产权单位属北京邮电大学。学 校有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许学位论 文被查阅和借阅；学校可以公布学位论文的全部或部分内容，可以允许采用 影印、缩印或其它复制手段保存、汇编学位论文( 保密的学位论文在解密 后遵守此规定) 本学位论文属于保密在一年解密后适用本授权书。 本人签名： 导师签名： 日期： 2 芝q z ：芝垒：2 l 日期： 2 近：丝：q 立 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 1 1 研究背景 第一章绪论 当今经济日益开放条件下，无论是企业、银行、政府以及个人都不得不面对 外汇交易这个客观存在，都会主动或被动地受到汇率变动的影响，当持有硬货币 时，汇率的上涨会带来收益；当持有软货币时，汇率的下跌会带来损失【”】。 外汇交易市场是个充满机遇和挑战的梦幻般的地方，是跨国公司获取利润的 主要来源，也是政府部门外汇储备保值增值的重要场所。然而外汇市场动荡不安， 影响汇率的因素也纷繁复杂，给交易者一种茫然不知如何着手进行分析和预测的 感觉。也正是在这看似杂乱无章的波动的表象后面隐含着一股巨大的、深不可测 的经济运动潜流，它就像一只“看不见的手”，操纵着汇率的长期运动方向。外 汇交易成败的因素很多，其中对汇率走势的分析预测是否正确是最重要的。在基 本因素分析中，要明确的是，这些因素有的对汇率变化长期起作用，有的对汇率 变化短期起作用，而且起作用的时间是变幻不定的。有的因素在某一时期是利好 因素，在另一时期却是利淡因素，反之亦然。供求关系是决定汇率最根本的因素。 外汇汇率的波动，虽然千变万化，但是归根到底，它是由供求关系所决定的。在 通讯发达、电脑普及的今天，国际间的外汇市场早已联结成一个统一的整体，使 套汇、套利活动难以进行。但是，外汇买卖并不像众人站在一种商品面前，每个 人的买卖意识一下就可以看得出来的。影响外汇汇率变动的因素分为基本经济因 素( 包括国内经济变动和国际间的经济变动两大方面) 、中央银行的干预和市场 预期因素、政治及新闻因素等方面。 近几十年来，交易所借助现代化科技手段来支持其业务的持续发展，传统的 手工喊价模式己经被电子化的手段所代替。同时，越来越多地市场参与者和大手 笔的交易也驱使这些外汇交易所采用1 1 r 手段来解放生产力。为了克服人性的弱 点，消除在实际交易中情绪的负面作用，有相当多的交易者( 包括政府、企业、 个人等) 开发研制各种各样的机械交易系统，期待通过机器交易实现确定性盈利 目标。 1 2 问题提出 为了克服人性的弱点，消除在实际交易中情绪的负面作用，有相当多的交易 者开发研制各种各样的机械交易系统，期待通过机器交易实现确定性盈利目标。 北京邮电大学硕士论文 神经网络在外汇交易信号预测中的应用 1 2 1 机械交易系统 所谓机械交易是指在某种投资理念指导下，将风险控制技术和交易技术有机 结合起来而形成的相互关联的交易规则体系。交易系统是资金管理、风险控制、 心理控制和市场统计分析的有机结合体。采用机械交易方法，使得交易决策活动 具有系统性和一致性，这对于实现持续稳定的盈利具有根本意义。 机械交易的理论基础： 1 、价格波动不是完全随机的，其非随机部分( 趋势) 是存在的并且可以追 踪识别。 2 、在既定风险水平上实现正期望的交易系统是存在的。 3 、系统化交易能够克服人性弱点，实现既定风险收益水平下的持续稳定盈 利。 机械交易的的特点： 1 、风险收益可以预期：交易系统经过十几年交易数据测试，各项风险控制 指标及参数都经过测试，如预期利润率、可能遭受的最大亏损、最多连续亏损次 数、风险收益比值等可以提前预知，使得风险可以控制，收益可以预期； 2 、顺势交易：系统采用趋势追踪技术，动态跟踪市场趋势，不断调整持仓 方向使之与目前市场方向一致； 3 、客观性：交易系统的全部规则和参数完全机械化，交易信号由系统自动 发出，完全排除了交易者的主观判断，从而有效解决了交易者的情绪对交易的负 面影响： 1 2 2 机械交易系统优缺点 机械交易系统作为实践交易过程中的主要工具，我们有必要深刻认识它的优 缺点。 它的优点是： l 、排除了人们主观情绪的影响。 2 、具有更严格的自律性。 3 、能达到更高程度的协调一致性。 4 、顺着趋势方向交易。 5 、确保不错过每个顺着重要趋势的方向入市的机会。 6 、允许利润充分增长。 7 、把损失限制在一定范围。 它的缺点是： l 、绝大多数机械交易系统是顺应趋势，不能满足投资者“买在最低， 2 ! 婷堡皇杰兰夔主堡塞 神经网络在外汇交易信号预测中的应用 卖在最高”的要求。 2 、从获利角度看，趋势顺应系统主要依赖于主要趋势，太细小的趋势 不能把握。 3 、 当市场无趋势可循时，趋势顺应系统一般是不盈利的。 1 2 3 本文研究课题 机械交易系统主要分为三个子系统，一是市场交易信号决策子系统，二是风 险管理子系统，三是资金管理子系统。其中市场交易信号决策子系统是另外两个 子系统的基础，其他两个子系统根据交易信号决策子系统输出交易信号来进行风 险管理及投资管理。交易信号的好坏决定了一个机械交易系统的好坏。 本文对机械交易系统中的核心部分，即交易信号，进行有益探索；短线外汇 交易中，运用目前流行的神经网络( i u 也、b p ，s o m 神经网络) 来设计预测模 型，并通过比较试验来确定使用哪种神经网络来预测一定交易时间间隔的交易信 号( 买入或卖出) 。 即本文研究的课题是：什么时候入市，什么时候离市；即交易信号的变化。 1 3 国外研究情况 外汇市场乃至所有金融市场都是复杂演化的动态市场，是高噪声、非平稳、 带有确定性混沌的系统。这就意味着外汇市场是随时间非线性动态变化的，这 表现在，不仅单个数据序列在均值和方差上是不平稳的，而且一个数据序列与其 他数据序列的关系也是动态变化的。因此，对如此动态不平稳数据序列进行建模 是一个非常有挑战性的任务。其中，外汇汇率预测被认为是现代时间序列预测中 最富挑战性的应用之一【2 习。自2 0 世纪外汇市场建立以来，外汇汇率预测就成了一 个被各国学者研究的热点问题。 英国剑桥大学金融研究中心p r o f c s s o rm i c h a e idc i i i _ p s t e r 在f i i l a n c i a l m a r l 【出上发表的文章a d 印t i v cs y s t e m sf o rf o r e i 印吼c h a n g e 打a d i i l g 指出在短 线交易中，日汇率、日内汇率受经济参量( e c o n o m i c v a b l 鼯) 影响不大【3 1 。m a h d 锄p s t 盯在文章c 伽叩u t a t i o n a ll e 锄i n gt 幽i q u 髂f b fi n 劬d a yf x 仃甜i n g 璐i n g p o p l l l 盯i e c h i l i c a l 砌i c a t o 侣中指出关于日外汇的人工智能应用很少，而这正是技 术分析中最常用的，他使用当时流行的两个计算学习方法，强化学习 ( r e i n f o r c 锄e mi 韶m i n g ) 和遗传算法( g 衄e t i cp r o g m m m i n g ) ( g p ) ，以流行的 技术指标作为输入，来获取有用的交易规则。他们研究发现在交易成本不为零时 遗传算法获得的结果要更优些【5 】。且m a hd 锄p s t 盯在他另一篇论文a n a 呦m a t c df xt r a d i i l gs 皿锄u s 啦a d a p t i v er e i n f o r ( 舢c n tk i n l i n g 中介绍了自 北京邮电大学硕士论文 神经网络在外汇交易信号预测中的应用 动交易系统应用的基础一适应强化学习( 舢也) 算法。该交易系统设计用于外汇 交易，依赖于组成机器学习算法的层架构，即风险管理覆盖和动态效用优化层。 具体系统结构如图1 一l 所示： 圈卜l 系统结构图 图1 1 包含3 个主要层的自动交易系统示意图：机器学习算法，风险和性能管 理层以及动态优化层。第一层和第三层合在一起称为适应强化学习( a r l ) 算法。 交易员的风险规避参数v 对系统来说是外来参数。层3 对前两层的参数( 止损水 平x ，交易门限值y ，交易成本6 ，适应参数r i 和学习率p 及我们固定自动关闭 临界损失参数z ) 进行优化。选择现有机器学习算法中一种称为循环强化学习 ( 耻也) 的算法作为其基本算法，其长处之一是动态优化层不用固定选择原型调 整参数，用户也允许在该系统中进行风险回报交易。在避免大额资金提取时，该 交易系统能产生超常的持续收益。 香港中文大学u m i i i gc h e 衄g 在文章a p p i i c a t i o no f a d a p 石v er p c l c l p w i t l i 批gs y s t e mt 0f o r e i 趴e x d 瑚g cl i i v e s h i l e n t 中运用适应性r p c l c l p ( 纵l a p t i v e r i 砌p e n a l i z e dc c m 删t i v el 翻盯1 i n g 锄dc o m b i i l o dl i l l e 盯刚i c 6 0 n ) 模式 预测股价与改变率，具体模型如图1 2 所示： 4 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 a 曲 、 砘i ： l 曲衄咖t 。f 血_ i i r h 卫珊 岫x 。l k 如罩h i 制l i i - 岫【呻妇州蛔_ w c r 图l 一2 白适应r p c i f l p 体系结构 此模式分为两部分，第一部分为以r p c l c l p 来预测股价，第二部分剐以适 应性l 冲c l p 的输出信号为投资的信号，在其文章中此模式实验结果显示其利 润与均方差根( 脚t m 锄s q u a e n d r ，r m s e ) 都比e l i i l 柚网络与m a ( q ) 模式好【”。 m a r ks t a l 吖和p e t e rl 凹合作的文章中利用神经网络预测了每周五加 元对美元的汇率，准确率达到5 9 【”。h e n l wgg r e e n ，m i c h a e la p e a r s o n 在金融市场上运用人工智能( a l t l i c 队li n t e l l i g e n c e ) 来解决 多个汇兑之间的利息问题，并建立模型和相关策略去决策金融市场交易，预测价 格走判4 1 。k e i m 文章中指出在外汇市场中，技术分析法无法处理非固定周期、不 连续函数。神经网络可以弥补这方面的不足，作者采用了前向反馈的b p 神经网 络( 1 5 个输入，2 0 个隐藏层结点，3 个输出) 进行训练及模拟。其中3 个输出分别 为最高价、最低价、收盘价，采用双曲正切函数作为隐藏层和输出层的激活函数。 通过比较传统的技术分析和b p 神经网络预测，说明了神经网络能够更有效地对 非线性变化进行更好地预测1 6 l 。d rn gk a hh w a 运用多层感知器神经网络对三 个汇率对( 美元德国马克，美元日元，美元瑞士法郎) 在1 9 9 3 年1 月4 到1 9 9 3 年 8 月3 l 号间的数据上进行研究nj o l l nm o o d y 趾dl i z h o n gw u 研究发现外汇价格 变化不是随机的( 册d o m w a 墩) 而是均值回复过程( m 啪r c v 部【i i l g ) 。并且买卖 价差( b i 批铀ks p 碍a d s ) ，挥发性( v o l a t i l i t y ) 和可预测性( f o r e c 鹤t 曲i l 时) 有着 很大的相关性。这种相关性显示越高的挥发性带来的是更高的预测误差、造市者 北京邮电大学硕士论文 神经网络在外汇交易信号预测中的应用 的市场风险增加。为了补偿这种市场风险，造市者需要增加买卖价差悼j 。j e n q n e i l g h w 蛐g 利用两种神经网络，固定输入的b p 神经网络、实时循环学习神经网络( t h c r c a l t 硫er e c u n 伽tl c a r i l i n g ( r t r l ) a l g o t h m ) ，来分析均值( m 啪) 和方差 ( v 撕蚰c c ) ，分析结果表明循环系统能够更好地进行预测【9 j 。 由于外汇汇率的随机性、多样性、时变性同时存在，而传统预测方法的数学 模型往往无法精确地描述价格波动与影响因素之间错综复杂的关系，在解决这方 面的问题上，人工神经网络中的多层前向网络模型( b p 神经网络模型) 【2 3 l 具有 独到的优势。 1 4 研究方法和思路 本文研究了神经网络方法( 如s o m 、b p 、也等) 在外汇交易信号预测中 的有效性。对怎样使用神经网络方法进行外汇交易信号预测，如何建立有效的外 汇交易信号预测模型，以及模型的可应用性等问题进行了探讨。目的是确定更优 的外汇交易信号预测的神经网络模型。由于神经网络预测方法尚不成熟，因此本 文的研究建立在大量实验的基础上。所提出的新模型在外汇市场的一个货币对 ( 美元欧元) 的外汇交易上作了测试，主要集中在短线交易，如交易时间间隔 为1 5 分钟、3 0 分钟、l 小时的短线交易。 1 5 论文结构 论文共分五章 第一章总结了外汇交易的重要性及影响外汇交易的因素，提出本文要解决 的问题及国外研究状况，并说明了本文的研究思路及构架 第二章介绍机械交易系统，并描述了神经网络的基础知识，介绍了自组织 神经网络模型的设计方法，及两个本文中用来确定外汇交易信号的神经网络模型 第三章设计两、三种神经网络模型及仿真方法 第四章程序实现仿真并应用到美元欧元货币对的交易中，对结果分析 第五章总结了全文工作 6 北京邮电大学硕士论文 垫续旦鱼垄壁 汇窑曼堕! 塑熙宇堕! ! 恩 第二章机械交易系统及神经网络 2 1 机械交易系统简介 机械交易系统可以涵盖交易的整个操作过程，交易员在交易中必须制定的每 项交易决策，机械交易系统都会自动给出答案。 机械交易系统的特点： 一机械交易系统使交易员进行一致性的交易成为可能； 一机械交易系统就是不让交易员在交易现场进行随机的判断； 一使用机械交易系统可以避免：应该勇敢时却胆怯，应该小心翼翼时却勇气 十足； 一使用机械交易系统更可以克服：一长串亏损或者巨额赢利导致的内心的挣 扎，从而使交易保持一致性。 机械交易系统的组成成分：市场、头寸规模、入市、止损、离市、策略【捌， 其系统 图2 - l 机械交易系统 其中交易信号决策子系统包含：入市、离市；资金管理子系统包括：头寸规 模；风险管理子系统包含：止损、策略。 2 1 1 市场 第一项决策是买卖什么，或者本质上在何种市场进行交易。如果只在很少的 几个市场中进行交易，将会大大减少赶上趋势的机会。同时，你不应该在交易量 太少或者趋势不明朗的市场中进行交易。 2 1 2 头寸规模 有关买卖多少的决策绝对是基本的，然而，通常又是被大多数交易员曲解或 错误对待的。 7 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 买卖多少既影响多样化，又影响资金管理。多样化就是努力在诸多投资工具 上分散风险，并且通过增加抓住成功交易的机会而增加赢利的机会。正确的多样 化要求在多种不同的投资工具上进行类似的( 如果不是同样的话) 下注。资金管 理实际上是关于通过不下注过多以致于在良好的趋势到来之前就用完自己的资 金来控制风险的。 买卖多少是交易中最重要的一个方面。大多数交易新手在单项交易中冒太大 的风险，即使他们拥有其他方面有效的交易风格，这也大大增加了他们破产的机 会。 2 1 3 入市 何时买卖的决策通常称为入市决策。自动运行的系统产生入市信号，这些信 号说明了进入市场买卖的明确的价位和市场条件。 2 1 4 止损 长期来看，不会止住亏损的交易员不会取得成功。关于止亏，最重要的是在 你建立头寸之前预先设定退出的点位。 2 1 5 离市 许多当作完整的交易系统出售的“交易系统”并没有明确说明赢利头寸的离 市。但是，何时退出赢利头寸的问题对于系统的收益性是至关重要的。任何不说 明赢利头寸的离市的交易系统都不是一个完整的交易系统。 2 1 6 策略 信号一旦产生，关于执行的机械化方面的策略考虑就变得重要起来。这对于 规模较大的帐户尤其是个实际问题，因为其头寸的进退可能会导致显著的反向价 格波动或市场影响。 2 2 人工神经网络基础 计算机的功能虽然日新月异，但却不能因此就完全取代人脑。因为人脑可轻 易的听、说、读、写、看，而计算机却力有未逮。这意味着人脑有着尚未为人所 知的特殊结构。要如何仿真这种复杂的人类行为进而建立一部可以与人脑匹敌的 计算机，一直是计算机科学家的一大梦想。 自1 9 4 0 年起，科学家便着手从事此方面的研究，仿造最简单的神经元模式， 北京邮电大学硕士论文 ! 臻旦堡垄堑篓銮墨焦曼嬲史鲍堕旦 开始建立最原始的人工神经网络( a n i f i c i a ln 即r a ln e m o r k ) 。历经4 0 年的发展， 类神经的研究工作虽曾一度陷入低潮，近几年又再度复苏，并且结合了生理、心 理、计算机等科技而成为新的研究领域。 人工神经网络是一个高科技研究领域，也是信息科学、脑科学、神经心理学 等多学科交叉的热点，作为连接主义方法的先导性技术，我们试图揭开人脑奥秘， 建立模拟人脑结构与功能的智能控制系统，使我们外汇交易的计算机监测控制系 统能象人脑一样处理信息。 2 2 1 人工神经网络的发展 对人工神经网络的研究可以追溯到m c c l l l l o c h 和p i t t s 提出的最早的人工神 经网络模型m p 模型。随后，h e b b 提出了h e b b 学习规则，r d s 印b l a n 研制出 了感知机( p 仃c 却t i ) ，这使得神经网络受到了极大的重视，吸引了大批研究人 员参与该领域的研究工作，并取得了一定的进展。但是，由于1 9 6 9 年m i l l s l c y 和p a _ p c f t 指出感知机的缺陷并表示出对该方面研究的悲观态度，令人工神经网络 的研究在很长时间内一直处于停滞状态。虽然如此，还是有很多的学者扎扎实实 地继续着这方面的研究，提出了很多有意义的神经网络理论和方法。1 9 8 2 年， h o p f i e l d 利用全互连型神经网络和计算能量函数成功求解了计算复杂度为n p 完 全型的t s p ( t r a v d i l l gs a l e s m 粕p r o b l 锄) 问题，充分展示了神经计算作为一种 数值型示例学习方法所蕴含的巨大潜力。这一突破重新燃起了神经网络研究的热 潮。1 9 8 7 年6 月，首届国际人工神经网络学术会议在美国加州召开，标志着人 工神经网络已经作为了一个非常热门的研究领域，成为人工智能的两大主流。 对国内来说，自从1 9 9 0 年在北京召开首届中国神经网络学术大会( c 2 n 2 9 0 ) 以后，全国1 3 个学会又举行了八次学术年会( 其中四次年会与国际神经网络会 议联合召开) 九次年会论文集共收入论文两千多篇，内容涉及神经网络的模型 原理、学习算法、实现方法和专业应用等方面。作为一种新型的信息处理手段， 人工神经网络方法逐渐在国内的众多专业领域内成为了研究的焦点，“神经网络” 已成为在近期科技刊物上出现频率甚高的关键词。 2 2 2 人工神经网络模型 2 2 2 1 生物神经元模型【1 7 】 在人类大脑皮层中大约有l 0 0 5 亿个神经元、6 0 万亿个神经突触以及它们的 连接体。单个神经元处理一件事需要1 0 3 秒，而在硅芯片中处理一件事只需要 l o 9 秒。但人脑是一个非常高效的结构，大脑中每秒钟每个动作的能量约为l o ， 9 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 焦耳，而当今性能最好的计算机进行相应的操作需要1 0 6 焦耳。神经元是基 本的信息处理单元。生物神经元主要由树突、轴突、和突触组成。其结构示意图 如图2 2 所示。 j 涨 神经柬柏 图2 - 2 生物神经兀模型 其中树突是由细胞体向外伸出的，有不规则的表面和许多较短的分支。树突 相当于信号的输入端，用于接受神经冲动。轴突由细胞体向外伸出的最长的一条 分支，即神经纤维。相当于信号的输出电缆，其端部的许多神经末梢为信号输出 端子，用于传出神经冲动。神经元之间通过轴突( 输出) 和树突( 输入) 相互联 结，其接口称为突触。每个细胞约有1 0 3 1 0 4 个突触。神经突触是调整神经元 之间相互作用的基本结构和功能单元，最通常的一种神经突触是化学神经突触， 它将得到的电信号转化成化学信号，再将化学信号转化成电信号输出。这相当于 双接口设备。它能加强兴奋或抑制作用，但两者不能同时发生。细胞膜内外有电 位差，约为2 0 - 1 0 0 m v ，称为膜电位。膜外为正，膜内为负。 神经元作为信息处理的基本单元，具有如下重要的功能。 1 ) 可塑性：可塑性反映在新突触的产生和现有神经突触的调整上，可塑性 使神经网络能够适应周围的环境。 2 ) 时空整合功能：时间整合功能表现在不同时间、同一突触上，空间整合 功能表现在同一时间、不同突触上。 3 ) 兴奋与抑制状态：当传入冲动的时空整合结果，使细胞膜电位升高，超 过被称为动作电位的阀值( 约为4 0 m v ) ，细胞进入兴奋状态，产生神经冲动， 山突触输出；同样，当膜电位低于阀值时，无神经冲动输出，细胞进入抑制 状态。 4 ) 脉冲与电位转换：沿神经纤维传递的电脉冲为等幅、恒宽、编码( 6 0 1 0 0 i i ) 的离散脉冲信号，而细胞电位变化为连续信号。在突触接口处进行 。数模”转换。神经元中的轴突非常长和窄，具有电阻高、电压大的特性， j 0 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 因此轴突可以建模成阻容传播电路。 5 )突触的延时和不应期：突触对神经冲动的传递具有延时和不应期，在 相邻的二次冲动之间需要一个时间间隔。在此期间对激励不响应，不能传递 神经冲动。 6 ) 学习、遗忘和疲劳：突触的传递作用有学习、遗忘和疲劳过程。 2 2 2 2 人工神经网络模型 人工神经网络是由大量处理单元广泛互连而成的网络，是人脑的抽象、简化、 模拟，反映人脑的基本特性。一般来说，作为神经元模型应具备三个要素： ( 1 ) 具有一组突触或联结，常用w 表示神经元i 和神经元j 之间的联结强度， 或称之为权值。与人脑神经元不同，人工神经元权值可在负值与正值之 间。 ( 2 ) 具有反映生物神经元时空整合功能的输入信号累加器。 ( 3 ) 具有一个激励函数用于限制神经元输出。激励函数将输出信号压缩( 限 制) 在一个允许范围内，使其成为有限值，通常，神经元输出的扩充范 围在【o ，l 】或【1 ，1 】闭区间。 一个典型的人工神经元模型如图2 3 所示。 图2 3 人工神经元模型 其中x j ( j = l ，2 ，3 ，n ) 为神经元i 的输入信号，u i j 为突触强度或联结权。 u i 是由输入信号线性组合后的输出，是神经元i 的净输入。oi ，为神经元的阀 位或称为偏差用b i 表示，vi 为经偏差调整后的值，也称为神经元的局部感应区。 u i - i j x j v i = u i + b i f ( ) 是激励函数，y i 是神经元i 的输出。 y i = f ( ( i ，i j x j + b i ) 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 2 2 3 人工神经网络的分类及学习规则 将大量的神经元进行联结可构成人工神经网络。神经网络中神经元的连接方 式与用于训练网络的学习算法是紧密结合的，可以认为应用于神经网络设计中的 学习算法是披结构化了的。 2 2 3 1 人工神经网络的分类 可以从不同的角度对人工神经网络进行分类，如： ( 1 ) 从网络性能角度可分为连续型与离散型网络、确定性与随机性性网络。 ( 2 ) 从网络结构角度可分为前项网络与反馈网络。 ( 3 ) 从学习方式角度可分为有导师学习网络和无导师学习网络。 ( 4 ) 按连接突触性质可分为一阶线性并联网络和高阶非线性并联网络。 将网络结构和学习算法相结合，对人工神经网络进行分类： 1 单层前向网络 所谓单层前向网络是指拥有的计算节点( 神经元) 是单层的，如图2 - 4 所示。 这里表示原节点个数的“输入层”看作一层神经元，因为该“输入层”不具有执 行计算的功能。 曩节点输八层神经元袖出屉 图2 4 单层前向网络 2 多层前向网络 多层前向网络与单层前向网络的区别在于：多层前向网络含有一个或更多的 隐含层，如b p 神经网络，其中计算节点被相应地称为隐含神经元或隐含单元， 如图2 5 所示。 埘节点入晨神经元置古屡 舞元出晨 图2 5 多层前向网络 1 2 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 上图所示的多层前向网络由含有4 个神经元输入层、含有3 个神经元隐含层 和含有2 个神经元的输出层所组成网络输入层中的每个源节点的激励模式( 输入 向量) 单元组成了应用于第二层( 如第一隐层) 中神经元( 计算节点) 的输入信 号，第二层输出信号成为第三层的输入信号，其余层类似。网络每一层的神经元 只含有作为它们输入前一层的输出信号，网络输出层( 终止层) 神经元输出信号 组成了对网络中输入层( 起始层) 源节点产生的激励模式的全部响应。即信号从 输入层输入，经隐层传给输出层，由输出层得到输出信号。 通过加入一个或更多的隐层，使网络能提取出更高序的统计，尤其当输入层 规模庞大时，隐神经元提取高序统计数据的能力便显得格外重要。 3 反馈网络 所谓反馈网络是指在网络中全少含有一个反馈回路的神经网络。反馈网络可 以包含一个单层神经元，其中中每个神经元将自身的输出信号反馈给其他所有神 经元的输入，如h 0 p f i d d 网络。 4 随机神经网络 随机神经网络是对神经网络引入随机机制，认为神经元是按照概率的原理进 行工作的，这就是说，每个神经元的兴奋或抑制具有随机性，其概率取决于神经 元的输入。 5 竞争神经网络 竞争神经网络的显著特点是它的输出神经元相互竞争以确定胜者，胜者指出 那一种原型模式最能代表输入模式。 2 2 - 3 2 神经网络的学习 神经网络的学习也称为训练，指的是通过神经网络所在环境的刺激作用调整 神经网络的自由参数，使神经网络以一种新的方式对外部环境作出反应的一个过 程。能够从环境中学习和在学习提高自身性能是神经网络的最有意义的性质。神 经网络经过反复学习对其环境更为了解。 学习算法是指针对学习问题的明确规则集合。学习类型是由参数变化发生的 形式决定的，不同的学习算法对神经元的突触权值调整的表达式有所不同。没有 一种独特的学习算法用于设计所有的神经网络。选择或设计学习算法时还需要考 虑神经网络的结构及神经网络与外界环境相连的形式。 学习方式可分为：有导师学习( i 瑚m i n gw i t l la t c h e r ) 和无导师学习 ( l e 缸l l i n gw i l l l o u tat c a c h 盯) 。 ( 1 ) 有导师学习。有导师学习又称为有监督学习【s u 邮i s e dl c 锄i r i g ) ， 在学习时需要给出导师信号或称为期望输出( 响应) 。神经网络对外部环境是未 北京邮电大学硕士论文 神经网络在外汇交易信号预测中的应用 知的，但可以将导师看做对外部环境的了解，由输入一输出样本集合来表示。导 师信号或期望响应代表了神经网络执行情况的最佳结果，即对于网络输入调整网 络参数，使得网络输出逼近导师信号或期望响应。 ( 2 ) 无导师学习。无导师学习包括强化学习( r c i n f o r c 锄舶t le a n l i n g ) 与 无监督学习( u 璐u p e 州s e di 舶加i n g ) 或称为自组织学习( s d o r g ；l i l i z e d l c a n l i n g ) 。在强化学习中，对输入输出映射的学习是通过与外界环境的连续作用 最小化性能的标量索引而形成的。在无监督学习或称为自组织学习中没有外部导 师或评价来统观学习过程。而是提供一个关于网络学习表示方法质量的测量尺 度，根据该尺度将网络的自由参数最优化。一旦网络与输入数据的统计规律达成 一致，就能够形成内部表示方法来为输入特征编码，并由此自动得出新的类别。 下面是5 个基本的神经网络学习规则：h e b b 学习、纠错学习、基于记忆的 学习、随机学习算法和竞争学习。 1 h e b b 学习 h e b b 学习规则是最古老也是最著名的学习规则，是为了纪念神经心理学家 h e b b ( 1 9 4 9 ) 而命名的。 h e b b 学习规则用于调整神经网络的突触权值，可以概括为： ( 1 ) 如果一个突触( 连接) 两边的两个神经元被同时( 即同步) 激活，则 该突触的能量就被选择性的增加。 ( 2 ) 如果一个突触( 连接) 两边的两个神经元被异步激活，则该突触的能 量就被有选择的消弱或者消除。 h e b b 学习规则的数学描述： o i j 表示神经元x j 到】【i 的突触权值，却和翦又分别表示神经元j 和i 在一段 时间内的平均值，在学习步骤为n 时对突触权值的调整为 q ，( 以) = ，7 ( z ，( n ) 一却x 玉( n ) 一册) 是正常数，它决定了在学习过程中从一个步骤进行到另一个步骤的学习速 率，称其为学习速率。上式表示： ( 1 ) 如果神经元j 和i 活动充分时，即同时满足条件工， j 和再 舶时，突触 权值以；增强。 ( 2 ) 如果神经元j 活动充分( 即工， 工，) 而神经元i 活动不充分( 玉 ；) 而神经元j 活动不充分( j ， a2 ；o2 ol ，十分明显，在l r r oi r 的范围内，do 为正值，并且随距离增大而减小，在r lr - t oi r 的范围内，ao 为负值，对在ir i 以外的神经元，其联接权调整使u i j 变化 减小，在ir 以外的权不进行调整。图2 1 l c 是一个火炉管函数，它满足： r l l 卜r oi r o ( r ) = br n ，定义一个d 函数，表示输入样本矢量x 与权m j ( j = l ，2 ，n 1 ) 匹配的程度，用欧氏距离表示： d ( 工，m ，) = 肛一州川 ( 2 - 2 8 ) 如果在输出层中有一个神经元与输入x 的匹配最好，记为c ，则 j ( 工一掰。) = m ；n d ( z m ，) m c 所对应的输出为 _ ) ，c 2 m 尹x y ， 而权的修正则对m c 和撕n c 中的m j 进行，具体算法为： ( 1 ) 初值权m j = m j ( 0 ) 为一个小的随机量。 ( 2 ) 在样本x ，工2 ，工中，任取一个样本作为k o h 网络的输入。 ( 3 ) 计算归0 = 忙，一m 川= 窆( 工，一口) 2 ，j = l ，2 ，n 1 ，取其中最 大的idi ，对应于y c 最大，作为竞争得胜的神经元。 ( 4 ) 列权m j 进行修改： r7 以，( f + 1 ) = ，疗，( f ) + 口。( f 。y 。) ( x m ( f ) ) f c ( f ) ( 2 - 2 9 ) 1 o 啊( f + 1 ) = _ ( f )f 仨札( f ) 修正的区域n “t ) ，且一开始很大，约为1 2 的输出平面，中心点为y c ，形状 可用正方形或六角形，然后每次迭代都按( 2 2 7 ) 式的形式减小。 ( 5 ) 0 ( t ，y0 ) 可采用( 2 2 3 ) 式或( 2 2 4 ) 、( 2 2 5 ) 和( 2 2 6 ) 式 北京邮电大学硕士论文神经网络在外汇交易信号预测中的应用 进行，如果a 吣，y o ) 用( 2 2 5 ) 式，那么o ( t ，y o ) = n ( t ) 。 ( 6 ) 回到步骤( 2 ) ，反复( 2 ) 、( 3 ) 、( 4 ) 、( 5 ) ，直到在输出神经元平面上 的兴奋神经元与输入样本稳定对应为止。 步骤( 3 ) 的竞争还可以用下面的形式进行，即输入样本x 与权m j 的内积最大 的值为竞争优胜者： 埘儿) = m p p ( f ) 它的效果与步骤( 3 ) 相似，都能找出与输入样本x p 匹配得最好的那个输出 神经元y c 。公式( 2 2 9 ) 可用一个归一化的公式来代替 ( f + 1 ) = 一( f ) + 口( f ) x ( f ) j 竹( r ) + 口( r ) 工( 叫 ( f ) ，c 蚴( 2 - 3 0 ) ，仨c ( f ) 在( 2 3 0 ) 式中，当0 一时，( o - 0 ，此时迭代稳定后得到的 珊疋+ 1 ) = 黼 为一个归一化的权。( 2 3 0 ) 、( 2 2 9 ) 式都是从( 2 2 1 ) 式派生出来的， 其效果相近。 从上面讨论的k 0 h o n 锄网络的公式和算法来看，k o h o n