决策树演算法

第8章

決策樹演算法大綱說明決策樹演算法的概念討論有趣決策規則的概念用一個實例來展示決策樹的規則探討決策樹的實際應用展示在龐大的資料集中如何應用決策樹在附錄中展示See5的決策樹分析過程決策樹在資料探勘的領域中，決策樹（decisiontrees）被認為是一種樹狀結構的規則（經常被稱為關聯性規則）。決策樹資料探勘包含了蒐集分析者認為與決策有關的變數，以及分析這些變數對預測結果的能力。決策樹提供了一種以規則為基礎的演算法：ID3決策樹以啟發式方法（entropyheuristic）來選擇哪個屬性適合成為下一個節點，這是與其他資料探勘工具在選擇分支上的不同處。決深策驳樹促的甘運贱作表卵8招.节1伴各侧種蚕屬尿性患值亭的相組导合決顿策驰樹忆的钱運死作表燃8敌.牢2只第停一虎個紧規犬則決厚策登樹队的它運狂作圖狼8名.树1竖貸躁款次者华的窑部垫分茧樹膀狀滨結及構此撞結辰構突使饼用湖了痕分床類晚資抬料忌，册這称樣涂型刺態旋的预樹裕被腥稱差為童分碧類解樹个。在播做臭預巷估滋及户預芦測敏的台情疲況领中迹，健如树果辩資钥料某有横連固續厉的抚結峡果耗也平可闻用睡樹臣狀裂結件構葱來输表煎示硬，骗這炕些凭樹瞧就第被赖稱箩為迴铅歸促決虫策催樹（缝r愿e廉g书r粉e吧s脑s验i挡o沈n垃t肝r匪e兽e狡）妈。有剥趣鹅的捉規需則規顾則京的数有丝式用秧性并是涛用技信任类度桶和洞支僵持床度骄來劝衡榆量护。關讯聯稳規糖則踪蝶的支唇持轰度（岭s机u料p皂p秀o侵r业t哥）代合表咐的抽是前，铜在煌資带料乐庫妙中内此韵規急則晶的艳變摸數纽奉在大同袜一燥筆蹦記司錄辈出包現渐的象比症率注。最占小信症任晋度（债c阁o旦n丹f轮i响d水e侦n输c条e汇l对e栗v杠e惩l勉）及姜支草持顾度栋可拣以精用可來库決拉定丹由虏決说策挽樹杠方其法浸所冻產练生膀的致規挂則悲（唉或群其牙他左關垮聯嫂性弱規任則谁）墓是潜否择要杠加拜以睬保涨留候。利满用品資齐料录探圈勘框找保出部意池外村的侨資吼訊准（隆知提識青探减索蛾）思具纤有估極燥高书的興萍趣酬度（璃i徐n晚t充e征r眨e蹈s伞t为i叫n出g窄n门e稍s盛s双）京。機订器茅學毒習機场器抢學帮習（m舍a哪c乐h惹i填n趋e骂l激e数a济r闲n闻i相n古g）剛蚀開畅始章並故沒蓬有案任嘴何诉的趟假接設垫，填僅椒針巷對捷輸零入惨資访料梁與代分配類喜結丽果毕進避行朋分剥析剪。雖李然携不研考且慮裕專奶家短的慨判淹斷税可娘能赖會难被心認梅為浆效昏率助比慌較害差秃，矮但芦是岔卻矿可订避例免泉人酬為牌的树偏钻見摄。反倡覆守的赔分剪割理可揭以就將悉資演料灯分尺成假更屠細生微头的赞小长集雨合荡，沸最咬後中的役結初果缺就晕是守一乏株趴決鱼策迎樹允。機腐器则學膝習表肤8轮.暑3過拔去漂2辩0瓣位女貸抛款围者梢的接資霜料機螺器酬學轨習表阿8蛾.顾4喇資攀料德分蜘組機视器装學沃習表肃8爹.必5懒結恳果機屈器馆學嫂習大吉多珠數挤的简資伪料辨探葬勘汁軟劝體肆使构用熵堪值（疑e蚂n抖t背r夹o蹲p灵y傅）衡圣量父每奖個贸變坛數草的亡區迁別嫌能膏力粉。由背K趋o唱o腿n符c松e万所傅提帮出眯的暴熵算值袄公沃式機予器袄學肿習表炕8倾.滩6爷年签齡阁類当別炉的废熵售值機应器翅學域習第倦一鲁條坝規闲則第商二稼條毯規饺則機腿器互學继習表馅8坟.斑7厘計灯算乡丰機目率機盲器贿學软習表叮8兆.挣8考重棒算铸後循的驶機坚率機吉器叨學贫習第薄三贿條墨規召則表杀8每.忽9筹以捎三裂條维規胃則慰預景測坡正见確刻率機左器弃學醋習第才四锅條饿規归則表猪8兽.得1眉0蹄以劈燕四绒條域規幻玉則材預秀測谋正挤確培率機订器液學备習機彼器拘演西算爱學犯習挠規忽則機膝器慢學照習表粥8忽.段1臣1浪規端則腾應蜂用银測懒試悬結芬果機安器慌學贪習圖劝8格.见2状規伶則移組日的虚決借策钩樹機势器凶學材習表辟8梢.移1愿2削規压則巩組妈的脊錯嗓差促矩继陣決让策到樹扣的羊應蹄用存脾貨垂預揉測資剂料耕探葬勘别模课式样是狗由购歸浇納浊來彼產顺生咱規脸則渐。臨仰床区醫拆療卫資服料站庫颂探易勘根梳據扇約撒略唐集昨合旧理滥論柏（摘r揪o脱u诊g朽h桥s革e养t问t腥h李e援o妥r夺y袖）帮發毫展泊一旁個蚕以鼠機叼率凭規克則量為痛基残礎帖的佩歸依納誓系班統脚。軟充體抱發滨展帜品禁質知遵識帜發饺掘说的败目唐標起在划於吵從个過投去各發坚展跪模抛組态的立資牧料莲中顶發器現抓樣盒式沟，或如页此济可浮以气對披會梨發涉生还錯垦誤速的谋軟崖體关模谁組弃有牺更污好浸的味預阅測社。軟庸體予發目展鸣品慕質第核一全個睁被腔C春A乌R咳T选演篮算跨法巷所枯辨轰認岂出翠的你模地式卫有悬以腊下纺規耗則軟横體凉發茫展鹅品和質第弟二盘個筐被俩C帐A死R总T裁演谜算恳法埋所剪辨厘認欢出虫的铸模沾式科有挠以离下州規尘則軟睁體伸發蓝展挽品伯質毅—吓評锈估表永8浓.室1退3扮測拔試挤資斯料界的堵軟拢體公品著質死錯述差舒矩宴陣表浙8票.日1击4磁測以試维資好料喇的番軟合體陶品宾質洁錯播差轻矩横陣貸疯款拖系枪統邪資圈料表罗8肠.硬1沿5丹針采對暂低警齡以的何分运群宰資片料貸仿款屿系平統巾資刊料表惜8池.拖1竟6疫針逼對洞壯撇年宝的女分厅類破資款料貸购款萍系拆統趴資睬料表够8抖.部1接7煮針状對庭高柿齡铸的植分塑群羊資银料貸层款立系月統枣資逐料表糟8们.页1忆8仅組扒合仍結迫果貸袍款尼系受統身資向料表扩8岭.还1里9估年盒齡遵的引熵售值托計霉算貸宜款国系折統悠資移料第宾一光條坛規衫則8版.埋2呼0售第使一自規娃則虚的剑錯炒差坚矩功陣貸散款俯系帝統养資公料第额二虏條脊規逼則表黄8债.宾2道1钻案沉例脱的葵機做率貸布款冠系糟統争資拌料表恢8未.艰2嘱2针前锋兩虫個边規昼則盼的膨錯大差堤矩驼陣表钉8察.饺2很3鞋重挥算凳後管的驶機政率貸减款剥系跪統村資蝇料第歌三宾條摊規齐則表诵8止.次2元4泰三蚂條孝規欺則世的桶期胆望加準绩確撑率貸宾款骗系坟統画資临料表版8制.扒2叠5款三蜜條恐規春則餐的稿錯这差犬矩狡陣機预器鼠學勤習探演仔算队法饥停讨在貸求款除系义統完資塌料表酒8是.杜2筹6唇由浇均修衡尸資捧料滋集页得互到符的刊結捏果保投險均欺无騙掠資米料模傲式表蹲8陶.煎2卵7遍S载e珍e眨5骗詐挣欺可模搬式具的肠錯枝差存矩遵陣求遵職塑者辩資雹料使与用启前朽3骂0况0痰個喊類尾別这型乞觀众察饶值习當芽作相訓远練公資霜料态，孔規策則善如笑下膛：求榨職症者争資绢料表网8斤.贫2叔8守求附職摔者茧類骡別坊型师測悉試乔資泛料陵的繁模东式辰錯栽差甚矩硬陣求费職耻者差資刘料標盲準印化古的叫連毕續拌型煎資死料申集帜以篮S横e鄙e冈5概的海決是策酸樹恋進蚁行摄分明析呆，蓝產掀生赔的狡決坝策义樹俘如钱下社：求质職根者真資凉料表耍8宴.佛2艇9找求绳職绑者句分症類勤模看式骡的廉測使試深資愈料咸的槐錯虽差艳矩佩陣S六e丽e颤5捞決荐策凝樹游分楼析瓜：韵資铃料继清斗理表耕8挪A臣.颜1伸消华費兵資挪料箭的外變唯數資仍料心清贴理表链8葛A柔.将2格C蔽l氧o支t袋h楼2犹的默前我5扒個略觀略察删值資堤料闪探盟勘李程怠序圖累8俭A什.奔1地找议出侦要设載国入久的戏資串料圖愿8扫A病.娇2瞧資谋料嘉已乏載厅入資糊料贵探字勘亮程屈序圖贷8水A添.挨3拢選解擇形分柴類注的屑建摸構猴方愿式圖构8赏A羡.闪4油建仔構贪設乎定資苦料腿探透勘票程喇序圖仔8称A盲.西5怎經肃