第节 机器学习概述及其基本系统结构

各位同学可从教务处“网络教学”登录了用户名：cs05密码：cs05目前可用的资源教学文档（课件）；讨论版（教学内容和课后习题的帖子和回帖）。2008-2009学年第1学期机器学习概述及其基本系统结构2008-2009学年第1学期机器学习概述及其基本系统结构2008-2009学年第1学期机器学习概述及其基本系统结构2008-2009学年第1学期机器学习概述及其基本系统结构2008-2009学年第1学期机器学习概述及其基本系统结构第6.1节机器学习的概述王庆江计算机科学与技术系目前的AI系统多是基于演绎的，没有归纳推理，故不能自动获取和生成新知识；系统中的知识是事先输入的，包含的错误也不能自动改正。自1956年AI创立至今，科研人员一直重视机器学习（Machinelearning）的研究。50年代，Samuel的跳棋程序可从经验中学习，调整棋盘的评估函数；70年，Winston的学习系统可从积木世界里学习概念，如“桥梁”；80年代，机器学习逐渐成为AI的主要研究问题之一。2008-2009学年第1学期机器学习概述及其基本系统结构机器的能力（智能）会超过人类吗？对于不具备学习能力的机器，这是不可能的；反之，机器能力的提高可能是难以预测的。机器学习的不可预测问题能否设计出检测AI系统能力的系统？检测系统必须有与被检测系统相当的或更强的学习能力；检测系统本身的变化又如何了解和控制呢？2008-2009学年第1学期机器学习概述及其基本系统结构6.1.1机器学习的基本概念什么是机器学习？它是研究如何用机器来模拟人类学习活动的一门学科；Simon说，“学习是系统在不断重复的工作中对本身能力的增强或改进，使系统下一次执行同样或类似任务时比现在做得更好或效率更高。”Minsky说，“学习是人脑（心理内部）中进行了有用的变化。”2008-2009学年第1学期机器学习概述及其基本系统结构学习评的基掠本形仅式知识害获取获取刻新的市知识旗，这台是学您习的钞本质塞。技能网求精学习假机制系本身甜的提肾高。学习卸的目身的是朗使系臂统性莲能得挡到改棉善。从不密会做漂到会前做；从会早做到港做得鼻更好物。20酒08东-2缠00文9学方年第亩1学像期机器翁学习饮概述叨及其冠基本搅系统璃结构机器久学习斥的内逆涵随孝着网嚷络技丧术发融展而坚变得某丰富在A吉I新恭兴的痕数据润挖掘康和知耳识发欠现研倘究中并，更多纲地涉借及大尚规模危海量胸数据锈；数据历可以幼是文雅本、厚图形屑图像廉、语荡音视眨频；数据至可以晨是结阅构化斗的，甜也可衬以半根结构党化的趋；并存委着分墙类、芹聚类病、贝姻叶斯轧网络俭推理测、决许策树锄、遗话传算断法等重多种虫学习饿方法谣。机器孤学习得的定拐义更躺模糊砍了，纳这也国意味打着机坦器学饰习正件受到俩越来态越多劈燕的关现注。20荒08楚-2欢00悔9学厘年第腔1学辉期机器动学习己概述热及其哭基本梨系统照结构机器阻学习骗的任途务获得筹对输块入的目数据尝进行分类的能炊力；概念孤区分怖、文绑字识趣别、告医疗辫诊断期等。获得解决弯问题、行剂为计甲划和干行为做控制阀的能您力。下棋横、平送衡杠桑杆、裁驾车火等。20柴08地-2躺00盗9学秧年第恋1学乒期机器夜学习卡概述奸及其哈基本竞系统育结构怎么遵评价熄学习兼能力迁？分类蚀精度能否作对输铸入数捉据进羞行正护确、陕精确姑的分夹类。解答贯的正踢确性程和质雨量无论想是分腊类系喂统还贪是解让决问雷题的糠系统旺，都蚕有正尸确性晒问题仆；质量哭包括棚可读血性、真稳定蔽性等抬指标付。学习样速度很费见时的禽学习浮方法贿在实驶践中要可能金是不紫可用锁的。20柜08鞭-2乞00猜9学辰年第琴1学适期机器灾学习俗概述寇及其线基本井系统伪结构6.秤1.浴2柱机器奶学习久的研蔬究意圈义一个也真正界的智辣能系圾统应返该有修学习制能力具；通过佩归纳拴、演忠绎等共推理绍丰富聪知识激库，旧使系斑统适挡应环浆境。大的欺智能含系统气比较愈注重订静态乞知识芦的学宇习；如医乱疗、卖勘探诸，有刮大规寻模数巷据库归和较侵完整音的规蒜则库销，应暂用领勇域明哨确，逢环境轰变化啄较小硬；而较原忽视类动态诸知识近的学眯习。一些安较小种的智喉能系浪统注喂重动熟态知棋识的鼠学习交；很难弦手工匠创建瓜较完黑整的险数据完库；但可渐自动致适应佳环境框和定灰制自葵身。20蛋08张-2疗00望9学宪年第格1学臭期机器线学习赛概述赢及其耕基本缘瑞系统计结构当前灯机器题学习则的研描究时折机比贩较成伯熟已经烂有机菌器学园习的胳初步所算法腊和理纺论基口础；互联乏网可仆提供冲越来闭越充趴足的角数据虾；计算毕机性灰能不面断提黄高，睬能运毕行高夏复杂默度的排算法酱。20欢08藏-2疲00励9学披年第牛1学乏期机器锈学习估概述顺及其足基本盼系统胆结构若干炭难点累制约捉机器根学习核的发特展预测刚难脱离破实际绪环境拌的学诵习方蝇法，悔在实筹际中煎会有盛怎样都的表读现？有学圣习能滑力的煎中医虚诊断僵系统食在实终际中谨学到百的新著知识铁是否墨正确是？归纳破推理霸中问贱题保假老，归驶纳得取到的项知识暖不可仇靠。判断乔难什么猎重要渣、什惹么应长该学垒习？20懂08摘-2朽00学9学熟年第扇1学引期机器戏学习嘱概述封及其观基本质系统蛾结构6.狭1.笨3污机器村学习闻的发真展史神经忆系统蜓模型箭阶段雕；开始塌于50年代叠；主要汁研究窗没有阻知识夫的学完习，板试图参建立豆自组找织、亩自适重应系猾统；19尿57年的纺“感括知器寇”是口这一宗时期瓣最具色代表浇性的南神经闯网络佩模型袭；这段掀时期用，还耐出现役了跳明棋程贱序、属决策歇理论搭。20益08墓-2与00明9学胀年第业1学其期机器款学习醋概述得及其歼基本歪系统助结构符号寨概念井获取乔阶段脚；开始碎于70年左欠右；试图陷模拟音人类茶的概谎念学味习过享程，皂通过养分析谊一些与概念化的正匠例和幻玉反例业，构醒造概将念的科符号田表示原；表示划形式姨可以纲是逻挎辑表钢达式遭、决笨策树注、产刊生式译规则盈、语童义网棍络等幅。例：Wi筒ns确to询n的AR符CH系统谊；只能念学习处单概老念，葱未能参投入誓实际扑应用蜓。20摊08样-2掩00龄9学寸年第未1学糟期机器岩学习谁概述填及其筛基本膝系统鸡结构知识珍加强据和论往域专确用学汗习阶务段开始暮于70年代锦中期锹；继续荷沿符示号主领义路歌线研况究；侧重塌专业绕的专槐用性府，强声调面陵向任块务的园学习虫和任橡务对习学习鞋过程都的引丈导作伟用；例：D.揪J.Mo渗st辉ow的指仿导式蓬学习傍，T.承J.博M疤it漠ch耗el厕l的解扯释学练习。20援08狠-2绿00壶9学组年第磨1学迎期机器幅学习核概述渔及其愿基本玻系统野结构近20年中营的机酸器学香习归纳埋学习遭的绝款对优选势有娃所动辽摇；出现诱了解机释学液习；遗传吨式学冠习有祥了新党的发案展；神经支网络雅学习乡丰又有孙了重公要进姓展；随着姑数据沫挖掘谦、知粪识发挤现的锐研究厌蓬勃先发展绘，贝蓄叶斯舒网络酒、决支策树歇、神胃经网芹络得软到了俯深入危研究师和应蹄用。20串08俗-2坏00饺9学嘴年第颠1学久期机器渗学习娃概述奋及其露基本烈系统愧结构6.肺1.圾4驶机惠器学槽习的誓分类按学害习风门格分匙类记忆截学习走（死站记硬舞背学盐习、银机械悔学习搜）基于葡记忆伸和检己索；直接士记录时问题烫有关竭的信负息，尾然后掠检索悟并利材用这尘些存疑储的们信息排来解疼决问抵题；如从嫌数据用x，晌经过椅某种贱计算输得到识结果直y，栏则把远(x浊,涨y)鲁记录夫下来允，以级后要易再对句x计怕算时获，通市过查臂询直串接得命到y垦。20拔08饲-2记00坚9学冠年第窑1学衬期机器奋学习眯概述说及其域基本柱系统茎结构按学骂习风升格分输类演绎壤学习基于捕演绎鹊推理湿；如果幼系统元能证乌明A墙→B勿且B桨→C兴，则熟可得纷到A浅→C佳，以满后直岭接使誉用规潮则A垃→C蠢。20列08歉-2披00嫌9学酿年第痰1学奇期机器绩学习蝇概述睁及其骂基本悦系统气结构按学肢习风萝格分厅类归纳赤学习这是伴研究殿最多狡的一序种学哲习方软法；给定毙关于匠某概朋念的逐一些慨例子才，从清中归黄纳出谜概念财的一肚般描庄述；例：落大马袍有四援条腿场，小探马有痕四条轰腿，尿故马鸽有四倡条腿糕。但是苦，归郊纳是快危险娘的推缺理；例：尾麻雀服会飞颂，燕多子会敌飞，剂故鸟低会飞兔。实例休（示愉例）滑学习称是典斜型的绳归纳拌学习播方法学。20稼08层-2像00飘9学阿年第傲1学表期机器厦学习翠概述粗及其夺基本盾系统词结构按学各习风摸格分拘类类比绝学习通过拐目标壮对象李与源去对象锣的相咐似性病，用欧源对笔象的仔求解诞方法察来解掉决关冶于目祸标对顶象的苹问题怀；对未粘知或再知之跪甚少帆的领货域中增的问烛题，绕用已呢知的岔、熟痰悉的节领域苹中的赖方法棕解决评。回忆射与联崖想；建立辟对应零关系舍；验证傍与归礼纳。20迅08覆-2消00贩9学冲年第挤1学缘瑞期机器蹲学习陆概述霞及其焰基本启系统唱结构按学毙习风羞格分眉类基于安解释租的学绑习从问贺题求女解的恩一个苹具体刻过程涌中抽珍取出肥一般爸的原副理，宣并使都其在西类似墙情况院下也吹可利虾用；与实州例学惕习不剩同，据解释欺学习飘只分钱析一词个或藏几个挤例子界，加弯上给庙定的失领域容知识须，进倦行保盛真演绎，存右储有打用结丛论，笋经过疾知识堂求精购和编始辑，敲产生低适合特以后让求类猴似问直题的眉控制皮知识漫；尽量贴少用莫归纳嫁，以佛减少絮归纳突带来雹的不滔可靠喷性。20崇08防-2病00存9学兆年第淘1学呼期机器串学习臭概述浅及其勇基本阀系统呼结构按学惰习风狠格分武类连接维学习主要决指神没经网默络学决习；通过旁实例脖训练严，得执到网趁络中凭的参数甚至结构，实档现对徐输入划模式戚的分类等功含能。20则08眠-2扫00革9学件年第便1学种期机器轧学习箭概述舅及其影基本紫系统苗结构按实符现途替径分腾类符号角学习连接功学习符号驼学习用计玻算机准能理蝴解（市处理炸）的浪符号怠表示求人类尽的知朝识；用学爪习程协序实董现学膜习过证程；输入尸的是溪数据者、事告实等们信息盛，产田生符吸号表鸣示的魂知识些（如理概念粒、规册则等船）；基于杆符号拒演算燃的知滩识推坛理和项知识乡丰学习订。20宿08习-2备00荡9学烧年第母1学驾期机器沟学习果概述筒及其笼基本御系统消结构连接浴学习就是飞人工俘神经穴网络鸟（A渣rt郑if钱ic圾ia愿l苏Ne烦ur配al督N欧et绘wo采rk董，缩若写A筹NN久）学铜习；AN记N是柱对生诞物神兄经网接络的肃某种眨模拟慰或仿旬真；AN爹N学牲习是舍基于置生物觉神经钳网络岔理论党的机煎器学岛习方脚法。20见08割-2险00谣9学咽年第辈1学痰期机器妄学习摘概述惕及其伐基本仇系统焦结构符号绸学习拣和连矛接学催习的掏实现恶途径合有什虹么区馆别呢给？符号丸学习捧建立列在符仰号理叨论基衬础上虑，预先有专厘家总轿结的争大量败知识恨，对男知识拴的可兔理解匪性和硬可读您性非罪常重凡视；连接牲学习县强调更对大量遥事实摘的反易复观倦察，最想多需坡要人辈对事搅实进园行分陕类与致标注络，形哄成的永知识渠结构圈是人难以凤理解走的。20极08闯-2疗00劫9学泻年第寒1学史期机器耐学习讲概述隶及其亚基本焦系统脏结构按学躬习方灾法分敞类有教螺师指犁导的皂，或破从样圈本中寺的学答习被称逆作教社师的秆用户宏需将递数据港分类搏（标春注）罩；即使男没有摆先验迎知识醒，只轨要数咏据是浸可自鹿然分诊类的奇，仍就可采行用有禁教师竖指导题类的萍学习统算法赌，如岛聚类烤算法餐；机器监学习祝的目朴的就轿是建歉立从掏数据谷到结滴果空湾间的红映射冻函数舞。无教币师指和导的蜘，或婆从环剥境中谊的学酱习通常猪，准织备好毙所有咸数据秩；系统得从执茎行结络果的王好坏蔬得到订反馈虎信息须，依仁此改织进执女行过纺程，强达到和学习弊目的异。20江08狭-2滋00巨9学劲年第社1学露期机器志学习节概述挥及其海基本询系统锁结构6.忠2摩机案器学鸟习的再基本直系统答结构Si并mo脂n认参为，左学习争就是技系统驼在不断粪重复的工腹作中慰对本映身能斩力的增强或改进，使葬得系厦统在贱下执拣行同样或类似任务辞时，羊会比客现在讲做得闹更好到或效广率更菜高。环境学习知识库执行学习系统的基本构成20烧08锹-2愉00山9学好年第窗1学脂期机器增学习焰概述副及其抢基本疫系统筑结构环境是系宴统的说工作昌对象颜，还遥可包争括外侵界条般件；代表吩外界万信息寻来源漂；例：说医疗驱系统黎中，毒病人腰当前宾的症问状、匀检验甩数据动和病辰历。环境宝提供贝的信惜息从船两个钥方面截评价信息矿水平相对府于执角行环御节的袄要求由而言袖，由返学习振环节添消除灿差距猴。信息怒质量实例捡示教昌是否奖正确预、实驶例次今序是取否合巷理等毒。20根08尼-2驼00罢9学痕年第厚1学挽期机器彼学习脉概述样及其抵基本妨系统科结构知识兰库知识映表示内要合斗理；如特护征向圣量、流谓词莲公式浴、产怒生式满、过锯程、况LI手SP殿函数度、语转义网脊络、岛框架唯等；推理网方法欺