machine learning tom mitchell中文版英文版课件机器学习courseware

第一章：关于机器学习的一般论题一.人工智能、专家系统、机器学习1.人工智能分四个阶段：第一阶段：智力难题的求解（修道士过河）第二阶段：自然语言理解，景物分析等第三阶段：专家系统（推理）人工智能走向实用程序知识库A→BB→CC→DA→D第四阶段：以知识为中心（由于专家系统的发展）

知识获取是专家系统的“瓶颈”。二.学习的概念(simon)学习是系统的改变，这种改变使系统在下一次做相同或类似的工作更有效。2.学习是（有用）知识的获取。3.（Michalski)学习是构造或修改所经历事物的表示。4。（Mitchell)如果一个计算机程序（执行任务T，性能衡量为P)能根据经验E来自我完善，那么我们称这个计算机程序从经验E中学习。三.机器学习研究的分类分类方式：1）基于所使用的基本学习策略分类：根据在所给定的数据上执行学习所花费的推理步骤。死记硬背式学习、讲授式学习、演绎式学习、示例学习、观察与发现学习。2）基于知识表示的分类：树、产生式规则。3）基于应用领域分类：农业、化学、机器人、语言识别等2.基于学习策略分类1）死记硬背式学习(RoteLearning):不需要推理、直接编程或存储外部信息。1）讲授式学习（Learningbybeingtoldorfrominstruction）:通过教师或其它知识系统来获取知识，学习程序要把得到的知识转化为内部可用的一种表示。讲授式学习知识获取程序一般要作以下几项工作：①把领域专家（即环境）用自然语言或其它手段表述的知识翻译成系统的内部表示。②把新知识放入知识库中适当位置上。③维护知识库的一致性。3）演绎式学习（DeductiveLearning）:从公理出发，经逻辑变换推导出结论。这种推理是一种保真变换。4）示例学习：给学习程序提供正例集和反例集，学习程序能归纳出适合正例集排除反例集的一般概念描述。主要算法：AQ15、ID3、扩张矩阵理论AE算法。(例子集见表1.1)第一组：[发色=金色∨红色][眼睛=蓝色∨灰色]第二组：[发色=黑色]∨[眼睛=黑色]5）观察与发现学习（Learningfromobservationanddiscovery）:环境给程序提供一组观察事例，学习程序构造一个概念描述来覆盖所有或大多数事例。聚类，经验发现。6）解释学习：学生根据教师提供的目标概念，该概念的一个例子，领域理论及操作准则，首先构造一个解释说明该例子能满足目标概念，然后使用回归将解释推广为目标概念的一个满足操作准则的充分条件。7）类比学习：S和T分别是源域和目标域，P(S)及P(t)成立，且Q(S)成立，可推出Q(t)成立。组次身材发色眼睛第1组1234矮高高矮金色红色金色金色蓝色蓝色蓝色灰色第2组12345高矮高高矮金色黑色黑色黑色金色黑色蓝色蓝色灰色黑色表1.1两组人（例子）的集合四.机器学习的研究目标：加强基础研究，发展各种学习理论，探讨所有可能的学习方法及其算法，比较人类学习与机器学习的异同及其联系。模拟人类学习过程，深入研究学习过程的各个环节及其特征。面向应用，研制各种机器学习系统，即具有学习功能的人工智能系统。五.机器学习的若干说明机器学习算法在很多应用领域被证明很有实用价值。如：数据挖掘（从大量数据中发现有价值的规律），模式识别等领域。机器学习从不同的学科吸收概念，包括人工智能、概率和统计、计算复杂性、信息论、心理学和神经生物学、控制论以及哲学。一个完整定义的学习问题需要一个明确的任务、一个性能度量标准以及用来训练的经验。

六.机器学习（阅读）资源：1.杂志：《MachineLearning》（机器学习），《NeuralNetworks》（神经网络）；2.会议：