人工智能学习

大纲IntroductiontomachinelearningSupervisedlearning（监督学习）

Decisiontreelearning（决策树学习）

Linearpredictions（线性预测）

Supportvectormachines（支持向量机）

…Unsupervisedlearning（无监督学习）

人工智能学习Learning学习对认识未知的环境是必不可少的,

i.e.,当设计者缺乏完整知识的时候whendesignerlacksomniscience（全知）学习作为一种系统构造方法是有用的,

i.e.,编写一个学习智能体程序来实现比尝试着将函数直接写出来要好得多学习会不断地修改智能体的决策机制来提高性能

人工智能学习学习智能体人工智能学习学习元件Designofalearningelementisaffectedby

性能元素的哪些组件是需要学习的

什么样的反馈可被用来学习这些组件

这些组件可以被哪些方法来表示

人工智能学习IntroductiontoMachineLearning人工智能学习MachineLearningEveryday:

SearchEngine人工智能学习MachineLearningEveryday:

SpamDetection（垃圾邮件检测）人工智能学习MachineLearningEveryday:

MachineTranslation人工智能学习MachineLearningEveryday:

FaceDetectionNowinmostdigitalcamerasforautofocusing

人工智能学习MachineLearning脱胎于人工智能工作电脑的一种新能力

人工智能学习WhyMachineLearning?SolveclassificationproblemsLearnmodelsofdata(“datafitting”)Understandandimproveefficiencyofhuman

learningDiscovernewthingsorstructuresthatareunknowntohumans(“datamining”)

…

人工智能学习WhyMachineLearning?Largeamountsofdata

Webdata,Medicaldata,Biologicaldata…昂贵的手工分析费用计算机变得便宜并性能更加优良

人工智能学习WhyMachineLearning?应用程序无法直接通过手工编程完成

无人驾驶

手写识别

自然语言处理(NLP)

计算机视觉理解人类的学习（人脑，真正的AI）

人工智能学习Whatismachinelearningusefulfor?机器学习在哪些领域有用？人工智能学习Automaticspeechrecognition

自动语音识别当前大部分语音识别和翻译都能够不断学习—你用得越多，它们就会变得越聪明

人工智能学习Computervision:e.g.object,faceand

handwritingrecognition人工智能学习Informationretrieval—信息检索对大量文本数据库的阅读,领会和分类对于人类来说是困难的WebPagesRetrieval（检索）Categorization（分类）Clustering（聚类）Relationsbetweenpages人工智能学习Financialprediction人工智能学习Medicaldiagnosis（医学诊断）人工智能学习Bioinformatics（生物信息学）e.g.基因微阵列数据建模,蛋白质结构预测

人工智能学习Robotics机器人学人工智能学习电影推荐系统

Movierecommendationsystems人工智能学习MachineLearningMachinelearningisaninterdisciplinaryfieldfocusingonboththemathematicalfoundationsandpracticalapplicationsofsystemsthatlearn,reasonandact.机器学习是一个交叉学科的领域，着重于研究具有学习、推理和行动的

系统所需要的数学基础以及实际应用

Otherrelatedterms:PatternRecognition（模式识别）,NeuralNetworks（神经网络）,DataMining（数据挖掘）,StatisticalModeling（统计模型）...

Usingideasfrom:Statistics,ComputerScience,Engineering,Applied

Mathematics,CognitiveScience（认知科学）,Psychology（心理学）,

ComputationalNeuroscience（计算神经学）,Economics

Thegoaloftheselectures:tointroduceimportantconcepts（概念）,modelsandalgorithmsinmachinelearning.人工智能学习MachineLearning:定义TomMitchell(1998)Well-posedLearningProblem:AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformancemeasureP,ifitsperformanceonT,asmeasuredbyP,improveswithexperienceE.汤姆•米切尔（1998）很好地定义了学习问题：我们说一个计算机程序能从经验E中学会针对某些任务T和一些性能指标P的方法，如果程序使用E有效提高了在T中运行时的指标P.

人工智能学习“AcomputerprogramissaidtolearnfromexperienceEwith

respecttosometaskTandsomeperformancemeasureP,ifits

performanceonT,asmeasuredbyP,improveswithexperienceE.”假设你的邮件程序观测到你将一些邮件标记为垃圾邮件，以此为基础程序学习如何更好地过滤垃圾邮件，那么在该设定中taskT是什么？

将邮件分类为垃圾或非垃圾邮件

Watchingyoulabelemailsasspamornotspam.

Thenumber(orfraction)ofemailscorrectlyclassifiedasspam/notspam.

Noneoftheabove—thisisnotamachinelearningproblem.人工智能学习学习的种类想象一下，一个智能体或机器收集到一系列的传感输入（sensoryinputs）:x1,x2,x3,x4,...

Supervisedlearning（监督学习）:

Themachineisalsogivendesiredoutputsy1,y2,...,

anditsgoalistolearntoproducethecorrectoutput

givenanewinput.

Unsupervisedlearning（无监督学习）:

outputsy1,y2,...Notgiven,theagentstillwantsto

buildamodelofxthatcanbeusedforreasoning,

decisionmaking,predictingthings,communicatingetc.

Semi-supervisedlearning（半监督学习）人工智能学习Representing“objects”inmachine

learning举个实例,x,representsaspecificobjectx通常表示一个d维的特征向量

x=(x1,...,xd)∈Rd其中每一个维度叫做featureorattribute特征值是连续的或离散的x在d维的特征空间中是一个点目标抽象化.忽略其他方面(e.g.,twopeoplehavingthesameweightandheightmaybeconsideredidentical)

人工智能学习Featurevectorrepresentation

特征向量表示法文本文件

词汇ofsized(~100,000)

“bagofwords”:对每个词条的计数

通常忽略掉stopwords:the,of,at,in,…

特别的，用“out-of-vocabulary”(OOV)来捕捉

所有未知的词

人工智能学习特征向量表示法图像

像素,颜色直方图银行账户

信用等级,余额,最近一天、一星期、一个月、一年存款,#取款,…Youandme

医学特征test1,test2,test3,…人工智能学习主要成分Data

ThedatasetDconsistsofNdatapoints:

D={x1,x2...,xN}Predictions（预测）

Wearegenerallyinterestedinpredictingsomethingbasedontheobserveddata

set.基于已观测到的数据集能否正确对后来的数据进行预测

GivenDwhatcanwesayaboutxN+1?Model

Tomakepredictions,weneedtomakesomeassumptions.Wecanoftenexpress

theseassumptionsintheformofamodel,withsomeparameters（参数）

为了完成预测任务，我们需要做一些合理假设。我们经常以带参数的模型形式来表达这些假设

在给定数据集D时,我们学习模型的参数,以便对新数据进行预测.人工智能学习主要成分人工智能学习学习的架构实验3：人工智能学习LearningProblems人工智能学习HousingpricepredictionSupervisedLearning

监督学习

数据中给出了“rightanswers”Regression（回归）: