机器学习原理与应用电子教案 5.9神经网络

备课日期：年月日授课时间课时（理论+实验）周次星期:节次:授课课题人工神经网络教学目标1.理解神经网络基本原理。2.掌握神经网络数学模型与求解方法。3.掌握Scikit-learn库神经网络类库的使用方法。教学重点1.神经网络数学模型构建；2.Scikit-learn神经网络类库的使用。教学准备PPT、点名册等。教学方法指导阅读、案例法。教学过程设计备注课题引入【思考】机器学习的本质：Y=f(x)，假设f()形式已知而求参数。如果f()形式未知，如何确定f()?【关键】利用神经网络表达f()。【时间】分钟。教学步骤及主要内容【主板书】§6.8.神经网络一、基本原理【主板书】基本原理1.生物神经元：兴奋与抵制两种状态、结构（细胞体、树突与轴突）。【强化与拓展】结构与计算机结构进行比较。2.神经元的数学表达。（1）基本形式：权值、求和与激活。（2）数学表达式（三个输入为例）。（3）激活函数：Logistic函数、Tanh函数与ReLU函数。【强化与拓展】数学形式与几何形状。3.神经网络。（1）基本结构：输入层、隐层与输出层。（2）输入X与输出Y之间的关系。【强化与拓展】（1）以1个隐层中1个神经元为例，求其输出与输入X之间的关系。（2）1个隐层中多个神经元输出与输入X之间关系的矩阵化表达。（3）多隐层多个神经元与输入X之间关系的矩阵化表达。3（3）求解方法：误差逆向传播算法（BP算法）。【强化与拓展】正向传播与误差逆向反馈两个过程。【思政】神经网络是由神经元构成的整体，相当于由学生构成的班集体，只有每个同学相互团结、协同学习，才能达到整体上的最优。〖PPT〗神经网络模型的构建。【时间】分钟。【提问】。二、Scikit-learn库的使用【主板书】Scikit-learn库的使用1.库导入fromsklearn.neural_networkimportMLPClassifier（分类）fromsklearn.neural_networkimportMLPRegressor（回归）2.模型构建与求解mlp=MLPRegressor()/MLPClassifier(activation=’relu’,hidden_layer_sizes=(5,5))hidden_layer_sizes：隐层神经元与层次。例1.hidden_layer_sizes=(5,8)：表示有两层隐藏层，第1层隐藏层有5个神经元，第2层隐藏层有8个神经元。activation：激活函数可选为{'identity','logistic','tanh','relu'}，默认值为'relu'。【强化与拓展】（1）identity：f(x)=x；（2）logistic：f(x)=1/(1+exp(-x))；（3）tanh：f(x)=tanh(x)；（4）relu：f(x)=max(0,x)。3.常用方法与属性fit(X,y)：用于训练模型。predict(X)：基于训练模型对预测样本进行类别预测。score(X,y)：计算预测精度。classes_：每个输出的类标签。loss_：损失函数计算出来的当前损失值。

coefs_：列表中的第i个元素表示i层的权重矩阵。intercepts_：列表中第i个元素代表i+1层的偏差向量。

n_iter_：迭代次数

。n_layers_：层数。

n_outputs_：输出的个数。

out_activation_：输出激活函数的名称。4.应用实例。例2：分类。（1）数据：make_moons。（2）模型构建：（6，3）。（3）分类边界的绘制。〖PPT〗分类实现过程与结果。例3：回归〖PPT〗。（1）数据：正弦曲线（噪声服从正态分布）。（2）模型构建：（5，8）。（3）结果输出（与支持向量机比较）。〖PPT〗回归实现过程与结果。【强化与拓展】神经网络：经验风险最小化原则；支持向量机：结构风险最小化原则。【时间】分钟。【提问】。课堂练习其他无小结与作业课堂小结神经网络是通过模拟生物神经网络而解决分类、回归等问题的机器学习算法，因为具有学习和构建非线性复杂模型的能力，因而应用非常广泛。神经网络最突出的问题在于不太易于用清晰易懂且可解析的形式描述其工作机理，特别在层次较深时，如何对其中的权重参数进行有效地更新是提高其整体性能的关键。本课作业1.画出ReLU函数曲线。2.利用Scikit-learn库生成make_blobs数据并将数据划分为训练数据与测试数据两部分。fromsklearn.datasets.samples_generatorimportmake_blobsX,y=make_blobs(n_samples=500,n_features=2,centers=[[1,1],[2,2]],cluster_std=[0.6,0.6])请完成以下实验：（1）将隐层设置为1层、神经元设置为1-10，求取测试样本预测精度的变化曲