人工智能和机器学习作业指导书

人工智能和机器学习作业指导书TOC\o"1-2"\h\u3897第一章绪论 257831.1人工智能概述 276351.2机器学习概述 374341.3人工智能与机器学习的关系 322990第二章机器学习基础 3186122.1监督学习 3202572.1.1概述 3149612.1.2常见算法 3217352.1.3学习策略 3101762.1.4模型评估 4251432.2无监督学习 432662.2.1概述 4262392.2.2常见算法 4224252.2.3学习策略 4107612.2.4模型评估 480472.3强化学习 480162.3.1概述 4196782.3.2常见算法 451982.3.3学习策略 416982.3.4模型评估 5273722.4深度学习 532472.4.1概述 5312852.4.2常见算法 5156522.4.3学习策略 515442.4.4模型评估 56580第三章特征工程与数据预处理 5269633.1特征工程概述 565253.2特征选择与特征提取 5120593.2.1特征选择 6128973.2.2特征提取 6309443.3数据预处理方法 677733.4数据标准化与归一化 6177043.4.1数据标准化 6175283.4.2数据归一化 632548第四章常见机器学习算法 7108104.1线性回归 7186474.2逻辑回归 7147994.3决策树与随机森林 7151484.4支持向量机 719003第五章神经网络与深度学习 8296435.1神经网络基本原理 85955.2卷积神经网络 8181135.3循环神经网络 9133975.4自编码器与对抗网络 923088第六章机器学习优化方法 10325896.1梯度下降法 10257556.2模拟退火算法 10114446.3遗传算法 10190916.4粒子群优化算法 1113284第七章模型评估与选择 11324657.1模型评估指标 11231327.2交叉验证法 12245677.3超参数调优 12242917.4模型集成 1227028第八章人工智能应用领域 13202408.1自然语言处理 13312698.2计算机视觉 13250218.3语音识别 13159018.4技术 1418034第九章机器学习实践 1441639.1数据集获取与处理 1463519.2模型训练与优化 14250609.3模型部署与维护 15246859.4案例分析 154520第十章人工智能与机器学习展望 15227610.1人工智能发展前景 15360310.2机器学习未来趋势 162324810.3面临的挑战与机遇 161867110.4伦理与法律问题 17第一章绪论人工智能和机器学习作为当今科技发展的前沿领域，其理论与实践对于推动社会进步和经济发展具有重要意义。本章将对人工智能和机器学习进行概述，并探讨两者之间的关系。1.1人工智能概述人工智能（ArtificialIntelligence，）是指通过计算机程序或机器模拟人类智能的过程。其研究目标是使计算机具有自主思考、学习和解决问题的能力。人工智能涵盖了多个子领域，如知识表示、自然语言处理、计算机视觉、学等。人工智能技术的发展为各行各业带来了深刻的变革，提高了生产效率，改善了人们的生活质量。1.2机器学习概述机器学习（MachineLearning，ML）是人工智能的一个重要分支，主要研究如何让计算机从数据中自动学习并改进功能。机器学习算法可以分为监督学习、无监督学习和强化学习等类型。监督学习通过输入数据及其对应的标签进行训练，使模型能够预测新的输入数据的标签；无监督学习则是在没有标签的情况下，寻找数据之间的内在规律；强化学习则是通过与环境的交互，使智能体不断优化策略以实现目标。机器学习在图像识别、语音识别、自然语言处理等领域取得了显著的成果，为人工智能的实际应用奠定了基础。1.3人工智能与机器学习的关系人工智能与机器学习之间存在紧密的联系。人工智能是机器学习发展的目标和归宿，而机器学习是实现人工智能的重要手段。具体来说，人工智能关注的是使计算机具备人类智能，而机器学习则是通过从数据中学习，使计算机逐渐具备智能。在人工智能的发展过程中，机器学习为人工智能提供了强大的算法支持，使其在各个领域取得了突破性进展。同时人工智能也为机器学习提供了丰富的应用场景，促进了机器学习技术的不断完善。人工智能与机器学习相互促进，共同推动了科技的发展。第二章机器学习基础2.1监督学习2.1.1概述监督学习是机器学习的一种基本形式，其主要任务是根据已知的输入和输出关系，训练模型以预测未知数据的输出。监督学习通常分为两类：分类和回归。分类任务是指将数据分为不同的类别，而回归任务则是预测一个连续的数值。2.1.2常见算法监督学习常用的算法包括线性回归、逻辑回归、支持向量机（SVM）、决策树、随机森林等。2.1.3学习策略监督学习的学习策略主要包括最小化损失函数、优化算法和正则化方法。损失函数用于衡量模型预测值与真实值之间的差距，优化算法用于更新模型参数，以减小损失函数值，正则化方法则用于防止过拟合。2.1.4模型评估监督学习模型的评估指标包括准确率、精确率、召回率、F1值等。通过这些指标，可以衡量模型的功能和适用性。2.2无监督学习2.2.1概述无监督学习是另一种机器学习形式，其主要任务是从无标签的数据中寻找内在的规律和结构。无监督学习主要包括聚类、降维、关联规则挖掘等任务。2.2.2常见算法无监督学习常用的算法包括Kmeans、层次聚类、主成分分析（PCA）、tSNE、Apriori算法等。2.2.3学习策略无监督学习的学习策略主要包括目标函数优化、迭代算法和聚类算法。目标函数用于衡量聚类效果，迭代算法用于更新模型参数，聚类算法则用于将数据分为不同的类别。2.2.4模型评估无监督学习模型的评估相对复杂，常用的评估指标包括轮廓系数、DaviesBouldin指数、互信息等。这些指标可以衡量聚类效果和模型的适用性。2.3强化学习2.3.1概述强化学习是机器学习的一种重要形式，其主要任务是通过与环境的交互，使智能体学会在给定情境下采取最优的行动策略。强化学习涉及的主要概念包括状态、动作、奖励、策略等。2.3.2常见算法强化学习常用的算法包括Q学习、SARSA、DeepQNetwork（DQN）、PolicyGradient、ActorCritic等。2.3.3学习策略强化学习的学习策略主要包括策略评估、策略改进和价值函数逼近。策略评估用于评估当前策略的好坏，策略改进用于更好的策略，价值函数逼近则用于求解最优策略。2.3.4模型评估强化学习模型的评估主要通过观察智能体在环境中的表现，如累积奖励、收敛速度等指标。这些指标可以衡量模型的功能和适用性。2.4深度学习2.4.1概述深度学习是机器学习的一个子领域，其主要特点是利用深层神经网络进行特征学习和表示学习。深度学习在图像、语音、自然语言处理等领域取得了显著的成果。2.4.2常见算法深度学习常用的算法包括卷积神经网络（CNN）、循环神经网络（RNN）、长短时记忆网络（LSTM）、对抗网络（GAN）等。2.4.3学习策略深度学习的学习策略主要包括损失函数优化、反向传播算法、参数初始化和正则化方法。损失函数用于衡量模型预测值与真实值之间的差距，反向传播算法用于更新模型参数，参数初始化和正则化方法则用于提高模型功能和防止过拟合。2.4.4模型评估深度学习模型的评估指标与监督学习类似，包括准确率、精确率、召回率、F1值等。还可以通过观察模型在测试集上的功能，如损失函数值、收敛速度等指标，来评估模型的功能和适用性。第三章特征工程与数据预处理3.1特征工程概述特征工程是机器学习领域中的一个重要环节，其目的是通过对原始数据进行处理，提取出对模型训练有帮助的特征，以提高模型功能。特征工程包括特征选择、特征提取、数据预处理等多个方面。一个优秀的特征工程能够显著降低模型的复杂度，提高模型的泛化能力。3.2特征选择与特征提取3.2.1特征选择特征选择是指从原始特征集合中筛选出对模型训练有帮助的特征子集。特征选择的方法有很多，如过滤式、包裹式和嵌入式等。过滤式特征选择方法通过对原始特征进行评分，根据评分筛选出优秀特征；包裹式特征选择方法采用迭代搜索策略，在整个特征空间中寻找最优特征子集；嵌入式特征选择方法将特征选择过程与模型训练过程相结合，训练过程中动态调整特征子集。3.2.2特征提取特征提取是指通过对原始数据进行转换，新的特征集合。特征提取方法包括线性方法和非线性方法。线性方法有主成分分析（PCA）、因子分析（FA）等；非线性方法有自编码器（AE）、核函数等方法。特征提取可以降低数据维度，减少模型训练的计算复杂度，同时保留原始数据的有用信息。3.3数据预处理方法数据预处理是特征工程中的一个重要环节，主要包括缺失值处理、异常值处理、噪声处理等。以下是几种常见的数据预处理方法：（1）缺失值处理：包括删除缺失值、填充缺失值等方法。（2）异常值处理：通过设定阈值、使用统计方法等方法识别和处理异常值。（3）噪声处理：采用滤波、平滑等方法降低数据中的噪声。3.4数据标准化与归一化数据标准化和归一化是特征工程中的两种常见数据预处理方法，其主要目的是使数据具有统一的尺度，便于模型训练和比较。3.4.1数据标准化数据标准化方法主要有以下几种：（1）Zscore标准化：将原始数据转换为均值为0，标准差为1的数据。（2）最大最小标准化：将原始数据转换为0到1之间的数据。（3）标准化方法的选择应根据具体问题和模型需求来确定。3.4.2数据归一化数据归一化方法主要有以下几种：（1）线性归一化：将原始数据线性映射到指定范围，如0到1。（2）对数归一化：对原始数据进行对数变换，适用于数据分布不均匀的情况。（3）归一化方法的选择也应根据具体问题和模型需求来确定。第四章常见机器学习算法4.1线性回归线性回归是机器学习中的一种基础算法，主要用于处理回归问题。其基本思想是通过线性组合特征变量来预测目标变量。线性回归模型可以表示为：y=wxb，其中w表示权重，b表示偏置。线性回归的目标是找到合适的w和b，使得模型预测的值与实际值之间的误差最小。线性回归的求解方法有多种，如最小二乘法、梯度下降等。在实际应用中，线性回归可以解决一些简单的问题，但在面对非线性关系时，其功能可能不佳。4.2逻辑回归逻辑回归是机器学习中的另一种基础算法，主要用于处理分类问题。逻辑回归模型通过一个逻辑函数（如Sigmoid函数）将线性回归模型的输出压缩到0和1之间，从而实现分类功能。逻辑回归模型可以表示为：P(y=1x)=sigmoid(wxb)，其中P(y=1x)表示在给定特征x的情况下，目标变量y等于1的概率。逻辑回归的求解方法通常使用梯度下降，通过优化损失函数（如交叉熵损失函数）来找到最优的权重w和偏置b。逻辑回归适用于二分类问题，也可以通过一对多策略来解决多分类问题。4.3决策树与随机森林决策树是一种基于树结构的分类和回归算法。决策树通过一系列的二元决策来划分特征空间，从而实现对目标变量的预测。决策树的构建过程主要包括选择最优特征和划分点，以及递归构建子树。决策树易于理解和实现，但在处理复杂数据集时，容易过拟合。随机森林是一种集成学习算法，由多个决策树组成。随机森林通过随机选择特征和样本子集来构建每棵决策树，然后取所有决策树的预测结果的平均值（回归问题）或多数投票（分类问题）作为最终预测结果。随机森林具有较好的泛化能力，可以有效降低过拟合风险。4.4支持向量机支持向量机（SupportVectorMachine，SVM）是一种二分类算法，其基本思想是通过找到一个最优的超平面来将不同类别的样本分开。最优超平面是指能够使得两类样本之间的间隔最大的超平面。SVM的目标是找到合适的权重w和偏置b，使得模型满足以下条件：（1）对于每个支持向量，模型预测的值与实际值之间的间隔至少为1；（2）模型的总错误率最小。SVM的求解方法有多种，如序列最小优化（SequentialMinimalOptimization，SMO）算法、核方法等。SVM在处理线性可分问题时表现良好，但对于非线性问题，需要使用核技巧来扩展模型。常见的核函数包括线性核、多项式核、径向基函数（RBF）核等。第五章神经网络与深度学习5.1神经网络基本原理神经网络是一种模仿人脑神经元连接结构的计算模型，通过学习大量数据来提取特征，进行模式识别和预测。神经网络的基本单元是神经元，每个神经元与多个其他神经元相连，通过权重和偏置来传递信息。神经网络的学习过程是通过不断调整权重和偏置，使得网络输出与期望输出之间的误差最小。神经网络的基本结构包括输入层、隐藏层和输出层。输入层接收外部输入数据，隐藏层对数据进行处理和特征提取，输出层输出最终结果。根据隐藏层的数量，神经网络可分为单层神经网络和多层神经网络。神经网络的学习算法主要包括梯度下降算法、反向传播算法和随机梯度下降算法等。梯度下降算法通过计算损失函数的梯度，不断更新权重和偏置，使网络输出逐渐接近期望输出。反向传播算法是一种高效的梯度计算方法，它从输出层开始，逐层计算梯度，并更新权重和偏置。随机梯度下降算法是一种改进的梯度下降算法，通过随机选取部分数据来计算梯度，从而加快学习速度。5.2卷积神经网络卷积神经网络（ConvolutionalNeuralNetwork，CNN）是一种特殊的神经网络，广泛应用于图像识别、语音识别和自然语言处理等领域。CNN的核心思想是利用卷积操作来提取输入数据的局部特征。卷积神经网络的基本结构包括卷积层、池化层和全连接层。卷积层通过卷积核和输入数据进行卷积操作，提取局部特征。池化层对卷积层输出的特征进行降维，减少计算量。全连接层将所有特征进行整合，输出最终结果。CNN的训练过程与普通神经网络类似，但需要针对卷积神经网络的特点进行优化。例如，在训练过程中，需要使用特定的激活函数（如ReLU函数）来增加网络的非线性，提高学习效果。为了防止过拟合，可以采用Dropout技术和正则化技术。5.3循环神经网络循环神经网络（RecurrentNeuralNetwork，RNN）是一种具有环形结构的神经网络，能够处理序列数据。RNN通过引入环形结构，使得网络能够记忆前面的信息，从而更好地处理序列数据。循环神经网络的基本结构包括隐藏层和输出层。隐藏层包含多个循环单元，每个循环单元都会接收前一个单元的输出和当前输入，当前的输出。输出层根据隐藏层的输出最终结果。RNN的训练过程采用梯度下降算法和反向传播算法。但是由于序列数据的长度可能很长，导致梯度在传播过程中可能会出现梯度消失或梯度爆炸的问题。为了解决这个问题，可以采用长短时记忆网络（LongShortTermMemory，LSTM）或门控循环单元（GatedRecurrentUnit，GRU）等改进的循环神经网络结构。5.4自编码器与对抗网络自编码器（Autoenr，AE）是一种无监督学习方法，用于特征提取和数据压缩。自编码器由编码器和解码器组成。编码器将输入数据压缩为低维表示，解码器则将低维表示还原为原始数据。自编码器的训练目标是使得编码器和解码器的输出与输入数据尽可能接近。通过训练自编码器，可以学习到数据的有效表示，从而进行数据降维、特征提取和异常检测等任务。对抗网络（GenerativeAdversarialNetwork，GAN）是一种由器和判别器组成的神经网络。器的目标是逼真的数据，判别器的目标是判断数据是否真实。在训练过程中，器和判别器相互竞争，不断优化自己的功能。对抗网络在图像、自然语言处理和音频合成等领域取得了显著的成果。通过训练对抗网络，可以高质量的数据，提高模型的泛化能力。同时对抗网络还可以用于数据增强、特征提取和模型压缩等任务。第六章机器学习优化方法6.1梯度下降法梯度下降法是一种求解最优化问题的数值方法，广泛应用于机器学习领域。其基本思想是沿着目标函数的梯度方向进行迭代求解，逐步减小目标函数的值，直至找到极小值点。梯度下降法主要包括以下几种形式：（1）批量梯度下降：每步迭代使用所有样本来计算梯度；（2）随机梯度下降：每步迭代随机选择一个样本来计算梯度；（3）小批量梯度下降：每步迭代使用部分样本来计算梯度。梯度下降法的收敛速度和稳定性受到学习率、初始值和样本分布等因素的影响。在实际应用中，可通过调整学习率和采用动量等方法来提高梯度下降法的功能。6.2模拟退火算法模拟退火算法是一种基于概率的优化方法，其灵感来源于固体材料的退火过程。算法通过引入一个控制参数（温度），在迭代过程中模拟固体材料的冷却过程。在高温阶段，算法具有较强的随机性，搜索范围较广；温度的降低，算法的随机性减弱，搜索范围逐渐缩小。模拟退火算法的关键是构造一个概率模型，使得在温度较高时接受较差解的概率较大，而在温度较低时接受较差解的概率较小。通过迭代更新温度和接受新解的概率，模拟退火算法能够有效地跳出局部最优解，找到全局最优解。6.3遗传算法遗传算法是一种基于自然选择和遗传学原理的优化方法。算法的主要操作包括选择、交叉和变异。遗传算法的基本步骤如下：（1）编码：将优化问题的解表示为染色体；（2）初始化：随机一组染色体作为初始种群；（3）适应度评价：根据目标函数计算每个染色体的适应度；（4）选择：按照适应度比例选择染色体进行交叉和变异；（5）交叉：随机选择两个染色体，交换部分基因；（6）变异：随机改变染色体中某个基因的值；（7）迭代：重复步骤（3）至（6），直至满足终止条件。遗传算法具有较强的全局搜索能力，适用于求解复杂优化问题。但是算法的收敛速度较慢，且易出现早熟收敛现象。6.4粒子群优化算法粒子群优化算法（PSO）是一种基于群体行为的优化方法。算法将优化问题的解表示为粒子，每个粒子具有位置、速度和个体最优解三个属性。粒子群优化算法的基本步骤如下：（1）初始化：随机一群粒子，并设定个体最优解和全局最优解；（2）更新速度和位置：根据个体最优解和全局最优解更新每个粒子的速度和位置；（3）更新个体最优解：比较当前粒子位置和个体最优解，若当前位置更优，则更新个体最优解；（4）更新全局最优解：比较当前全局最优解和所有个体最优解，若存在更优的个体最优解，则更新全局最优解；（5）迭代：重复步骤（2）至（4），直至满足终止条件。粒子群优化算法具有收敛速度快、易于实现等优点，广泛应用于函数优化、神经网络训练等领域。但是算法的局部搜索能力较弱，可能陷入局部最优解。在实际应用中，可通过引入惯性权重、变异操作等方法来提高算法的功能。第七章模型评估与选择7.1模型评估指标模型评估是机器学习过程中的关键环节，旨在对模型在训练集上的学习效果进行量化评估。常用的模型评估指标包括以下几种：（1）准确率（Accuracy）：表示模型正确预测的样本占总样本的比例。（2）精确率（Precision）：表示模型正确预测正类样本的数量占预测为正类样本总数的比例。（3）召回率（Recall）：表示模型正确预测正类样本的数量占实际正类样本总数的比例。（4）F1值（F1Score）：精确率和召回率的调和平均值，用于综合评价模型的精确性和稳健性。（5）ROC曲线：用于评估分类模型的功能，横轴表示假正率，纵轴表示真正率。（6）AUC值：ROC曲线下的面积，用于衡量分类模型的功能。7.2交叉验证法交叉验证是一种用于评估模型泛化能力的有效方法。其基本思想是将数据集划分为k个互不重叠的子集，每次留出一个子集作为测试集，其余k1个子集作为训练集，进行k次训练和测试。最后计算k次测试的平均功能指标，作为模型评估的依据。常见的交叉验证方法有：（1）简单交叉验证：将数据集随机划分为k个子集，每次留出一个子集作为测试集。（2）K折交叉验证：将数据集按照比例划分为k个互不重叠的子集，每次留出一个子集作为测试集。（3）留一交叉验证：每次留出一个样本作为测试集，其余样本作为训练集。7.3超参数调优超参数是机器学习模型中的可调节参数，对模型功能具有重要影响。超参数调优的目的是寻找一组最优的超参数，以提高模型的泛化能力。常用的超参数调优方法包括：（1）网格搜索（GridSearch）：对超参数空间进行遍历，逐一尝试不同的参数组合，选取最优解。（2）随机搜索（RandomSearch）：在超参数空间中随机选取参数组合，进行评估和比较。（3）贝叶斯优化：利用贝叶斯理论对超参数空间进行建模，选取最优的参数组合。7.4模型集成模型集成是将多个独立的模型组合成一个强预测模型的方法。通过集成多个模型，可以提高模型的泛化能力，减少过拟合现象。常见的模型集成方法包括：（1）投票法（Voting）：将多个模型的预测结果进行投票，选取票数最多的结果作为最终预测。（2）简单平均法（SimpleAverage）：将多个模型的预测结果进行简单平均，作为最终预测。（3）加权平均法（WeightedAverage）：根据各模型的功能指标，为每个模型分配权重，将加权后的预测结果进行平均，作为最终预测。（4）堆叠（Stacking）：将多个模型的预测结果作为输入，训练一个新的模型进行最终预测。第八章人工智能应用领域8.1自然语言处理自然语言处理（NaturalLanguageProcessing，NLP）是人工智能领域的一个重要分支，主要研究如何让计算机理解、和处理人类自然语言。自然语言处理的应用领域广泛，包括文本分类、情感分析、实体识别、机器翻译等。在文本分类任务中，自然语言处理技术可以帮助计算机对大量文本进行快速、准确的分类，从而实现对网络信息的有效管理。情感分析则是对文本中的情感倾向进行识别，广泛应用于舆情监测、市场调查等领域。实体识别技术可以从文本中识别出特定类型的实体，如人名、地名、组织名等，为信息抽取和知识图谱构建提供支持。机器翻译技术使得不同语言之间的交流更加便捷，推动了全球化进程。8.2计算机视觉计算机视觉（ComputerVision）是人工智能领域的另一个重要分支，主要研究如何让计算机像人类一样观察和理解视觉信息。计算机视觉技术在图像识别、目标检测、图像分割、人脸识别等领域取得了显著的成果。图像识别技术可以对图像中的对象进行分类和识别，应用于安防监控、医疗诊断等领域。目标检测技术可以在图像中定位并识别出特定对象，为自动驾驶、无人机侦查等提供技术支持。图像分割技术则是对图像进行区域划分，便于后续处理和分析。人脸识别技术在安防、金融、社交等领域具有广泛的应用。8.3语音识别语音识别（SpeechRecognition）是人工智能领域的一个重要方向，主要研究如何让计算机理解和转换人类语音。语音识别技术在语音、智能客服、语音输入等领域取得了显著成果。语音识别技术包括声学模型、和解码器三个部分。声学模型负责将语音信号转换为声学特征，则对声学特征进行序列建模，解码器将声学特征和的结果转换为文本。目前基于深度学习的语音识别技术已经取得了较好的功能。8.4技术技术（Robotics）是人工智能领域的一个重要应用方向，主要研究如何设计和控制完成特定任务。技术在工业制造、家庭服务、医疗辅助等领域具有广泛应用。工业可以在生产线上完成焊接、搬运、组装等任务，提高生产效率和质量。家庭服务可以协助人们完成清洁、烹饪、陪伴等日常生活任务。医疗辅助可以在手术、康复等领域提供支持，减轻医护人员的工作负担。人工智能技术的发展，技术将在更多领域发挥作用。第九章机器学习实践9.1数据集获取与处理在进行机器学习实践之前，首先需要获取相关数据集。数据集的来源可以是公开的数据集，如UCI机器学习数据库、Kaggle等平台，也可以是私下收集的数据集。获取数据集后，需要对数据进行预处理，以保证数据的质量和可用性。数据预处理主要包括以下步骤：（1）数据清洗：删除缺失值、异常值、重复数据等，保证数据的一致性和准确性。（2）数据转换：将数据转换为适合模型训练的格式，如将类别数据转换为独热编码、标准化数值数据等。（3）数据划分：将数据集划分为训练集、验证集和测试集，以便对模型进行训练和评估。（4）特征工程：提取和选择有助于模型训练的特征，降低数据的维度，提高模型功能。9.2模型训练与优化在获取和处理数据集后，需要选择合适的机器学习算法进行模型训练。常见的机器学习算法包括线性回归、逻辑回归、决策树、随机森林、支持向量机等。模型训练的主要步骤如下：（1）确定模型结构：根据问题类型和业务需求，选择合适的模型结构。（2）编写训练代码：使用Python等编程语言编写模型训练的代码。（3）训练模型：使用训练集对模型进行训练，调整模型参数以最小化损失函数。（4）模型优化：通过调整模型超参数、正则化、交叉验证等方法，提高模型功能。（5）评估模型：使用验证集和测试集评估模型的泛化能力，选择最优模型。9.3模型部署与维护模型训练完成后，需要将其部署到实际应用场景中。模型部署的主要步骤如下：（1）模型导出：将训练好的模型导出为便于部署的格式，如ONNX、TensorFlowSavedModel等。（2）部署环境准备：搭建部署环境，包括服务器、容器、推理框架等。（3）