《机器人基础与数字孪生系统》 课件 第9章 数字孪生系统的生命周期管理

第9章数字孪生系统的生命周期管理【9.1剩余寿命预测算法】【9.1.1剩余寿命预测技术研究现状】

剩余使用寿命（RemainingUsefulLife，RUL）是一个条件随机变量，根据当前机器的使用时长、状况及过去的操作模式，观察分析故障出现之前的剩余时间。

目前的剩余寿命预测研究主要分为以下几种研究方法：【9.1剩余寿命预测算法】【9.1.1剩余寿命预测技术研究现状】

（1）基于模型的预测方法需要了解故障的产生原理与故障的生成特征，需要开展基于故障机理的可靠性设计与分析，建立故障机理模型，并且证明模型的可行性。这类预测方法不足够具备鲁棒性和普适性，对技术人员的知识范畴要求较广，需要很高的知识水平，均对扩大这种方法的使用范围加了难度。（2）基于知识的预测方法通过将知识整理在数据库，开发较为完备的专家系统来完成基于知识的预测功能。该预测方法凭借无需建立精确模型和预测结果对应精度较高等优点得到了广泛应用。该方法需要对领域知识的较为详尽的掌握，需要完备的知识表示方法。领域内的专家知识及相关经验很难找到详尽完备的标准，建立知识库的随机性较大。基于知识的预测方法很难得到普适及推广。（3）基于数据的预测方法基于数据预测的方法是挖掘、分析和计算诸多数据中可扩展的隐性决策价值。依据特征信息的变化趋势，来诊断预测设备未来的运行状况。

支持向量回归模型、灰色理论、隐马尔可夫模型、时间序列分析、以及神经网络预测等都属于该类技术中的主流选择。【9.1剩余寿命预测算法】【9.1.1剩余寿命预测技术研究现状】

3）基于数据的预测方法①支持向量回归模型支持向量机方法(SupportVectorMachine,SVM)，对于有限数量样本的训练，SVM方法可以较好地寻求学习效率与算法精度之间的均衡调节，具有较强的普适性。②时间序列预测时间序列，也称动态序列，指具有同一统计指标的一系列值，根据时间先后次序将其罗列形成的数列。获取运行中机械设备的阶段性数据，将其按等时间间隔排列形成的序列就是设备的状态时间序列。时间序列预测是对研究对象当前和历史信息的时间序列数据进行分析建模，对数据变化的趋势观测进行数据预测，然后由预测到的数据特征分析、计算和预测下一阶段设备的发展趋势。③神经网络预测神经网络是由彼此联结的神经元构建而成的庞大网络或计算系统。神经网络借鉴了人脑神经系统的触发机制，模拟人类思维模式，从而挖掘重要特征与特征间的紧密联系。神经网络凭借梯度下降、反向传播及高效的优化机制使其在众多领域的研究中具有高度学习能力、普适与泛化性、容错与稳定性。【9.1剩余寿命预测算法】【9.1.2剩余寿命预测算法相关理论与技术】

1）卷积神经网络卷积神经网络，其与普通神经网络相比，相同点可以理解为假设输入与输出的计算公式，运用多层逻辑回归的方式，通过梯度下降、链式求导法等这种反向传播的方式进行参数优化训练。可应用为一维卷积、二维卷积、三维卷积等。举例说明适用于时间序列数据的一维卷积，一维卷积相当于卷积核在输入的一个维度方向滑动做卷积计算并得到输出结果。卷积过程及结果如图所示。【9.1剩余寿命预测算法】【9.1.2剩余寿命预测算法相关理论与技术】

2）长短期记忆人工神经网络在循环神经网络(RecurrentNeuralNetwork,RNN)的基础上衍生出了长短期记忆神经网络（Longshort-termmemory,LSTM）。对应于每个时间点t，会有一个记录了之前信息的状态值Ct，通过输入、遗忘等调节方式对当前Ct进行修正，即这个Ct可被理解为一个会随着时间边改变边传递下去的核心要素。用sigmoid门控制每个输入因素对Ct的影响，则可控制从全部不输入到全部都输入的所有情况。LSTM有三个重要的门：输入门、遗忘门、输出门，通过它们对状态的影响，并把这个状态递归下去，从而不忘记遥远重要信息，也不会只关注近距离冗余信息。LSTM结构如右侧下图。【9.1剩余寿命预测算法】【9.1.2剩余寿命预测算法相关理论与技术】

3）在门控循环单元门控循环神经网络(gatedrecurrentneuralnetwork,GRU)对LSTM改进精简，以“更新门”替换原来的遗忘门与输入门，且对单元状态和隐藏状态也进行合并及更新。GRU的门结构可以有效地过滤无用信息，捕获输入数据的长期依赖性，在处理序列问题时有着非常出色的性能。如图为GRU的结构，可知，重置门和更新门的输入一致，包含当前时刻的输入和上一时刻的隐藏状态，最后通过sigmoid函数进行全连接层运算并输出结果。

【9.1剩余寿命预测算法】【9.1.2剩余寿命预测算法相关理论与技术】

4）注意力机制注意力算法机制可解释为：当一处环境映入人的眼帘时，由于大脑的运作处理，人类不会对每个视点平分注意力，而是习惯于注意周围环境中某几个极其重要的微小部分，以得到有用的信息，从而建立对环境的表达。注意力机制与之同理，以权重来表示关注的程度，得到有力信息，从数学角度理解，可以将它解释成一种加权求和。输入序列的每个局部，将分配不一样的权重，代表重要性不同；输出序列的局部，由上一段的输出与当前的输入局部组成。

【9.1剩余寿命预测算法】【9.1.3实验数据来源及数据预处理】

1)实验数据来源和数据分析

剩余寿命预测研究基于IEEEPHM2012的轴承数据，数据由IEEE可靠性协会和FEMTO-ST研究所组织采集。实验设备是一个名为PRONOSTIA的实验平台。平台主要通过控制轴承转速、轴承被施予的径向力、轴承上瞬间的扭矩值来对轴承的运行状况进行改变及影响。平台依靠振度传感器、温度传感器采集的数据来表征轴承退化情况。振动传感器由两个相互成90°的微型加速度计组成；第一个放置在垂直轴上，第二个放置在水平轴上。两个加速计径向放置在轴承的外座圈上，采样频率为25.6kHz。本文以振动信号作为研究切入点。【9.1剩余寿命预测算法】【9.1.3实验数据来源及数据预处理】

故障出现研究

每0.1s(设为1个单位时间)内等距提取100个时间点的信号，计算前N单位时间内振动信号的均方根值(RootMeanSquare，RMS)，即第1个单位时间内的RMS、前两个单位时间内的RMS、前三个单位时间内的RMS......，计算出前N个振动信号的RMS的均值和标准差，即第一个RMS的均值标准差、前两个RMS的均值标准差，前三个RMS的均值标准差......，将上阈值设为+3，只要RMS大于这个阈值，则认为开始失效或退化。

由此可计算得出，轴承2_1从157单位时间开始失效，振幅随时间的变化以及退化起始关键节点如图所示。【9.1剩余寿命预测算法】【9.1.3剩余寿命预测算法相关理论与技术】

2）实验数据预处理小波变换阈值去噪方法具有实现最简单、计算量最少的特点。小波去噪通过函数逼近方法，根据一定的衡量标准，通过小波母函数的伸缩平移变换，得到对原始信号的近似优化，实现原始信号与噪声的隔离，从而最佳化地还原原始信号，使信号数据表现更平滑。使用Python中的pywt.threshold函数完成小波去噪，去噪效果如图所示。进行基于振动信号常用时域指标对时间序列数据的特征计算后,进特征选择的初步取舍。

【9.1剩余寿命预测算法】【9.1.4振动信号时域特征与卷积压缩特征结合的注意力编码解码网络】

1)网络设计在上述开源数据集的基础上，进行剩余寿命预测算法的优化，以便解决此类轴承的剩余寿命计算问题，避免发生轴承突发失效的后果。讨论一种振动信号时域特征与卷积压缩特征相结合的注意力编码解码网络——TCA-Seq2Seq，其总体结构如右图所示，网络主体seq2seq模型基于编码—解码结构。首先，编码过程为：卷积层充当特征压缩器，适当调整序列长度。其次，通过双向门控循环单元网络实现对时序特征的查看与学习，输出隐藏状态ht。最后，解码过程为：另一个LSTM网络充当解码器，逐步预测表示健康指标(HealthIndicate,HI)的隐层特征值。【9.1剩余寿命预测算法】【9.1.4振动信号时域特征与卷积压缩特征结合的注意力编码解码网络】

2)网络主要模块说明及总体流程①卷积特征压缩采用卷积神经网络对输入数据进行特征压缩，适当调整序列长度，从而减轻循环神经网络中梯度消失或爆炸的影响。本例通过卷积神经网络将时序数据长度压缩至原长度1/8，特征由输入的24通道扩展为64通道，实现深层次特征挖掘的同时，减少了参数的数量。②Seq2seq结构是一种普遍常规的Encoder—Decoder框架，结构如右图所示。Seq2Seq的Decoder一般是不定长的，即允许与输入序列长度不一致。Encoder部分起到将输入序列长度标准化的作用，即控制输入序列长度变成指定长度的向量。在本例中，这个向量可理解成序列数据在剩余寿命推测过程中的逻辑表示。【9.1剩余寿命预测算法】【9.1.4振动信号时域特征与卷积压缩特征结合的注意力编码解码网络】

③双向门控循环神经网络要求输入同时包含轴承振动信号时间序列数据的正向传递信息与反向传递信息，故解码部分使用双向门控循环神经网络。在双向门控循环神经网络中，各个时刻的隐藏层变量将正、反两个方向传递的隐藏层变量拼接起来。④注意力机制与长短时记忆网络轴承寿命预测问题中，当前时刻序列的每个部分对于下一时刻序列的影响程度有很大差异，如果引入注意力机制，其善于分析序列特征，为序列不同位置分配不一样的权重，优势特征得以传递，无用特征得以缩减，有助于剩余寿命预测研究。⑤Teacherforcing机制优化编码失误问题在Seq2seq的解码过程中，解码的输入可能是正确的信息或编码过程预测出来的信息。如果编码过程预测失误较大，会使后面解码过程的错误率受其影响，模型很难收敛。本例使用Teacherforcing机制，设置监督参数，使训练过程中的每个时刻有一定概率使用上一时刻的输出作为输入，也有一定概率使用正确的目标值作为输入，可提升模型的拓展性，降低模型评估性能较差的风险。【9.1剩余寿命预测算法】【9.1.4振动信号时域特征与卷积压缩特征结合的注意力编码解码网络】

⑥训练阶段数据随机截断处理在训练阶段，不会全部选取训练集中的每组时间序列数据，而是对每组时间序列数据在接近数据终点的某个范围内随机截断，以取到的随机长度数据作为训练序列，模拟测试信号。⑦剩余寿命预测算法总体流程提出一种振动信号时域特征与卷积压缩特征相结合的注意力编码解码算法——TCA-Seq2Seq，利用小波阈值方法对原始轴承振动信号进行去噪，通过数据源文件内等距采样和数据源文件间的重叠滑窗处理来构建数据序列。基于时序振动信号常用的时域指标对其进行初始特征计算，划分训练集与测试集，构造一种基于TCA-Seq2Seq的剩余寿命预测算法。具体流程如图所示。【9.1剩余寿命预测算法】【9.1.4振动信号时域特征与卷积压缩特征结合的注意力编码解码网络】

3)模型优化及评判输入层先对特征数据进行标准化，加速模型收敛。本例采用均方根误差来进行迭代训练，均方根误差通常是回归任务的首选性能衡量指标，误差越大，该值越大。训练过程中，以其为评估标准更新模型参数，降低损失。 对于预测值大于真实值的情况可被认为是高估，对于真实值大于预测值的情况则被认为是低估。对于实际工况中，滞后预测对于提前预测来说，是容易发生危险的。因此，对于高估的情况给予较差的评分，对于低估的情况给予较好的评分，对应表示为右图，最后，将所有实验分数的平均值将作为对剩余寿命预测评判的最终分数。【9.1剩余寿命预测算法】【9.1.5剩余寿命预测结果】

为验证TCA-Seq2Seq算法模型的优势，本例设计了与其他算法模型的对照实验，结果见表。表中的Seq2Seq表示构建了以BiGRU编码和LSTM解码的编码解码结构，表中TC-Seq2Seq表示在上述Seq2Seq基础上增加了振动信号时域特征与卷积压缩特征相结合的特征提取部分，TCA-Seq2Seq表示基于上述TC-Seq2Seq，在编码解码过程增加了注意力机制的计算。MAE列对应算法模型的误差值。对照结果表明TCA-Seq2Seq算法在剩余寿命预测中呈现了较好的效果，体现了其在剩余寿命预测中的优势。分别计算测试集11组轴承的实验误差，根据计算平均值得到评分值。多组实验模型的评分值结果如表的SCORE列，结果表明TCA-Seq2Seq模型具有较好的评分值。模型MAESCORETCA-Seq2Seq0.02510.9285TC-Seq2Seq0.06080.8193Seq2Seq0.11490.6697BiGRU0.15270.6832【9.2不确定性度量模型】【9.2.1不确定分析】

1)深度学习不确定性分析为确保深度学习的可靠性，需要通过建模的不确定性来识别不熟悉的数据样本。数据样本、传感器特性、模型不确定性、场景覆盖范围及研究领域的不确定性因素都会引起不确定性的发生。前两个因素可采用不确定性估计方法建模，而后三个因素对应于一定程度的数据集转移以及分布外奇异样本，本例重点针对前两个因素进行研究。2)不确定性来源与分类当用于测试与训练的数据不匹配时，就会显露不确定性，通常数据不确定性起因于类别重叠或数据中的噪声。不确定性基本有两个类别：偶然不确定性和认知不确定性。偶然不确定性而来源于数据分布的固有特性。认知不确定性是由于知识不足引起，也称为知识不确定性。偶然不确定性可能会影响在训练或测试期间交付给机器学习模型的样本信息量。认知不确定性反映了因数据集不代表奇异情况或数据集不够大而对模型的忽视程度，是对模型参数中不确定性的一种解释。本例采用基于变分推理量化的贝叶斯理论对预测模型进行不确定性度量。【9.2不确定性度量模型】【9.2.2基于贝叶斯推理的模型不确定性度量研究】

1)贝叶斯推理贝叶斯方法有助于解决观测误差引起的非唯一解问题，在参数估计问题中也有所应用。目前，参数估计的相关研究方法有：基于封闭解求解模型、似然函数的正态分布、有限元方法等，本例基于贝叶斯推理和变分推断等方法对模型预测研究，对模型参数的后验概率分布进行初步理论推导，采用蒙特卡洛抽样方法估计模型参数，运用数值模拟的形式计算模型的参数估计结果。2)变分推理量化预测不确定性理论证明假设网络的输入、输出，网络中的所有可训练参数服从高斯分布。可训练参数的先验分布和对输出的最大似然估计可以求得。但可训练参数的后验分布难以求得，若能得到后验分布，则当输入一个新的样本时，就能够得到的新的预测值分布。【9.2不确定性度量模型】【9.2.3模型不确定性度量构建方式】

1)偶然不确定性建模对于偶然不确定性问题，可以设想成在回归问题的目标函数上叠加一个噪声，训练模型的目的就是拟合这个带有噪声的目标函数，从而使模型接近真实的数据分布。通过加入正则化的方式，网络能输出偶然不确定性。每给定一个数据，模型就可以输出一个结果和一个偶然不确定性。2)认知不确定性建模在正向传播中，实现MonteCarloDropout和在每个权重层后加Dropout是基本等价的，代码整体开发代价较小，模型效率较高。现有的Dropout是指使用Dropout来训练模型时，模型的参数可看成是服从伯努利分布。需要在测试时将Dropout打开，预测多次，取预测的平均值即是最终的预测值，且可以得到方差，可模拟偶然不确定性。3)自定义不确定性度量边界为验证上述不确定性建模对剩余寿命预测模型的度量情况，将循环测试模型的次数设为100，不断输入测试集到模型中，并得到每一次的预测结果。计算预测结果的均值和方差、自定义预测函数，使通过不确定性度量后的模型，根据循环迭代的预测结果，计算输出结果样本的均值和方差，并计算0.99置信度的上界与下界。【9.2不确定性度量模型】【9.2.4结果及分析】

不确定性度量，需要将模型输出以概率分布的形式表征，可靠性与清晰度是区间预测问题的两个主要维度。可靠性是指预测结果属于预测区间的概率。清晰度是指预测区间的宽度，即区间上下限之间间隔的值。区间覆盖率(PICP)是用于对区间预测可靠性的评价指标。平均预测区间宽度(MPIW)是区间宽度的量化值。平均区间宽度的归一化表示，记作NMPIW。PICP与NMPIW一般是相互矛盾的。在实际工程中需要对两者折衷考虑，首先确保PICP超过一定的覆盖概率，再保证较小的NMPIW值。TCA-Seq2Seq算法相对于其他算法具有相对高的区间覆盖率与相对窄的区间宽度，该算法的可靠性高于其他算法。【9.3预测与监测管理】【9.3.1界面可视化功能】

1)智能分析结果的可视化本例以持续传输的方式，读取上文所使用的数据集文件，模拟构建实时的时间序列数据。通过Unity3D启动外部程序调用上述剩余寿命预测算法模型，将剩余寿命预测的分析结果呈现在Unity3D所构建的场景中，实现剩余寿命预测的初步呈现。Unity3D与Python算法部署开发集成调用过程如右1图所示，智能分析结果可视化的具体流程如右2所示。【9.3预测与监测管理】【9.3.1界面可视化功能】

2)Unity3D脚本环境分析Unity3D开发主要支持：C#、UnityScript与Boo。C#作为一种运行于.NET框架的高级语言，具有面向对象编程、代码效率高、外设接口便捷等优点。Unity3D的更新扩展与迭代维护聚焦于C#，C#均具有显著优势。因此，本例选择C#作为Unity3D端开发语言。3)C#与Python的混合编程本例选择实现混合编程的方法主要流程为：Unity3D端通过按钮绑定触发C#程序，通过C#传入参数——查询时间，然后调用Python主程序；Python主程序根据当前时间查数据库获取振动信号数据，并构建与模型输入维度相符的张量形式，调用构建好的XXX.pth模型得到输出结果；将剩余寿命预测值与拟合图像的图片等信息记录到数据库中，存储完成后，Unity3D端从数据库获取剩余寿命预测相关信息加载到Unity3D端。【9.3预测与监测管理】【9.3.2数据库准备与使用】

1)轴承振动信号数据库本例以Mysql作为轴承数据存储的平台。首先，建立数据库，建立如右上图bearing_dataX1_X2表。X1对应工况，X2对应所属工况内的轴承，按照前述所说明的数据集每列含义：时、分、秒、微秒、水平的振动信号、垂直的振动信号，同样为bearing_data表构建对应字段。由于轴承数据是间断式采集，对采集的次数进行记录。为便于数据管理，额外加入主键id字段，如右下图所示。存储轴承振动信号的表中数据构建方式为：以10秒的时间间隔，从csv文件中读数据并写入数据库的X1_X2表中，如下图，模拟从传感器采集数据到数据库储存的步骤，再进一步调用模型，得到输出结果。【9.3预测与监测管理】【9.3.2数据库准备与使用】

2)剩余寿命预测值的保存与记录在数据库中，建立rul_result表与rul_result_pic数据表，分别用来存储剩余寿命预测值信息与剩余寿命趋势计算图。rul_result表设计与表中数据示例如右1图与右2图。为便于Unity3D端C#