基于知识蒸馏的轻量化PHM系统实现方法、装置与系统

技术领域

本发明涉及数据处理技术领域，尤其涉及一种基于知识蒸馏的轻量化PHM系统实现方法、装置与系统。

背景技术

在现代PHM系统的研发过程中，由于制造加工过程本身的复杂性增强，以及终端用户对制造过程的状态诊断及质量要求更为严格和苛刻，给PHM系统的研发带来严峻的成本挑战与模型复杂度挑战。一般性，来自终端用户的要求会使得越来越多的昂贵传感器被安装在设备上，对应的，为了获取更多可能的有用特征，特征工程需要做更加深度的挖掘与探索，同时，还要考虑生产过程中一些经验和工艺模型的沉淀，这使得PHM模型的开发与落地变得复杂、冗长、成本高企，也即数据驱动的PHM系统在实际的开发与使用过程中，对数据要求较高，对模型复杂度要求越来越高，模型开发步数较多，整体复杂，传感器需要较多，训练流程较长，调校参数过多，导致数据采集成本、模型训练成本高企的问题愈发明显。因此，有必要提出一种基于知识蒸馏的轻量化PHM系统实现方法、装置与系统，旨在基于知识蒸馏的思路实现对复杂模型的近似模拟，在不明显伤害性能的前提下实现模型的轻量化开发与落地，从而达到模型的简洁化、低成本化开发与落地的目标。

发明内容

本发明的目的是克服现有技术的不足，提供一种基于知识蒸馏的轻量化PHM系统实现方法、装置与系统。

本发明的技术方案如下：

首先，提供一种基于知识蒸馏的轻量化PHM系统实现方法，包括如下步骤：

S1，构建实验模型；

进一步的，所述实验模型的构建具体包括如下步骤：

S101，多种传感器的安装与分析；

S102，数据采集，获取步骤S101中传感器的传感器数据；

S103，对步骤S102获取的传感器数据进行基于经验参数的特征工程，根据实验模型的开发需求提取特征，并将提取的特征进行组合来建立富特征库；

S104，根据步骤S102获取的传感器数据和步骤S103提取的特征及所建立的富特征库建立PHM模型，并对建立的PHM模型进行参数调优，从而得到实验模型；

S2，获取低成本传感器的传感器数据并输入所述实验模型，并将所述实验模型输出的结果作为目标输出，再通过深度学习模型对该目标输出进行训练得到目标数据。

进一步地，所述深度学习模型采用卷积神经网络；

所述步骤S2通过卷积神经网络对该目标输出进行训练得到目标数据的具体实现过程如下：

假设卷积神经网络得到的过程信号长度为k，则长度为k的目标输出表示为X=[x1，x2，…，xi]，i=1，2，…，k；

通过公式（a）在卷积层中对所述目标输出进行卷积操作：

式中φ是激活函数，M

再通过公式（b）在池化层中对公式（a）输出的卷积结果进行池化操作：

式中Zj是池化层的第j个输出，S是池化块尺寸，yj是池化块中对应的输入；

公式（b）输出的结果作为目标数据，从而得到目标数据。

进一步地，所述步骤S101是根据实验模型的开发需求对多种不同的传感器进行安装与分析以求获得更为可靠的传感器数据；

所述传感器包括温度传感器、压力传感器、高频振动传感器、超声波传感器之中的多种。

进一步地，所述步骤S102是通过高频采集的方式对步骤S101中的传感器进行数据采集，从而获取到步骤S101中传感器的传感器数据。

进一步地，所述PHM模型的建立通过主成分分析法、逻辑回归模型、自组织映射网络和支持向量机模型之中的任意一种实现。

进一步地，所述参数调优通过网格搜索法和基于梯度的优化算法之中的任意一种实现。

其次，提供一种基于知识蒸馏的轻量化PHM装置，包括：

传感器数据采集模块，用于采集如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的传感器的传感器数据；

模型建立与调优模块，用于建立如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的PHM模型，以及用于对所述PHM模型进行参数调优；

目标数据输出模块，用于获取如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的低成本传感器的传感器数据并结合所述实验模型输出目标数据。

最后，提供一种基于知识蒸馏的轻量化PHM系统，包括如上述基于知识蒸馏的轻量化PHM装置中所述的轻量化PHM装置，该轻量化PHM装置与低成本传感器通信连接，用于以低成本传感器的传感器数据作为输入，通过所述实验模型输出的结果输出作为目标输出，并通过深度学习模型训练目标输出的方式获得目标数据。

与现有技术相比，本发明的有益效果如下：

提供一种基于知识蒸馏的轻量化PHM系统实现方法、装置与系统，基于知识蒸馏实现对复杂模型的近似模拟，在不明显伤害性能的前提下实现模型的轻量化开发与落地，减少了训练流程和参数调校，有效降低了数据采集成本及模型训练成本，从而实现PHM系统的简洁化、低成本化开发与落地。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图示出的结构获得其他的附图。

图1为本发明提供的基于知识蒸馏的轻量化PHM系统实现方法的步骤流程图；

图2为本发明提供的基于知识蒸馏的轻量化PHM装置的结构框图；

图3为本发明提供的基于知识蒸馏的轻量化PHM系统的结构框图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。

参照图1所示，本发明提供一种基于知识蒸馏的轻量化PHM系统实现方法，包括如下步骤：

S1，构建实验模型；进一步的，所述实验模型的构建具体包括如下步骤：

S101，多种传感器的安装与分析；具体的，所述步骤S101是根据实验模型的开发需求对多种不同的传感器进行安装与分析，以求获得更为可靠的传感器数据；更为具体的，所述传感器包括温度传感器、压力传感器、高频振动传感器、超声波传感器之中的多种；需要说明的是，不同传感器的安装为行业的工程知识，比如振动传感器多安装在回转轴或者轴承座的径向位置，不是本发明的主要内容（或称改进内容）；

S102，数据采集，获取上述传感器的传感器数据（也即获取步骤S101中传感器的传感器数据）；具体的，所述步骤S102是通过高频采集的方式对步骤S101中的传感器进行数据采集，从而获取到步骤S101中传感器的传感器数据；

S103，对步骤S102获取的传感器数据进行基于经验参数的特征工程，根据实验模型的开发需求提取特征（例如从频域提取特征频率峰值或频带或幅度或相位中的能量，再例如从肌电信号等动态信号中提取统计矩和基于小波的特征以捕捉制造过程中设备异常的非平稳特征），并将提取的特征进行组合来建立富特征库；具体的，所述步骤S103在进行特征工程之前，先对步骤S102获取的传感器数据进行滤波操作来除去传感器数据中的噪声信息，从而提高传感器数据的信号质量；需要说明的是，从频域提取特征可以采用傅里叶变换、短时傅里叶变换、包络分析、倒频谱分析、希尔伯特黄变换等方法，据此得到重心频率、均方频率、均方根频率、频率方差、频率标准差、短时功率谱密度、谱熵、基频、共振峰等信息；对于从动态信号中提取统计矩和基于小波的特征来说，统计矩是一种特征，能用来描述信号的统计学特性，一般来说，一阶矩为均值，二阶中心矩为方差，三阶标准矩为峰态，能够描述分布的尖峰程度，例如正态分布峰态系数=0，而和小波相关的特征主要用来描述信号的时频能量突变或者信号变化的定量划分，如小波包分解后的各频带幅值、能量、特征向量、主波峰值等；

S104，根据步骤S102获取的传感器数据和步骤S103提取的特征及所建立的富特征库建立PHM模型，并对建立的PHM模型进行参数调优，从而得到实验模型；具体的，所述PHM模型的建立通过主成分分析法（PCA）、逻辑回归模型（LR）、自组织映射网络（SOM）和支持向量机模型（SVM）之中的任意一种实现，且所述参数调优通过网格搜索法和基于梯度的优化算法之中的任意一种实现，也就是说，所述步骤S104是根据步骤S102获取的传感器数据和步骤S103提取的特征及所建立的富特征库采用主成分分析法、逻辑回归模型、自组织映射网络和支持向量机模型之中的任意一种来建立PHM模型，并采用网格搜索法或基于梯度的优化算法对建立的PHM模型进行参数调优，从而得到实验模型，在确保模型的稳健性的同时提高了模型性能；

S2，获取低成本传感器（或称低频信号传感器，其引入主要是为了在不降低特征提取和模型建立的准确度的前提下实现成本下降、容易获取、方便安装等优势）的传感器数据并输入所述实验模型，并将所述实验模型输出的结果作为目标输出，再通过深度学习模型对该目标输出进行训练得到目标数据，从而实现轻量化PHM系统的搭建与落地；具体的，所述深度学习模型优选采用卷积神经网络，也就是说，所述步骤S2是通过卷积神经网络对目标输出进行训练得到目标数据；更为具体的，所述步骤S2通过卷积神经网络对该目标输出进行训练得到目标数据的具体实现过程如下：

假设卷积神经网络信号长度为k，则长度为k的目标输出表示为X=[x1，x2，…，xi]，i=1，2，…，k，其中，xi可以是一维数据或者二维数据甚至更高维的数据，在本实施例中，xi是二维数据；

通过公式（a）在卷积层中对所述目标输出进行卷积操作：

式中φ是激活函数，M

再通过公式（b）在池化层中对公式（a）输出的卷积结果进行池化操作：

式中Zj是池化层的第j个输出，S是池化块尺寸，yj是池化块中对应的输入（由公式（a）计算得到）；

公式（b）输出的结果作为目标数据，从而得到目标数据。

参照图2所示，本发明还提供一种基于知识蒸馏的轻量化PHM装置，该轻量化PHM装置包括：

传感器数据采集模块，用于采集如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的传感器的传感器数据；

模型建立与调优模块，用于建立如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的PHM模型，以及用于对所述PHM模型进行参数调优，从而构建出一个实验模型；

目标数据输出模块，用于获取如上述基于知识蒸馏的轻量化PHM系统实现方法中所述的低成本传感器的传感器数据并结合所述实验模型输出目标数据。

参照图3所示，本发明还提供一种基于知识蒸馏的轻量化PHM系统，包括如上述基于知识蒸馏的轻量化PHM装置中所述的轻量化PHM装置，该轻量化PHM装置与低成本传感器通信连接，用于以低成本传感器的传感器数据作为输入，通过所述实验模型输出的结果输出作为目标输出，并通过深度学习模型训练目标输出的方式获得目标数据，从而实现模型训练步骤的简化，进而实现轻量化系统的搭建与落地。

与现有技术相比，本发明具有以下有益效果：

提供一种基于知识蒸馏的轻量化PHM系统实现方法、装置与系统，基于知识蒸馏实现对复杂模型的近似模拟，在不明显伤害性能的前提下实现模型的轻量化开发与落地，减少了训练流程和参数调校，有效降低了数据采集成本及模型训练成本，从而实现PHM系统的简洁化、低成本化开发与落地。

以上仅为本发明的较佳实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。