一种软件定义网络性能智能预测方法

技术领域

本发明涉及软件定义网络(SDN)技术和图神经网络技术，具体涉及一种软件定义网络性能智能预测方法。

背景技术

二十一世纪以来，由于网络技术和计算机通信技术的迅猛发展，网络规模及其流量也呈指数型增长，随之也产生了各项网络业务。IPVT、BSS、OSS、VoIP等业务的流行和各种交互式业务的兴起，使网络不仅仅局限于单纯地传送数据，而是渐渐往传送数据、语音、图像、视频等多媒体网络发展。这些具有实时性特点的新兴多媒体的业务，有着严格的时延、抖动、丢包率、吞吐量等服务质量(QoS)参数要求。随着网络规模的日益庞大、结构的逐渐复杂、业务的急剧增多，导致了网络所承载的信息量明显增大，网络流量特性变化显著，影响网络正常运行的因素日益增多。这就导致了一个很现实的问题：如何对复杂的网络进行可靠的性能评估，来调整网络行为维持正常网络运行和网络优化设计，以此保障并提高新兴多媒体应用的服务。

软件定义网络(SDN，Software Defined Networking)作为一种转发与控制功能分离的可编程新型网络架构，最初是由美国斯坦福大学研究组提出来的实现网络虚拟化的方式，主要通过OpenFlow技术实现网络设备的转发、控制平面分离，可以达到灵活控制流量，智能管理网络的目的。

而Clark等人提出的“互联网知识平面”是一种依靠机器学习(ML，MachineLearning)和认知技术来操作网络的新构造。知识平面(KP，Knowledge Plane)会给网络带来很多好处，比如自动化(识别-行为)和推荐(识别-解释-建议)。由KP概念定义可知，在这种情况下，KP可以使用机器学习和深度学习(DL，Deep Learning)技术收集关于网络的知识，并利用这些知识来控制网络。使用SDN提供的逻辑集中控制功能，在SDN范式的三个传统层面上增加KP，就产生了知识定义网络(KDN，Knowledge Defined Networking)。知识定义网络主张由SDN提供集中控制，与网络分析提供的丰富的集中式网络视图相结合。

图网络(GN，Graph networks)是结合了深度学习和基于图结构的方法提出来的，可以从深度学习的结构中学习实体、关系和规则并组合泛化，实现关系归纳偏差的新模块。图网络在处理图数据方面有着强大的优势，如社交网络、分子网络和知识图谱等。本发明中用到的图神经网络(GNN，Graph Neural Networks)模型和图卷积网络(GCN，GraphConvolutional Network)模型都是图网络的相关经典模型。

图神经网络(GNN)最初即是结合了卷积神经网络和图嵌入技术这两种思想的一种在图域上进行操作的深度学习方法，GNN由于可以在图结构上聚合信息，因此可以对输入或输出的元素和相关元素之间的独立性进行建模。在传统的神经网络中，连接点的信息通常也被定义为点的独立信息，因此与点的自身状态作为输入的特征状态，GNN与之不同的地方即是将节点状态看作是隐藏状态，通过邻居节点的聚合来更新隐藏状态，其中消息的传递是通过图结构而不是特征来进行传播的。为此，GNN扩展了传统的处理图域方面数据的神经网络，依靠节点和链路信息传递可以有效地捕获图的依赖关系。

当前网络性能评估要满足具有实时性特点的新兴业务日益严格的QoS需求，分析现有的网络性能评估方法的特点与优劣，为了充分发挥图神经网络在处理复杂非欧式数据和捕获数据之间的依赖关系的优势，结合SDN可以动态地获取全局控制信息的特点，一种软件定义网络性能智能预测方法应运而生。

发明内容

本发明解决了实际网络涉及多跳路由和实时网络状态多变情况下的网络性能评估问题，提出一种软件定义网络性能智能预测方法。该方法结合图神经网络在处理有依赖关系数据的优秀能力，凭借SDN可编程控制全局信息的优势，首先分析网络特性并进行数据集提取，然后将图神经网络作为一种计算机网络建模技术构建出了一种基于SDN架构的网络性能智能预测模型。

本发明解决技术问题所采用的技术方案如下：一种软件定义网络性能智能预测方法，该方法基于图神经网络建立一种网络性能预测模型，所述网络性能预测模型的具体输入参数为路径特征、链路特征和节点特征；输出为预测的网络性能；所述图神经网络由消息传递过程和图读取过程组成，在网络性能预测模型训练过程中采用计划采样机制；所述计划采样机制具体描述如下：

假设模型训练过程已进行到了i个mini-batch，则定义概率∈

其中k是模型训练过程中设置的一个超参数，取值为大于等于1，具体取值依赖于模型在实际训练过程中的收敛速率。

采用所述计划采样机制，在训练过程中，下一步的输入不完全使用真实的序列标签，以概率∈

进一步地，所述网络性能预测模型的具体输入参数为路径特征、链路特征和节点特征；所述网络性能预测模型的建模步骤具体如下：

(1)对于给定网络，已知拓扑连接关系，将拓扑中的任一节点表示为v

p

所述网络模型建模过程中选定的网络特征为路径特征、链路特征和节点特征，并且设定输入流量为路径特征，链路带宽为链路特征，节点配置信息为节点特征，其中，节点配置信息包括队列调度配置、队列的大小等。

(2)以步骤(1)所述网络特征为基础收集NSFNet网络拓扑下的网络状态视图和资源视图的数据集，其中，数据集包括性能信息、流量信息、路由信息和拓扑信息，根据输入路径、链路、节点特征，输出路径级别的隐藏状态信息，预测路径级别的性能指标，构建一种基于图神经网络的网络性能预测模型。

进一步地，该方法为：所构建的网络性能预测模型包含业务层、控制层与转发层，其中业务层中运行网络业务应用，控制层中包括评估模块、决策模块和SDN控制组件，转发层中进行网络设备间的信息转发，业务层与控制层通过SDN控制组件进行API交互，控制层与转发层通过OpenFlow等控制—转发平面接口进行交互；当SDN数据平面元素转发数据包以访问流量信息时，控制层实时监控数据平面元素并查询SDN控制器，可收集到网络全局信息、运行状态和流量数据；控制层部署评估模块，在得到控制器获取的网络全局信息的基础上，该模块通过网络建模实现网络性能有效评估，以实现网络性能的智能预测；控制层部署决策模块，该模块使用网络性能评估结果及网络全局信息进行算法行为学习和智能决策，提高网络性能智能预测的有效性。

进一步地，所述网络全局信息为网络拓扑、路由策略、节点配置和流量矩阵，所述网络性能为时延、抖动和丢包率。

进一步地，所述图神经网络消息传递过程具体如下：

(1)将节点、链路和路径特征(x

(2)根据节点、链路和路径的相互关系公式，由以下原则进行隐藏状态的更新：

其中，f和g为未知的状态更新函数，h

其中，M

(3)循环过程(2)的隐藏状态消息传递和状态更新过程，使得每个目标实体的隐藏状态都波动很小，图的信息流动总体趋于平稳。这一消息传递过程由门控循环单元(GRU)完成。

进一步地，所述图神经网络图读取过程为：先由自编码器提高态特征和输出特征的相关度，再由多层感知机对状态进行聚合并读出预测值。

本发明的有益效果是：随着网络规模的日益庞大、结构的逐渐复杂、业务的急剧增多，对复杂的网络进行可靠性能评估的需求越来越大。而人工智能领域中的图神经网络技术自提出以来，就因其强大的对于复杂图数据处理能力广受欢迎，它可以分析图结构，捕获数据之间的依赖关系，对于网络的性能预测研究非常有实际意义。针对SDN网络中结构的多样性和业务的复杂状况，目前还没有具体的基于GNN的网络性能智能预测方法。因此本发明利用图神经网络作为一种计算机网络建模技术来构建估计网络性能的模型，输入网络基础抽象和网络流量特征，预测时延、丢包率等网络性能，通过得到的性能评估结果来智能地调整网络行为，保持网络可靠的运行性能，为网络用户提供更优质的服务，具有一定的现实意义和实用价值。

附图说明

图1-a为新提出的软件定义网络性能智能预测方法模型整体框架图；

图1-b为新提出的软件定义网络性能智能预测方法模型架构流程图；

图2为新构建的GNN模型与Routenet模型的MAE对比图；

图3为新构建的GNN模型在时延预测上的结果图；

图4-a为新构建的GNN模型与Routenet模型网络时延的CDF对比图；

图4-b为新构建的GNN模型与Routenet模型网络抖动的CDF对比图；

图4-c为新构建的GNN模型与Routenet模型网络丢包率的CDF对比图。

具体实施方式

下面结合附图详细说明本发明。

针对实际网络涉及的多跳路由和实时网络状态变化，传统方法处理有依赖关系数据能力有限的问题，本发明凭借SDN可编程控制全局信息的优势，将图神经网络作为一种计算机网络建模技术来构建评估网络性能的模型。本发明将网络数据转换成图数据，明确输入的包括网络流量特征在内的网络系统抽象；针对时延、丢包率等网络性能，通过图神经网络建模与输入网络信息联系起来，使其具有自我推理能力，在得知输入输出信息之后，构建面向实际网络的可泛化的图神经网络模型；最后实现通过预测得到的性能评估结果来智能地调整网络行为，使网络的运行性能保持可靠高效。

本发明提出的一种软件定义网络性能智能预测方法，将图神经网络作为一种计算机网络建模技术，对已有的体系结构进行拓展，并结合图自编码器进行了模型的改进，构建出了一种由图网络(GN)、门控循环单元(GRU)、图自编码器(GAE)、多层感知机(MLP)所构成的级联神经网络模型。该模型可以对网络的图数据进行智能建模，且在预测时延、抖动和丢包率多种网络性能指标中都有突出的表现，相较于其他模型提高了的性能评估的准确性。

如图1-a所示，本发明提供一种软件定义网络性能智能预测方法，该方法为：所构建的网络性能预测模型包含业务层、控制层与转发层，其中业务层中运行网络业务应用，控制层中包括评估模块、决策模块和SDN控制组件，转发层中进行网络设备间的信息转发，业务层与控制层通过SDN控制组件进行API交互，控制层与转发层通过OpenFlow等控制—转发平面接口进行交互；当SDN数据平面元素转发数据包以访问流量信息时，控制层实时监控数据平面元素并查询SDN控制器，可收集到网络全局信息、运行状态和流量数据；控制层部署评估模块，在得到控制器获取的网络全局信息的基础上，该模块通过网络建模实现网络性能有效评估，以实现网络性能的智能预测；控制层部署决策模块，该模块使用网络性能评估结果及网络全局信息进行算法行为学习和智能决策，提高网络性能智能预测的有效性。

如图1-b所示，本发明提供一种软件定义网络性能智能预测方法，该方法包括如下步骤：

步骤1：准备训练集和测试集以构建图神经网络模型。采用Krzysztof Rusek等通过OMNet++所产生的KDN网络建模开源数据集，使用在NSFNet网络拓扑下收集的数据来构成数据集。数据集主要包含以下信息：网络拓扑、路由配置、一些特定的网络配置(如拓扑、流量分布、路由等)以及一些可测量网络性能参数(时延、抖动、丢包率等)；

步骤2：构建图神经网络模型，所述图神经网络模型基于一种表示空域卷积的形式化框架——消息传递网络(MPNN，Message Passing Neural Network)，是一种由图网络(GN)、门控循环单元(GRU)、图自编码器(GAE)、多层感知机(MLP)所构成的级联神经网络模型；

所述图神经网络模型具体级联结构如下：

第一层GN层即数据输入阶段，给定图网络(GN)，将特征(x

第二层GRU层即消息传递阶段，通过空域卷积的方法聚合邻居节点的信息，采用较容易训练的门控循环单元(GRU)对SDN网络中链路和路径进行状态感知，解决长期记忆和反向传播中出现的梯度问题。经由隐藏层中的GRU神经单元抓取链路、路径以及网络路由拓扑之间的依赖关系，再对网络中的路径和链路的状态进行计算与更新。经过一系列的消息传递过程之后，得到更新后的隐藏状态；

GRU层将当前输入特征x

u

r

其中，W是需训练的权重矩阵，σ是sigmoid函数，u是更新函数，r是复位函数，

第三层GAE层即信息提取阶段，采用图自编码器(GAE)，通过编码器学习低维的状态数据，也就是将消息传递过程中路径隐藏状态所包含的路径、链路和节点的状态信息数据进行去噪以及可视化降维处理。在神经网络进行拟合前加入图自编码器，可以在非监督的状态下学习状态特征和输出特征的高效表示，提取出更有用的信息，提高相关度；

GAE层在神经网络进行拟合前加入自编码器可以学习状态特征和输出特征的高效表示，提取更有用的信息，提高相关度。其作为非监督学习框架，通过编码机学习到低维的状态数据，作为强大的数据特征检测器，在神经网络的预训练起着重要作用。对输入的状态数据进行去噪以及为了可视化进行降维，可以在预测结果生成的前提下降低模型复杂度。其主要的计算下述公式表示：

前者表示输入层到隐藏层的编码过程，后者表示隐藏层到输出层的解码过程，其中，W

第四层MLP层即图读出阶段，采用多层感知机(MLP)的隐藏结构读取性能预测信息，MLP层中设置了若干子层，第一层为输入层，对于目标为性能预测的读出操作来说，输入路径状态(包含路径、链路、节点特征)，同时还需一个偏置量b，中间根据需求设置合适的隐藏层层数，最后一层为输出层，对于输出层的神经元个数在实验中进行设置，读取网络性能预测信息，得到最终结果。

步骤3：使用步骤1得到的数据集，按照步骤2构建多个含有不同超参数的图神经网络模型，在这些模型上分别进行训练使达到收敛的状态，横向比较各网络性能评估参数得出训练完成后的最优图神经网络模型；

数据集包含了不同的路由方案和各种流量强度的流量矩阵，在利用样本数据对模型进行训练的过程中，每次训练从数据集中随机选择80％的数据集作为图神经网络模型深度学习的训练数据集，在训练结束后，选取训练集中不存在的20％的数据集作为模型验证集作为测试数据集，在训练期间，为防止过拟合，添加L2正则化损失最小化，通过tensorboard观察模型收敛状况，达到收敛状态后，保存最终模型。

在进行模型训练前，首先对新构建的图神经网络模型进行一些超参数设置，包括：选择优化算法为收敛快速且常用的自适应时刻估计算法(Adam)并设置初始学习率为0.001、设置训练数据批次大小为32、设置学习率的衰减系数为0.6、设置迭代次数为80000、设置神经网络的激活函数为ReLU。

完成上述超参数设置之后，选用四个含有相同GRU层数，不同GRU神经元数、MLP全连接层数和MLP各层神经元数的图神经网络模型进行模型训练实验。其中，变化的是在消息传递过程中依赖的GRU神经元数以及在读出阶段使用的MLP全连接层数和各层的神经元数。对比设计的4种GNN模型，通过L2损失函数(LSE)、均方根误差(Root Mean Square Error，RMSE)和皮尔森系数(Pearson)评估模型表现，衡量最终训练出的不同模型的精度，从而选择性能最优的模型进行网络性能预测评估。

步骤4：将实时采集的网络数据即测试数据集进行预处理，然后通过SDN控制组件输入到步骤3训练完成后的图神经网络模型中，输出一系列相关网络性能评估参数，可以用来进行网络模型表现的评估并与其他模型进行对比，还可以用来表示预测结果的好坏。在图神经网络模型中对数据进行性能预测的过程具体如下：

所述图神经网络模型包括数据输入、消息传递、信息提取、图读出等阶段。经由数据输入、消息传递、信息提取等阶段，从图网络中得到路径、链路和节点的初始状态集合，迭代更新隐藏状态并从中得到所需的状态特征和输出特征信息，最后在图读出阶段由函数R计算整张图的特征向量，对状态聚合特征信息进行处理输出性能预测值。核心公式具体描述如下：

第一个公式表示了消息传递的过程，第二个公式表示了隐藏状态更新的过程，最后一个公式表示的是网络性能预测值的读出过程。其中M

所述的图神经网络模型运行过程具体描述如下：

(1)将节点、链路和路径特征(x

(2)根据节点、链路和路径的相互关系，可以用下述公式描述节点、链路和路径隐藏状态的更新规则：

其中

(3)循环过程(2)的隐藏状态消息传递和状态更新过程，使得每个目标实体的隐藏状态都波动很小，图的信息流动总体趋于平稳。这一消息传递过程由门控循环单元(GRU)完成。

完成上述过程之后，在神经网络进行拟合前加入图自编码器(GAE)，以学习状态特征和输出特征的高效表示，提取更有用的信息，提高相关度。GAE对输入的状态数据进行去噪以及为了可视化进行降维，可以在预测结果生成的前提下降低模型复杂度。

经过一系列的消息传递过程以及信息提取过程之后之后，得到了更新后的隐藏状态，然而得到的仍是图节点信息，最终需要对状态进行聚合并读出预测值。读出阶段主要使用读出函数R计算整张图的特征向量，输出路径级特征

进一步地，所述网络建模具体如下：

(1)对于给定网络G，已知拓扑连接关系T，将拓扑中的任一节点i表示为v

p

设定输入流量为路径特征，链路带宽为链路特征，节点配置信息为节点特征，其中，节点配置信息包括队列调度配置、队列的大小等。

(2)以步骤(1)所述网络特征为基础收集NSFNet网络拓扑下的网络状态视图和资源视图的数据集，其中，数据集包括性能信息、流量信息、路由信息和拓扑信息，以TFRecord格式读取获取到的数据集，根据输入路径、链路、节点特征，输出路径级别的隐藏状态信息，预测路径级别的性能指标，构建一种基于图神经网络的网络性能预测模型，所述图神经网络由消息传递过程和图读取过程组成，使用训练集对模型进行训练，训练过程中采用计划采样机制，使用测试集输入训练过的模型测试预测能力。

进一步地，所述计划采样机制为：在模型训练的前期，以较大的概率输入目标序列的真实标签以改善因为模型训练初期预测不准确而难以收敛的现象，随着训练过程的进行，概率逐渐衰减，具体描述如下：

假设模型训练过程已进行到了i个mini-batch，则定义概率∈

由于在训练过程中生成输出结果y

采用所述计划采样机制，在训练过程中，下一步的输入不完全使用真实的序列标签，以概率∈

进一步地，在图神经网络的消息传递过程中，主要遵循以下原则：

(1)路径的状态属性与路径所包含的所有节点及链路状态属性相关；

(2)链路的状态属性与链路所处所有路径相关；

(3)节点的状态属性与节点所处所有路径相关。

因此如前述公式展示，要更新路径的隐藏信息，需要对与该条路径相关联的节点和链接的状态信息进行消息交错传递，再结合路径当前状态进行状态更新。

进一步地，所述图神经网络模型采取一种表示空域卷积的形式化框架——消息传递网络(MPNN)，基于此将空域卷积分为两个步骤即消息传递和状态更新，扩展已有的图神经网络体系结构，结合图自编码器进行了模型的改进，并以此来提高了网络性能评估参数的预测能力。

进一步地，所述消息传递过程即更新图隐藏状态的数学处理过程。该过程采取空域卷积的方法聚合邻居节点的信息，分为两个步骤：消息传递和状态更新。其通过级联的层来捕获邻接的消息，且层与层之间的参数不同。该方法可以将节点和链路状态消息交错传递，然后结合路径当前状态进行状态更新。最后再由输出函数处理更新状态和特征，产生输出。

进一步地，所述图神经网络的框架为消息传递神经网络，该框架假设边缘特征非离散，并将GNN处理过程分为消息传递阶段和读出阶段。

下面结合实施例对本发明作进一步说明。

本发明使用TensorFlow作为深度学习框架，开发实现所提出的基于SDN架构的网络性能智能预测模型，所使用的训练数据集为Krzysztof Rusek等通过OMNet++所产生的KDN网络建模开源数据集，即在NSFNet网络拓扑下收集的数据所构成的数据集。该数据集主要包含以下信息：网络拓扑、路由配置、一些特定的网络配置(如拓扑、流量分布、路由等)以及一些可测量网络性能参数(时延、抖动、丢包率等)。

本实施例在通过L2损失函数(LSE)、均方根误差(RMSE)和皮尔森系数(Pearson)对模型表现进行评估，衡量了最终训练出的不同模型的精度之后，选取GRU层数为2，神经元数为32以及MLP全连接层数为2，各层的神经元数为256的图神经网络模型作为最优网络性能预测模型。

为验证本实施例构建的GNN模型相较于Routenet来说，由于体系结构的扩展(将消息传递过程更全面地表示成了节点、链路和路径的相互传递和状态更新而非链路和路径的相互关联)和模型的改进(使用了自编码器对消息传递后的状态特征信息进行和输出特征信息进行更有用的信息提取，提高了无用的数据信息抗噪能力和输入和输出特征的相关度)，提高了网络性能预测评估的准确性，进行了一些列实验对比，选取平均绝对误差(MAE)作为度量模型的预测能力的评价参数，结果如图2所示。

由图2的结果可以看出，随着训练步长的增加，本实施例所选取的GNN模型与Routenet模型相较而言，MAE函数曲线波动更小，且距0更近，因此预测效果更为优秀稳定。尤其是步长越长，差距越明显。经计算，本实施例GNN模型的MAE系数大约为0.0282，Routenet模型的MAE系数大约为0.0349，降低了近19.20％的MAE指标。这都得益于模型的改进对于有用信息的提取更为精准，使得训练时候的预测能力得到明显的提升。

为进一步验证体系结构的扩展对性能评估的影响，先用MAD来刻画本实施例的GNN模型的预测结果，选取时延模型来进行预测值与真实值的差值，以离散点是否聚集在回归模型y＝x+ε上来表示预测-真实值的差，从而来判断训练后的模型是否有良好的预测性能，最终结果如图3所示。

由图3结果可以看出，经GNN模型预测的结果散点基本都聚集在回归线上，经计算其绝对平均距离为0.0267，预测值与真实值基本重合，由此证实了新构建的模型在网络性能评估中的时延指标有着突出表现。

为总体评估该GNN模型在时延、抖动和丢包率中的预测性能以及与Routenet模型体系结构上的对比，本实施例进一步采用累积分布函数(CDF)来对预测结果进行分析。对于CDF图像来说，以平均相对误差ε(MRE)作为横坐标，以预测的离散结果与实际的离散值的相对误差小于等于ε的值的累积分布作为纵坐标，即：

由于CDF为离散变量的和，因此呈现的是梯形结构，最终会达到1，CDF梯形线越集中到中心点位置，则预测效果越优秀。具体结果如图4-a、图4-b和图4-c所示。

由图4-a、图4-b和图4-c结果可以看出，本实施例所提出的的GNN模型在时延、抖动和丢包率等网络性能评估指标中都具有良好的预测效果。由于模型的体系结构经过调整和改进，考虑到了节点信息，在新构建的包含节点配置的数据集下，上述三个网络性能评估指标各自的CDF对比图中，相对于虚线来说，实线都要明显更靠近中心线，说明本实施例的GNN模型的预测值与真实值的相对误差分布更接近于0，该模型在预测评估网络性能这一方面要比Routenet更加精准。

就GNN模型而言，由于本实施例所采用的是经时延数据训练的模型，而观察图4-a、图4-b和图4-c的实线部分，可以看出图4-a的实线要更靠近中心线，说明本实施例所提出的模型对时延的预测效果要略好于抖动和丢包率，也证明该模型具有一定的泛化能力。

上述实施例用来解释说明本发明，而不是对本发明进行限制，在本发明的精神和权利要求的保护范围内，对本发明作出的任何修改和改变，都落入本发明的保护范围。