时间序列预测方法及相关的时间序列预测电路

技术领域

本发明涉及时间序列预测方法，尤其涉及一种具有集成学习的时间序列预测方法。

背景技术

在一般的时间序列预测方法中，可以采用一个或是多个模型来产生预测时间序列，然而，在采用多个模型的情形下，如何根据多个模型来产生具有高可靠度的预测时间序列是一个重要的课题。

发明内容

因此，本发明的目的之一在于提出一种时间序列预测方法，其可以有效地产生具有高可靠度的预测时间序列，以解决先前技术中所述的问题。

在本发明的一个实施例中，提供了一种时间序列预测方法，其包含以下步骤：将一时间序列分别输入至多个模型中以产生多个预测时间序列；分别使用所述多个模型以计算出分别对应到所述多个预测时间序列的多个不确定性参数；根据所述多个不确定性参数来决定出每一个预测时间序列的一权重；以及根据每一个预测时间序列的所述权重来对所述多个预测时间序列进行加权运算，以产生一最终预测时间序列。

在本发明的另一个实施例中，提供了一种时间序列预测电路，其包含多个预测电路以及一计算电路。在所述时间序列预测电路的操作中，所述多个预测电路分别使用多个模型来对一时间序列进行处理以分别产生多个预测时间序列，且分别使用所述多个模型以计算出分别对应到所述多个预测时间序列的多个不确定性参数；以及所述计算电路用以根据所述多个不确定性参数来决定出每一个预测时间序列的一权重，并根据每一个预测时间序列的所述权重来对所述多个预测时间序列进行加权运算，以产生一最终预测时间序列。

附图说明

图1为根据本发明一实施例的时间序列预测电路的示意图。

图2为根据本发明的一种时间序列预测方法的流程图。

具体实施方式

图1为根据本发明一实施例的时间序列预测电路100的示意图。如图1所示，时间序列预测电路100包含了多个预测电路110_1～110_N以及一计算电路120。在本实施例中，预测电路110_1～110_N分别具有不同的模型，例如图1所示的预测电路110_1具有第一模型、预测电路110_2具有第二模型、…、预测电路110_N具有第N模型。此外，时间序列预测电路100及其内部组件可以使用硬件电路来实现，或是通过一处理器来执行一描述特定算法的程序代码来实现。

预测电路110_1～110_N可以包含多个神经网络模型及/或回归模型，例如长短期记忆(Long Short-Term Memory，LSTM)神经网络模型、多层感知器(MultilayerPerceptron，MLP)、其他人工神经网络(Artificial Neural Network，ANN)模型或是自回归滑动平均模型(Autoregressive moving average model)…等等。在一实施例中，具有不同层或是不同参数的神经网络模型可以视为不同的模型，例如预测电路110_1～110_N可以是分别具有不同层或是不同参数的LSTM神经网络模型；在另一实施例中，预测电路110_1～110_N可以包含不同种类的神经网络模型，例如预测电路110_1是LSTM神经网络模型，而预测电路110_2是MLP模型。

在时间序列预测电路100的操作中，预测电路110_1～110_N分别接收一时间序列，并分别使用第一模型～第N模型以分别产生多个预测时间序列Y1～YN，其中该时间序列可以是任意与时间相关的资料，例如今年某一季的家庭支出、公司内部的特定费用支出…等等，而每一个预测时间序列Y1～YN则用来表示时间点位于该时间序列的后的数据，例如今年下一季的家庭支出、公司内部的特定费用支出…等等。需注意的是，在本实施例中假设预测电路110_1～110_N中的模型已经通过之前多笔时间序列数据进行训练，例如先前多年中每一季的家庭支出、公司内部的特定费用支出。此外，由于使用模型来产生预测时间序列的技术内容已为本领域技术人员所熟知，因此相关模型的操作细节在此不予赘述。

预测电路110_1～110_N除了分别产生预测时间序列Y1～YN之外，另外也会分别使用第一模型～第N模型以计算出分别对应到预测时间序列Y1～YN的多个不确定性参数σ1～σN。以预测电路110_1为例来说明，预测电路110_1通过隐藏第一模型中不同的节点或是忽略第一模型中不同的路径来产生多个测试时间序列，并根据该多个测试时间序列来决定出第一模型所产生的预测时间序列Y1的不确定性参数σ1。详细来说，预测电路110_1可以先忽略第一模型中的一条路径，并接收该时间序列后以产生第一笔测试时间序列；再改变第一模型中所忽略的路径，并接收该时间序列后以产生第二笔测试时间序列…以此类推以产生多笔测试时间序列，之后预测电路110_1根据多笔测试时间序列之间的差异来决定出第一模型所产生的预测时间序列Y1的不确定性参数σ1。关于不确定性参数σ1的详细计算内容可以参考Lingxue Zhu以及Nikolay Laptev所著的“Deep and Confident Prediction forTime Series at Uber”，因此相关计算细节在本说明书中不再赘述。

接着，计算电路120根据不确定性参数σ1～σN来决定出每一个预测时间序列Y1～YN的权重W1～WN，并根据每一个预测时间序列的权重W1～WN来对预测时间序列Y1～YN进行加权运算(例如，加权平均或是加权相加)，以产生一最终预测时间序列Y_OUT。最终预测时间序列Y_OUT可以计算如下：

如上所述，通过使用不确定性参数σ1～σN来产生对应的权重以对每一个预测时间序列Y1～YN进行加权运算，可以让时间序列预测电路100所产生的最终预测时间序列Y_OUT具有高的准确性以及可靠度，以解决先前技术中的问题。

在一实施例中，若是已知不同时间序列之间存在一定关系，则可以利用此关系的预测结果来修正第一模型～第N模型的一损失函数(loss function)，具体来说，预测电路110_1～110_N以及计算电路120另计算出对应于另一时间序列的另一最终预测时间序列，且预测电路110_1～110_N根据最终预测时间序列Y_OUT以及该另一最终预测时间序列来修正第一模型～第N模型的损失函数。详细来说，假设具有k笔时间序列X1～Xk，k笔时间序列X1～Xk具有已知的关系如下：Xk＝X1+X2+…+X(k-1)，损失函数L(Y_true,Y_OUT)为均方误差(Mean square error，MSE)函数，其中“Y_true”为最终预测时间序列Y_OUT的实际值，则损失函数L(Y_true,Y_OUT)可以修正如下：

L'(Y_true，Y_OUT)＝L'(Y_true，Y_OUT)+∑|(Y_OUT1+Y_OUT2+...+Y_OUT(k-1))-Y_OUT|；

其中L’(Y_true,Y_OUT)为修正后的损失函数、Y_OUT1～Y_OUTk分别为时间序列X1～Xk在经过图1所示的时间序列预测电路100后所产生的最终预测时间序列。

图2为根据本发明的一种时间序列预测方法的流程图，同时参考以上实施例的说明，时间序列预测方法的流程如下所述：

步骤200：流程开始。

步骤202：将一时间序列分别输入至多个模型中以产生多个预测时间序列。

步骤204：分别使用该多个模型以计算出分别对应到该多个预测时间序列的多个不确定性参数。

步骤206：根据该多个不确定性参数来决定出每一个预测时间序列的一权重。

步骤208：根据每一个预测时间序列的该权重来对该多个预测时间序列进行加权运算，以产生一最终预测时间序列。

以上所述仅为本发明的优选实施例，凡依本发明申请专利范围所做的同等变化与修饰，皆应属本发明的涵盖范围。

【符号说明】

100…时间序列预测电路

110_1…预测电路(第一模型)

110_2…预测电路(第二模型)

110_N…预测电路(第N模型)

120…计算电路

200～208…步骤

Y1～YN…预测时间序列

Y_OUT…最终预测时间序列

σ1～σN…不确定性参数