预测模型-时间序列模型
时序预测模型
一、自回归 (AR)
在 AR 模型中，我们使用变量过去值的线性组合来预测感兴趣的变量。术语自回归表明它是变量对自身的回归。
二、移动平均模型(MA)
与在回归中使用预测变量的过去值的 AR 模型不同，MA 模型在类似回归的模型中关注过去的预测误差或残差。
三、自回归滑动平均(ARMA)
在 AR 模型中，我们使用变量过去值与过去预测误差或残差的线性组合来预测感兴趣的变量。它结合了自回归 (AR) 和移动平均 (MA) 模型。
AR 部分涉及对变量自身的滞后（即过去）值进行回归。MA部分涉及将误差项建模为在过去不同时间同时发生的误差项的线性组合。模型的符号涉及将 AR§ 和 MA(q) 模型的顺序指定为 ARMA 函数的参数，例如 ARMA（p，q）。
四、ARIMA模型
ARIMA模型是一种应用非常广泛而且极为经典的传统时间序列预测模型。ARIMA模型对于平稳时序抑或不平稳的数据都有很好的处理能力，并且对于大多数的场景预测都有很好的效果。ARIMA模型认为时间序列的趋势发展受到内在的规律和外界共同的影响，它的核心思想是首先利用自回归算法把历史序列值、当前序列值以及外界因素通过一定的模型联系起来，再利用一定的统计方法得出合适的模型参数，来融合三者的关系。
五、SARIMA模型
SARIMA模型也称作季节性差分自回归滑动平均模型。SARIMA模型是在ARMA模型基础上添加了差分和季节性差分的原理改造而成。
六、包含外生变量的SARIMA (SARIMAX)
SARIMAX 模型是传统 SARIMA 模型的扩展，包括外生变量的建模，是Seasonal Autoregressive Integrated Moving-Average with Exogenous Regressors 的缩写
外生变量是其值在模型之外确定并施加在模型上的变量。它们也被称为协变量。外生变量的观测值在每个时间步直接包含在模型中，并且与主要内生序列的使用不同的建模方式。
SARIMAX 方法也可用于通过包含外生变量来模拟具有外生变量的其他变化，例如 ARX、MAX、ARMAX 和 ARIMAX。
七、向量自回归 (VAR)
VAR 模型是单变量自回归模型的推广，用于预测时间序列向量或多个并行时间序列，例如 多元时间序列。它是关于系统中每个变量的一个方程。
如果序列是平稳的，可以通过将 VAR 直接拟合到数据来预测它们（称为“VAR in levels”）。如果序列是非平稳的，我们会取数据的差异以使其平稳，然后拟合 VAR 模型（称为“VAR in differences”）。
我们将其称为 VAR§ 模型，即 p 阶向量自回归模型。
八、向量自回归滑动平均模型 (VARMA)
VARMA 方法是 ARMA 对多个并行时间序列的推广，例如 多元时间序列。具有有限阶 MA 误差项的有限阶 VAR 过程称为 VARMA。
模型的公式将 AR§ 和 MA(q) 模型的阶数指定为 VARMA 函数的参数，例如 VARMA（p，q）。VARMA 模型也可用于VAR 或 VMA 模型。
九、包含外生变量的向量自回归滑动平均模型 (VARMAX)
Vector Autoregression Moving-Average with Exogenous Regressors (VARMAX) 是 VARMA 模型的扩展，模型中还包含使用外生变量的建模。它是 ARMAX 方法对多个并行时间序列的推广，即 ARMAX 方法的多变量版本。
VARMAX 方法也可用于对包含外生变量的包含模型进行建模，例如 VARX 和 VMAX。
十、指数平滑模型
指数平滑模型是一种传统的时间序列预测方法，由移动平均模型改进而来。指数平滑模型的原理是将当前实际值和历史数据值通过一定比例平均计算，以及改变当前值的权重从而得到平滑值，在通过一定的计算构成预测模型。指数平滑模型会拟合所有的历史数据，但是会赋予指数衰减的权重。
十一、Holt-Winters 法
在 1957 年初，Holt扩展了简单的指数平滑法，使它可以预测具有趋势的数据。这种被称为 Holt 线性趋势的方法包括一个预测方程和两个平滑方程（一个用于水平，一个用于趋势）以及相应的平滑参数 α 和 β。后来为了避免趋势模式无限重复，引入了阻尼趋势法，当需要预测许多序列时，它被证明是非常成功和最受欢迎的单个方法。除了两个平滑参数之外，它还包括一个称为阻尼参数 φ 的附加参数。
一旦能够捕捉到趋势，Holt-Winters 法扩展了传统的Holt法来捕捉季节性。Holt-Winters 的季节性方法包括预测方程和三个平滑方程——一个用于水平，一个用于趋势，一个用于季节性分量，并具有相应的平滑参数 α、β 和 γ。
此方法有两种变体，它们在季节性成分的性质上有所不同。当季节变化在整个系列中大致恒定时，首选加法方法，而当季节变化与系列水平成比例变化时，首选乘法方法。
十二、LSTM模型
LSTM是一种时间递归神经网络，它出现的原因是为了解决RNN的一个致命的缺陷。原生的RNN会遇到一个很大的问题，叫做The vanishing gradient problem for RNNs，也就是后面时间的节点会出现老年痴呆症，也就是忘事儿，这使得RNN在很长一段时间内都没有受到关注，网络只要一深就没法训练。后来有些大牛们开始使用递归神经网络来对时间关系进行建模。而根据深度学习三大牛的阐述，针对时间序列数据，LSTM网络已被证明比传统的RNNS更加有效。
适合多输入变量的神经网络模型一直让开发人员很头痛，但基于（LSTM）的循环神经网络能够几乎可以完美的解决多个输入变量的问题。基于LSTM的循环神经网络可以很好的利用在时间序列预测上，因为很多古典的线性方法难以适应多变量或多输入预测问题。