AR模型及其平稳性

定义

具有如下结构的模型称为p阶自回归模型，简记为AR§:
$$x_t={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+{\varphi }_3{x}_{t-3}...++{\varphi }_p{x}_{t-p}+{ϵ}_t$$

AR§模型有三个限制条件：
（1）${\varphi }_p\ne 0$，这个条件保证了AR模型最高阶为p阶。
（2）$E({ϵ}_t)=0，Var({ϵ}_t)={\sigma }^2，E({ϵ}_t{ϵ}_s)=0,s\ne t$,这个条件保证了随机干扰序列是零均值的白噪声序列。
（3）$E(x_s{ϵ}_t)=0,\forall s<t$，这个条件说明了当期的随机扰动项与过去的序列值无关。

当${\varphi }_0=0$时，自回归模型又称为中心化AR§模型。非中心化模型可通过以下变换转化为中心化模型：
$$y_t=x_t-\frac{{\varphi }_0}{1-{\sum }_{i=1}^p{\varphi }_i}$$
具体如下：
$$y_t=x_t-\frac{{\varphi }_0}{1-{\sum }_{i=1}^p{\varphi }_i}={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+{\varphi }_3{x}_{t-3}...++{\varphi }_p{x}_{t-p}+{ϵ}_t-\frac{{\varphi }_0}{1-{\sum }_{i=1}^p{\varphi }_i}$$
$$=-\frac{{\varphi }_0{\sum }_{i=1}^p{\varphi }_i}{1-{\sum }_{i=1}}+\sum _{i=1}^p{\varphi }_i(x_i-\frac{{\varphi }_0}{1-{\sum }_{i=1}^p{\varphi }_i})+\frac{{\varphi }_0{\sum }_{i=1}^p{\varphi }_i}{1-{\sum }_{i=1}}$$
$$=\sum _{i=1}^p{\varphi }_i(x_i-\frac{{\varphi }_0}{1-{\sum }_{i=1}^p{\varphi }_i})=\sum _{i=1}^p{\varphi }_i{y}_i$$
此时非中心化模型转化为中心化模型。

当引入延迟算子时，中心化AR§模型可以简记为：
$$\Phi (B)x_t={ϵ}_t$$
其中
$$\Phi (B)=1-{\varphi }_{1}B-{\varphi }_2{B}^2-...-{\varphi }_p{B}^p$$

模型平稳性判别

AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都平稳，因此需要对AR模型的平稳性进行判别。

判别方法

（1）图示法

如针对以下两个AR模型：
$$x_t=1.1x_{t-1}+{ϵ}_t\dots \dots (1)$$
$$x_t=x_{t-1}-0.2x_{t-2}+{ϵ}_t\dots \dots （2）$$

import random
import matplotlib.pyplot as plt
data_1 = [5,3]
data_2 = [5,3]
for i in range(1,1000):
    res_1 = 1.1*data_1[i]+random.random()
    res_2 = data_2[i]-0.2*data_2[i-1]+random.random()
    data_1.append(res_1)
    data_2.append(res_2)
plt.plot(data_1)
plt.plot(data_2)

从图中可以看出模型（1）是非平稳的，模型（2）是平稳的。
图示法是通过时序图进行判别，有时会不准确，除此之外还有另外两种准确的判别方法。

（2）特征根法

对于p阶AR模型而言，其特征方程为：
$${\lambda }^p-{\varphi }_1{\lambda }^{p-1}-...-{\varphi }_p=0$$
对于上述其次线性方程组可以求出p个非零特征根${\lambda }_1，{\lambda }_2，...，{\lambda }_p$
对于AR§模型而言，其可以看作是一个非齐次线性方程组，可求得其的一个特解为$f^{\ast }(t)$，可得：
$$f_0(t)=\sum _{j=1}^p{\varphi }_j{f}_o(t-j)+{ϵ}_t$$
所以可得到AR§模型的通解为：
$$x_t=c_1{\lambda }^t+c_2{\lambda }^t+...+c_p{\lambda }^t+f_0(t)()$$
式中$c_1,c_2,...,c_p$为任意实数。
平稳序列的值始终在均值附近波动，不会随时间增加而发散，因此对两边取极限，可得
$$\underset{t\to \infty }{\lim }{x}_t=\underset{t\to \infty }{\lim }[c_1{\lambda }^t+c_2{\lambda }^t+...+c_p{\lambda }^t+f_0(t)]=\mu$$
由于对于任何$c_1,c_2,...,c_p$都成立，要保证每一个幂函数都不能发散，即：
$$|{\lambda }_j|<1,1\le j\le p$$
即要使AR§模型是平稳的，则其对应特征方程的特征根的绝对值要小于1。

举例

如对于一个AR(2)模型$x_t=x_{t-1}-0.2x_{t-2}+{ϵ}_t$，其特征方程为：
$${\lambda }^2-\lambda +0.2=0$$可解得其特征根为${\lambda }_1=\frac{1+\sqrt{0.2}}{2},{\lambda }_2=\frac{1-\sqrt{0.2}}{2}$,由于${\lambda }_1<1,{\lambda }_2<1$，可得此AR(2)模型平稳。

自回归系数多项式

我们不仅可以直接通过AR模型对应特征方程的特征根来判别模型是否平稳，还可以通过自回归系数多项式的根来判别AR模型是否平稳。
当引入延迟算子时，中心化AR§模型可等价为：
$$\Phi (B)x_t={ϵ}_t$$

其中$\Phi (B)=1-{\varphi }_{1}B-{\varphi }_2{B}^2-...-{\varphi }_p{B}^p$。
如果${\lambda }_i$是AR模型对应特征方程的特征根，则有：
$${\lambda }_i^p-{\varphi }_1{\lambda }_i^{p-1}-{\varphi }_2{\lambda }_i^{t-2}-...-{\varphi }_p=0$$
另$u_i=1/{\lambda }_i$，则：
$$\Phi (u_i)=1-{\varphi }_1{u}_i-{\varphi }_2{u}_i^2-...-{\varphi }_p{u}_i^p$$$$=1-{\varphi }_1\frac{1}{{\lambda }_i}-{\varphi }_2\frac{1}{{\lambda }_i^2}-...--{\varphi }_p\frac{1}{{\lambda }_i^p}$$$$=\frac{1}{{\lambda }_i^p}({\lambda }_i^p-{\varphi }_1{\lambda }_i^{p-1}-{\varphi }_2{\lambda }_i^{p-2}-...-1)=0$$
所以$u_i=\frac{1}{{\lambda }_i}$是自回归系数多项式的解，而$|{\lambda }_i|<1$,可得$|u_i|>1$，即自回归系数多项式的根全都大于1时，AR模型是平稳的。

（3）平稳域法

对于低阶的AR模型而言，使用平稳域判别相对简单。
①AR(1)模型
AR(1)模型的表达式为：
$$x_t={\varphi }_1{x}_{t-1}+{ϵ}_t$$其特征方程为：
$$\lambda -{\varphi }_1=0$$
特征根为$\lambda ={\varphi }_1$,可推出AR(1)模型平稳的充要条件为$|{\varphi }_1|<1$,所以其平稳域为 { ϕ 1 ∣ ∣ ϕ 1 ∣ < 1 } \{\phi_1||\phi_1|<1\} { ϕ1​∣∣ϕ1​∣<1}。

举例

如对于一个AR(1)模型$x_t=1.1x_{t-1}+{ϵ}_t$，$|{\varphi }_1|=1.1>1$，不在平稳颙内，可得此AR(1)模型不平稳。

②AR(2)模型
AR(2)模型的表达式为：
$$x_t={\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+{ϵ}_t$$其特征方程为：
$${\lambda }^2-{\varphi }_1\lambda -{\varphi }_2=0$$

特征根为${\lambda }_1=\frac{{\varphi }_1+\sqrt{{\varphi }_1^2+4{\varphi }_2}}{2},{\lambda }_2=\frac{{\varphi }_1-\sqrt{{\varphi }_1^2+4{\varphi }_2}}{2}$，可得${\lambda }_1+{\lambda }_2={\varphi }_1，{\lambda }_1{\lambda }_2=-{\varphi }_2$，AR(2)模型平稳的充要条件为$|{\lambda }_1|<1且|{\lambda }_2|<1$。

结合以上条件，可得到：
$$|{\lambda }_1{\lambda }_2|=|-{\varphi }_2|=|{\varphi }_2|<1$$

$${\varphi }_2+{\varphi }_1={\lambda }_1+{\lambda }_2-{\lambda }_1{\lambda }_2=1-(1-{\lambda }_1)(1-{\lambda }_2)<1$$

$${\varphi }_2-{\varphi }_1={\lambda }_1+{\lambda }_2+{\lambda }_1{\lambda }_2=1-(1+{\lambda }_1)(1+{\lambda }_2)<1$$

可推出其平稳域为 { ϕ 1 , ϕ 2 ∣ ∣ ϕ 2 ∣ < 1 且 ϕ 2 ± ϕ 1 < 1 } \{\phi_1,\phi_2\mid |\phi_2|<1且\phi_2 \pm \phi_1<1\} { ϕ1​,ϕ2​∣∣ϕ2​∣<1且ϕ2​±ϕ1​<1}。

举例

如对于一个AR(2)模型$x_t=x_{t-1}-0.2x_{t-2}+{ϵ}_t$，其中$|{\varphi }_2|=0.2<1$,${\varphi }_2+{\varphi }_1=0.8<1,{\varphi }_2-{\varphi }_1=-1.2<1$，可得此AR(2)模型平稳。