多元时间序列预测 —— 向量自回归（VAR）

先来回忆一下单变量 $p$ 阶自回归模型 $AR(p)$：
$y_t = w_0 + \sum_{i=1}^p w_i y_{t-i} + \epsilon_t$
那么对于多变量情形， $\mathbf{y} \in R^n$，可以很自然地推广：
$\mathbf{y}_t = \text{b} + \sum_{i=1}^p W_i \mathbf{y}_{t-i} + \text{E}_t$
上式中 $W_i \in R^{n\times n}, \quad \text{E}_t,b \in R^n$.

怎么来计算参数 $W_i$ 呢？

转化成优化问题：
$\min_{W_i,b} \quad \sum_t\left|\left|\mathbf{y}_t - \text{b} - \sum_{i=1}^p W_i \mathbf{y}_{t-i}\right|\right|_2^2$
甚至
$\min_{W_i,b} \quad \sum_t\left|\left| \mathbf{y}_t -\left[ \begin{array}{ll} \text{b} & W_1 & W_2 & \cdots & W_p \end{array} \right] \left[ \begin{array}{l} 1\\ \mathbf{y}_{t-1} \\ \mathbf{y}_{t-2}\\ \vdots\\ \mathbf{y}_{t-p} \end{array} \right] \right|\right|_2^2$
这就简单了吧，直接最小二乘法求解即可。