ARMA模型

ARMA模型e或移动平均线的自回归模型及其扩展（ARMAX模型和ARIMA模型）是随机过程的线性、离散时间模型. 它们用于时间序列的统计分析，特别是在经济学、社会科学和工程学中。

Box-Jenkins 方法涵盖了 ARMA 模型的规范、估计、验证和实际应用。最重要的应用是短期预测。这些模型采用线性差分方程的形式，用于描述线性随机过程或近似更复杂的过程。

如果时间序列本身的过去噪声项和过去值都流入 ARMA 模型，那么也可以说是混合 ARMA 模型。如果它只是当前和过去的噪声项，它就是一个（纯）移动平均线或 MA 模型。如果，除了当前噪声项之外，只包括时间序列本身的过去值，则它是一个（纯）自回归或 AR 模型。

y t = c + ε t + ∑ j = 1 q b j ε t − j

要建模的信号 y t 由噪声项 ε t − j , j = 1 , . 的加权移动平均值定义。 . . , q ,在当前和 q 以前的时期以及常数 c {\displaystyle c} 被给出。所谓的 MA 系数 b j , j = 1 , … , q , 表示噪声项在信号中的权重。

关于噪声项 ε t，假设它们在时间上是独立的并且同分布（通常是高斯分布），期望值为 0，方差为 0 <; σ 2 < ∞ 。

y t = c + ε t + ∑ i = 1 p a i y t − i

信号由常数、噪声项和 p前信号值的加权移动平均值组成，其中 AR 系数 a i , i = 1 , … , p , 是权重。

y t = c + ε t + ∑ i = 1 p a i y t − i + ∑ j = 1 q b j ε t − j

该模型也称为 ARMA(p,q) 模型，其中 p 和 q 分别表示过程的自回归阶数和移动平均阶数。因此，纯 AR(p) 或 MA(q) 模型是特殊的 ARMA 模型，其中 q=0 或 p=0。

使用所谓的移位或滞后运算符 L （来自滞后，“时间移位”）：

L d x t = x t − d

ARMA(0,0) 过程 y t = c + ε t ，其中 y t 是噪声项（可能加上常数) 称为白噪声。

随机游走是一阶 (p=1) AR 过程，其中 AR 系数的值为 1，即

y t = c + y t − 1 + ε t

如果 c ≠ 0 适用于常数，那么我们也可以说是有漂移的随机游走，否则就是没有漂移的随机游走。 随机游走总是对 1 阶积分。

在非平稳时间序列的情况下，有时可以通过形成差异来诱发平稳性。 y t 的一阶差分由 Δ y t = y t − y t − 1 定义，其中 Δ = 1 − L就是所谓的差分算子。如果不将 y t建模，而是将 dth 差值 Δ d y t 作为 ARMA(p, q) 模型，那么可以说一个 p、d 和 q 阶的集成 ARMA 模型，或简而言之：一个 ARIMA(p,d,q) 模型。 原始的、未微分的时间序列的值是通过 Δ d y t 的 d 倍积分（“反差异形成”）获得的。

如果需要一个或多个外生变量来对时间序列 y t建模，那么我们就称之为 ARMAX 模型。 对于外生变量 x t 那么：

a ( L ) y t = c + b ( L ) ε t + e ( L ) x t

其中多项式 e ( L ) 描述了外生变量 x t 影响变量 y t 的滞后结构。

季节性影响经常出现在经济和其他时间序列中。 例如月度失业数据、季度零售额等。为了将这些考虑在内，可以指定额外的季节性 AR 或 MA 组件。 给定具有季节性范围 s 的数据，那么季节性 ARMA -Model形状：

a S ( L s ) a ( L ) y t = c + b S ( L s ) b ( L ) ε t

由此

a S ( L s ) = 1 − a S , 1 L s − ⋯ − a S , P L P s

是 P {\displaystyle P} 阶的季节性 AR 多项式，并且

b S ( L s ) = b S , 0 + b S , 1 L s +⋯ + b S , Q L Q s

Q 阶的季节性 MA 多项式。

VARMA 模型 e 是 ARMA 模型 e 的自然推广。 VAR 模型是随机过程的线性、时间离散模型，具有 N {\displaystyle N} 个内生变量：每个变量一起取决于 p {\displaystyle p} 个前信号值。 VMA 模型是 MA 模型的推广，可用于脉冲响应函数分析。

在实践中，ARMA模型化通常遵循Box-Jenkins方法，由模型识别、估计、验证和应用等步骤组成。

识别的目的是确定 ARMA 规范参数 d、p 和 q。单位根检验可用于确定 d，必要的差异顺序。 对于 ARMA 阶数 p 和 q，通常使用自相关函数 (AKF) 和偏自相关函数，以及模型选择标准，例如 Akaike 信息标准或贝叶斯信息标准。

模型参数的估计大多采用最 大似然估计或最小二乘估计。在纯 AR 模型的情况下，最小二乘估计器是线性估计器；否则需要非线性最小二乘估计。