Représentation MA d'un processus AR(2)

On peut construire un processus AR(2) asymptotiquement stationnaire en composant deux processus AR(1) asymptotiquement stationnaires. Soit \((X_t, t\in\mathbb Z)\) un processus AR(1) défini par :

\[ X_t = \rho_1 X_{t-1} + \varepsilon_t \]

avec l'innovation \(\varepsilon_t\) un bruit blanc centré de variance \(\sigma_{\varepsilon}^2\) et \(|\rho_1|<1\). De façon équivalente, en inversant le polynôme retard¹, on a :

\[ X_t = (1-\rho_1L)^{-1}\varepsilon_t \]

On définit le processus \((Y_t, t\in\mathbb Z)\) de la façon suivante :

\[ Y_t = \rho_2 Y_{t-1} + X_t \]

avec \(|\rho_2|<1\). On montre facilement que ce processus est un processus AR(2) asymptotiquement stationnaire. On a :

\[ (1-\rho_2 L) Y_t = X_t \]

soit, en substituant la définition de \(X_t\) (obtenue en inversant le polynôme retard \(1-\rho_1 L\)) :

\[ (1-\rho_2 L) Y_t = (1-\rho_1 L)^{-1} \varepsilon_t \]

En multipliant par \(1-\rho_1 L\), il vient :

\[ (1-\rho_1 L)(1-\rho_2 L) Y_t = \varepsilon_t \]

\[ \Leftrightarrow\left(1-(\rho_1+\rho_2) L+\rho_1\rho_2 L^2\right) Y_t = \varepsilon_t \]

\[ \Leftrightarrow Y_t = (\rho_1+\rho_2)Y_{t-1} - \rho_1\rho_2 Y_{t-2} + \varepsilon_t \]

Il s'agit bien d'un AR(2) et les racines du polynôme retard (\(1/\rho_1\) et \(1/\rho_2\)) sont bien plus grandes que 1 en valeur absolue. Notons qu'il n'est pas toujours possible d'écrire un AR(2) comme la composition de deux AR(1) réels, tout simplement parce que les racines du polynôme retard ne sont pas toujours réelles et il faudrait donc composer des AR(1) complexes.

On peut obtenir la représentation MA(\(\infty\)) en inversant les polynômes retard \(1-\rho_2 L\) et \(1-\rho_1 L\) :

\[ (1-\rho_2 L) Y_t = \sum_{i=0}^{\infty} \rho_1^i\varepsilon_{t-i} \]

\[ \Leftrightarrow Y_t = \sum_{j=0}^{\infty}\rho_2^j L^j \sum_{i=0}^{\infty} \rho_1^i\varepsilon_{t-i} \]

\[ \Leftrightarrow Y_t = \sum_{j=0}^{\infty}\sum_{i=0}^{\infty} \rho_2^j\rho_1^i\varepsilon_{t-i-j} \]

\[ \Leftrightarrow Y_t = \sum_{k=0}^{\infty}\left(\sum_{i=0}^{k} \rho_1^i\rho_2^{k-i}\right)\varepsilon_{t-k} \]

L'intérêt de cette écriture est que l'on voit clairement comment les coefficients moyenne mobile :

\[ \theta_k = \sum_{i=0}^{k} \rho_1^i\rho_2^{k-i} \]

dépendent de (l'inverse) des racines du polynôme retard, c'est-à-dire des racines du polynôme caractéristique associé à l'AR(2). Ces paramètres tendent vers 0 quand \(k\) tend vers l'infini. On peut montrer que la suite \((\theta_k)_{k\in\mathbb N}\) est absolument sommable. En effet, en supposant les deux racines distinctes (si \(\rho_1=\rho_2=\rho\), la somme géométrique se simplifie en \(\theta_k=(k+1)\rho^k\) et la conclusion est inchangée) :

\begin{equation*} \begin{split} \sum_{k=0}^{\infty} |\theta_k| &= \sum_{k=0}^{\infty} \left|\sum_{i=0}^{k} \rho_1^i\rho_2^{k-i}\right|\\ &= \sum_{k=0}^{\infty} \left|\rho_2^k\frac{1-\left(\frac{\rho_1}{\rho_2}\right)^{k+1}}{1-\frac{\rho_1}{\rho_2}}\right|\\ &= \sum_{k=0}^{\infty} \left|\frac{\rho_2^k-\frac{\rho_1}{\rho_2}\rho_1^k}{1-\frac{\rho_1}{\rho_2}}\right|\\ &= \left|\frac{\rho_2}{\rho_2-\rho_1}\right|\sum_{k=0}^{\infty} \left|\rho_2^k-\frac{\rho_1}{\rho_2}\rho_1^k\right|\\ &\leq \left|\frac{\rho_2}{\rho_2-\rho_1}\right|\sum_{k=0}^{\infty} \left(\left|\rho_2\right|^k+\left|\frac{\rho_1}{\rho_2}\right|\left|\rho_1\right|^k\right) < \infty \end{split} \end{equation*}

puisque les coefficients autorégressifs \(\rho_1\) et \(\rho_2\) sont strictement inférieurs à un en valeur absolue.

En pratique, on n'utilise pas cette définition des coefficients moyenne mobile \((\theta_k)_{k\in\mathbb N}\) mais une définition récursive. Pour cela on inverse directement le polynôme retard \(\Phi(L) = 1-(\rho_1+\rho_2)L + \rho_1\rho_2L^2\). Son inverse est un polynôme retard de la forme \(\Theta(L) = \sum_{i=0}^{\infty}\theta_iL^i\) tel que :

\[ \Phi(L)\Theta(L) = 1 \]

c'est-à-dire tel que :

\[ \left(1-(\rho_1+\rho_2)L + \rho_1\rho_2L^2\right)\left(\sum_{i=0}^{\infty}\theta_iL^i\right) = 1 \]

ou encore :

\[ \sum_{i=0}^{\infty}\theta_iL^i-(\rho_1+\rho_2)\sum_{i=0}^{\infty}\theta_iL^{i+1} + \rho_1\rho_2\sum_{i=0}^{\infty}\theta_iL^{i+2} = 1 \]

\[ \Leftrightarrow \theta_0 + \Bigl(\theta_1-(\rho_1+\rho_2)\theta_0\Bigr) L + \Bigl(\theta_2 -(\rho_1+\rho_2)\theta_1+\rho_1\rho_2\theta_0\Bigr) L^2 + \sum_{i=3}^{\infty}\Bigl(\theta_i-(\rho_1+\rho_2)\theta_{i-1}+\rho_1\rho_2\theta_{i-2}\Bigr) L^i= 1 \]

Par identification², on obtient le système suivant :

\begin{cases} \theta_0 &= 1\\ \theta_1 - (\rho_1+\rho_2)\theta_0 &= 0\\ \theta_2 - (\rho_1+\rho_2)\theta_1 + \rho_1\rho_2 \theta_0 &= 0\\ &\vdots\\ \theta_k - (\rho_1+\rho_2)\theta_{k-1} + \rho_1\rho_2 \theta_{k-2} &= 0\\ &\vdots \end{cases}

et donc :

\begin{cases} \theta_0 &= 1\\ \theta_1 &= (\rho_1+\rho_2)\theta_0\\ \theta_2 &= (\rho_1+\rho_2)\theta_1 - \rho_1\rho_2 \theta_0\\ &\vdots\\ \theta_k &= (\rho_1+\rho_2)\theta_{k-1} - \rho_1\rho_2 \theta_{k-2}\\ &\vdots \end{cases}

On note que la définition récursive du coefficient moyenne mobile ressemble beaucoup à la définition récursive de la fonction d'autocovariance de l'AR(2). Il est bien sûr possible de retrouver un terme général pour \(\theta_k\) à partir de l'équation récurrente pour le coefficient moyenne mobile, afin de comparer cette expression récursive avec le résultat que nous avions obtenu plus haut. On sait que les racines du polynôme caractéristique \(\chi(z) = z^2-(\rho_1+\rho_2)z + \rho_1\rho_2\) sont \(\rho_1\) et \(\rho_2\). La solution générale³, en supposant les deux racines différentes⁴, est donc de la forme :

\[ \theta_k = \alpha \rho_1^k + \beta \rho_2^k \]

Nous pouvons alors identifier les constantes \(\alpha\) et \(\beta\) à l'aide des conditions initiales de la récurrence, à savoir \(\theta_0=1\) et \(\theta_1=\rho_1+\rho_2\). Nous devons donc avoir :

\begin{cases} \alpha+\beta &= 1\\ \alpha\rho_1+\beta\rho_2 &= \rho_1+\rho_2 \end{cases}

ainsi, en substituant la première équation dans la seconde :

\[ \alpha\rho_1+(1-\alpha)\rho_2 = \rho_1+\rho_2 \]

\[ \Leftrightarrow \alpha(\rho_1-\rho_2)+\rho_2 = \rho_1+\rho_2 \]

\[ \Leftrightarrow \alpha = \frac{\rho_1}{\rho_1-\rho_2} \]

et donc

\[ \beta = -\frac{\rho_2}{\rho_1-\rho_2} \]

Finalement, on obtient :

\[ \theta_k = \frac{\rho_1}{\rho_1-\rho_2} \rho_1^k - \frac{\rho_2}{\rho_1-\rho_2} \rho_2^k \]

On vérifie que cela correspond bien à l'expression donnée plus haut :

\begin{equation*} \begin{split} \theta_k &= \sum_{i=0}^{k} \rho_1^i\rho_2^{k-i}\\ &= \rho_2^k \sum_{i=0}^{k} \left(\frac{\rho_1}{\rho_2}\right)^i\\ &= \rho_2^k \frac{1-\left(\frac{\rho_1}{\rho_2}\right)^{k+1}}{1-\frac{\rho_1}{\rho_2}}\\ &= \frac{\rho_2}{\rho_2-\rho_1}\left(\rho_2^k - \frac{\rho_1}{\rho_2}\rho_1^k\right)\\ &= \frac{\rho_2}{\rho_1-\rho_2}\left(\frac{\rho_1}{\rho_2}\rho_1^k - \rho_2^k\right)\\ &= \frac{\rho_1}{\rho_1-\rho_2} \rho_1^k - \frac{\rho_2}{\rho_1-\rho_2} \rho_2^k \end{split} \end{equation*}

Les expressions obtenues dans les deux sections précédentes supposent \(\rho_1\neq\rho_2\) : la somme géométrique de la première approche divise par \(1-\frac{\rho_1}{\rho_2}\), et la solution générale de la seconde n'est valable que pour deux racines distinctes. Voyons donc ce que devient la représentation MA(\(\infty\)) lorsque les deux racines sont confondues, \(\rho_1=\rho_2=\rho\) avec \(|\rho|<1\). Le processus s'écrit alors :

\[ (1-\rho L)^2 Y_t = \varepsilon_t \]

\[ \Leftrightarrow Y_t = 2\rho Y_{t-1} - \rho^2 Y_{t-2} + \varepsilon_t \]

il s'agit de la composition de deux AR(1) identiques.

La première approche se simplifie au lieu de se compliquer : les \(k+1\) termes de la somme définissant \(\theta_k\) sont tous égaux, il n'y a plus de somme géométrique à calculer.

\[ \theta_k = \sum_{i=0}^{k} \rho^i\rho^{k-i} = \sum_{i=0}^{k} \rho^k = (k+1)\rho^k \]

La seconde approche conduit au même résultat. Le polynôme caractéristique \(\chi(z) = z^2-2\rho z+\rho^2 = (z-\rho)^2\) admet une racine double, et la solution générale de l'équation récurrente prend alors la forme⁵ :

\[ \theta_k = (\alpha + \beta k)\rho^k \]

Les conditions initiales \(\theta_0=1\) et \(\theta_1=2\rho\) donnent immédiatement \(\alpha=1\), puis \((\alpha+\beta)\rho = 2\rho\) soit \(\beta=1\). On retrouve bien \(\theta_k = (k+1)\rho^k\).

On peut enfin voir ce résultat comme un passage à la limite. En réécrivant l'expression obtenue pour deux racines distinctes sous forme compacte :

\[ \theta_k = \frac{\rho_1}{\rho_1-\rho_2} \rho_1^k - \frac{\rho_2}{\rho_1-\rho_2} \rho_2^k = \frac{\rho_1^{k+1}-\rho_2^{k+1}}{\rho_1-\rho_2} \]

on reconnaît le taux d'accroissement de la fonction \(z\mapsto z^{k+1}\) entre \(\rho_2\) et \(\rho_1\). Lorsque \(\rho_2\) tend vers \(\rho_1=\rho\), ce taux d'accroissement tend vers la dérivée, \((k+1)\rho^k\) : la représentation MA(\(\infty\)) ne présente donc aucune discontinuité en \(\rho_1=\rho_2\).

La suite \((\theta_k)_{k\in\mathbb N}\) reste absolument sommable, avec cette fois une expression close pour la somme :

\[ \sum_{k=0}^{\infty} |\theta_k| = \sum_{k=0}^{\infty} (k+1)|\rho|^k = \frac{1}{\left(1-|\rho|\right)^2} \]

Une remarque pour finir. Contrairement au cas d'un AR(1), où les coefficients moyenne mobile décroissent dès le premier retard, la suite \((|\theta_k|)\) peut ici commencer par croître. On a en effet \(|\theta_{k+1}|>|\theta_k|\) si et seulement si \((k+2)|\rho|^{k+1}>(k+1)|\rho|^k\), c'est-à-dire si et seulement si :

\[ k < \frac{2|\rho|-1}{1-|\rho|} \]

La réponse impulsionnelle est donc monotone décroissante lorsque \(|\rho|\leq\frac{1}{2}\), mais présente une bosse lorsque \(|\rho|>\frac{1}{2}\) : pour \(\rho=0{,}8\) le maximum est atteint en \(k=3\). Le choc met alors plusieurs périodes à produire son effet maximal, ce que la composition de deux AR(1) rend intuitif — l'effet doit d'abord se propager du premier processus au second.

Nous avons construit l'AR(2) en composant deux AR(1) réels, ce qui en restreint la généralité : comme nous l'avons noté dès la première section, les racines du polynôme retard ne sont pas toujours réelles. Reprenons donc le problème par l'autre bout, en partant d'un AR(2) quelconque :

\[ Y_t = \varphi_1 Y_{t-1} + \varphi_2 Y_{t-2} + \varepsilon_t \]

Le polynôme caractéristique associé est \(\chi(z) = z^2-\varphi_1 z - \varphi_2\), dont les racines \(\lambda_1\) et \(\lambda_2\) vérifient :

\begin{cases} \lambda_1+\lambda_2 &= \varphi_1\\ \lambda_1\lambda_2 &= -\varphi_2 \end{cases}

Lorsqu'elles sont réelles, on retrouve les sections précédentes en posant \(\lambda_1=\rho_1\) et \(\lambda_2=\rho_2\). Elles sont complexes conjuguées si et seulement si le discriminant est négatif :

\[ \Delta = \varphi_1^2+4\varphi_2 < 0 \]

Écrivons alors \(\lambda_1 = re^{i\omega}\) et \(\lambda_2 = re^{-i\omega}\). Le module et l'argument se lisent directement sur les relations entre coefficients et racines, puisque \(r^2 = \lambda_1\lambda_2\) et \(2r\cos\omega = \lambda_1+\lambda_2\) :

\[ r = \sqrt{-\varphi_2} \qquad \text{et} \qquad \cos\omega = \frac{\varphi_1}{2\sqrt{-\varphi_2}} \]

Le processus est asymptotiquement stationnaire si et seulement si \(r<1\), c'est-à-dire si et seulement si \(\varphi_2>-1\).

Les deux racines étant distinctes, puisque leur partie imaginaire n'est pas nulle, la solution générale de l'équation récurrente garde la forme obtenue plus haut et la forme compacte s'applique telle quelle :

\[ \theta_k = \frac{\lambda_1^{k+1}-\lambda_2^{k+1}}{\lambda_1-\lambda_2} \]

Les coefficients \(\theta_k\) sont bien réels, comme ils doivent l'être : numérateur et dénominateur sont l'un et l'autre des différences de nombres complexes conjugués, donc l'un et l'autre imaginaires purs. En substituant la forme polaire :

\begin{equation*} \begin{split} \theta_k &= \frac{r^{k+1}\left(e^{i(k+1)\omega}-e^{-i(k+1)\omega}\right)}{r\left(e^{i\omega}-e^{-i\omega}\right)}\\ &= \frac{r^{k+1}\times 2i\sin\bigl((k+1)\omega\bigr)}{r\times 2i\sin\omega}\\ &= r^{k}\,\frac{\sin\bigl((k+1)\omega\bigr)}{\sin\omega} \end{split} \end{equation*}

On vérifie que \(\theta_0=1\) et que \(\theta_1 = r\frac{\sin 2\omega}{\sin\omega} = 2r\cos\omega = \varphi_1\), comme l'exige la récurrence.

Cette expression se lit sans effort : la réponse impulsionnelle est une oscillation amortie, de facteur d'amortissement \(r\) et de pseudo-période \(\frac{2\pi}{\omega}\). Les coefficients moyenne mobile changent donc de signe régulièrement, ce qui ne peut pas se produire avec deux racines réelles positives. Pour \(\varphi_1=1{,}2\) et \(\varphi_2=-0{,}5\), on obtient \(r\simeq 0{,}707\) et \(\omega\simeq 0{,}558\) radian, soit une pseudo-période d'environ onze périodes.

La suite reste absolument sommable, la majoration étant immédiate puisque \(\left|\sin\bigl((k+1)\omega\bigr)\right|\leq 1\) :

\[ \sum_{k=0}^{\infty}|\theta_k| \leq \frac{1}{\left|\sin\omega\right|}\sum_{k=0}^{\infty} r^k = \frac{1}{(1-r)\left|\sin\omega\right|} < \infty \]

Reste la remarque de la première section : un tel processus ne peut pas s'écrire comme la composition de deux AR(1) réels. La décomposition existe pourtant, mais avec des coefficients complexes conjugués — et c'est précisément cette conjugaison qui garantit que le processus composé, lui, est réel.