EXPOSE ORAL
------ Modle ARMA
. Srie Temporelle
. Processus stationnaire
.Modle ARMA
. Modlisation de Box et Jenkins
.Application
1
TANG Liyun et QIAN Yuan
.. Srie Temporelle
S
.1 D Dfinition :
une srie temporelle est une suite de nombres rels , indexs
par les entiers relatifs tels que le temps. Pour chaque instant
du temps, la valeur de la quantit tudie Xt est appele
variable alatoire. L'ensemble des valeurs Xt quand t varie
est appel processus alatoire
{Xt , t T }
2
.. Srie Temporelle
S
.1 D
Dfinition
Une srie temporelle est une suite de nombres r els, indexs par
les entiers relatifs tels que le temps .
Pour chaque instant du temps , la valeur de la quantit tudie Xt
est appele variable alatoire . L'ensemble des valeurs X t quand t
varie est appel processus alatoire
{ Xt , t T }
.2 Domaine d
dapplication
en astronomie (on the periodicity of sunspots, 1906),
en mt orologie ( time-seires regression of sea level on
weather , 1968)
en thorie du signal (Noise in FM receivers, 1963)
en biologie ( the autocorrelation curves of schizophrenic
brain waves and the power spectrum, 1960)
en conomie (time-series analysis of imports, exports and
other economic variables, 1971)...etc.
En astronomie (on the periodicity of sunspots, 1906)
5
.3 Objectif
Modliser les mouvements de la srie temporelle partir de
son histoire et des valeurs prsentes et passs dun Bruit Blanc
avec un modle linaire .
6
..4 Hist oire
Histoire
1927 [Link] -- mod
modle AR
1931 [Link] mod
modle MA et mod
modle ARMA
1970 [Link] et [Link]
[Link]
BoxJenkins
Jenkins
Time
Time Series Analysis Forecasting and Control
Control
1982 ARCH
1985 GARCH
2013-3-21
.. Processus stationnaire
.. 1 conception de stationnarit
stationnarit
La stationnarit joue un rle central dans la thorie des processus
Processus fortement stationnaire(ou au sens strict) : la distribution de
probabilit est invariante par translation de laxe du temps
Processus faiblement stationnaire (ou stationnaire lordre 2) :
permanence des deux premiers moments (conditions utilises en
pratique)
1) EX t2 < , t T
2) EX t = , t T
3) Cov( X t , X t + k ) = k , t , k Z
8
.. 2 Caract
Caractristiques d'une ssrie temporelle
Fonction dautocovariance :
k= Cov( X tX t + k )
Fonction dautocorrlation(ACF)
k
k = , k Z
0
Fonction dautocorrlation partielle (PACF) :
1 1 ... h 1
*
( h) ... ...
X ( h) = avec ( h ) = ... ... ... .
(h)
... ... ...
h 1 h2 ... 1
* (h) obtenue en remplaant la dernire colonne de R(h) par le vecteur [1, 2 ,.... h ]
'
9
.. 3 Exemple de processus stationnaire : Bruit blanc
10
.Modle ARMA
.1
.1 Oprateur retard
.1.1 Diffrence
xt = xt xt 1 k xt = xt xt k
p xt = p 1 xt p 1 xt 1
.1.2 Oprateur retard, not B
xt p = B p xt , p 1
B0 = 1
B ( c x t ) = c B ( x t ) = c x t 1 ,
B ( x t y t ) = x t 1 y t 1
B n xt = xt n
n
n i i n!
(1 B ) = ( 1) C n B i , C ni =
i=0 i! ( n i )!
11
..1.
1.33 Appliquer llop
oprat eur retard
rateur
p
p xt = (1 B ) p xt = (1) i C ip xt i
i =0
k
k xt = xt xt k = (1 B ) xt
12
..2 Cas particulier : AR(p)
xt = 0 + 1 xt 1 + 2 xt 2 + L + p xt p + t
p 0
E ( t ) = 0 Var ( t ) = 2
, E ( t s ) = 0, s t
Ex = 0, s < t
s t
( B) xt = t
( B) = 1 1 B 2 B 2 L p B p
13
Proprit
Ext = E (0 + 1 xt 1 + L + p xt p + t )
Ext = , E(t ) = 0, t T
0
=
1 1 L p
14
Fonction dautocovariance
E ( xt xt k ) = 1 E ( xt 1 xt k ) + L + p E ( xt p xt k ) + E ( t xt k )
E ( t xt k ) = 0
k = 1 k 1 + 2 k 2 + L + p k p , k = 1,2,L
0 = Var(X t )
15
Fonction dautocorrlation
k
k =
0
k = 1 k 1 + 2 k 2 + L + p k p , k = 1,2, L
16
Fonction dautocorrlation partielle
1 = k1 0 + k 2 1 + L + kk k 1
= + +L+
2 k1 1 k2 0 kk k 2 E[( xt E xt )( xt k E xkt )]
kk =
L L L L L L L L E[( xt k E xt k ) 2 ]
k = k1 k 1 + k 2 k 2 + L + kk 0
kk = 0 , k > p
17
.3 Cas particulier : MA(q)
xt = (B)t
( B ) = 1 1 B 2 B 2 L q B q
18
Proprit
Ext = E + t 1 t 1 2 t 2 L q t q
=
Var ( xt ) = Var ( + t 1 t 1 2 t 2 L q t q )
= (1 + 12 + L + q2 ) 2
19
tudes des autocovariance k
(1 + 12 + L + q2 ) 2 , k = 0
q k
k = ( k + i k +i ) 2 , 1 k q
i =1
0, k >q
20
Le Corrlogramme
1, k =0
qk
k + i k +i
i =1
k = 2 2
, 1 k q
1 + 1 + L + q
0, k >q
Si q<MA(q) stationnaire
21
Le corrlogramme de MA(q) sannule partir de q+1
E[( t I l + k xt l k ) xt k ]
E{[ xt E ( xt )][ xt k E ( xt k )]} l =0
=
Var ( xt k | xt 1 , L, xt k +1 ) Var ( xt k )
E ( t xt k ) I l + k E ( xt l k xt k ) Il +k l
l =0 l =0
= 2 2 2
=
(1 + + L + )
1 q (1 + + L + q2 ) 2
1
2
car I
l =0
0
l +k l
22
.4 Modle ARMA
.4.1 Dfinition gnrale
Un processus stationnaire Xt suit un ARMA(p,q) s'il vrifie
la relation suivante :
X t = 0 + 1 X t 1 + L + p X t p + t 1 t 1 L q t q
p 0 q 0
2
t ~ BB(0 )
2013-3-21
En introduisant l'oprateur retard, la relation s'crit :
( L) X t = ( L) t
avec ( L) = 1 L L2 L Lp
1 2 p
et ( L) = 1 L L2 L Lq
1 2 q
24
.4.2 La th
thor
orme de Wold
Une version simple du thorme de Wold :
Soit T ralisations dun processus stationnaire centr.
{X t }Tt=1
t ~ BB (0, 2 ) et ( 0 , 1, 2 ,L)
avec 0 = 1 et lim i = 0
i
tels que X t = i t i = ( L) t
i =0
tout processus (Xt) stationnaire peut se mettre sous forme MA(),
25
Approximation fractionnelle du th
thor
orme de Wold
Soit ( L) = 1 + 1L + L + q Lq et ( L) = 1 1L L p Lp
( L)
avec ( L)
( L)
Le processus X t peut tre rcrit sous la forme
( L) X t = ( L) t
ou ( L) : modlisation ARMA(p,q) de X t
Xt = t
( L)
ARMAapproximation de lcriture MA()
Remarque : un modle ARMA stationnaire et inversible peut
toujours se rcrire sous la forme dun modle AR ou dun
modle MA
Cas particuliers
ARMA(p,0) ou AR(p) : X t = 1 X t 1 + t
ARMA(0,q) ou MA (q) : X t = t 1 t 1
ARMA(0,0) : bruit blanc
27
. Modlisation de Box et Jenkins
Stationnarisation et Dessaisonalisation
Identification
Estimation
Validation et Test
Prvisions
28
.1
.1 Stationnarisation et Dessaisonalisation
.1.1
.1.1 Tests de la stationnarit
stationnarit
Pour vrifier la stationnarit : plusieurs mthodes
Examen visuel de la srie
Pas stationnaire stationnaire
Calculs de la moyenne et de la variance sur des sous ensembles
de la serie et tests dgalit
Analyse visuelle de la dcroissance de la fonction dautocorrlation
Tests de recine unit (Dickey-Fuller, )
2013-3-21
Tests de recine unit
unit
identification de llordre ddint
intgration des ssries
Le test de Dickey & Fuller propos de tester 3 situations
1. H0:yt est un pure RW
y t y t 1 = t y t = ( 1) y t 1 + t H 0 : = 1
2. H0:yt est un RW avec drive
y t y t 1 = + t y t = + ( 1) y t 1 + t H0 : = 1 = 0
3. H0:yt est un RW avec trend et drive
yt yt 1 = + t + t y t = + t + ( 1) y t 1 + t
H0 : = = 1 = 0
Le test de Dickey & Fuller Augment
H0 : est intgr dordre au moins 1
H1 : le processus suit un modle AR(p)
A( L) yt = t H 0 : A(1) = 0
A( L) y t = + t H 0 : A(1) = = 0
A( L) y t = + t + t H 0 : A(1) = = = 0
Complments sur les tests de racine unit
Tests de Phillips et Perron
Ils proposent une correction non paramtrique des deux
statistique des test de Dickey et Fuller
Srie stationnaire Srie non stationnaire Srie non stationnaire
en moyenne en variance
.1.
.1. 2 Transformation stationnarisante d
dun
processus non stationnaire
La ss
rie non stationnaire
processus TS(Trend stationary) prsente une non stationnarit de
nature dterministe
Yt f(t) = Zt stationnaire
processus DS (Difference stationnary) prsente une non
stationnarit de nature stochastique
(1 L)dYt = Zt stationnaire
33
.1.2
.1.2 Si la srie nest pas stationnaire, il faut la stationnariser
par une mthode adapte
Processus TS
Xt = f(t) + Et avec f(t) = fonction dterministe du temps, Et :stationnaire
Dcomposition tendance dterministe - fluctuations
Exemples frquents :
- Trend linaire : X t = + 1t
- Tend quadratique : X t = + 1t + 2t 2
- Trend polynomial : X t = + 1t + 2t 2 + L + nt n
- Trend exponentiel : X t = e t Log ( X tTrend ) = Log ( ) + t
2013-3-21
Dcomposition saisonnalit dterministe - fluctuations
s
Modle sans tendance : X t = i Di ,t + ut
i =1
s
Modle avec tendance : X t = t + i Di ,t + ut
i =1
Processus DS
Les plus utilises :
La diffrence dordre d : dXt = (1-B)dXt
Trend stochastique
X t = ( X t X t 1 ) ~ I (0)
Saisonnalit stochastique
Saisonnalit
S X t = ( X t X t S ) ~ I (0)
Sries avec trend et saisonnalit
saisonnalit stochastiques
S X t = (1 L)(1 LS ) X t
= ( X t X t S ) ( X t 1 X t S 1 )
.2
.2 Identification
Objectif : dterminer d, p, q
Outils didentification :
ACF
PACF
Fonction dautocorrlation inverse
Mthode du coin
Critres dinformation AIC
la fonction dautocorrlation tendue (Tsay, & Ciao)
Mthode SCAN
37
ACF et PACF
ACF PACF
AR(p) dcroissance kk=0
omtrique vers 0
gom pour k>p
MA(q) k=0 dcroissance
pour k>q omtrique vers 0
gom
ARMA(p,q) dcroissance dcroissance
omtrique vers 0 gom
gom omtrique vers 0
Critres dinformation AIC
- Estimation de tous les modles ARMA(p,q) pour p p max
et q q max
On retient la forme ARMA(p, q) qui minimise au choix lun
des deux criteres AIC ou BIC suivants ( 2
)
= ( t t2 ) / T )
2( p + q )
critere AIC : AIC ( p, q) = log 2 +
T
log(T )
critere BIC : BIC ( p, q ) = log 2 + ( p + q )
T
.3
.3 Estimation
Lestimateur du maximum de vraisemblance
H1 on suppose que la population des rsidus {t} peut tre
dcrite par un processus bruit blanc gaussien (0,2).
crivons alors la vraisemblance associe au vecteur de
ralisation (1,2, T).
40
.4
.4 Validation et Test
Test sur les rsidus
Test dabsence d'autocorrlation des rsidus
le test de Box-Pierce
le test de Ljung-Box
le test de Durbin-Watson
Test dhomoscdasticit
le test de Goldfield et Quandt
le test de White
le test de Breusch et Pagan
Estimation rcursive et analyse de la stabilit du modle
41
.4
.4 Validation et Test
Test dabsence d'autocorrlation des rsidus
le test de Box-Pierce et le test de Ljung-Box
Statistics :
h
Box-Pierce Qh = T k2
k =1
h
k2
Ljung-Box Qh = T (T + 2) 2(h)
k =1 T k
p>0.05, la srie est
statistiquement un bruit blanc
42
.4
.4 Validation et Test
Test dabsence d'autocorrlation des rsidus
le test de Durbin-Watson
H0 : =0
H1 : il existe dautocorrlation
statistics :
Avec et la srie de rsidu,
T est le nombre dobservation
43
Tests de normalit: Bera & Jarque (1984)
notonsk le moment dordre k de la distribution k = E([X E(X)]k )
3/ 2
Coefficient du skewness s = 3 / 2 et de la kurtosis k = 4 / 22
statistics:
BJ 12 (2) on rejette lhypothse H0 de normalit des rsidus au seuil
44
Estimation rr
cursive et analyse de la stabilit
stabilit du mod
modle
Estimation rcursive du modle sur les sous-chantillons :
t = 1,,T*; t = 1, , T*+1; ., t = 1,,T-1
Calcul des rsidus rcursifs (one-step ahead forecast error)
t+1,t = yt +1 yt+1,t
On peut dmontrer le rsultats suivant :
t+1,t ~ N (0, 2 rt ) avec rt > 1 et lim rt = 1
t
Rsidus rcursifs normaliss
t+1,t iid
t +1,t = ~ N (0,1) t = T *,,T-1
rt
Statistique du CUSUM :
t
CUSUM t = +1, t = T *,,T-1
=T *
Calcul dun Intervalle de confiance pour le CUSUM partir des bornes tabules
de la statistique
45
.5
.5 Prvisions
xt (k ) = E (1 xt + k 1 + L + p xt + k p + t + k 1 t + k 1 L q t + k q xt , xt 1 , L)
q
1 xt ( k 1) + L + p xt (k p ) i t + k i , k q
= i=k
x ( k 1) + L + x (k p ) , k >q
1 t p t
x (k ) , k 1
xt (k ) = t
xt + k , k 0
Var[et (k )] = (G02 + G12 + L + Gk21 ) 2
46
Incertitude associe aux prvisions
Critre de pouvoir prdicitf
Critre dinformation
Test s danticipations rationnelles
Limite de prdictibilit dun modle ARMA
les prvisions hors chantillon des modles ARMA convergent
vers la moyenne non conditionnelle du processus.
On peut calculer la limite de prdictibilit
Expliquer et prsenter
2013-3-21
Incertitude associe aux prvisions
Critre de pouvoir prdicitf
Plusieurs indicateurs sontalors possibles :
(i) la variance du rsidu 2, ou la somme des carrs des
rsidus SCR
(ii) le coefcient de dtermination R2, correspondant
une normalisation de la variance
(iii) le coefficient de dtermination modifi adjust-R2
(iv) la statistique de Fisher (comme dans le cas du
modle linaire)
Le but est alors de minimiser (i), ou de maximiser (ii) ;
(iii) ou (iv).
2013-3-21
Incertitude associe aux prvisions
Critre dinformation
2( p + q )
AIC ( p, q ) = log 2 +
T
log(T )
BIC ( p, q) = log 2 + ( p + q )
T
valuation de plusieurs prvisions
comparer la prcision de prvisions non optimales:
lerreur de prvision et + h ,t = yt + h yt + h ,t
lerreur de prvision en pourcentage yt + h yt + h,t
pt + h,t =
yt + h
2013-3-21
Critres Mean Error (ME) et Error Variance (EV):
1 T
ME = et + h ,t : mesure du biais (faible avec une bonne prvision)
T t =1
1 T
EV = (et + h,t ME ) 2
: dispersion des erreurs de pr visions (faible avec
T t =1
une bonne prvision)
Mesures globales de la prcision des prvisions: MSE et MSPE
1 T
MSE = (et + h,t ) 2 1 T
T t =1 MSPE = ( pt + h,t ) 2
T t =1
Des variantes de ces indicateurs (RMSE et RMSPE) permettent de
prserver les units des grandeurs prvues :
RMSE = MSE RMSPE = MSPE
Autres mesures : MAE et MAPE
1 T 1 T
MAE = et + h,t MAPE = pt + h,t
T t =1 T t =1
50
.Application
Modle ARMA pour donnes des employs
Canadian
1961:1 1994:4
Identification du modle par AIC
AIC analysis of models for series CAEMP
Identification du modle par corrlogramme
57
Prolongement du mod
modle ARMA
ARIMA(p,d,q) ( L)(1 L) d X t = ( L) t
SARIMA(p,d,q)(P,D,Q)s
p ( L) P ( Ls )(1 L) d (1 Ls ) D X t = q ( L) Q ( Ls ) t
59
modle ARMA
Prolongement du mod
ARFIMA: processus mmoire longue
ARFIMA(p,d,q) :
TARMA: processus seuil
o u1t et u2t sont deux bruits blancs de variance respective 21et 22
FARMA: dXt suivent un processus ARMA(p, q) o d nest pas
entier, compris entre -1/2 et 1/2
ARCH : processus avec la variance volu dans le temps,
notamment pour les problmes montaire et financire
60