Introduction aux probabilités de base
Introduction aux probabilités de base
PROBABILITÉS DE BASE
Zhan SHI
[Link]
Table des matières
Chapitre 5. Indépendance · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 39
1. Axiomatique de Kolmogorov
Définition 1.1. Un espace mesurable (Ω, F ) est un ensemble Ω non-vide muni d’une tribu
F qui vérifie les propriétés suivantes :
(a) Ω ∈ F .
(b) Si A ∈ F , alors Ac ∈ F , où Ac désigne le complémentaire de A relatif à Ω:
Ac = Ω\A.
S∞
(c) Si (An )n>1 est une suite d’éléments dans F , alors n=1 An ∈ F .
2. Propriétés élémentaires
Propriété 2.1. Pour tout A ∈ F , on a P(Ac ) = 1 − P(A).
2 — Chapitre 1. Espaces de probabilité —
Preuve. Par iii et ii, P(A) + P(Ac ) = P(A ∪ Ac ) = P(Ω) = 1. D’où le résultat. ⊔
⊓
Propriété 2.6. Si (An )n>1 est une suite croissante d’éléments dans F , alors P(∪∞
n=1 An ) =
limn→∞ P(An ).
Propriété 2.7. Si (An )n>1 est une suite décroissante d’éléments dans F , alors P(∩∞
n=1 An )
= limn→∞ P(An ).
Preuve. Ceci est une conséquence directe de la propriété précédente par passage au
complémentaire. ⊔
⊓
Propriété 2.8. Soit {An }n>1 une partition finie ou infinie dénombrable de (Ω, F ) (c’est-
à-dire que les An sont deux à deux disjoints, et que leur union est Ω). Alors pour tout
B ∈ F,
X
P(B) = P(B ∩ An ).
n
#(A) #(A)
P(A) = = , ∀A ∈ F .
#(Ω) n
Exemple 3.1. On jette trois fois une pièce de monnaie parfaite. On peut représenter
l’espace Ω comme l’ensemble des applications de {1, 2, 3} (trois jets) dans {P, F } (P =
pile, F = face). Autrement dit, Ω = {P, F }3 , donc n = #(Ω) = 23 = 8.
Il est alors facile de voir par exemple que
3
P ( on sort exactement une fois P ) = ,
8
1 7
P ( on sort au moins une fois P ) = 1 − P ( on sort trois fois F ) = 1 − = . ⊔
⊓
8 8
Exemple 3.2. On considère l’arrivée d’une course de chevaux, avec dix partants, numéro-
tés de 1 à 10. On note l’ordre d’arrivée. On suppose que les concurrents sont de force égale
et qu’il n’y a pas d’ex-aequo. L’espace Ω est l’ensemble des injections de {1, 2, · · · , 10} dans
lui-même. Donc n = #(Ω) = 10!. On a alors
3
P(A) = P(A1 ) + P(A2 ) + P(A3 ) = . ⊔
⊓
10
Exemple 3.3. Le jeu du loto, qui est un jeu de la Française des Jeux, consiste à choisir
6 numéros distincts parmi {1, 2, · · · , 49}. On suppose que les boules qui portent les 49
numéros sont toutes parfaites.
4 — Chapitre 1. Espaces de probabilité —
1
P ( on gagne le premier prix avec un bulletin ) = ≈ 7 × 10−8 . ⊔
⊓
( 49
6 )
4. Événements indépendants
Définition 4.1. Soit A et B deux événements sur l’espace de probabilité (Ω, F , P). On
dit qu’ils sont indépendants si P(A ∩ B) = P(A) P(B).
Exemple 4.5. On serait tenté de penser que si (Ai )16i6n sont deux-à-deux indépendants,
alors ils sont aussi indépendants. Ceci est en fait faux, même pour n = 3. L’indépendance
deux-à-deux dit que
P(A1 ∩ A2 ) = P(A1 )P(A2 ),
P(A2 ∩ A3 ) = P(A2 )P(A3 ),
P(A1 ∩ A3 ) = P(A1 )P(A3 ),
— Chapitre 1. Espaces de probabilité — 5
Cette dernière n’est pas du tout garantie par les trois conditions précédentes.
On jette deux fois une pièce de monnaie parfaite. Soient A1 = “P la première fois”,
A2 = “P la deuxième fois”, et A3 = “deux fois le même résultat”. Il est intuitivement
clair que A1 , A2 et A3 ne peuvent être indépendants, car A3 est totalement déterminés
par A1 et A2 (par exemple, si A1 et A2 sont réalisés, alors on sait que A3 est aussi réalisé).
Mathématiquement, on a P(A1 ) = P(A2 ) = P(A3 ) = 1/2, tandis que
1 1
P(A1 ∩ A2 ∩ A3 ) = P(A1 ∩ A2 ) = 6= = P(A1 )P(A2 )P(A3 ),
4 8
1
P(A1 ∩ A2 ) = = P(A1 )P(A2 ),
4
1
P(A2 ∩ A3 ) = P(A2 ∩ A1 ) = = P(A2 )P(A3 ),
4
1
P(A1 ∩ A3 ) = P(A1 ∩ A2 ) = = P(A1 )P(A3 ),
4
Exercice 4.6. (Cet exercice ne sera pas traité dans le cours.) Désignons par ϕ(n) la
fonction d’Euler de la théorie des nombres, c’est-à-dire, ϕ(n) est le nombre des entiers plus
petits que n et qui sont premiers avec n. Alors
Y 1
(2.3) ϕ(n) = n 1− ,
p
p: p|n
tandis que
P(Api1 ∩ · · · ∩ Apik ) = P le nombre choisi est un élément de {q, 2q, 3q, · · · , nq q}
n/q 1
= = ,
n pi1 · · · pik
Yk
1
P(Acp1 ∩···∩ Acpk ) = P(Acp1 ) · · · P(Acpk ) = 1− .
i=1
pi
ϕ(n)
D’autre part, P(Acp1 ∩ · · · ∩ Acpk ) = n . D’où l’identité (2.3). ⊔
⊓
5. Probabilité conditionnelle
Soit (Ω, F , P) un espace de probabilité.
Propriété 5.4. Soit P(B) > 0. L’application A 7→ P(A | B) (pour A ∈ F ) vérifie les
axiomes de Kolmogorov; elle définit donc une nouvelle probabilité sur l’espace mesurable
(Ω, F ).
Ainsi, toutes les propriétés pour les probabilités sont valables pour les probabilités
conditionnelles. Par exemple, si (An )n>1 est une suite croissante d’éléments de F , alors
∞
!
[
P An | B = lim P(An | B).
n→∞
n=1
La preuve de la Propriété 5.4, qui n’est pas présentée ici, est tout à fait triviale.
La propriété suivante permet de déduire P(B | A) à partir de P(A | B).
Propriété 5.5. Soient A et B deux événements tels que P(A) > 0 et P(B) > 0. On a
alors
P(A|B) P(B)
P(B|A) = .
P(A)
Propriété 5.6. Soit {An }n=1,2,··· une partition finie ou infinie dénombrable de (Ω, F ),
avec P(An ) > 0 pour tout n. Alors
X
P(B) = P(An )P(B|An ), ∀B ∈ F .
n
P
Preuve. D’après la Propriété 2.8, P(B) = n P(B ∩ An ). Le résultat découle alors de la
relation P(B ∩ An ) = P(An )P(B|An). ⊔
⊓
Exemple 5.7. On tire deux cartes d’un paquet de 52. Quelle est la probabilité que la
deuxième carte soit “Dame” ?
La situation dépend du résultat de la première carte. Si celle-ci est Dame, alors
la probabilité (conditionnelle) que la deuxième carte soit Dame est 3/51. Si celle-ci ne
l’est pas, alors la probabilité (conditionnelle) en question devient 4/51. On est donc dans
8 — Chapitre 1. Espaces de probabilité —
Propriété 5.8 (Formule de Bays). Soit {An }n=1,2,··· une partition finie ou infinie dénom-
brable de (Ω, F ), avec P(An ) > 0 pour tout n. Alors pour tout B ∈ F tel que P(B) > 0,
P(An )P(B|An )
P(An |B) = P .
m P(Am )P(B|Am )
Exemple 5.9. Dans un concours de pronostic sportif pour un match entre l’équipe E
et l’équipe F (pas de match nul), les participants sont composés à 50% d’étudiants de
Jussieu, à 20% d’étudiants de Dauphine, et à 30% d’étudiants d’Orsay. On constate que
60% des étudiants de Jussieu prévoient l’équipe E gagnante, ainsi que 30% des étudiants
de Dauphine, et 90% des étudiants d’Orsay. On tire une personne au hasard parmi les
participants : elle pronostique sur l’équipe F gagnante. Quelle est la probabilité qu’il s’agit
de quelqu’un de Jussieu ?
On définit A1 := {Jussieu}, A2 := {Dauphine}, et A3 := {Orsay}. On sait que
ces trois événements forment une partition de Ω, avec P(A1 ) = 0, 5, P(A2 ) = 0, 2, et
P(A3 ) = 0, 3.
Soit B := {supporteur de l’équipe F}. Par hypothèse, P(B|A1 ) = 0, 4, P(B|A2 ) =
0, 7, et P(B|A3 ) = 0, 1. D’après la formule de Bays,
P(A1 )P(B|A1 )
P(A1 |B) = =
P(A1 )P(B|A1 ) + P(A2 )P(B|A2 ) + P(A3 )P(B|A3 )
0, 5 × 0, 4 20 1
= = > . ⊔
⊓
0, 5 × 0, 4 + 0, 2 × 0, 7 + 0, 3 × 0, 1 37 2
— Chapitre 2. Variables aléatoires discrètes — 9
PX , qui est une mesure de probabilité sur E (car PX (E) = P(Ω) = 1), est appelée la loi
de la variable aléatoire X ou encore sa distribution.
Soit {xk , k = 1, 2, · · ·} := X(Ω), qui représente l’ensemble des valeurs que X peut
prendre. Cet ensemble est au plus infini dénombrable, car c’est le cas pour Ω. On suppose
que {xk } ∈ E, ∀k. La loi de X est caractérisée par les données (xk ) et (pk ), où :
Lorsque (E, E) = (R, B(R)) (espace réel muni de la tribu borélienne), on dit que X
est une v.a. réelle.
Définition 2.1. Soit X une v.a. réelle, et soit {xk , k = 1, 2, · · ·} l’ensemble des valeurs
prises par X. Si
X
|xk | pk < ∞,
k
Remarque. Il est clair que si la v.a. X est bornée, c’est-à-dire s’il existe un réel M > 0
tel que |X(ω)| 6 M pour tout ω ∈ Ω, alors X admet des moments de tous ordres. C’est
le cas en particulier lorsque #(Ω) < ∞. ⊔
⊓
Définition 2.2. Si X admet un moment d’ordre 2, alors elle admet un moment d’ordre
1. On pose alors
Var(X) = E(X 2 ) − (EX)2 ,
Le fait que l’existence d’un moment d’ordre 2 implique celle d’un moment d’ordre 1, ainsi
que la propriété suivante, seront prouvés dans le chapitre 3 dans un contexte beaucoup
plus général.
La v.a. g◦X, que l’on note souvent g(X), admet un moment d’ordre 1, avec
X
E(g(X)) = g(xk ) pk .
k
P 2
En particulier, si k (xk ) pk < ∞, alors X admet un moment d’ordre 2, et on a
X
E(X 2 ) = (xk )2 pk .
k
Les variables X et Y étant bornées, elles admettent des moments de tous ordres.
1 1 1
E(X) = × 10 + × 11 + × 12 = 11,
4 2 4
1 1 3 1 1
E(Y ) = × 3 + × 9 + × 11 + × 14 + × 18 = 11.
8 6 8 4 12
Pourtant,
1 1 1
E(X 2 ) = × 102 + × 112 + × 122 = 121, 5 ,
4 2 4
1 1 3 1 1
E(Y 2 ) = × 32 + × 92 + × 112 + × 142 + × 182 = 136.
8 6 8 4 12
Donc
1
Var(X) = E(X 2 ) − (EX)2 = 121, 5 − 121 = ,
2
Var(Y ) = E(Y 2 ) − (EY )2 = 136 − 121 = 15.
Les résultats du deuxième étudiant sont donc beaucoup moins réguliers que ceux du pre-
mier, ce qui est, a priori, parfaitement clair.
Exemple (loi de Bernoulli). On dit que X est une variable de Bernoulli de paramètre
p ∈ [0, 1] si
P(X = 1) = p, P(X = 0) = 1 − p.
Exemple (loi binomiale). On dit que X est une variable binomiale de paramètres (n, p),
où n ∈ N∗ et p ∈ [0, 1] si
n
P(X = i) = pi (1 − p)n−i , i = 0, 1, · · · , n.
i
On a E(X) = np, Var(X) = np(1 − p). Interprétation : si l’on jette n fois une pièce de
monnaie avec P(P ) = p et P(F ) = 1 − p. Le nombre de fois où l’on obtient P suit la loi
binomiale de paramètres (n, p).
Exemple (loi géométrique). On dit que X est une variable géométrique de paramètre
p ∈ ]0, 1[ si
P(X = n) = (1 − p)pn , n = 0, 1, 2, · · ·
On a E(X) = p/(1 − p), Var(X) = p/(1 − p)2 . Interprétation : si l’on jette une pièce de
monnaie avec P(P ) = p et P(F ) = 1 − p. Le nombre de fois où l’on obtient P avant d’avoir
un F suit la loi géométrique de paramètre p.
Exemple (loi de Poisson). On dit que X est une variable de Poisson de paramètre
θ > 0 si n
−θ θ
P(X = n) = e , n = 0, 1, 2, · · ·
n!
On a E(X) = θ, Var(X) = θ.
avec la convention 00 := 1.
Exemple (loi de Bernoulli). Si X est une variable de Bernoulli de paramètre p ∈ [0, 1],
alors
GX (s) = 1 − p + sp.
Exemple (loi géométrique). Soit X une variable géométrique de paramètre p ∈ ]0, 1[,
∞
X 1−p
GX (s) = (1 − p)pn sn = .
n=0
1 − sp
Définition 1.1. Soit X : (Ω, F ) → (E, E) une variable aléatoire. On appelle loi de X
(ou encore sa distribution) la mesure de probabilité PX sur (E, E) donnée par
Définition 1.2. Si une v.a. réelle X est intégrable par rapport à P, c’est-à-dire si
R
Ω
|X| dP < ∞, on dit alors que X admet un moment d’ordre 1, et on pose
Z Z
E(X) = X(ω) P(dω) = X dP.
Ω
Théorème 1.3. PX est l’unique mesure sur (E, E) telle que pour toute fonction g : E → R
mesurable et bornée, on ait
Z
E (g(X)) = g(x)PX (dx).
E
16 — Chapitre 3. Variables aléatoires —
Preuve. L’unicité est évidente en prenant pour g l’indicatrice d’un ensemble mesurable
générique A ∈ F , puisque dans ce cas
P
Remarque. Dans le cas d’une v.a. discrète, PX = k pk δxk (notation : pk = P(X = xk ),
P
δxk = masse de Dirac en xk ). Soit g une fonction mesurable telle que k |g(xk )|pk < ∞.
On a, par le Théorème 1.4,
Z X
E(g(X)) = g(x) PX (dx) = g(xk )pk .
E k
lim FX (n) = PX ( ] − ∞, ∞[ ) = 1.
n→∞
S
De même, ] − ∞, ∞[ = n>1 ] − n, ∞[ et comme FX (−n) = 1 − PX ( ] − n, ∞[ ), on a donc
1 − lim FX (−n) = PX ( ] − ∞, ∞[ ) = 1.
n→∞
(ii) Soit (xn , n > 1) une suite réelle qui décroı̂t vers x. La suite des événements {X ≤
T
xn } est décroissante et {X 6 x} = n>1 {X 6 xn }. On a donc FX (x) = limn→∞ FX (xn ).
Supposons maintenant que (yn , n > 1) est une suite strictement croissante qui converge
S
vers x. Alors la suite des événements {X 6 yn } est croissante et {X < x} = n>1 {X 6
yn }. On a donc P(X < x) = limn→∞ FX (yn ). ⊔
⊓
(En particulier, si X est une v.a. discrète, la fonction de répartition FX caractérise la loi
de X.)
Preuve. Pour tout intervalle de type ]a, b], on a FX (b) − FX (a) = PX ( ]a, b] ). Une mesure
sur (R, B(R)) (tribu borélienne de R) étant déterminée par la donnée des masses qu’elle
attribue aux intervalles de ce type (théorème de classe monotone), on en déduit que FX
caractérise la loi de X. ⊔
⊓
Remarque. (i) Pour une variable aléatoire réelle X admettant un moment d’ordre 1, il y
a deux façons d’écrire son espérance :
Z Z
E(X) = X dP = x PX (dx).
Ω R
Exemple 2.5. Soit X une variable aléatoire réelle dont la fonction de répartition est FX .
On s’intéresse à la fonction de répartition des variables aléatoires suivantes :
Y := X + a,
Z := X 2 ,
U := X + = max(X, 0),
Pour calculer FZ (x), on remarque que FZ (x) = P(Z 6 x) = 0 lorsque x < 0. Si x > 0,
√ √
FZ (x) = P(X 2 6 x) = P(− x 6 X 6 x )
√ √
= P(X 6 x ) − P(X < − x )
√ √
= FX ( x ) − FX (− x − 0).
Donc ( √ √
FX ( x ) − FX (− x − 0) si x > 0,
FZ (x) =
0 sinon.
On calcule maintenant FU (x). Il est clair que FU (x) = 0 pour x < 0. Lorsque x > 0,
En conclusion, (
FX (x) si x > 0,
FU (x) = ⊔
⊓
0 sinon.
Inégalité de Markov. Soit X une v.a. réelle qui admet un moment d’ordre 1. Pour tout
a > 0, on a
E(|X|)
P ( |X| > a) 6 .
a
Preuve. On a
Z Z Z
E(|X|) = |X| dP > |X| 1{|X|>a} dP > a 1{|X|>a} dP = a P ( |X| > a) .
Ω Ω Ω
Preuve. On peut supposer sans perte de généralité que q > p = 1 (sinon, on considère |X|p
au lieu de |X| dans le raisonnement ci-dessous).
Par l’inégalité de Hölder (valable, en réalité, pour les mesures qui ne sont pas néce-
ssairement des mesures de probabilité), pour tout (a, b) ∈ ]1, ∞[ 2 tel que a−1 + b−1 = 1,
on a Z Z 1/a Z 1/b
a b
|XY | dP 6 |X| dP |Y | dP .
Ω Ω Ω
20 — Chapitre 3. Variables aléatoires —
D’où le résultat. ⊔
⊓
Propriété 3.5. Une variable aléatoire est constante avec probabilité 1 si et seulement si
sa variance est nulle. La v.a. est alors égale à sa moyenne avec probabilité 1.
Propriété 3.6. Soit X une v.a. réelle ayant un moment d’ordre 2, et soient a et b deux
réels. Alors aX + b admet aussi un moment d’ordre 2, avec
Var(aX + b) = a2 Var(X).
Preuve. Si X 2 est intégrable par rapport à P, alors (aX + b)2 l’est également. On a
h i h i
Var(aX + b) = E (aX + b − E(aX + b))2 = E (aX + b − aEX − b)2
h i
= E a2 (X − EX)2 = a2 Var(X). ⊔
⊓
— Chapitre 3. Variables aléatoires — 21
Preuve. On a
P ( |X − E(X)| > a ) = P |X − E(X)|2 > a2 ,
Théorème 4.1. Si X admet la densité fX , et si g est une fonction mesurable sur R telle
que Z
|g(x)| fX (x) dx < ∞,
R
22 — Chapitre 3. Variables aléatoires —
Exemple 4.2 (loi uniforme). La mesure de Lebesgue sur [0, 1] (ou (0, 1)) est une mesure
de probabilité, qu’on appelle la loi uniforme sur [0, 1] (ou (0, 1)). La densité est
En particulier,
Z 1
1 1
E(X) = x dx = , Var(X) = .
0 2 12
On peut aussi facilement calculer la fonction de répartition :
0 si x < 0,
FX (x) = x si 0 6 x 6 1,
1 si x > 1.
Plus généralement, si a < b, on appelle loi uniforme sur [a, b] la mesure de probabilité
(b − a)−1 1[a,b] (x) dx. Donc pour la loi uniforme sur [a, b], la fonction de densité est
1
1]a,b[ (x).
b−a
On remarque que si X suit la loi uniforme sur [0, 1], alors la v.a. Y = (b − a)X + a
suit la loi uniforme sur [a, b]. En effet, pour tout x ∈ R, on a FY (x) = P(Y 6 x) = P(X 6
x−a
b−a ) = 0 si x < a, et FY (x) = 1 si x > b; et si x ∈ [a, b],
Z (x−a)/(b−a)
x−a
FY (x) = du = .
0 b−a
— Chapitre 3. Variables aléatoires — 23
Donc Z x
1
FY (x) = 1]a,b[ (t) dt, x ∈ R.
−∞ b−a
L’expression à droite n’est autre que la fonction de répartition d’une v.a. suivant la loi
uniforme sur [a, b]. Comme la fonction de répartition détermine la loi d’une v.a. réelle, on
conclut que Y suit la loi uniforme sur [a, b]. ⊔
⊓
Exemple 4.3 (loi exponentielle). Pour tout θ > 0, la mesure θe−θx 1R+ (x) dx a pour
masse 1, c’est donc une mesure de probabilité que l’on appelle la loi exponentielle de
paramètre θ. La densité de cette loi de probabilité vaut donc
En particulier, Z ∞
1
E(X) = xθe−θx dx = .
0 θ
Plus généralement, pour n > 1,
Z ∞
n Γ(n + 1) n!
E(X ) = xn θe−θx dx = n
= n.
0 θ θ
bien pour masse 1, c’est une mesure de probabilité sur R que l’on appelle loi de Cauchy
standard. La densité de la loi de Cauchy standard est donc
1 1
fX (x) = .
π 1 + x2
Bien que x 7→ xfX (x) soit une fonction impaire sur R (on serait donc tenté de dire que
E(X) = 0), X n’admet pas de moment d’ordre 1, car |x|fX (x) n’est pas intégrable par
rapport à la mesure de Lebesgue.
La fonction de répartition de la loi de Cauchy standard est
1 1
FX (x) = + Arctan(x). ⊔
⊓
2 π
24 — Chapitre 3. Variables aléatoires —
1 2
fX (x) = √ e−x /2 .
2π
a également pour masse 1 (il s’agit d’un changement de variables simple), on l’appelle la
loi gaussienne N (µ, σ 2 ). On peut vérifier que
E(X) = µ, Var(X) = σ 2 .
X−µ
Il est facile de vérifier que si X suit la loi gaussienne N (µ, σ 2 ), alors Y := σ suit la loi
gaussienne standard N (0, 1).
La loi gaussienne standard est souvent appelée la loi gaussienne centrée réduite, car
elle a pour espérance 0 et pour variance 1.
La fonction de répartition de la loi gaussienne n’admet pas d’expression explicite
simple. ⊔
⊓
Exemple 4.6. Soit X une v.a. uniforme sur ] − π2 , π2 [ , c’est-à-dire que la densité de X est
1
fX (x) = 1]− π2 , π2 [ (x).
π
Soit Y = tan(X). On s’intéresse à la loi de la v.a. Y . Pour tout x ∈ R,
Z Arctan(x)
1 1 1
P(Y 6 x) = P (X 6 Arctan(x)) = du = + Arctan(x).
π −π/2 2 π
— Chapitre 3. Variables aléatoires — 25
Alors elle est fonction de répartition associée à une loi de probabilité réelle.
(ii) Soit F : R → [0, 1] la fonction de répartition associée à la loi de probabilité µ sur
R, c’est-à-dire F (x) = µ( ] − ∞, x] ). Soit F −1 : [0, 1] → R l’inverse continue-à-droite de F ,
c’est-à-dire
F −1 (x) = inf{y ∈ R : F (y) > x}, x ∈ ]0, 1[ .
Si X suit la loi uniforme sur [0, 1], alors la variable aléatoire Y = F −1 (X) suit la loi µ.
Preuve. Soit F : R → [0, 1] une fonction croissante, continue à droite, telle que
D’une part, la dernière assertion de (∗) est satisfaite dès que F (x) > X, autrement dit on
a {X < F (x)} ⊂ {Y 6 x}. Comme X suit la loi uniforme, il en découle que
D’autre part, si la dernière assertion de (∗) est vérifiée, alors F (y) > X pour tout y > x,
c’est-à-dire {Y 6 x} ⊂ {X < F (y)}. On a donc P (Y 6 x) 6 P (X < F (y)) = F (y)
(puisque X suit la loi uniforme). On fait tendre y vers x, et comme F est continue à
droite, on obtient
P (Y 6 x) 6 F (x) .
26 — Chapitre 3. Variables aléatoires —
FX (x1 , · · · , xN ) = PX ( ] − ∞, x1 ] × · · · × ] − ∞, xN ])
= P (X1 6 x1 , · · · , XN 6 xN ) , (x1 , · · · , xN ) ∈ RN .
On remarque que FX est une fonction sur RN , à valeurs dans [0, 1], croisssante en chaque
xi .
Par conséquent,
(1 − e−θx )(1 − e−θx ), si x > 0 et y > 0,
F(X,Y ) (x, y) = ⊔
⊓
0, sinon.
1
f(X,Y ) (x, y) = 1A (x, y),
x3
où A = {(x, y) ∈ R2 : x > 1, 0 6 y 6 x}. On cherche à calculer la fonction de répartition.
RR
Il est facile de vérifier que f
R2 (X,Y )
(x, y) dx dy = 1. Donc f(X,Y ) est bien une
fonction de densité sur R2 .
— Chapitre 4. Vecteurs aléatoires — 29
3. Moments
Définition 3.1. Soit X = (X1 , · · · , XN ) un vecteur aléatoire. Si X1 , · · ·, XN admettent
toutes un moment d’ordre 1, alors le vecteur
Définition 3.2. Soient X et Y deux v.a. réelles admettant toutes des moments d’ordre
2. Alors
Cov(X, Y ) = E ((X − EX)(Y − EY ))
On remarque que la covariance Cov(X, Y ) est bien définie tant que X et Y admettent
des moments d’ordre 2. En effet, rappelons l’inégalité de Cauchy–Schwarz (qui est un cas
spécial de l’inégalité de Hölder que l’on a vue au chapitre précédent) :
(v) On a
Var(X + Y ) = E (X + Y − E(X + Y ))2 = E ((X − EX) + (Y − EY ))2
= E (X − EX)2 + (Y − EY )2 + 2(X − EX)(Y − EY )
= Var(X) + Var(Y ) + 2Cov(X, Y ). ⊔
⊓
Définition 3.4. Si X et Y admettent des moments d’ordre 2 telles que Var(X)Var(Y ) > 0,
alors
Cov(X, Y )
ρ(X, Y ) := p p
Var(X) Var(Y )
Propriété 3.5. Si X et Y admettent des moments d’ordre 2 telles que Var(X)Var(Y ) > 0,
alors ρ(X, Y ) ∈ [−1, 1].
Définition 3.6. Soit X = (X1 , · · · , XN ) un vecteur aléatoire tel que chaque composante
admet un moment d’ordre 2. On appelle
Var(X1 ) · · · Cov(X1 , XN )
Cov(X1 , X2 )
Cov(X2 , X1 ) Var(X2 ) · · · Cov(X1 , XN )
D=
.. .. .. ..
. . . .
Cov(XN , X1 ) Cov(XN , X2 ) · · · Var(XN )
Propriété 3.7. La matrice D est positive au sens que pour tout a = (a1 , · · · , aN ) ∈ RN ,
X
a D at = Dij ai aj > 0.
16i,j6N
32 — Chapitre 4. Vecteurs aléatoires —
Preuve. On a
X X
Dij ai aj = ai aj E ((Xi − EXi )(Xj − EXj ))
16i,j6N 16i,j6N
X
= E ai (Xi − EXi )aj (Xj − EXj )
16i,j6N
!2
N
X
= E ai (Xi − EXi ) > 0. ⊔
⊓
i=1
Propriété 3.8. (i) Si X1 , · · ·, XN sont des v.a. réelles admettant toutes un moment
d’ordre 2, alors
N
X X
Var(X1 + · · · + XN ) = Var(Xi ) + 2 Cov(Xi , Xj ).
i=1 16i<j6N
4. Changement de variables
Soit X un vecteur aléatoire à valeurs dans un ouvert ∆ ⊂ RN (souvent : ∆ = RN )
qui admet comme densité fX = fX 1∆ . Soit
h: ∆→D
h−1 (de D dans ∆) est aussi continûment différentiable. Alors le vecteur aléatoire Y =
h ◦ X = h(X) a pour densité
fX (x)
fY (y) = 1D (y), y = h(x)
|(Dh)(x)|
fX (h−1 (y))
= 1D (y),
|(Dh)(h−1 (y))|
Ceci est appelé formule du changement de variables. N’oublions pas la valeur absolue
pour le jacobien!
Exemple 4.1 (suite de l’Exemple 2.1). Soit (X, Y ) un vecteur aléatoire de densité
1 1
(Dh)(x) = det = −2.
1 −1
1 2 −θ(x+y) 1
f(U,V ) (u, v) = θ e 1R∗+ ×R∗+ (x, y) = θ 2 e−θu 1D (u, v), ⊔
⊓
2 2
fX (h−1 (y))
1D (y). ⊔
⊓
|(Dh)(h−1 (y))|
Exemple 4.2. Soit X une v.a. qui suit la loi uniforme sur ]0, 1[ , et soit h : ]0, 1[ → R avec
h(x) = tan(π(x − 12 )). On cherche la loi de Y = h(X). On a vu dans l’Exemple 4.6 du
Chapitre 4 que Y suit la loi de Cauchy standard. On redémontre ce résultat ici en utilisant
la méthode de la fonction muette.
Remarquons que
1 Arctan(y)
h−1 (y) = + , y ∈ R.
2 π
Soit ϕ : R → R une fonction borélienne bornée. On a
Z 1 Z
dy
E(ϕ(Y )) = E ϕ(h(X)) = ϕ(h(x)) dx = ϕ(y) .
−1 R π(1 + y 2 )
Exemple 4.3. Supposons que X suit la loi uniforme sur ]0, 1[ . On s’intéresse à la loi de
1
Y = ln .
X
Pour nous, h(x) = ln(1/x), qui est un C 1 -difféomorphisme de ]0, 1[ dans R∗+ , avec
h−1 (y) = e−y , pour y ∈ R∗+ .
— Chapitre 4. Vecteurs aléatoires — 35
Exemple 4.4. Soit X une variable aléatoire suivant la loi de Cauchy standard. On cherche
d’abord à déterminer la loi de 1/X, et ensuite à montrer que E(|X|1−ε ) > 1, quel que soit
ε ∈ ]0, 1].
On calcule d’abord la loi de Y = 1/X. Soit ϕ : R → R une fonction borélienne
bornée. On a Z 1 1
E(ϕ(Y )) = E ϕ(1/X) = ϕ(1/x) dx
R π 1 + x2
Z
1 1 1
= ϕ(y) dy
R π 1 + y y2
−2
Z
1 1
= ϕ(y) dy.
R π 1 + y2
1 1
Donc Y admet comme densité fY (y) = π 1+y 2
. Autrement dit, 1/X suit également la loi
de Cauchy standard.
Les variables X et 1/X suivent la même loi. Posons Z = |X|1−ε . On a en particulier,
E(Z) = E( Z1 ) ∈ ]0, ∞[ . Or, d’après l’inégalité de Cauchy–Schwarz,
" r ! #2
1 √ 1
E(Z) · E( ) > E Z· = 1.
Z Z
5. Lois marginales
Soit X = (X1 , · · · XN ) un vecteur aléatoire. On appelle loi marginale la loi de tout
sous-vecteur (Xi1 , · · · , Xik ) (avec k < N ) extrait de X. Pour distinguer PX des lois
marginales, on l’appelle de temps en temps loi conjointe de X1 , · · ·, XN .
36 — Chapitre 4. Vecteurs aléatoires —
On écrit souvent
(n) (n)
Preuve. Fixons (x1 , · · · xk ) ∈ Rk . Soient (xk+1 )n>1 , · · ·, (xN )n>1 des suites croissantes
tendant toutes vers l’infini. La suite d’événements (indexée par n)
(n) (n)
{X1 6 x1 , · · · , Xk 6 xk , Xk+1 6 xk+1 , · · · XN 6 xN }
P (X1 6 x1 , · · · , Xk 6 xk )
(n) (n)
= lim P X1 6 x1 , · · · , Xk 6 xk , Xk+1 6 xk+1 , · · · XN 6 xN ,
n→∞
ou encore,
(n) (n)
F(X1 ,···,Xk ) (x1 , · · · , xk ) = lim F(X1 ,···,XN ) (x1 , · · · , xk , xk+1 , · · · , xN ).
n→∞
Donc (X1 , · · · , Xk ) a une loi qui est absolument continue par rapport à la mesure de
Lebesgue sur Rk , de densité
Z Z
f(X1 ,···,Xk ) (x1 , · · · , xk ) = · · · f(X1 ,···,XN ) (x1 , · · · , xk , uk+1 , · · · , uN ) duk+1 · · · duN . ⊔
⊓
R R
Par la Proposition 5.2, on sait que la loi de Y est absolument continue par rapport à la
mesure de Lebesgue. De plus, la densité de X est
Z Z ∞
fX (x) = f(X,Y ) (x, y) dy = θ 2 e−θ(x+y) 1R∗+ (x) dy
R
Z ∞ 0
= θ 2 e−θx 1R∗+ (x) e−θy dy = θe−θx 1R∗+ (x).
0
Chapitre 5. Indépendance
Proposition 1.2. Pour que deux v.a. X et Y soient indépendantes, il faut et il suffit que
Corollaire 1.3. Si X et Y sont indépendantes, alors il en est de même pour f (X) et g(Y )
pour toutes fonctions mesurables f et g.
Ceci équivaut à :
sont indépendantes. ⊔
⊓
Exemple 1.5. Soient X1 , · · ·, Xn des v.a. indépendantes telles que Xi suivent la loi de
Pn
Poisson de paramètre θi > 0 (1 6 i 6 n). On s’intéresse à la loi de Y = i=1 Xi .
Considérons la fonction génératrice de Y : pour s ∈ [0, 1],
n
! n n
Y Y Y
Y Xi
GY (s) = E s =E s = GXi (s) = e−θi (1−s) = e−θ(1−s) ,
i=1 i=1 i=1
— Chapitre 5. Indépendance — 41
Pn
avec θ := i=1 θi . Donc Y suit la loi de Poisson de paramètre θ. ⊔
⊓
Théorème 1.7. Soit (X1 , · · · , Xn ) un vecteur aléatoire dont la loi est absolument continue
par rapport à la mesure de Lebesgue. Alors X1 , · · ·, Xn sont indépendantes si et seulement
si
Preuve. La partie “seulement si” découle de (∗) en dérivant. La partie “si” se démontre
en intégrant dans les deux côtés de (∗∗). ⊔
⊓
Exemple 1.8 (suite des Exemples 2.1, 4.1 et 5.3 du Chapitre 4). Soit (X, Y ) un
vecteur aléatoire de densité
Donc f(X,Y ) (x, y) = fX (x)fY (y). Par la Proposition 1.7, on conclut que X et Y sont
indépendantes. ⊔
⊓
Exemple 1.9. Soient N1 et N2 deux variables indépendantes suivant la même loi gaussi-
enne centrée réduite. On s’intéresse à la variable aléatoire
N1
X= .
N2
Par conséquent, N
N2 suit la loi de Cauchy standard.
1
On remarque que cet exemple est en accord avec l’Exemple 4.4 du Chapitre 4 où l’on a
⊓
démontré que l’inverse de la loi de Cauchy standard est encore la loi de Cauchy standard.⊔
— Chapitre 5. Indépendance — 43
Exemple 1.10. Soient N1 et N2 deux variables indépendantes suivant la même loi gaussi-
enne centrée réduite. On s’intéresse à la variable aléatoire
X = N12 + N22 .
Autrement dit, (N12 + N22 ) suit la loi exponentielle de paramètre 1/2 (donc de moyenne
2). ⊔
⊓
où la constante Z Z
c1 = ··· g2 (x2 ) · · · gn (xn ) dx2 · · · dxn .
Rn−1
De même, pour tout 2 6 j 6 n, la densité de Xj est
Or, Z Z
1= ··· fX1 (x1 ) · · · fXn (xn ) dx1 · · · dxn
Rn
Z Z
= c1 · · · cn ··· g1 (x1 ) · · · gn (xn ) dx1 · · · dxn
Rn
Z Z
= c1 · · · cn ··· f(X1 ,···,Xn ) (x1 , · · · , xn ) dx1 · · · dxn
Rn
= c1 · · · cn ,
44 — Chapitre 5. Indépendance —
θ a −θx a−1
fX (x) = e x 1R∗+ (x),
Γ(a)
θ b −θy b−1
fY (y) = e y 1R∗+ (y),
Γ(b)
où a > 0, b > 0 et θ > 0 sont des constantes connues. (On dit que X et Y suivent les lois
gamma de paramètres (a, θ) et (b, θ) respectivement). On s’intéresse à la loi de X + Y .
Faisons un changement de variables U = X + Y et V = X/(X + Y ). On a
x
h(x, y) = x + y, = (u, v),
x+y
qui est une bijection de R∗+ × R∗+ dans R∗+ × ]0, 1[ avec h−1 (u, v) = (uv, u(1 − v)). Il s’agit
d’un difféomorphisme, dont le jacobien est
1 1 1 1
(Dh)(x, y) = det y x =− =− .
(x+y)2 − (x+y)2 x+y u
θ a+b
f(U,V ) (u, v) = e−θu 1R∗+ (u)ua+b−1 1 ]0, 1[ (v)v a−1 (1 − v)b−1 .
Γ(a) Γ(b)
— Chapitre 5. Indépendance — 45
a+b
θ
D’après la Proposition 1.11, U et V sont indépendantes. Comme Γ(a+b) e−θu ua+b−1 1R∗+ (u)
est la densité de la loi gamma de paramètre (a + b, θ), on conclut que
θ a+b −θu a+b−1
fU (u) = e u 1R∗+ (u).
Γ(a + b)
Donc la somme de deux variables aléatoires gamma indépendantes suit encore une loi
gamma.
On peut également voir que
Γ(a + b) a−1
fV (v) = v (1 − v)b−1 1 ]0, 1[ (v)
Γ(a) Γ(b)
v a−1 (1 − v)b−1 1 ]0, 1[ (v)
= .
B(a, b)
Cette loi est connue sous le nom de bêta. ⊔
⊓
E(XY ) = E(X)E(Y );
il suffit d’étudier le cas où X et Y sont toutes positives (sinon, on considèrera séparément
leur partie positive et partie négative), l’identité ci-dessus est alors une conséquence de la
Proposition 1.2 appliquée aux v.a. min(X, n) et min(Y, n), et du théorème de convergence
monotone en faisant n → ∞.
Donc, si X et Y admettent des moments d’ordre 2, l’indépendance entre les v.a.
intégrables X et Y implique que Cov(X, Y ) = 0. On a ainsi
Exemple 1.13 (exemple de v.a. réelles non-corrélées qui ne sont pas indépendantes). Soit
X une v.a. réelle discrète telle que
1
P (X = 1) = P (X = 2) = P (X = −1) = P (X = −2) = .
4
1 1
P (X = 1, Y = 4) = 0 6= × = P (X = 1) P (Y = 4) . ⊔
⊓
4 2
2. Événements indépendants
Proposition 2.1. Soient A1 , · · ·, An des événements sur un espace de probabilité (Ω, F , P).
Ils sont (mutuellement) indépendants si et seulement si les variables aléatoires 1A1 , · · ·,
1An sont indépendantes.
Preuve. Partie “seulement si”. Supposons que A1 , · · ·, An sont des événements indépen-
dants. Par définition, pour tout k 6 n et tout k-uplet 1 6 i1 < i2 < · · · ik 6 n,
S’il existe un xj > 1, alors les deux côtés de (∗∗) sont nuls, donc l’identité est vraie. On
suppose donc que xj 6 1, pour tout 1 6 j 6 n.
Soit E := {1 6 j 6 n : xj > 0}. Si E = ∅, c’est-à-dire xj 6 0 pour tous les j,
alors les deux côtés de (∗∗) vallent 1, donc l’identité est vraie. Si en revanche E 6= ∅, soit
E = {i1 , · · · , ik }. Dans ce cas, xj 6 0 si j ∈
/ E donc 1Aj > xj , tandis que si j ∈ E, alors
xj ∈ ]0, 1], et donc 1Aj (ω) > xj équivaut à ω ∈ Aj . Par conséquent, {1A1 6 x1 , · · · , 1An 6
Q
xn } = Ai1 ∩ · · · ∩ Aik , et P(1A1 > x1 ) · · · P(1An > xn ) = j∈E P(Aj ). Par (∗), on a
P(1A1 > x1 , · · · , 1An > xn ) = P(1A1 > x1 ) · · · P(1An > xn ), c’est à dire (∗∗).
Partie “si”. Supposons que 1A1 , · · ·, 1An sont indépendantes. Donc pour tout k 6 n et
tout k-uplet 1 6 i1 < i2 < · · · < ik 6 n, 1A1 , · · ·, 1An sont indépendantes. En particulier,
P(1Ai1 ∈ B, · · · 1Ain ∈ B) = P(1Ai1 ∈ B) · · · P(1Ain ∈ B) pour tout borélien B ⊂ R.
Prenons B = {1}, et on obtient P(Ai1 ∩ · · · ∩ Aik ) = P(Ai1 ) · · · P(Aik ). ⊔
⊓
Exemple 2.2. Soit Y une variable aléatoire suivant la loi de Poisson de paramètre θ > 0 :
θn
P(Y = n) = e−θ n! pour n = 0, 1, · · · Soit X telle que pour chaque n,
n
P(X = k | Y = n) = pk (1 − p)n−k , k = 0, 1, · · · , n.
k
(Certains disent que “sachant Y = n, X suit la loi binomiale de paramètre (n, p).”)
On s’intéresse à la loi de X. Pour tout k > 0,
∞
X
P(X = k) = P(X = k | Y = n) P(Y = n)
n=0
X∞ n
n k n−k −θ θ
= p (1 − p) e
k n!
n=k
∞
e−θ (θp)k X [θ(1 − p)]n−k
=
k! (n − k)!
n=k
−θp k
e (θp)
= .
k!
1. Définition et exemples
Dans tout ce chapitre, sauf mention contraire, X désigne une v.a. à valeurs dans RN
(donc un vecteur aléatoire de dimension N ) et PX sa loi. Notons que PX est une mesure
de probabilité sur RN .
• on a toujours ϕX (0) = 1;
• la fonction caractéristique prend ses valeurs dans le disque unité, c’est-à-
dire |ϕX (t)| ≤ 1 pour tout t ∈ RN . En effet, |E eiht,Xi | 6 E |eiht,Xi | =
1;
• ϕλX+a (t) = eiha,ti ϕX (λt), pour tout λ ∈ R et tout a ∈ RN ;
• si PX admet la densité fX (par rapport à la mesure de Lebesgue), alors
R
ϕX (t) = RN eiht,xi fX (x) dx;
50 — Chapitre 6. Fonctions caractéristiques —
• ϕX est une fonction semi-positive dans le sens que pour tous n > 1, ti ∈ RN ,
Pn Pn
zi ∈ C (1 6 i 6 n), on a k=1 ℓ=1 ϕX (tk − tℓ )zk z ℓ > 0. En effet,
n X
n n X
n
!
X X
ϕX (tk − tℓ )zk z ℓ = E eihtk ,Xi zk e−ihtℓ ,Xi z ℓ
k=1 ℓ=1 k=1 ℓ=1
n 2
X
= E eihtk ,Xi zk > 0.
k=1
1
Exemple 1.2 (loi uniforme). Si PX = b−a 1]a,b[ (x) dx (loi uniforme sur [a, b]), alors
eibt − eiat
ϕX (t) = . ⊔
⊓
i(b − a)t
Remarque. Ceci est un cas particulier d’un résultat général (Théorème de Riemann–
Lebesgue) sur la transformée de Fourier : Si g est une fonction mesurable intégrable sur
RN , alors gb(t) → 0 quand |t| → ∞.
Attention : Ici la condition que la loi soit absolument continue est importante.
Sinon, on ne peut pas espérer en général que lim|t|→∞ ϕX (t) = 0. Par exemple, si X = c
(constante; nous sommes en dimension N = 1), on a ϕX (t) = eict qui ne tend pas vers 0.
⊔
⊓
On a donc
Z Z Z ∞
2k
PX (dy) = PX (dy) dt eit(y−x) e−|t|/k ;
R 1 + (y − x)2 k 2 R −∞
Z ∞ Z Z Z ∞
2k t 2
h(x) PX (dy) dx = h y− dt PX (dy).
−∞ R 1 + (y − x)2 k 2 R −∞ k 1 + t2
Quand on fait tendre k vers ∞, le terme entre parenthèses dans le membre de droite
2 2
converge vers h(y) 1+t2 en restant dominé par khk∞ 1+t2 (qui est intégrable par rapport à
Z Z ∞ Z ∞
1 −itx −|t|/k
h(y) PX (dy) = lim e e ϕX (t) dt h(x) dx.
R 2π k→∞ −∞ −∞
R R
Donc si ϕX = ϕY , on a R
h(y) PX (dy) = R
h(y) PY (dy) pour toute fonction h continue,
positive, bornée et intégrable. Soit a < b. Il existe une suite de fonctions continues, posi-
tives, bornées et intégrables (hk ) telle que hk converge simplement vers 1]a,b[ , et que |hk | 6
R R
1. Par le théorème de convergence dominée, R hk (y) PX (dy) → R 1]a,b[ (y) PX (dy) =
P(a < X < b). Donc P(a < X < b) = P(a < Y < b). Faisant b tendre vers ∞, on a
1 − FX (a) = 1 − FY (a). Comme la fonction de répartition détermine la loi d’une v.a., on
en déduit que PX = PY . ⊔
⊓
Le Théorème 2.3 a beaucoup d’applications, car, il est pour certaines v.a. beaucoup
plus facile de calculer la fonction caractéristique que de calculer par exemple la fonction
de répartition.
Une conséquence immédiate du Théorème 2.3 est la suivante, parfois appelée formule
d’inversion, que l’on a déjà vue sous forme de transformée de Fourier inverse.
Théorème 2.4. Si ϕX est intégrable par rapport à la mesure de Lebesgue sur RN , alors
X admet la densité
Z
1
fX (x) = e−iht,xi ϕX (t) dt, x ∈ RN .
(2π)N RN
Exemple 2.5. Soit Y une variable aléatoire réelle de densité fY (x) := 12 e−|x| . On a
Z ∞
1
ϕY (t) = eitx−|x| dx
2 −∞
Z ∞ Z 0
1 1
= e−(1−it)x dx + e(1+it)x dx
2 0 2 −∞
1 1 1
= +
2 1 − it 1 + it
1
= .
1 + t2
ce qui équivaut à :
Z
1 eitx
dx = e−|t| .
R π 1 + x2
où X := (X1 , · · · , Xn ).
Preuve. Soit PX1 ⊗ · · · ⊗ PXN la mesure produit sur espace (RN , B(RN )). On a, par
R Qn Qn
définition, RN eiht,xi (PX1 ⊗ · · · ⊗ PXN )(dx) = k=1 ϕXk (tk ). Donc ϕX (t) = k=1 ϕXk (tk )
si et seulement si les fonctions caractéristiques associées à PX1 ⊗ · · · ⊗ PXN et à PX sont
identiques, ce qui équivaut à PX1 ⊗ · · · ⊗ PXN = P(X1 ,···,Xn ) (car la fonction caractériqtique
caractérise une loi de probabilité), c’est à dire, X1 , · · ·, Xn sont indépendantes. ⊔
⊓
Attention à ne pas confondre ceci avec le Théorème 2.6 ! En fait, la condition (∗) n’est
pas suffisante pour assurer l’indépendance entre X1 , · · ·, Xn : elle dit simplement que
ϕ(X1 ,···,Xn ) (t, · · · , t) = ϕX1 (t) · · · ϕXn (t) pour tout t ∈ R, tandis que la condition dans le
Théorème 2.6 dit que ϕ(X1 ,···,Xn ) (t1 , · · · , tn ) = ϕX1 (t1 ) · · · ϕXn (tn ), pour tout (t1 , · · · , tn ) ∈
Rn . Cette dernière est beaucoup plus forte que la condition (∗). ⊔
⊓
où
D := {(x, y) : 0 6 x 6 1/2, x 6 y 6 x + 1/2}
∪ {(x, y) : 1/2 6 x 6 1, x 6 y 6 1 ou 0 6 y 6 x − 1/2}.
(Il convient de faire un dessin.) On peut facilement déterminer les lois (marginales) de
R1
X et de Y . En effet, pour tout x ∈ [0, 1], fX (x) = 0 f(X,Y ) (x, y) dy = 1, et bien sûr
fX (x) = 0 si x ∈/ [0, 1]. De même, fY (y) = 1[0,1] (y). Autrement dit, X et Y suivent la
même loi uniforme sur [0, 1] : donc
eit − 1
ϕX (t) = ϕY (t) = .
it
Il est clair que X et Y ne sont pas indépendantes car f(X,Y ) (x, y) 6= fX (x)fY (y) (ou plus
simplement : parce que f(X,Y ) ne se factorise pas).
On s’intéresse à la loi de X + Y . On a,
ZZ
ϕX+Y (t) = 2 eit(x+y) dx dy
(x,y)∈D
ZZ ZZ
it(x+y)
= e dx dy + eit(x+y) dx dy.
(x,y)∈D (y,x)∈D
D’autre part,
ϕ2X (t) = ϕX (2t) = e−2|t| .
Donc la somme de deux v.a. de Cauchy indépendantes a même loi que deux fois une v.a.
de Cauchy standard. ⊔
⊓
En prenant h(x) = e−2iπht,xi dans (†) et en appliquant le théorème de Fubini, on tire que
la transformée de Fourier de la mesure finie µ ∗ ν est le produit des transformées de Fourier
de µ et de ν.
Si on suppose maintenant que µ et ν sont des mesures de probabilités. La mesure
produit µ ⊗ ν sur RN × RN est donc la loi de (X, Y ), où X et Y sont indépendantes et
de loi respectives µ et ν. La formule (†) montre que µ ∗ ν est la loi de la somme X + Y .
On peut bien sûr itérer le procédé. On retiendra le résultat suivant :
La fonction caractéristique d’une v.a. réelle X permet de calculer très facilement les
moments de X, pourvu qu’ils existent.
Proposition 3.1. Supposons que la v.a. réelle X admet un moment d’ordre n > 1. Alors
ϕX est de classe C n et
(n)
ϕX (t) = in E(X n eitX ), t ∈ R.
En particulier,
(n)
nϕ (0)
E(X ) = X n .
i
Preuve. Nous allons prouver la formule pour n = 1; le cas général en découle par récurrence.
On remarque tout d’abord que pour tout θ ∈ R,
On a pour tout t ∈ R,
Z Z
ϕX (t + ε) − ϕX (t) ei(t+ε)x − eitx eiεx − 1
= PX (dx) = eitx PX (dx).
ε R ε R ε
L’intégrand dans le terme de droite est dominé par 2|x| et converge vers ixeitx quand ε → 0.
On applique le théorème de convergence dominée pour obtenir la formule
L’application t 7→ xeitx est continue pour chaque x, et est dominée par |x| indépendamment
de t. Par convergence dominée, on a
Z Z
itx
lim xe PX (dx) = xeit0 x PX (dx),
t→t0 R R
dx
PX (dx) = c 1{|x|>2} ,
|x|2 ln |x|
— Chapitre 6. Fonctions caractéristiques — 57
R∞
où c est la constante de normalisation. D’une part, on sait que −∞
|x|PX (dx) = ∞
(intégrale de Bertrand). D’autre part, par symétrie, on a
Z Z ∞
iεx
dx dx
1 − ϕX (ε) = c 1−e 2
= 2c (1 − cos(εx)) .
|x|>2 |x| ln |x| 2 x2 ln x
Montrons maintenant que ϕ′X (0) = 0 : après un changement de variables y = εx, il s’agit
R∞
de montrer que 2ε y1−cos(y)
2 ln(y/ε) dy → 0 quand ε → 0.
R∞
Par le théorème de convergence dominée, on voit que 1 y1−cos(y)
2 ln(y/ε) dy → 0. Pour
R 1 1−cos(y) R1 1
l’intégrale sur [2ε, 1], on remarque que 2ε y2 ln(y/ε) dy 6 K 2ε ln(y/ε) dy pour une certaine
constante K < ∞, car la fonction 1−cos(y)
y2
est bornée. Par un changement de variables,
R1 1
R 1/ε R 3
2ε ln(y/ε)
dy = ε 2 ln1x dx. Comme 2 ln1x dx est une constante finie, il reste seulement
1
RA 1
de vérifier que A 3 ln x
dx → 0 quand A → ∞.
Or, par intégration par parties,
Z A h x iA Z A Z A
1 1 A 3 1
dx = + 2
dx 6 − + c∗ dx,
3 ln x ln x 3 3 (ln x) ln A ln 3 3 ln x
où l’on a utilisé dans la dernière inégalité le fait que (ln1x)2 6 lnc∗x pour tout x ∈ [3, ∞[ ,
RA
avec la constante c∗ := ln13 < 1. Donc 3 ln1x dx 6 1−c 1
( A − ln33 ), ce qui implique que
∗ ln A
1
R A 1
A 3 ln x dx → 0, A → ∞. ⊔
⊓
Exemple 3.2. (loi gaussienne). Si PX est la loi gaussienne standard N (0, 1), alors
Z ∞ 2
1 x
ϕX (t) = √ exp − eitx dx
2π −∞ 2
est à valeurs réelles (par symétrie). Une dérivation sous le signe somme donne
Z ∞ 2
1 x
ϕ′X (t) =√ ix exp − eitx dx.
2π −∞ 2
2
A l’aide d’une intégration par parties (dériver x → eitx et intégrer x → xe−x /2
), on obtient
Z ∞ 2
1 x
ϕ′X (t) = −√ t exp − eitx dx = −t ϕX (t).
2π −∞ 2
Exemple 3.3. Si X a pour loi N (µ, σ 2 ) et Y a pour loi N (ν, τ 2 ), avec X et Y indépen-
dantes, alors
σ 2 t2 τ 2 t2
ϕX+Y (t) = ϕX (t)ϕY (t) = exp itµ − × exp itν −
2 2
2 2 2
(σ + τ )t
= exp it(µ + ν) − .
2
Exemple 3.4. Si X a pour loi N (0, 1), indépendante de la v.a. ε qui a pour loi P(ε =
1) = P(ε = −1) = 1/2. Soit Y = εX. On a
Z Z Z
itεX itux
ϕY (t) = E(e )= e PX (dx) Pε (du) = ϕX (tu) Pε (du)
R R R
Z 2 2 2
t u t
= exp − Pε (du) = exp − .
R 2 2
Exemple 3.5. Plus généralement, si X est une v.a. réelle dont la loi est symétrique sur R
(c’est-à-dire que PX = P−X ), et si ε est une v.a. réelle indépendante de X telle que ε2 = 1,
alors PεX = PX , ce qui est intuitivement clair.
— Chapitre 6. Fonctions caractéristiques — 59
Notons que PX = P−X si et seulement si ϕX est une fonction paire sur R, ce qui est le cas
si par exemple X admet une fonction de densité qui est symétrique sur R. ⊔
⊓
D’autre part, d’après l’Exemple 3.3, PX+Y = N (2µ, 2σ 2) et PX−Y = N (0, 2σ 2). Donc
ϕX+Y (t1 ) = exp(i(2µ)t1 − σ 2 t21 ), et ϕX−Y (t2 ) = exp(−σ 2 t22 ). Par conséquent,
1. Lemme de Borel–Cantelli
On considère une suite d’événements {An , n > 1} dans (Ω, F ). La suite des événe-
S
ments k>n Ak , n > 1 est décroissante, son intersection
\ [
A = lim sup An = Ak
n→∞
n>1 k>n
est encore un événement dans F . On remarquera que A représente l’ensemble des aléas ω
qui appartiennent à une infinité d’événements An , autrement dit 1A = lim supn→∞ 1An ; ce
qui justifie la notation. On écrira souvent {An infiniment souvent } à la place de l’ensemble
lim supn→∞ An .
On peut également définir lim inf n→∞ An = (lim supn→∞ Acn )c . Autrement dit,
[ \
lim inf An = Ak .
n→∞
n>1 k>n
Il est clair que lim inf n→∞ An = {ω ∈ Ω : ω ∈ An sauf un nombre fini d’indice n}, ou
encore 1lim inf An = lim inf n→∞ 1An .
On a
lim sup An = [−2, 2[ , lim inf An = [−1, 1].
n→∞ n→∞
Théorème 1.2 (lemme de Borel–Cantelli). Soit {An }n>1 une suite d’événements.
P∞
(i) Si n=1 P(An ) < ∞, alors
P ( An infiniment souvent ) = 0.
P∞
(ii) Si n=1 P(An ) = ∞, et si les événements {An }n>1 sont indépendants (c’est
à dire, pour tout n, A1 , · · ·, An sont indépendants), alors
P ( An infiniment souvent ) = 1.
Preuve du lemme de Borel–Cantelli. (i) SFixons ε > 0. Il existe un entier N tel que
P∞
n=N P(An ) < ε, et en conséquence P n>N An < ε. De la définition de l’événement
lim supn→∞ An , on tire a fortiori P(lim supn→∞ An ) < ε.
(ii) Comme les An sont indépendants, il en est de même pour leurs complémentaires,
et on a
m
[ m
\ m
Y m
X
P Aj = 1 − P Acj = 1 − P(Acj ) > 1 − exp − P(Aj ) .
j=k j=k j=k j=k
S∞
Comme les événements j=k Aj décroissent vers lim supn→∞ An quand k → ∞, on a bien
P(lim supn→∞ An ) > 1 (et donc = 1). ⊔
⊓
Définition 2.1 (convergence p.s.). On dit que la suite de v.a. {Xn }n>1 converge
presque sûrement vers une v.a. X s’il existe un événement A avec P(A) = 1, tel que
Autrement dit, n o
P ω ∈ Ω : lim Xn (ω) = X(ω) = 1.
n→∞
Exemple 2.2. Soit (Xn ) une suite de v.a. réelles indépendantes suivant la même loi
gaussienne N (0, 1). Soit Sn = X1 + · · · + Xn . On sait que Sn suit la loi N (0, n). Donc
par l’inégalité de Markov, pour tout ε > 0,
E(|Sn |3 ) E(|X1 |3 )
P (|Sn | > nε) = P |Sn |3 > ε3 n3 6 = .
ε3 n3 ε3 n3/2
P
On a n P(|Sn | > nε) < ∞. D’après la première partie du lemme de Borel–Cantelli,
La v.a. lim supn→∞ |Snn | vaut donc 0 avec probabilité 1, autrement dit, Snn → 0 p.s.
On a utilisé le fait que si X est une v.a. réelle telle que P(0 6 X 6 ε) = 1 quel
que soit ε > 0, alors P(X = 0) = 1. Ceci se démontre par exemple en remarquant que
{X = 0} = ∩k>1 {0 6 X 6 k1 }. ⊔
⊓
Exemple 2.3. Soient X, X1 , X2 , · · · des v.a. réelles, et soit {εn } une suite de réels
P
strictement positifs tendant vers 0. Si P(|Xn − X| > εn ) est convergente, alors Xn → X
p.s.
En effet, d’après la première partie du lemme de Borel–Cantelli, il existe A ∈ F avec
P(A) = 1 tel que
∀ω ∈ A, ∃n0 = n0 (ω) < +∞ tel que |Xn (ω) − X(ω)| < εn , ∀n > n0 .
64 — Chapitre 7. Suites et séries de variables —
P
Exemple 2.4. Soient X, X1 , X2 , · · · des v.a. réelles telles que P(|Xn − X| > ε) soit
convergente pour tout ε > 0, alors Xn → X p.s.
Ceci est un renforcement de l’exemple précédent, car si εn → 0 (n → +∞), alors
P(|Xn − X| > εn ) > P(|Xn − X| > ε) lorsque n est suffisamment grand.
Fixons ε > 0. Par hypothèse et le lemme de Borel–Cantelli, il existe A ∈ F avec
P(A) = 1 tel que
∀ω ∈ A, ∃n0 = n0 (ω) < +∞ tel que |Xn (ω) − X(ω)| < ε, ∀n > n0 .
Donc pour tout ω ∈ A, on a lim supn→∞ |Xn (ω) − X(ω)| 6 ε. D’où : P(lim supn→∞ |Xn −
X| 6 ε) = 1. Le réel ε > 0 étant quelconque, on déduit que P(limn→∞ (Xn − X) = 0) = 1;
autrement dit, Xn converge presque sûrement vers X. ⊔
⊓
Exemple 2.5. On se donne une suite de v.a. {Xn }n>1 indépendantes, suivant toutes la
même loi. Si E(|X1 |) = ∞, alors lim supn→∞ n−1 |Xn | = ∞ p.s.
En effet, fixons un réel a > 0. On a, par le théorème de Fubini
∞
X ∞
X
P(|Xn /n| > a) = P(a−1 |X1 | > n) = E(⌊a−1 |X1 |⌋) > E(a−1 |X1 |) − 1 = ∞.
n=1 n=1
Définition 2.6 (convergence en probabilité). On dit que la suite {Xn }n>1 converge
en probabilité vers une v.a. X si pour tout ε > 0
Remarque. Il est facile de voir que les résultats usuels sur les limites (unicité de la limite,
linéarité, etc) sont valables pour les convergences p.s. et en probabilité. ⊔
⊓
— Chapitre 7. Suites et séries de variables — 65
Exemple 2.7. Soit {Xn } une suite de v.a. réelles telle que E(Xn ) → a et Var(Xn ) → 0.
Alors, par l’inégalité de Markov, pour tout ε > 0,
E[(Xn − a)2 ]
P (|Xn − a| > ε) = P (Xn − a)2 > ε2 6
ε2
2
Var(Xn ) + (a − E(Xn ))
= → 0.
ε2
Donc Xn converge en probabilité vers a. ⊔
⊓
Exemple 2.9. {Xn }n>1 converge en probabilité vers X si et seulement si, pour tout ε > 0,
il existe N ∈ N tel que P (|Xn − X| > ε) 6 ε pour tout n > N .
Il suffit de prouver la partie “si”. Fixons ε0 > 0. Par hypothèse, pour tout ε ∈ ]0, ε0 ],
il existe N ∈ N tel que : si n > N , alors P (|Xn − X| > ε) 6 ε. Donc P (|Xn − X| > ε0 ) 6
P (|Xn − X| > ε) 6 ε. Par définition, limn→∞ P (|Xn − X| > ε0 ) = 0. Autrement dit,
Xn → X en probabilité. ⊔
⊓
Preuve. Soit A ∈ F tel que P(A) = 1 et que pour tout ω ∈ A, Xn (ω) → X(ω), n → ∞.
On fixe ε > 0. Pour chaque entier n, on considère l’événement
{|Xn − X| > ε} ⊂ Bn ∪ Ac ,
Exemple 2.11. La réciproque de la Proposition 2.10 est fausse; voici un contre exemple.
On prend Ω = [1, 2] que l’on munit de la tribu borélienne et de la mesure de Lebesgue.
66 — Chapitre 7. Suites et séries de variables —
Pour chaque n, on note k l’unique entier tel que 2k 6 n < 2k+1 , et on prend Xn (ω) =
1[n2−k ,(n+1)2−k ] (ω). Il est clair que pour tout ε ∈ ]0, 1[ , P(|Xn | > ε) = 2−k , de sorte que
Xn → 0 en probabilité. Néanmoins, pour tout ω ∈ [1, 2], il existe une infinité d’entiers n
pour lesquels Xn (ω) = 1, et Xn (ω) ne converge pas vers 0. ⊔
⊓
Remarque. On se gardera de croire que la condition que “pour toute sous-suite (XN(n) )
on puisse en extraire une sous-sous-suite (XN(M (n)) ) qui converge vers X presque sûre-
ment” soit équivalente à la convergence p.s. de (Xn ) vers X. D’après la proposition
précédente, ceci signifie simplement la convergence en probabilité de (Xn ) vers X, ce
qui est plus faible que la convergence p.s. En réalité, la convergence p.s. de (Xn ) vers
X est équivalente à la condition suivante : il existe A ∈ F avec P(A) = 1 tel que tout
ω ∈ A vérifie la propriété : pour toute sous-suite XN(n,ω) (ω) on puisse en extraire une
sous-sous-suite XN(M (n,ω),ω) (ω) qui converge vers X(ω). Mais attention, cette dernière
propriété concerne toute sous-suite XN(n,ω) (ω) où N (n, ω) dépend de ω, ce qui n’est pas
le cas de la condition du départ qui était un peu plus faible. ⊔
⊓
— Chapitre 7. Suites et séries de variables — 67
Preuve. Soit (XN(n) ) une sous-suite quelconque. Par la proposition précédente, il existe
une sous-sous-suite (XN(M (n)) ) qui converge vers X p.s. Par le lemme de Fatou usuel,
lim inf n→∞ E(XN(M (n)) )) > E(X). Donc lim inf n→∞ E(Xn ) > E(X). ⊔
⊓
Preuve. Soit (f (XN(n) )) une sous-suite quelconque. Par la Proposition 2.13, il existe une
sous-sous-suite (XN(M (n)) ) qui converge vers X p.s., donc (f (XN(M (n)) )) converge vers
f (X) p.s. En utilisant de nouveau la Proposition 2.13, f (Xn ) → f (X) en probabilité. ⊔
⊓
Définition 2.16 (convergence dans Lp ). Pour tout p > 1, on dit qu’une suite {Xn }n>1
de v.a. converge dans Lp (Ω, F , P) vers une v.a. X ∈ Lp (Ω, F , P) si
Exemple 2.17. On se donne une suite de v.a. {Xn }n>1 , suivant toutes la même loi. Si
X1 ∈ L1 (Ω, F , P), alors la suite Xn /n converge vers 0 p.s. et dans L1 (P).
En effet, E(|Xn /n|) = n−1 E(|X1 |) → 0, donc Xn /n → 0 dans L1 (P).
Pour la convergence p.s., on fixe un réel k > 0. On a, par le théorème de Fubini,
∞
X ∞
X
P(|Xn /n| > 1/k) = P(k|X1 | > n) = E(⌊k|X1 |⌋) < ∞.
n=1 n=1
68 — Chapitre 7. Suites et séries de variables —
E (|X − Xn |p )
P (|X − Xn | > ε) 6 → 0, n → ∞. ⊔
⊓
εp
Exemple 2.19. La réciproque est en général fausse. Soit {Xn }n>3 une suite de v.a. réelles
telle que P(Xn = n) = ln1n et P(Xn = 0) = 1 − ln1n . Pour tout ε > 0,
1
P (|Xn | > ε) 6 → 0.
ln n
Donc Xn → 0 en probabilité. D’autre part,
np
E (|Xn |p ) = → ∞.
ln n
Donc Xn ne converge pas vers 0 dans Lp . ⊔
⊓
Preuve. Si la suite {Xn }n>1 converge vers X en probabilité, c’est encore le cas pour toute
suite extraite, disons {XN(n) }n>1 . On sait qu’on peut extraire de cette dernière une sous-
suite, disons {XN(M (n)) }n>1 qui converge p.s. vers X. Par hypothèse, on peut appliquer le
théorème de convergence dominée, i.e., XN(M (n)) → X dans Lp (Ω, F , P). Ainsi, de toute
suite extraite de {Xn }n>1 , on a su extraire une sous-sous-suite qui converge vers X dans
Lp . Donc Xn → X dans Lp . ⊔
⊓
Exemple 2.22. On se donne Y une variable aléatoire réelle définie sur l’espace de prob-
abilité (Ω, F , P), uniformément distribuée sur l’intervalle [3, 6]. Pour tout n > 1 et tout
ω ∈ Ω, on pose
( 2
5n si 3 6 Y (ω) 6 3 + (4/n2 ),
Xn (ω) =
0 sinon.
(a) Déterminer E(Xn ) et E(Xn2 ), (n > 1).
(b) Calculer E(Xn+1 Xn+2 ), (n > 1).
(c) La suite (Xn ) converge-t-elle presque sûrement vers une limite?
(d) La suite (Xn ) converge-t-elle en probabilité vers une limite?
(e) La suite (Xn ) converge-t-elle dans L1 vers une limite?
Solution. (a) On peut écrire Xn = 5n2 1[3, 3+4n−2 ] (Y ). Donc E(Xn ) = 5n2 P(3 6 Y 6
3 + 4n−2 ) et E(Xn2 ) = 25n4 P(3 6 Y 6 3 + 4n−2 ). Si n = 1, on a P(3 6 Y 6 7) = 1,
donc E(X1 ) = 5 et E(X12 ) = 25. Si n > 2, on a P(3 6 Y 6 3 + 4n−2 ) = 4n−2 /3, donc
E(Xn ) = 20
3
et E(Xn2 ) = 100
3
n2 (n > 2).
(b) Par définition, Xn+1 Xn+2 = 25(n + 1)2 (n + 2)2 1[3, 3+4(n+2)−2 ] (Y ), ce qui implique
que E(Xn+1 Xn+2 ) = 25(n + 1)2 (n + 2)2 P(3 6 Y 6 3 + 4(n + 2)−2 ) = 100 2
3 (n + 1) .
(c) Soit Ω0 = {ω ∈ Ω : 3 < Y (ω) 6 6}. On a P(Ω0 ) = 1. Pour tout ω ∈ Ω0 , posons
p
n0 = n0 (ω) = 2/ Y (ω) − 3 , alors Y (ω) > 3 + 4/n2 (donc Xn (ω) = 0) dès que n > n0 .
Par conséquent, P{ω ∈ Ω : limn→∞ Xn (ω) = 0} = 1, c’est-à-dire que Xn converge presque
sûrement vers (la variable constante) 0.
(d) Convergence presque sûre impliquant convergence en probabilité, on déduit que
Xn converge en probabilité vers 0.
(e) Si Xn convergeait dans L1 vers une limite disons X, alors elle convergerait égale-
ment en probabilité vers X (Proposition 2.17). Or, dans la question précédente, on a vu
que Xn converge en probabilité vers 0, ce qui impliquerait P(X = 0) = 1. Autrement
dit, Xn convergerait dans L1 vers 0, ce qui entraı̂nerait limn→∞ E(Xn ) = E(0) = 0. Ceci
contredit le fait que E(Xn ) = 20
3
(n > 2). En conclusion, Xn ne peut converger dans L1 .⊔
⊓
Exemple 2.23. Il est à noter qu’une suite de v.a. réelles converge p.s., en probabilité ou
dans Lp (p > 1) si et seulement si elle est de Cauchy. Ceci est clair pour la convergence
dans Lp (car dans la théorie d’intégration on a vu que Lp , p > 1, est un espace de Banach)
et pour la convergence p.s. (par vérification directe). On montre maintenant qu’il est vrai
pour la convergence en probabilité.
Soient (Xn )n>1 des v.a. réelles qui forment une suite de Cauchy dans le sens que
quel que soit ε > 0, P(|Xp − Xq | > ε) → 0, p → ∞, q → ∞ (c’est-à-dire que pour
70 — Chapitre 7. Suites et séries de variables —
Lemme 3.2. Soient {Un }16n6M et {Vn }16n6M deux suites finies de v.a. positives telles
que pour chaque n ≤ M , Vn est indépendant de (Un , Un+1 , · · · , UM ). On a alors pour tout
x > 0,
P max (Un − Vn ) > x > min P(Vn < x) × P max Un > 2x .
16n6M 16n6M 16n6M
— Chapitre 7. Suites et séries de variables — 71
(En fait, AM = {UM > 2x}). Il est clair que les An sont deux-à-deux disjoints, et que
SM
n=1 An = {max16n6M Un > 2x}. Considérons l’expression :
M
X
I= P ({Vn < x} ∩ An ) .
n=1
On a, d’une part,
M
! M
[ X
I=P ({Vn < x} ∩ An ) 6 P (Vn < x, Un > 2x)
n=1 n=1
6P max (Un − Vn ) > x .
16n6M
Preuve du Théorème 3.1. Soit S la limite des Sn (en probabilité). On sait qu’il existe
une suite extraite SN(n) qui converge vers S p.s. (ici, N : N∗ → N∗ est une certaine
application strictement croissante). Pour chaque entier n > 1, il existe un unique entier ℓ
tel que N (ℓ − 1) 6 n < N (ℓ), et on pose α(n) = N (ℓ − 1). L’application α est croissante
sur N∗ . On introduit
Un = |S − Sn | , Vn = |Sα(n) − Sn | , Wn = |S − Sα(n) | .
Comme ε et x sont arbitraires, on a bien lim supn→∞ Un = 0 p.s., ce qui termine la preuve
du Théorème 3.1. ⊔
⊓
Proposition 3.3. Supposons que les v.a. réelles indépendantes Xn sont centrées et ad-
mettent toutes un moment d’ordre 2, i.e., E(Xn ) = 0 et E(Xn2 ) < ∞. Alors Sn con-
verge dans L2 (Ω, F , P) si et seulement si la série des moyennes quadratiques converge,
P∞ 2
n=1 E(Xn ) < ∞. Dans ce cas, la convergence a lieu p.s. également, et la limite, S∞ , est
P∞
une v.a. centrée dont la variance vaut n=1 E(Xn2 ).
εn
Exemple 3.4. On prend Xn = n ,avec {εn }n>1 une suite de v.a. indépendantes et
P∞
équidistribuées telle que P(ε1 = 1) = P(ε1 = −1) = 1/2. La série n=1 |Xn | diverge p.s.,
P∞
alors que la série n=1 Xn converge p.s. (semi-convergence). ⊔
⊓
— Chapitre 8. Loi des grands nombres — 73
n
Y
−n
P (X1 = x1 , · · · , Xn = xn ) = 2 = P(Xj = xj ). ⊔
⊓
j=1
La loi des grands nombres a été découverte par Jacques Bernoulli, précisément pour
une suite de v.a. de Bernoulli indépendantes. C’est l’un des résultats les plus importants
de la théorie des probabilités.
74 — Chapitre 8. Loi des grands nombres —
Théorème 1.2 (loi des grands nombres forte). (i) Si E(|X|) < ∞ disons E(X) = µ,
alors
X1 + · · · + Xn
lim = µ,
n→∞ n
presque sûrement.
(ii) Si E(|X|) = ∞, alors la suite {n−1 (X1 + · · · + Xn )}n>1 diverge p.s.
Preuve. (i) Nous ne démontrerons ici la loi que sous l’hypothèse plus restrictive que X
admet un moment d’ordre 2. Une preuve complète est pourvue dans la Section 3 du présent
chapitre.
Tout d’abord, en considérant séparément la partie positive de Xn et sa partie négative,
on remarque qu’il suffit de démontrer le résultat pour des v.a. positives, ce que l’on suppose
désormais.
On note S(n) = X1 + · · · + Xn . On a E(S(n)) = nµ et Var(S(n)) = nVar(X). En
particulier,
S(n4 ) − n4 µ Var(X)
Var = .
n4 n4
D’après l’inégalité de Bienaymé–Tchebychev,
−4 4 1 Var(X)
P |n S(n ) − µ| > 6 .
n n2
P∞ −4
On déduit que la série n=1 P(|n S(n4 ) − µ| > 1/n) converge. D’après le lemme de
Borel–Cantelli, on a donc presque-sûrement,
1
|n−4 S(n4 ) − µ| 6 , sauf pour un nombre fini d’entiers n.
n
Fixons un aléas ω pour lequel l’événement ci-dessus est réalisé et prenons n suffisament
grand. Pour tout entier k tel que n4 6 k 6 (n + 1)4 , on a donc (puisque la suite (Sj , j =
1, · · · , ) est croissante)
4 4
S(k) S((n + 1)4 ) n+1 S((n + 1)4 ) n+1
6 = 6 (µ + 1/n).
k n4 n (n + 1)4 n
4
Comme n+1
n tend vers 1 quand n → ∞, on a donc établi que pour cet aléas ω
S(k)
lim sup 6 µ.
k→∞ k
De même, on a
4 4
S(k) S(n4 ) n S(n4 ) n
> = > (µ − 1/n) .
k (n + 1)4 n+1 n4 n+1
— Chapitre 8. Loi des grands nombres — 75
4
n
Comme n+1 tend vers 1 quand n → ∞, on a donc établi que pour cet aléas ω
S(k)
lim inf > µ.
k→∞ k
Remarque. On fait souvent référence au théorème comme la loi forte des grands nombres.
Une conséquence immédiate du théorème est que sous les hypothèses (i), la suite n−1 S(n)
converge en probabilité vers la moyenne µ. On parle dans ce dernier cas de loi faible des
grands nombres, par opposition à la loi forte. ⊔
⊓
Exemple 1.3. Soit {Uj }j>1 une suite i.i.d. de v.a. suivant la loi uniforme sur [0, 1]. Par
la loi forte des grands nombres, lorsque n tend vers l’infini,
n
1X 1
Uj → E(U1 ) = , p.s.
n j=1 2
On a
n n
1X 1X 1
ln Xn = ln Uj = − ln .
n j=1 n j=1 Uj
76 — Chapitre 8. Loi des grands nombres —
La suite de v.a. {ln(1/Uj )}j>1 est de nouveau i.i.d. Pour savoir l’existence du moment
d’ordre 1, soit h : R → R une fonction borélienne bornée, on a
Z 1 Z ∞ Z
1 1 −y
E(h(ln )) = h(ln ) dx = h(y)e dy = h(y)e−y 1R∗+ (y) dy.
U1 0 x 0 R
Ceci montre que ln(1/U1 ) suit la loi exponentielle de paramètre 1. En particulier, elle
admet un moment d’ordre 1, avec E(ln(1/U1 )) = 1. Donc ln Xn → −1, p.s., c’est-à-dire
Xn → 1/e, p.s. ⊔
⊓
Exemple 1.4. Soient f et g deux fonctions continues sur [0, 1], telles que 0 6 f (x) <
C g(x) pour x ∈ [0, 1], où C > 0 est une constante. On montre
Z 1 Z 1
R1
f (x1 ) + · · · + f (xn ) f (x) dx
lim ··· dx1 · · · dxn = R01 .
n→∞ 0 0 g(x1 ) + · · · + g(xn ) g(x) dx
0
Pour prouver cette convergence, soit {Uj }j>1 une suite i.i.d. de v.a. suivant la loi
uniforme sur [0, 1]. Posons
n n
1X 1X
Xn = f (Uj ), Yn = g(Uj ).
n n
j=1 j=1
R1
D’après la loi forte des grands nombres, Xn → E(f (U1 )) = 0 f (x) dx, p.s., et Yn →
R1 R1 R1 R1
0
g(x) dx, p.s. Comme 0 g(x) dx > 0, on a Xn /Yn → 0 f (x) dx/ 0 g(x) dx, p.s.
Comme |Xn /Yn | 6 C qui est intégrable, il résulte du théorème de convergence dominée
que R1
Xn f (x) dx
E → R01 .
Yn g(x) dx
0
Or, Z Z
1 1
Xn f (x1 ) + · · · + f (xn )
E = ··· dx1 · · · dxn ,
Yn 0 0 g(x1 ) + · · · + g(xn )
ce qui donne le résultat voulu. ⊔
⊓
Théorème 2.1 (Glivenko–Cantelli). Supposons que les v.a. réelles X1 , · · ·, Xn soient les
éléments d’un échantillon provenant d’une population statistique, c’est-à-dire que ce sont
des v.a. indépendantes et identiquement distribuées. Soit F (·) leur fonction de répartition
commune, et soit Fn (·) la fonction de répartition empirique de l’échantillon, c’est-à-dire
que
1
Fn (x) = #{1 6 i 6 n : Xi 6 x}, x ∈ R.
n
Alors,
sup |Fn (x) − F (x)| → 0, p.s.
x∈R
1
Fn (x) − F (x) 6 Fn (xk − 0) − F (xk−1 ) 6 F (xk − 0) + − F (xk−1 )
M
k 1 k−1 2
6 + − = ,
M M M M
et
1
Fn (x) − F (x) > Fn (xk−1 ) − F (xk − 0) > F (xk−1 ) − − F (xk − 0)
M
k−1 1 k 2
> − − =− .
M M M M
D’où : supx∈R |Fn (x) − F (x)| 6 2/M pour ω ∈ A et n > n0 , ce qui implique que
2
P lim sup sup |Fn (x) − F (x)| 6 = 1.
n→∞ x∈R M
Pn S(n)−T (n)
Lemme 3.1. Soient Yk := Xk 1{Xk 6k} (k > 1) et T (n) := k=1 Yk . Alors n
→ 0,
p.s.
P∞ P∞ P∞
Preuve. On a n=1 P(Xn > n) = n=1 P(X1 > n) = n=1 P(⌊X1 ⌋ > n) = E(⌊X1 ⌋) <
∞. Par la première partie du lemme de Borel–Cantelli, il existe A ∈ F avec P(A) = 1 tel
que pour tout ω ∈ A, il existe n0 = n0 (ω) < ∞ satisfaisant Xn (ω) < n (n > n0 ). Donc
Yn (ω) = Xn (ω). Ceci implique que S(n) − T (n) = S(n0 ) − T (n0 ) pour tout ω ∈ A et tout
n > n0 . ⊔
⊓
E(T (n))
Lemme 3.2. n
→ E(X1 ), n → ∞.
Lemme 3.3.
∞
X Var(Yk )
6 8E(X1 ).
k2
k=1
R∞
Preuve. Remarquons d’abord que E(Z p ) = P(Z > x)pxp−1 dx, pour toute v.a. pos-
0 R∞
itive Z et tout p > 0. En effet, par le théorème de Fubini, 0 P(Z > x)pxp−1 dx =
R∞R R R∞ R
0
1
Ω {Z(ω)>y 1/p }
dP(ω) dy = Ω 0 1{Z(ω)>y1/p } dy dP(ω) = Ω Z p (ω) dP(ω) = E(Z p ).
Donc Z ∞
Var(Yk ) 6 E(Yk2 ) =2 P(Yk > x)x dx
0
Z k Z k
=2 P(Yk > x)x dx = 2 P(Xk > x)x dx
0 0
Z k
=2 P(X1 > x)x dx.
0
— Chapitre 8. Loi des grands nombres — 79
Pour j > 1,
X∞ X∞ X∞
1 1 1 1 1
2
= 2+ 2
6 +
k j k j k(k − 1)
k=j k=j+1 k=j+1
X∞
1 1 1 1 1 2
= + − = + = .
j k−1 k j j j
k=j+1
D’où :
∞
X Z 1 Z ∞
Var(Yk ) P(X1 > x)x
64 P(X1 > x)x dx + 4 dx
k2 0 1 ⌊x⌋
k=1
Z 1 Z ∞
64 P(X1 > x)x dx + 8 P(X1 > x) dx
0 1
Z ∞
68 P(X1 > x) dx = 8E(X1 ). ⊔
⊓
0
T (nj )
Lemme 3.4. Fixons θ > 1, et soit nj := ⌊θ j ⌋. Alors nj
→ E(X1 ), p.s.
Preuve. Si ε > 0 et Aj := {|T (nj ) − E(T (nj ))| > εnj }, alors par l’inégalité de Bienaymé–
Tchebychev, Pnj
Var(T (nj )) k=1 Var(Yk )
P(Aj ) 6 = .
ε2 n2j ε2 n2j
D’après le théorème de Fubini,
∞
X ∞
X X Var(Yk )
P(Aj ) = .
j=1
ε2 n2j
k=1 j>1: nj >k
Puisque nj = θ j /2, on a
X 1 X 1 4k −2
64 6 ,
n2j θ 2j 1 − θ −2
j>1: nj >k j∈Z, θj >k
80 — Chapitre 8. Loi des grands nombres —
car il s’agit d’une série géométrique dont le premier terme est majoré par k −2 . Par
conséquent,
X ∞ ∞
X
4 Var(Yk ) 32E(X1 )
P(Aj ) 6 −2 2
6 < ∞,
j=1
1−θ k 1 − θ −2
k=1
T (n)
Lemme 3.5. n → E(X1 ), p.s.
Preuve. Pour chaque n, on peut trouver j tel que nj−1 6 n < nj . La suite (T (n))n>1
étant croissante (somme de variables positives), on a
T (n)
La constante θ > 1 étant quelconque, ceci implique que n
→ E(X1 ), p.s. ⊔
⊓
La loi forte des grands nombres est une conséquence des Lemmes 3.1 et 3.5. On
remarque que l’indépendance des v.a. {Xn }n>1 n’a pas vraiment été utilisée : elle peut
être remplacée par l’indépendance deux-à-deux. ⊔
⊓
— Chapitre 9. Convergence en loi — 81
On introduit un nouveau concept de convergence pour une suite de v.a., qui ne dépend
cette fois que de la loi de chacune de ces v.a.
E (f (Xn )) → E (f (X)) .
Remarque. (i) Les v.a. X1 , · · ·, Xn , · · · ne sont pas nécessairement définies sur un même
espace de probabilité.
(ii) Même si les v.a. X1 , · · ·, Xn , · · · sont définies sur un même espace de probabilité,
la convergence en loi a cette particularité qu’elle a encore lieu si l’on remplace chaque Xn
par Yn qui a la même loi que Xn (c’est-à-dire PXn = PYn quel que soit n). Ceci n’est pas
vrai pour les autres convergences (p.s., en probabilité ou dans Lp ). ⊔
⊓
Propriété 1.2. {Xn }n>1 converge en loi vers X si et seulement si pour toute fonction f
continue à support compact,
Preuve. Supposons que (∗) est vérifiée par toute fonction continue à support compact.
Soit f > 0 une fonction continue bornée et ε > 0 fixé. Donc |f (x)| 6 C pour une constante
C > 0 et tout x ∈ RN .
82 — Chapitre 9. Convergence en loi —
ε
Il existe une fonction ϕ continue à support compact avec ϕ 6 1 et E(ϕ(X)) > 1 − 5C .
ε
On déduit qu’il existe donc un entier n0 tel que E(ϕ(Xn )) > 1 − 4C dès que n > n0 .
D’autre part, la fonction f ϕ est continue et à support compact; on sait donc trouver un
entier n1 tel que
Comparons maintenant la convergence en loi avec les autres types de convergence pour
des suites de v.a.
Propriété 1.3. Si X1 , · · ·, Xn , · · · est une suite de v.a. réelles qui converge en probabilité
vers une v.a. X (en particulier, si la convergence a lieu dans Lp (Ω, F , P), ou p.s.), alors
Xn converge également vers X en loi.
Preuve. On sait que de toute sous-suite, on peut extraire une sous-sous-suite qui converge
p.s. vers X. En appliquant le théorème de convergence dominée (|f (Xn)| reste dominé
par supR |f (x)| < ∞), on voit que E(f (Xn )) → E(f (X)) le long de cette sous-sous-suite.
Comme ce résultat est valable pour toute suite extraite, on a bien limn→∞ E(f (Xn )) =
E(f (X)). ⊔
⊓
La réciproque est bien sûr fausse (si X1 , · · ·, Xn , · · · est une suite de v.a. i.i.d., par
exemple de Bernoulli, il est facile de vérifier que Xn ne converge pas en probabilités,
puisque le critère de Cauchy ne peut pas être vérifié). Cependant, on a une réciproque
très partielle.
Propriété 1.4. Si une suite de v.a. réelles {Xn }n>1 définies sur un même espace proba-
bilisé converge en loi vers X qui est une constante p.s., alors la convergence a également
lieu en probabilité.
— Chapitre 9. Convergence en loi — 83
Preuve. Soit Xn → c en loi (avec c ∈ R). Soit ε > 0. On peut trouver une fonction ϕ
continue sur R telle que ϕ(c) = 1 et que ϕ(x) 6 1{|x−c|6ε} . Donc
Propriété 2.1. Soient X1 , · · ·, Xn , · · · des v.a. à valeurs dans N. Les assertions suivantes
sont équivalentes :
(i) Xn converge vers X en loi.
(ii) Pour chaque k ∈ N, on a limn→∞ P(Xn = k) = P(X = k).
(iii) GXn converge simplement vers GX sur [0, 1].
Preuve. (i) ⇒ (ii) : Prendre pour f une fonction continue bornée qui vaut 1 en k et 0 pour
les autres entiers.
(ii) ⇒ (i) : Soit f une fonction continue à support compact, disons dans [0, M ] (où
M ∈ N). On a
M
X M
X
E (f (Xn )) = f (k)P (Xn = k) → f (k)P (X = k) = E (f (X)) .
k=0 k=0
Or E(ϕε (Xn )) > P(Xn 6 x) = FXn (x), et donc lim supn→∞ FXn (x) 6 FX (x + ε). Comme
ε > 0 peut être arbitrairement petit et que FX est continue à droite, on déduit que
puis lim inf n→∞ FXn (x) > FX (x − ε). Comme, par hypothèse, FX (x−) = FX (x) et ε > 0
peut être pris arbitrairement petit, on a finalement lim inf n→∞ FXn (x) > FX (x). D’où
FXn (x) → FX (x).
Deuxième étape : (2) ⇒ (1). Supposons maintenant que limn→∞ FXn (x) = FX (x)
pour tout point de continuité x de FX .
Admettons pour l’instant qu’il existe des variables aléatoires réelles (Yn )n>1 et Y telles
que FXn = FYn (pour tout n > 1), FX = FY et que Yn → Y p.s. (Ceci est un cas spécial
de ce qui porte le nom de la “construction de Skorokhod”).
Puisque Yn → Y p.s., par convergence dominée, on a, pour toute fonction f continue
et bornée, on a E(f (Yn )) → E(f (Y )) (n → ∞). Or, E(f (Yn )) = E(f (Xn )) (pour tout n),
et E(f (Y )) = E(f (X)), on obtient la convergence en loi de (Xn ) vers X.
Il reste donc de montrer l’existence des v.a. (Yn )n>1 et Y vérifiant les propriétés ci-
dessus. [Cette preuve ne fait pas partie du programme de l’examen.] Soient Ω = ]0, 1[ ,
— Chapitre 9. Convergence en loi — 85
Preuve. Quitte à changer l’espace, il existe des variables aléatoires réelles (Yn )n>1 et
Y telles que PXn = PYn (pour tout n > 1), PX = PY et que Yn → Y p.s. Comme
Yn > 0, le lemme de Fatou usuel nous donne lim inf n→∞ E(Yn ) > E(Y ), ce qui signifie
alors lim inf n→∞ E(Xn ) > E(X). ⊔
⊓
86 — Chapitre 9. Convergence en loi —
Exemple 3.3. Le Théorème 3.1 nous dit que si FXn converge simplement vers FX (fonc-
tion de répartition de la v.a. X), alors Xn converge en loi vers X. En général, si FXn
converge simplement vers une fonction disons F , F n’est pas nécessairement la fonction de
répartition associée à une loi de probabilité sur R. Par exemple, soit pour n > 1,
(
0 si x 6 −n,
FXn (x) = (x + n)/(2n), si −n < x 6 n,
1 si x > n.
FXn est une suite de fonctions continues croissantes sur R, avec limx→−∞ FXn (x) = 0
et limx→∞ FXn (x) = 1, donc une suite de fonctions de répartition (en fait, FXn est la
fonction de répartition de la loi uniforme sur l’intervalle [−n, n]). Pourtant, FXn converge
simplement vers 1/2, qui n’est pas une fonction de répartition. ⊔
⊓
Exemple 3.4. Il est à remarquer que la convergence en loi de Xn vers X n’implique pas
nécessairement Fn (x) → F (x) en tout x ∈ R. Par exemple, soit Xn = X + n1 . On a
Xn → X p.s., donc on a a fortiori la convergence en loi. Pourtant, FXn (x) = P(Xn 6 x) =
P(X 6 x − n1 ) = FX (x − n1 ) → FX (x−). Donc on a Fn (x) → F (x) seulement si x est un
point de continuité de FX . ⊔
⊓
Théorème 3.5 (théorème de Slutsky). Soient {Xn }n>1 et {Yn }n>1 deux suites de v.a.
réelles définies sur un même espace de probabilité. Si Xn converge en loi vers X, et si Yn
converge en loi vers c ∈ R, alors
(1) Xn + Yn → X + c en loi;
(2) Xn Yn → c X en loi;
Xn X
(3) Yn → c en loi, si c 6= 0.
Preuve. On vérifie seulement (1), la preuve de (2) et (3) étant tout à fait dans le même
esprit.
Fixons x ∈ R un point de continuité de FX+c (ce qui revient à dire que x − c est un
point de continuité de FX ). On peut trouver une suite {εk }k>0 de positifs qui décroissant
vers 0 tel que x − c + εk et x − c − εk soient tous des points de continuité de FX (ce
qui est possible car l’ensemble des points de discontinuité d’une fonction monotone est
dénombrable). On a, pour chaque k > 1,
et donc
FX (x − c − εk ) 6 lim inf FXn +Yn (x), ∀k > 1,
n→∞
Donc
lim FXn +Yn (x) = FX (x − c) = FX+c (x),
n→∞
Preuve. (1) ⇒ (2) : Pour tout t ∈ RN , la fonction x → eiht,xi est continue et bornée. On
a donc
iht,Xn i iht,Xi
ϕXn (t) = E e → E e = ϕX (t).
(2) ⇒ (1) : Pour simplifier, nous allons supposer que la dimension est N = 1; le cas
général est similaire, mais avec des notations plus lourdes. Supposons tout d’abord que
88 — Chapitre 9. Convergence en loi —
f est une fonction continue à support compact, dont la transformée de Fourier fb(t) =
R −2πitx
R
e f (x) dx est dans L1 (R). On sait par Fourier inverse que
Z
f (x) = e2πitx fb(t) dt.
R
Par hypothèse, on sait que ϕXn (2πt) converge vers ϕX (2πt) pour chaque t. D’autre part,
|ϕXn (2πt)| 6 1 pour tout t ∈ R. Comme fb est intégrable, le théorème de convergence
dominée s’applique, et on tire
Z
(∗) lim E (f (Xn )) = b dt = E (f (X)) .
ϕX (2πt)f(t)
n→∞ R
Ensuite on remarque que la condition fb ∈ L1 (R) est satisfaite pour toute fonction
f de classe C 2 à support compact. En effet, la transformée de Fourier de f ′′ est t2 fb(t)
(intégration par parties), et on sait que c’est une fonction bornée. On a donc fb(t) = O(t−2 )
à l’infini, et comme fb est elle aussi bornée, c’est bien une fonction intégrable. Ainsi, on
sait que (∗) est vérifiée pour toute fonction f de classe C 2 à support compact. L’extension
de (∗) pour toute fonction continue à support compact est omise. ⊔
⊓
Exemple 4.2. Supposons que pour chaque n > 1, Xn et Yn sont indépendantes, et que
X et Y sont indépendantes. Si Xn converge en loi vers X, et si Yn converge en loi vers Y ,
alors Xn + Yn converge en loi vers X + Y .
En effet, par le Théorème 4.1, pour tout t ∈ R, ϕXn (t) → ϕX (t) et ϕYn (t) → ϕY (t).
Grâce à l’indépendance, ϕXn +Yn (t) = ϕXn (t)ϕYn (t) → ϕX (t)ϕY (t) = ϕX+Y (t). Donc
Xn + Yn converge en loi vers X + Y . ⊔
⊓
Exemple 4.3. Supposons que pour chaque n > 1, PXn = N (µn , σn2 ). Si µn → µ, et
σn2 → σ 2 , alors Xn converge en loi vers N (µ, σ 2 ).
En effet, ϕXn (t) = exp(iµn t − σn2 t2 /2) → exp(iµt − σ 2 t2 /2), qui est la fonction car-
actéristique en t de la loi N (µ, σ 2 ). Par le Théorème 4.1, Xn converge en loi vers N (µ, σ 2 ).
⊔
⊓
— Chapitre 9. Convergence en loi — 89
Une difficulté possible quand on cherche à appliquer le Théorème 4.1, est que l’on doit
savoir a priori que la limite des fonctions caractéristiques ϕXn est elle aussi une fonction
caractéristique. Cela n’a rien d’automatique.
Exemple 4.5. Soit PXn = N (0, n), alors ϕXn (t) = exp(−nt2 /2) → 0 pour t 6= 0 et
ϕXn (0) = 1 pour tout n > 1.
Pourtant il n’y a pas de convergence en loi pour PXn . En effet, la fonction indicatrice
du singleton 0 (qui est la limite simple de ϕXn ) ne peut être une fonction caractéristique
associée à une loi de probabilité sur R car elle n’est pas continue sur R. ⊔
⊓
probabilite, cette condition n’est pas toujours facile à vérifer. On admet le critère suivant
très simple qui porte souvent le nom de Paul Lévy :
Théorème 4.6. Si pour chaque n > 1, ϕn est la fonction caractéristique d’une loi de
probabilité sur RN , et si ϕn converge simplement vers une fonction ϕ qui est continue en
0, alors ϕ est la fonction caractéristique d’une loi de probabilité sur RN .
Autrement dit, si l’on sait que la suite des fonctions caractéristiques ϕXn concerge
simplement vers une fonction ϕ qui est continue en 0, alors Xn converge en loi vers une
v.a. X dont la fonction caractéristique est ϕ.
Exemple 4.7. Soit {Un }n>1 une suite i.i.d. de v.a. telle que P(U1 = 1) = P(U1 = −1) =
1/2. Soit
Xn
Uj
Xn := .
j=1
2j
On a, pour tout t ∈ R, ϕUj (t) = E(eitUj ) = (eit + e−it )/2 = cos(t). Donc
n
Y n
Y
t t sin(t) sin(t)
ϕXn (t) = ϕUj = cos = → ,
j=1
2j j=1
2j 2n n
sin(t/2 ) t
qui est une fonction continue en 0, et est donc d’après le Théorème 4.6 la fonction car-
actéristique d’une loi de probabilité. En fait, il s’agit de la fonction caractéristique de
la loi uniforme sur (−1, 1) : soit X une v.a. suivant la loi uniforme sur (−1, 1), alors
R1
ϕX (t) = 21 −1 eitx dx = (eit − e−it )/(2it) = sin(t)
t .
Par conséquent, Xn converge en loi vers X. ⊔
⊓
— Chapitre 10. Théorème central limite — 91
Preuve. Etablissons d’abord la stratégie. Pour cela, on sait qu’il suffit de montrer la con-
vergence en loi (puisque la limite est une constante). A cette fin, on va calculer la fonction
caractéristique de Sn /n et vérifier qu’elle converge bien vers la fonction caractéristique de
la constante E(X1 ).
Notons ϕX (t) = E eitX (t ∈ R) la fonction caractéristique de X. Comme les v.a.
X1 , · · ·, Xn sont indépendantes et toutes de même loi que X, la fonction caractéristique
de Sn est ϕSn = ϕnX . On a donc
itSn /n
ϕSn /n (t) = E e = ϕSn (t/n) = ϕX (t/n)n .
C’est cette même idée qui va servir à établir un résultat du second ordre pour la
moyenne de Césaro, le théorème central limite.
Sn − nE(X)
lim √ = N (0, σ 2 ) en loi,
n→∞ n
où l’on a noté N (0, σ 2) la loi de Gauss centrée et de variance σ 2 , i.e. la loi sur R :
1 x2
√ exp − 2 dx.
2πσ 2 2σ
Remarque. Sous les conditions du théorème, pour tous réels a < b, lorsque n tend vers
l’infini,
Sn − nE(X)
P √ < a → Φ(a),
σ n
— Chapitre 10. Théorème central limite — 93
Sn − nE(X)
P √ 6 a → Φ(a),
σ n
Sn − nE(X)
P a< √ < b → Φ(b) − Φ(a),
σ n
Sn − nE(X)
P a6 √ 6 b → Φ(b) − Φ(a). ⊔
⊓
σ n
t2 ′′
ϕX (t) = 1 + tϕ′X (0) + ϕ (0) + o(t2 ), t → 0.
2 X
Le fait que E(X) = 0 et E(X 2 ) = σ 2 entraine que ϕ′X (0) = 0 et ϕ′′X (0) = −σ 2 . Autrement
dit, on a
σ 2 t2
ϕX (t) = 1 − + o(t2 ), t → 0.
2
Il en découle que pour chaque t ∈ R fixé
√ σ 2 t2 σ 2 t2
n ln ϕX (t/ n ) ∼ −n =− , n → ∞,
2n 2
Exemple 2.2. On fait une suite indépendante de jets d’une pièce de monnaie parfaite.
On note n
1 si le k-ième jet est “Pile”,
Xk =
0 sinon.
94 — Chapitre 10. Théorème central limite —
Dans ce modèle simple, {Xk }k>1 est une suite iid de v.a. de Bernoulli (de paramètre 1/2),
avec
1 1
E(Xk ) = , Var(Xk ) = .
2 4
Par la loi forte des grands nombres, Sn /n converges presque sûrement vers 1/2, alors que
le théorème central limit confirme que
Sn − n/2
p
n/4
converge en loi vers une gaussienne centrée réduite. Autrement dit, lorsque n est suffisam-
ment grand,
r
n n
P |Sn − | 6 α ≈ P (|N | 6 α) = Φ(α) − Φ(−α) = 2Φ(α) − 1.
2 4
Exemple 2.3. On fait une suite indépendante d’essais de dés, et on note Xk le nombre
obtenu au k-ième essai. On a
E(Xk ) = (1 + 2 + 3 + · · · + 6)/6 = 7/2,
Var(Xk ) = (12 + 22 + · · · + 62 )/6 − (7/2)2 = 35/12.
La loi forte des grands nombres nous dit que lorsque n est grand, le score moyen Sn /n
devrait être proche de 3,5, tandis que d’après le théorème central limite,
r !
7n 35n
P |Sn − |6α ≈ P (|N | 6 α) = Φ(α) − Φ(−α) = 2Φ(α) − 1.
2 12
p
Prenons par exemple n = 10, 000 et α = 1, 96. On a 2Φ(α) − 1 ≈ 0, 95, 1, 96 35n/12 ≈
334, 8 et que
P (34, 666 6 Sn 6 35, 334) ≈ 0, 95.
Donc, avec 95% de chance, le score moyen se situe dans l’intervalle [34666, 35334].
Si l’on prend α = 0, 6744, on a Φ(α) = 0, 75 donc 2Φ(α) − 1 = 0, 5. Dans ce cas-là, si
p
l’on prend toujours n = 10, 000, on obtient 0, 6744 35n/12 ≈ 115, 2. Donc
Donc le score moyen a à peu près autant de chance de tomber dans [34885, 35115] que de
tomber à l’extérieur. ⊔
⊓
R
Exemple 2.4. Soit µ une loi de probabilité sur R, avec R
x2 µ(dx) < ∞, ayant la propriété
suivante : si X et Y sont des v.a. indépendantes suivant la loi µ, alors X + Y et aX suivent
la même loi, pour certaine constante a ∈ R.
Pour éviter la situation triviale, on suppose que Var(X) > 0 (sinon, X sera presque
sûrement une constante).
En comparant les espérance et variance de X + Y et de aX, on obtient : 2E(X) =
aE(X) et 2Var(X) = a2 Var(X). Comme Var(X) > 0, ceci n’est possible que si a2 = 2 et
E(X) = 0.
Soit maintenant X1 , X2 , · · · une suite iid de v.a. suivant la loi µ. Par hypothèse,
X 1 + X 2 + · · · + X 4n
2n
a la même loi que X, donc converge en loi vers X. D’autre part, par la théorème central
limite,
X 1 + X 2 + · · · + X 4n
→ N (0, Var(X)), en loi,
2n
ce qui implique que X suit la loi gaussienne N (0, Var(X)).
Par conséquent, µ est une mesure gaussienne centrée. ⊔
⊓
Exemple 2.5. Soient X1 , X2 , · · · des v.a. réelles i.i.d. telles que X1 > 0, E(X1 ) = 1 et
Var(X1 ) = σ 2 ∈ ]0, +∞[ . Alors
√ √
2( Sn − n)
→ N (0, 1), en loi.
σ
√ √
2( Sn − n) Xn
En effet, on peut écrire σ = Yn , où
r !
Sn − n 1 Sn
Xn := √ , Yn := +1 .
nσ 2 2 n
Par le théorème central limite, Xn → N (0, 1) en loi, tandis que la loi forte des grands nom-
bres confirme que Yn → 1 p.s. On peut donc appliquer le théorème de Slutsky (Théorème
3.5 du Chapitre 9) pour conclure que Xn
Yn
→ N (0, 1) en loi. ⊔
⊓
Exemple 2.6. Soit f une fonction continue et bornée sur R. Alors, lorsque n → ∞,
∞
X Z
−n n − k nk 1 2
e f √ →√ e−x /2 f (x) dx,
n k! 2π R
k=0
n
X
−n nk 1
e → .
k! 2
k=0
96 — Chapitre 10. Théorème central limite —
∞
X
−n n − k nk n − Sn
e f √ =E f √ .
n k! n
k=0
n − Sn
√ → N (0, 1), en loi.
n
Exemple 2.7. Nous allons démontrer la formule de Stirling à l’aide du théorème central
limite. Prenons comme dans l’exercice précédent Sn la somme partielle d’une suite i.i.d.
de variables aléatoires de loi de Poisson de paramètre 1. On note Tn := S√ n −n
n
, et N
désigne une v.a. normale standard. On sait donc d’après le théorème central limite que
Tn converge en loi vers N . Pour chaque a > 0 fixé, la fonction fa (x) = min(|x|, a) est
continue et bornée sur R, donc
E(Tn+ ) → E(N + ).
X∞ Xk
−n nj j − n e−n nj nj+1
e √ = √ lim −
j=n+1
j! n n k→∞ j=n+1 (j − 1)! j!
n+1
e−n n nk+1
= √ lim −
n k→∞ n! k!
−n n+1 −n n
√
e n e n n
= √ = .
n n! n!
Exemple 2.8. Soit (Xn )n>1 une suite de variables aléatoires i.i.d. à valeurs dans E (muni
de la tribu E). Soit A ∈ E. On s’intéresse à
Rn − nP(X1 ∈ A)
√
n
98 — Chapitre 10. Théorème central limite —
Pn Pn
Solution. (i) Soient Sn := j=1 Yj et Tn := j=1 Yj2 . Par la loi des grands nombres,
p
Tn /n converge p.s. (donc a fortiori, en loi) vers 1. Donc Tn /n converge en loi vers 1.
√
D’autre part, Sn / n suit la loi N (0, 1), donc a fortiori converge en loi vers N (0, 1). Il
√
Sn / n
résulte du théorème de Slutsky (Théorème 3.5 du chapitre précédent) que √STn = √
n Tn /n
converge en loi vers N (0, 1).
Remarquons que dans cette question, on n’a pas vraiment utilisé l’hypothèse que
les variables aléatoires Yi suivent la loi gaussienne N (0, 1) : il suffit que E(Y1 ) = 0 et
E(Y12 ) = 1.
√
(ii) Soit d’abord c > 1. Soit n tellement grand que c 2 ln n > 1. Par l’indication
fournie dans l’exercice,
√ 1
P(Yn > c 2 ln n ) 6 √ ,
c 2 ln n nc2
ce qui donne le terme général d’une série convergente (séries de Bertrand). Donc la série
P √
n P(Y n > c 2 ln n ) converge.
D’autre part,
√ 1 1 1 1
P(Yn > 2 ln n ) > 1/2
− ∼ ,
(2 ln n) (2 ln n)3/2 n (2 ln n)1/2 n
— Chapitre 10. Théorème central limite — 99
P √
ce qui donne le terme général d’une série divergente. Donc la série n P(Yn > 2 ln n )
P √
diverge. A fortiori, n P(Yn > c 2 ln n ) diverge si c 6 1.
P √
Conclusion : n P(Yn > c 2 ln n ) converge si et seulement si c > 1.
(iii) Soit c > 1. On peut appliquer le lemme de Borel–Cantelli pour arriver à : il
existe un ensemble mesurable A ∈ F avec P(A) = 1 tel que, pour ω ∈ A, on peut trouver
√
n0 = n0 (ω) < ∞ satisfaisant : n > n0 =⇒ Yn (ω) 6 c 2 ln n. Par conséquent, presque
sûrement, lim supn→∞ √2Yln
n
n
6 c. Le réel c > 1 étant quelconque, on déduit que
Yn √
lim sup √ 6 2, p.s.
n→∞ ln n
Exemple 3.1. Sur 53 680 familles de lapins ayant 8 petits chacunes (soit 429 440 lapereaux
au total), il y a 221 023 mâles et 208 417 femelles. La question est de savoir si le nombre
de mâles est significativement plus élevé que celui de femelles. Autrement dit, on voudrait
tester l’hypothèse : Les chances sont égales d’avoir un mâle ou une femelle.
100 — Chapitre 10. Théorème central limite —
Pour a = −1, 96 et b = 1, 96, la quantité de droite vaut 0, 95. Autrement dit, avec 5%
d’erreur, S429440 devrait être compris entre
Or le nombre observé de S429440 est bien au delà de ces bornes, on va donc rejeter
l’hypothèse avec un risque d’erreur de 5%. ⊔
⊓
Exemple 3.2. On veut tester l’hypothèse mendelienne sur la couleur des yeux : bleu
récessif et marron dominant. Si l’hypothèse est vraie, une personne prise au hasard a une
chance sur quatre d’avoir les yeux bleus. Si l’hypothèse est valide, combien de personnes
doit-on observer pour être certain avec une probabilité de 99,8% que la proportion de
personnes aux yeux marrons sera comprise entre 0,7 et 0,8?
C’est en quelque sorte le problème inverse du précédent : il s’agit de déterminer la
taille de l’échantillon. Sous l’hypothèse de Mendel, pour un échantillon de n personnes, en
notant Sn le nombre de celles qui ont les yeux marrons, on a avec µ = 0, 75 (espérance) et
σ 2 = 0, 75 × 0, 25 = 0, 1875 (variance),
Z b
√ √ 1 2
P n σa + nµ 6 Sn 6 n σb + nµ ≈ √ e−x /2 dx.
2π a
L’intégrale vaut environs 0, 998 pour a = −3 et b = 3. La probabilité peut s’écrire
σa Sn σb
P √ +µ6 6 √ +µ .
n n n
On doit donc choisir n tel que
√ √
σa 3 × 0, 1875 σb 3 × 0, 1875
√ + µ = 0, 75 − > 0, 7, √ + µ = 0, 75 + 6 0, 8,
n n n n
et il suffit de prendre n = 675.
Ainsi, si ayant observé 675 personnes, on trouve que la proportion de gens ayant
yeux marrons est “très éloignée” de l’intervalle [0, 7, 0, 8], il faudra revoir l’hypothèse de
Mendel. ⊔
⊓
— Chapitre 11. Espérances conditionnelles — 101
1. Existence et unicité
On se donne un espace de probabilité (Ω, F , P), une v.a. X intégrable : E(|X|) < +∞,
et une sous-tribu G ⊂ F .
Définition 1.1. On appelle espérance conditionnelle de X sachant G, notée par E(X | G),
toute variable aléatoire Y intégrable vérifiant les deux conditions suivantes :
Unicité. Si Y et Y ′ sont deux v.a. intégrables vérifiant (i) et (ii). On a, pour tout
A ∈ G, E(Y 1A ) = E(Y ′ 1A ). Soit ε > 0 et soit A := {ω ∈ Ω : Y (ω) − Y ′ (ω) > ε} ∈ G. On
a
0 = E(Y 1A ) − E(Y ′ 1A ) = E((Y − Y ′ )1A ) > εP(A),
ce qui signifie que P(A) = 0. Le choix de ε > 0 étant quelconque, on obtient Y 6 Y ′ p.s.
De même, Y ′ 6 Y p.s. Donc Y = Y ′ p.s. Ceci montre l’unicité.
Strictement dit, on doit écrire Y = E(X | G) p.s., mais l’expression “presque sûr” est
souvent omise. ⊔
⊓
Exemple 1.2. Soit X une v.a. intégrable et G-mesurable. Sachant la tribu G, X qui est
G-mesurable est considérée comme une constante : E(X | G) = X.
En effet, il est clair dans cette situation que X satisfait les conditions (i) et (ii). ⊔
⊓
Exemple 1.3. L’exemple précédent concerne la situation particulière où toute information
sur X est déjà contenue dans la tribu G. On étudie maintenant l’autre situation extrême :
X est indépendante de G, c’est-à-dire X et 1A sont indépendantes quel que soit A ∈ G.
Dans ce cas, le fait de savoir G n’apporte strictement rien sur X: E(X | G) = E(X).
En effet, E(X) est une v.a. (dégénérée) intégrable et G-mesurable. Il nous suffit
de vérifier la condition (ii). Soit A ∈ G. Comme X et 1A sont indépendantes, on a
E(X1A ) = E(X)E(1A ) = E(E(X)1A ), ce qui prouve (ii). ⊔
⊓
Propriété 1.4. (1) Si X et Y sont deux v.a. intégrables, alors E(aX+bY | G) = aE(X | G)+
bE(Y | G).
(2) Si en plus X > Y , alors E(X | G) > E(Y | G). En particulier, X > 0 implique
E(X | G) > 0.
(3) Si H est une sous-tribu de F telle que G ⊂ H, alors E[ E(X | H) | G] = E(X | G).
Preuve. (1) et (2) se vérifient par définition. Montrons (3). Il est clair que E[ E(X | H) | G]
est bien définie, car par définition, E(X | H) est intégrable. Remarquons que E[ E(X | H) | G]
est G-mesurable, ce qui donne la proriété (i). Pour (ii), soit A ∈ G, et on a
car A ∈ H. Ceci donne la propriété (ii), et confirme donc que E[ E(X | H) | G] = E(X | G).
⊔
⊓
Théorème 1.5. Si X est une v.a. intégrable, alors E(E(X | G)) = E(X).
Théorème 1.6. Si X et Y sont des v.a. telles que Y et XY soient intégrables, et si X est
G-mesurable, alors E(XY | G) = X E(Y | G).
Preuve. Sans perte de généralité, on suppose que X et Y sont positives (sinon, on con-
sidèrera leurs parties positive et négative, séparément).
L’identité est vraie si X est une fonction indicatrice : soit A ∈ G, alors 1A E(Y | G)
est une v.a. intégrable et G-mesurable, telle que pour tout B ∈ G,
Définition 2.1. Si G est engendrée par une variable Z (à valeurs dans un espace mesurable
quelconque), et si X est une v.a. réelle intégrable, alors on écrira E(X | Z) au lieu de
E(X | G).
Si Z = (Z1 , Z2 , · · ·), on écrira aussi E(X | Z1 , Z2 , · · ·).
104 — Chapitre 11. Espérances conditionnelles —
Soit Z une v.a. à valeurs dans (E, E). Soit A ∈ σ(Z). Par définition, il existe B ∈ E
telle que A = {ω ∈ Ω : Z(ω) ∈ B}; autrement dit, 1A = 1B (Z). Donc toute fonction
étagée qui est σ(Z)-mesurable s’écrit comme une fonction étagée (E-mesurable) de Z. Par
un passage à la limite, si ξ est une v.a. réelle intégrable et σ(Z)-mesurable, elle s’écrit
comme ξ = h(Z), où h : E → R est une fonction borélienne. Prenons ξ = E(X | Z) et on
obtient
E(X | Z) = h(Z).
L’unicité de l’espérance conditionnelle nous assure que si h1 est une fonction borélienne
telle que E(X | Z) = h1 (Z), alors h1 = h, PZ -p.p.
Théorème 2.3. Soient X et Z deux v.a. indépendantes, et soit ϕ une fonction mesurable
telle que E[ |ϕ(X, Z)| ] < ∞. Soit h(z) = E(ϕ(X, z)). Alors
Preuve du Théorème 2.3. Le théorème de Fubini nous dit que h(z) est bien définie, et que
h(Z) est intégrable. Soit A ∈ σ(Z). On vérifie que E[ h(Z)1A ] = E[ ϕ(X, Z)1A ].
— Chapitre 11. Espérances conditionnelles — 105
= E[ h(Z)1B (Z) ].
Voici une recette générale pour calculer E(X | Z), lorsque (X, Z) est un vecteur aléa-
toire à valeurs dans R2 dont la loi est absolument continue par rapport à la mesure de
Lebesgue sur R2 .
Théorème 2.4. Soit (X, Z) un vecteur aléatoire à valeurs dans R2 qui admet une densité
f(X,Z) . On suppose que E(|X|) < ∞ et que fZ (z) > 0 pour tout z. On pose
f(X,Z) (x, z)
fX|Z=z (x) := , x ∈ R,
fZ (z)
Z
h(z) := x fX|Z=z (x) dx, z ∈ R.
R
Alors
E(X | Z) = h(Z).
Preuve. Il est clair d’après le théorème de Fubini que h(Z) est une variable aléatoire
intégrable. Soit A ∈ σ(Z). Il s’agit de prouver que E[ h(Z)1A ] = E[ X1A ].
Comme A ∈ σ(Z), on peut écrire A = {ω : Z(ω) ∈ B}, où B ⊂ R est une partie
borélienne. On a alors
lorsque dx et dz tendent vers 0. C’est pour cette raison que fX|Z=z est souvent appelée
“densité conditionnelle de X sachant Z = z” (il s’agit bien sûr d’une fonction de densité
associée à une loi de probabilité sur R). Dans la littérature, on trouve de temps en temps
l’écriture informelle E(X | Z = z) pour désigner h(z). ⊔
⊓
Exemple 2.5. Soient X et Y deux v.a. réelles indépendantes suivant la même loi gaussi-
enne N (0, 1). Soit Z = X + Y .
Il est facile de calculer la loi de (X, Z). Pour toute fonction borélienne bornée ϕ :
R2 → R, on a Z Z
1 2 2
E (h(X, Z)) = h(x, x + y) e−(x +y )/2 dx dy
2π
ZR ZR
1 2 2
= h(x, z) e−(x +(z−x) )/2 dx dy.
R R 2π
Donc (X, Z) admet une densité qui vaut
1 −(x2 +(z−x)2 )/2
f(X,Z) (x, z) = e , (x, z) ∈ R2 .
2π
2
1
D’autre part, PZ = N (0, 2), donc fZ (z) = √
2 π
e−z /4 . Posons, pour chaque z ∈ R,
f(X,Z) (x, z) 1 2 2 2 1 2
fX|Z=z (x) := = √ e−(x +(z−x) )/2+z /4 = √ e−(x−z/2) .
fZ (z) π π
La fonction fX|Z=z n’est autre que la densité de la loi gaussienne N (z/2, 1/2) (d’où vient
une formulation du genre “sachant Z = z, X suit la loi gaussienne N (z/2, 1/2)”). Posons
Z
h(z) = xfX|Z=z (x) dx = z/2.
R
D’après le Théorème 2.4, E(X | Z) = h(Z) = Z/2. On arrive donc à la même conclusion
que dans l’Exemple 2.2. ⊔
⊓
Exemple 2.6. Soient N , X1 , X2 , · · · des v.a. réelles indépendantes, admettant toutes des
moments d’ordre 1. On suppose que les Xi suivent la même loi, et que N est à valeurs
dans N. Définissons
N(ω)
X
Y (ω) := Xi (ω),
i=1
— Chapitre 11. Espérances conditionnelles — 107
P0
(convention : i=1 := 0). On cherche à déterminer le moment d’ordre 1 de Y .
P+∞ Pn
Il est clair que Y est une v.a.; il suffit d’écrire Y (ω) := n=1 i=1 Xi (ω)1{N(ω)=n} ,
qui est représentée comme somme de v.a. réelles. Il est également clair que Y admet un
moment d’ordre 1, car par le théorème de Fubini,
+∞ X
n
! +∞ X
n
X X
E |Xi | 1{N=n} = E |Xi | 1{N=n}
n=1 i=1 n=1 i=1
+∞ X
X n
= E (|Xi |) P (N = n)
n=1 i=1
+∞
X
= E (|X1 |) nP (N = n) = E (|X1 |) E (N ) < +∞.
n=1
n
!
X
h(n) = E Xi = nE(X1 ),
i=1
alors le Théorème 2.3 nous dit que E(Y | N ) = h(N ) = N E(X1 ). D’après le Théorème 1.5,
E(Y ) = E(N E(X1 )) = E(N ) E(X1 ). ⊔
⊓
Théorème 2.7 (Inégalité de Jensen). Soit X une variable aléatoire réelle, et soit ϕ
une fonction convexe. Si X et ϕ(X) sont intégrables, alors
On prend l’espérance conditionnelle par rapport à G dans les deux côtés. Comme ξ est
G-mesurable, il résulte du Théorème 1.6 que
ϕ′ ξ1{|ξ|6n} ξ − ξ1{|ξ|6n} 6 E [ ϕ(X) | G ] − ϕ ξ1{|ξ|6n} .
Théorème 3.1. Si E(X 2 ) < ∞, alors E(X | G) est la variable Y , G-mesurable et admet-
tant un moment d’ordre 2, qui minimise “l’erreur quadratique” E[(X − Y )2 ].
Preuve. Puisque E(X 2 ) < ∞, l’inégalité de Jensen (Théorème 2.7) nous dit que E(X | G)
est un élément de L2 (G). Il suffit donc de montrer que X − E(X | G) est orthogonale de
L2 (G). Soit Z ∈ L2 (G). On sait que XZ admet un moment d’ordre 1, et par le Théorème
1.6, E(ZX | G) = Z E(X | G). Donc
F0 ⊂ F1 ⊂ F2 ⊂ · · · ⊂ F .
Une suite de variables aléatoires (Xn , n > 0) est dite adaptée par rapport à (Fn ) si
pour tout n, Xn est Fn -mesurable.
Définition 4.1. On dit que (Xn ) est une martingale [resp. surmartingale; sous-martingale]
si
(i) (Xn ) est adapté;
(ii) ∀ n, E(|Xn |) < ∞;
(iii) ∀ n, E(Xn+1 | Fn ) = Xn , p.s. [resp., E(Xn+1 | Fn ) 6 Xn ; E(Xn+1 | Fn ) > Xn ].
Exemple 4.2. Soit ξ une variable aléatoire intégrable. Soit Xn := E(ξ | Fn ). Alors (Xn )
est une martingale. ⊔
⊓
Exemple 4.3. Soit (ξi )i>0 une suite de variables aléatoires intégrables et indépendantes.
Soient
Xn
Xn := ξi , Fn := σ{Xi , 0 6 i 6 n}.
i=0
Il est clair que (Xn ) est adapté, et est intégrable. De plus, E(Xn+1 | Fn ) = Xn + E(ξn+1 ).
Donc X est une martingale si E(ξn ) = 0, ∀ n; est une sous-martingale si E(ξn ) > 0, ∀ n; et
est une surmartingale si E(ξn ) 6 0, ∀ n. ⊔
⊓
Il est clair que X est une sous-martingale si et seulement si −X est une surmartingale,
et que X est une martingale si et seulement si elle est à la fois une sous-martingale et une
surmartingale. En voici quelques autres propriétés.
Proposition 4.4. Si (Xn ) est une sous-martingale, alors ∀ m > n, E(Xm | Fn ) > Xn , p.s.
Preuve. On a
E(Xm | Fn ) = E[ E(Xm | Fm−1 ) | Fn] > E[Xm−1 | Fn ].
Proposition 4.5. (i) Si (Xn ) et (Yn ) sont des martingales (resp. sous-martingales; sur-
martingales), alors (Xn + Yn ) l’est également.
(ii) Si (Xn ) et (Yn ) sont des sous-martingales, alors max(Xn , Yn ) est une sous-
martingale.
Preuve. Évidente. ⊔
⊓
Proposition 4.6. (i) Si (Xn ) est une martingale et si ϕ est une fonction convexe telle que
pour tout n, ϕ(Xn ) soit intégrable. Alors (ϕ(Xn )) est une sous-martingale.
(ii) Si (Xn ) est une sous-martingale et si ϕ est une fonction convexe croissante telle
que pour tout n, ϕ(Xn ) soit intégrable. Alors (ϕ(Xn )) est une sous-martingale.
Preuve. (i) Il est clair que (ϕ(Xn )) est adapté. D’autre part, d’après l’inégalité de Jensen
(Théorème 2.7),
E[ϕ(Xn+1 ) | Fn ] > ϕ(E[Xn+1 | Fn ]) = ϕ(Xn ).
D’où la conclusion. ⊔
⊓
Proposition 4.7. (i) Soit (Xn ) une martingale et soit p > 1 un réel. Si E(|Xn |p ) < ∞
pour tout n, alors (|Xn |p ) est une sous-martingale.
En particulier, pour tout a ∈ R, (|Xn − a|) est une sous-martingale.
(ii) Si (Xn ) est une sous-martingale, et si a ∈ R, alors (Xn − a)+ est une sous-
martingale.
On note désormais
∞
_
F∞ := Fn ,
n=0
FT = {A ∈ F∞ : ∀ n, A ∩ {T = n} ∈ Fn }
= {A ∈ F∞ : ∀ n, A ∩ {T 6 n} ∈ Fn }.
Propriété 4.10. (i) Si S et T sont deux temps d’arrêt, alors S ∨ T et S ∧ T sont aussi
des temps d’arrêt.
(ii) Si S et T sont des temps d’arrêt tels que S 6 T , p.s., alors FS ⊂ FT .
(iii) Si (Xn ) est adapté et si T est un temps arrêt, alors XT 1{T <∞} est FT -mesurable.
Théorème 4.11. Si T est un temps d’arrêt, et si (Xn ) est une sous-martingale (resp.
surmartingale), alors (XT ∧n ) est une sous-martingale (resp. surmartingale).
Preuve. Comme |XT ∧n | 6 |X0 | + |X1 | + · · · + |Xn |, XT ∧n est intégrable. Il est clair que
(XT ∧n ) est adapté, car XT ∧n est FT ∧n -mesurable, et cette dernière est une sous-tribu de
Fn . Enfin, puisque {T > n + 1} = {T 6 n}c ∈ Fn ,
E (XT ∧(n+1) − XT ∧n ) | Fn = E (Xn+1 − Xn ) 1{T >n+1} | Fn
= 1{T >n+1} E [(Xn+1 − Xn ) | Fn] > 0. ⊔
⊓
Lemme 4.12. Soient X et Y deux variables aléatoires intégrables, et soit G une sous-tribu
de F . On a E(X | G) 6 E(Y | G), p.s., si et seulement si E(X 1A ) 6 E(Y 1A ) pour tout
A ∈ G.
112 — Chapitre 11. Espérances conditionnelles —
Théorème 4.13 (théorème d’arrêt). Soient S et T deux temps d’arrêt bornés tels que
S 6 T . Si (Xn ) est une sous-martingale (resp. surmartingale), alors
Preuve. Supposons que P(S 6 T 6 k) = 1. Alors |XT | 6 |X0 | + |X1 | + · · · + |Xk | qui est
intégrable. Soit A ∈ FS . On a
k
X
E{[ XT − XS ] 1A } = E [ XT ∧k − Xn ] 1A∩{S=n} .
n=0
Corollaire 4.14. Soit T un temps d’arrêt tel que P(T 6 k) = 1. Si (Xn ) est une sous
martingale, alors
E(X0 ) 6 E(XT ) 6 E(Xk ).
1. Définition et propriétés
On rappelle que la loi gaussienne de moyenne µ ∈ R et de variance σ 2 > 0 a pour
2
σ2 2
densité σ√12π exp(− (x−µ)
2σ 2 ), x ∈ R. Sa fonction caractéristique vaut exp(iµt − 2 t ), t ∈ R.
Il est commode de convenir qu’une masse de Dirac δµ est la loi gaussienne de moyenne µ
et de variance nulle.
X1
.
Définition 1.1. Soit X = .. une v.a. à valeurs dans RN (donc un vecteur aléatoire
XN
de dimension N ). On dit que X est un vecteur gaussien si toute combinaison linéaire de
λ1
PN .
ses coordonnées (c’est-à-dire j=1 λj Xj = λ1 X1 + · · · + λN XN pour λ = .. ∈ RN )
λN
suit une loi gaussienne.
X1
.
Remarque. (i) Si X = .. est un vecteur gaussien, alors chaque coordonnée est une
XN
v.a. gaussienne réelle.
(ii) Attention, la réciproque est fausse. Par exemple, soient Y et ε deux variables
aléatoires indépendantes telles que Y suive la loi gaussienne centrée réduite N (0, 1) et que
P(ε = 1) = P(ε = −1) = 1/2. Soit W = εY . Alors (Y, W ) n’est pas un vecteur gaussien
car Y +W n’est pas une v.a. gaussienne (en effet, P(Y +W = 0) = 1/2). Pourtant chacune
des composantes est une v.a. gaussienne (il a été démontré dans l’Exemple 3.4 du Chapitre
6 que W est une v.a. gaussienne). ⊔
⊓
X1
.
Exemple 1.3. Si X = .. est un vecteur gaussien, A est une matrice M × N
XN
déterministe, et B ∈ RM , alors AX + B est un vecteur gaussien, car les combinaisons
linéaires des composantes de AX + B sont des combinaisons linéaires (plus des constantes)
de X1 , · · · , XN . ⊔
⊓
Propriété 1.4. La fonction caractéristique d’un vecteur gaussien X est donnée par
N
X X
1
ϕX (t) = exp i µj tj − Djk tj tk , t ∈ RN ,
2
j=1 16j,k6N
où D = (Djk )N×N est la matrice de covariances de X. En conséquence, la loi d’un vecteur
gaussien est complètement déterminée
par sa moyenne et sa matrice de covariances. On
µ1
..
notera N (µ, D), où µ := . .
µN
t1
. PN
Preuve. Soit t = .. ∈ RN , et soit Y := j=1 tj Xj . On a
tN
ϕX (t) = E eiY = ϕY (1).
PN P
Or, Y est une v.a. gaussienne réelle, E(Y ) = j=1 tj µj et Var(Y ) = 16j,k6N tj tk Djk ,
ce qui nous donne
N
X X
1
ϕX (t) = exp i tj µj − tj tk Djk . ⊔
⊓
j=1
2
16j,k6N
Toute matrice symétrique positive admettant une racine carrée, on peut trouver une ma-
trice symétrique C = (Cjk )N×N telle que C 2 = D. Posons
X = CN + µ.
(Attention à la notation : X est en colonne.) D’après les Exemples 1.2 et 1.3, X est un
vecteur gaussien, de moyenne µ. Pour déterminer sa matrice de covariances, remarquons
que
Or, E(Nℓ Nm ) vaut 1 si ℓ = m et vaut 0 sinon, ce qui implique que Cov (Xj , Xk ) =
PN t t
ℓ=1 Cjℓ Ckℓ = (CC )jk , où C est le transposé de C. Donc la matrice de covariances de
X est CC t .
Comme C est symétrique, CC t = C 2 = D, on a montré que X est bien un vecteur
gaussien de moyenne µ et de matrice de covariances D. ⊔
⊓
−1
Reparque. Attention, Djk 6= 1/Djk en général.
116 — Chapitre 12. Vecteurs aléatoires gaussiens —
Théorème 1.7. Soit (X1 , · · · , XN ) un vecteur gaussien. Pour que les variables aléatoires
X1 , · · · , XN soient indépendantes, il faut et il suffit que la matrice de covariances de X
soit diagonale.
Exemple 1.8. Si un couple (X, Y ) de v.a. réelles est gaussien, alors X et Y sont
indépendantes si et seulement si Cov(X, Y ) = 0. On se gardera bien de croire que si
individuellement X et Y sont des v.a. réelles gaussiennes telles que Cov(X, Y ) = 0,
alors X et Y sont indépendantes (on pensera à l’Exemple 3.4 du Chapitre 6). Pour qu’il
en soit ainsi, il est nécessaire que le couple (X, Y ) soit un vecteur gaussien, ce qui n’a rien
d’automatique. ⊔
⊓
P
et que la série a2n converge. On pose
n
X
Vn = an−i Ui , n = 1, 2, · · ·
i=1
Solution. (i) La variable Vn suit une loi gaussienne (somme de variables gaussiennes
Pn Pn−1
indépendantes), E(Vn ) = 0 et Var(Vn ) = i=1 a2n−i = j=0 a2j . Donc sa fonction car-
2 Pn−1 2 P∞
actéristique vaut ϕVn (t) = exp(− t2 j=0 a2j ) → exp(− t2 j=0 a2j ), n → ∞. Donc Vn
P∞
converge en loi vers la gaussienne N (0, j=0 a2j ). (Cas dégénéré : Vn converge en loi vers
0 si aj = 0, ∀j > 0).
(ii) Toute combinaison linéaire de Vn et de Vn+1 donne une combinaison linéaire de
U1 , U2 , · · ·, Un+1 qui est une variable aléatoire gaussienne (somme de variables gaussi-
ennes indépendantes). Par définition, (Vn , Vn+1 ) est un vecteur gaussien, et Vn et Vn+1
sont indépendantes si et seulement si leur covariance s’annule. Or, Cov(Vn , Vn+1 ) =
Pn
i=1 an−i an+1−i = 0, on déduit que Vn est indépendante de Vn+1 .
(iii) Si Vn converge dans L2 , alors E[(Vn − Vn+1 )2 ] → 0 (n → ∞). Or, Vn et Vn+1
Pn−1 Pn
sont indépendantes, on a E[(Vn − Vn+1 )2 ] = Var(Vn ) + Var(Vn+1 ) = j=0 a2j + j=0 a2j →
P∞
2 j=0 a2j , ce qui n’est possible que si les aj sont identiquement nuls.
En conclusion, Vn converge dans L2 si et seulement si aj = 0, ∀j > 0 (dans ce cas, Vn
converge dans L2 vers 0). ⊔
⊓
ρ(Z, Xi) = α, 1 6 i 6 n,
ρ(Xi , Xj ) = α2 , 1 6 i 6= j 6 n.
(i) On pose
Xi − αZ
Ui = √ , 1 6 i 6 n.
1 − α2
Déterminer la loi du vecteur (Z, U1 , · · · , Un ) et en déduire celle du vecteur (Z, X1, · · · , Xn ).
Pn S
(ii) Loi de S = i=1 Xi ? Loi de T = Z ?
118 — Chapitre 12. Vecteurs aléatoires gaussiens —
et
Cov(Z, Xi) − αVar(Z)
Cov(Z, Ui ) = √ = 0.
1 − α2
Si 1 6 i 6= j 6 n,
Donc (Z, U1 , · · · , Un ) suit la loi gaussienne N (0, Id), où Id désigne la matrice (n+1)×(n+1)
identitique. Autrement dit, Z, U1 , · · ·, Un sont des variables indépendantes suivant la
même loi gaussienne centrée réduite.
Le vecteur aléatoire (Z, X1 , · · · , Xn ) étant une transformation linéaire du vecteur
gaussien (Z, U1 , · · · , Un ), est donc aussi un vecteur gaussien. On a (en écrivant β :=
√
1 − α2 )
1 0 0 ··· 0
Z Z Z
α β 0 ··· 0
X1 U U
. = α 0 β · · · 0 .1 := A · .1 .
.. . . . . . ..
. . .
. . . . . ... .
Xn Un Un
α 0 0 ··· β
Z
X1
Donc la matrice de covariances de
... est
Xn
1 0 0 ··· 0 1 α α ··· α
α β 0 ··· 0 0 β 0 ··· 0
D := AA =
t α 0 β ··· 0 0 0 β ··· 0
. .. .. .. .
. ..
. .. .. .. ..
. ..
. . . . . . .
α 0 0 ··· β 0 0 0 ··· β
1 α α ··· α
α 1 α2 · · · α2
= α α2 1 · · · α2 .
. .. .. . . ..
.. . . . .
α α2 α2 · · · 1
— Chapitre 12. Vecteurs aléatoires gaussiens — 119
Autrement dit, le vecteur aléatoire (Z, X1 , · · · , Xn ) suit la loi gaussienne N (0, D).
(ii) Par définition,
p Xn
S = nαZ + 1 − α 2 Ui ,
i=1
La preuve du théorème est très proche de celle que nous avons donnée en dimension
1, en montrant la convergence des fonctions caractéristiques. L’écriture est plus longue.
120 — Chapitre 12. Vecteurs aléatoires gaussiens —
3. Espérances conditionnelles
Théorème 3.1. Soit (X, Y ) un vecteur aléatoire gaussien à valeurs dans R2 , alors
E(X | Y ) = aY + b, où a et b sont deux réels.
Preuve. Puisque X est une v.a. gaussienne réelle, elle admet des moments de tous ordres.
D’après le Théorème 3.1 du Chapitre 11, E(X | Y ) est la projection orthogonale de X sur
L2 (Y ).
Si Y est dégénérée (PY est une masse de Dirac), il n’y a rien à démontrer, car σ(Y ) =
{Ω, ∅}, et E(X | Y ), qui est σ(Y )-mesurable, est une v.a. constante.
Supposons maintenant Var(Y ) > 0. Soit a ∈ R. Le vecteur (X − aY, Y ) est encore
gaussien (car toute combinaison linéaire de X − aY et de Y donne une v.a. gaussienne).
Si
Cov(X, Y )
a := ,
Var(Y )
alors Cov(X − aY, Y ) = Cov(X, Y ) − aVar(Y ) = 0. D’après le Théorème 1.6, X − aY et
Y sont indépendantes. Donc E(X − aY | Y ) = E(X − aY ) := b. On a,
Remarque. On peut facilement généraliser le théorème pour le cas où Y est à valeurs
dans RN dont la matrice de covariances est inversible. ⊔
⊓
Exemple 3.3. Dans l’exemple précédent, si l’on cherche les réels a, b, c et d qui minimisent
la quantité E[(X − a − bY − cY 2 − dY 3 )2 ], on sait que c = d = 0, a = 3 et b = −2. La
— Chapitre 12. Vecteurs aléatoires gaussiens — 121
Exemple 3.4. Soit (X, Y ) un vecteur aléatoire gaussien tel que E(X) = E(Y ) = 0,
E(X 2 ) = E(Y 2 ) = 1 et E(XY ) = ̺ ∈ ] − 1, 1[. Montrer que
1 1
P(X > 0, Y > 0) = + arcsin(̺).
4 2π
Il est possible de prouver l’identité en utilisant la densité exacte de (X, Y ), mais il
est plus commode d’utiliser l’espérance conditionnelle. En effet, Z := X − ̺Y est une v.a.
gaussienne indépendante de Y , car (Z, Y ) est un vecteur gaussien tel que Cov(Z, Y ) = 0.
De plus, PZ = N (0, 1 − ̺2 ). Donc par les Théorèmes 1.6 et 2.3 du chapitre précédent,
P (X > 0, Y > 0 | Y ) = 1{Y >0} E 1{Z>−̺Y } | Y
( !)
̺Y
= 1{Y >0} 1 − Φ − p ,
1 − ̺2
Rx 2
où Φ(x) := (2π)11/2 −∞ e−u /2 du désigne la fonction de répartition de la gaussienne centrée
réduite N (0, 1). Par symétrie, 1 − Φ(−x) = Φ(x). Donc
( !)
̺Y
P (X > 0, Y > 0) = E 1{Y >0} Φ p
1 − ̺2
Z ∞ !
̺u 1 2
= Φ p √ e−u /2 du.
0 1 − ̺2 2π
R∞ 2
Étudions la fonction h(a) := 0 Φ(au) √12π e−u /2 du, a ∈ R. Par convergence dominée,
Z ∞
′ u 2 1 2 1
h (a) = √ e−(au) /2 √ e−u /2 du = , a ∈ R.
0 2π 2π 2π(a2 + 1)
R∞ 2
Comme h(0) = 0 12 √12π e−u /2 du = 41 , on obtient
1 1
h(a) = arctan(a) + , a ∈ R.
2π 4
Par conséquent,
! !
̺ 1 ̺ 1
P (X > 0, Y > 0) = h p = arctan p +
1 − ̺2 2π 1 − ̺2 4
1 1
= arcsin(̺) + ,
2π 4
ce qui donne l’identité cherchée. ⊔
⊓
122 — Chapitre 12. Vecteurs aléatoires gaussiens —
— Chapitre 13. Exemples de processus aléatoires — 123
Un processus aléatoire (ou : processus stochastique) à temps discret est une suite de
variables aléatoires X0 , X1 , · · ·, Xn , · · · Il décrit l’évolution d’un phénomène aléatoire si
l’on considère les indices 0, 1, 2, · · · comme du temps.
Ce chapitre ne fait pas partie du programme de l’examen.
X
√ n → N (0, D), en loi,
n
avec 1/d
0 ··· 0
0 1/d · · · 0
D= .. .. .. ..
.
. . . .
0 0 · · · 1/d
√
Comme D est une matrice diagonale, Xn / n converge en loi vers un vecteur gaussien dont
les composantes sont indépendantes.
On se pose maintenant la question si la marche aléatoire revient infiniment souvent à
l’origine. Soit
pn = P (Xn = 0) .
Il est évident que pn = 0 si n est impair. En revanche, si n est pair, soit n = 2k,
2k X
1 (2k)!
p2k =
2d (k1 ! · · · kd !)2
k1 +···+kd =k, ki >0
2k X 2
1 2k k!
= .
2d k k1 ! · · · kd !
k1 +···+kd =k, ki >0
En particulier, on a
−2k 2k
p2k = 2 , si d = 1,
k
2
−2k 2k
p2k = 4 , si d = 2.
k
A l’aide de la formule de Stirling, on obtient : lorsque k → ∞,
1
p2k ∼ √ , si d = 1,
πk
1
p2k ∼ , si d = 2.
πk
En général, on a pour tout d > 1,
d/2
1 d
p2k ∼ , k → ∞,
2d−1 πk
— Chapitre 13. Exemples de processus aléatoires — 125
(pour cetter dernière équivalence, voir par exemple le livre de Rényi, “Calcul des Proba-
bilités”, Dunod, pp. 471–472). Donc si d > 3, on a
X
pn < ∞.
n
qn = P (X1 6= 0, X2 6= 0, · · · , Xn−1 6= 0, Xn = 0) .
ou alors
f (x)
g(x) = , |x| < 1.
1 + f (x)
126 — Chapitre 13. Exemples de processus aléatoires —
On sait que
∞
X ∞
X
lim f (x) = p2k , lim g(x) = q2k .
x→1− x→1−
k=1 k=1
P∞
Puisque k=1 p2k = ∞ (si d = 1 ou 2), on a limx→1− f (x) = ∞, donc limx→1− g(x) = 1.
P∞
C’est-à-dire que k=1 q2k = 1. Ceci signifie que lorsque d = 1 ou 2, la marche aléatoire
revient à l’origine avec probabilité 1. Donc elle revient infiniment souvent à l’origine. On
peut maintenant énoncer le résultat suivant.
2. Chaı̂nes de Markov
Dans toute la section, X0 , X1 , · · · désigne une suite de variables aléatoires à valeurs
dans E. On suppose que l’espace d’état E est au plus dénombrable.
Définition 2.1. On dit que X0 , · · ·, Xn , · · · est une chaı̂ne de Markov (homogène) s’il
P
existe des nombres réels positifs (Pij )(i,j)∈E 2 avec j∈E Pij = 1 pour tout i ∈ E, tels que
pour tout entier n > 0, tous i, j, x0 , · · · , xn ∈ E :
pourvu que la probabilité conditionnelle soit bien définie. On appelle (Pij )j∈E la proba-
bilité de transition pour l’état i. Lorsque l’espace d’état E est fini, P = (Pij )(i,j)∈E 2 est
une matrice qu’on appelle la matrice de transition de la chaı̂ne.
Il est intuitivement clair, et facile de vérifier directement, que pour une chaı̂ne de
Markov, on a
Exemple 2.2 (marche aléatoire simple). Soit X0 , X1 , · · · une marche aléatoire simple et
symétrique sur Z. Lorsque l’événement {X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i} est non-vide
(c’est-à-dire que |xk − xk−1 | = 1 et |xn−1 − i| = 1), on a
Donc X0 , X1 , · · · forme une chaı̂ne de Markov (avec E = Z), avec pour tout i ∈ Z,
1/2, si |j − i| = 1,
Pij = ⊔
⊓
0, sinon.
0 1 0 0 ··· 0 0 0
1/2 0 1/2 0 · · · 0 0 0
0 1/2 0 1/2 · · · 0 0 0
P =
.. .. .. .. .. .. .. .. .
⊔
⊓
. . . . . . . .
0 0 0 0 · · · 1/2 0 1/2
0 0 0 0 ··· 0 1 0
Exemple 2.5 (chaı̂ne à deux états). Considérons l’état d’une ligne téléphonique Xn = 0 si
la ligne est libre à l’instant n, et Xn = 1 si la ligne est occupée. Supposons que sur chaque
intervalle de temps, il y a une probabilité p qu’un appel arrive (un appel au plus). Si la
ligne est déjà occupée, l’appel est perdu. Supposons également que si la ligne est occupée
au temps n, il y a une probabilité q qu’elle se libère au temps n + 1. On peut modéliser
ainsi une chaı̂ne de Markov à valeurs dans E = {0, 1}, avec matrice de transition
1−p p
P = . ⊔
⊓
q 1−q
Exemple 2.6 (file d’attente simple). On modifie l’exemple précédent en supposant qu’on
peut mettre un appel en attente. Les appels arrivent et la ligne se libère comme avant. Si
un appel arrive pendant que la ligne est occupée et si le système n’est pas saturé, l’appel
est mis en attente. Si un appel arrive alors qu’il y a déjà un en attente, il est perdu. Cette
fois l’espace d’état est E = {0, 1, 2}. On a
De même
P20 = 0, P21 = q, P22 = 1 − q.
Le cas où il y a exactement un appel retenu au temps n est un peu plus délicat. On a
P10 = q(1 − p) (l’appel se termine et pas d’appel nouveau arrive) et P12 = p(1 − q) (un
appel nouveau arrive et celui en cours continue). Comme la somme P10 + P11 + P12 doit
valoir 1, on a donc P11 = 1 − q(1 − p) − p(1 − q). Finalement, la matrice de transition de
la chaı̂ne est
1−p p 0
P = q(1 − p) 1 − q(1 − p) − p(1 − q) p(1 − q) . ⊔
⊓
0 q 1−q
— Chapitre 13. Exemples de processus aléatoires — 129
Propriété 2.7. Soit X0 , X1 , · · · une chaı̂ne de Markov à valeurs dans E, avec pour
probabilités de transition (Pij )(i,j)∈E 2 . Alors, pour (x0 , · · · , xn ) ∈ E n+1 , on a
P (Xn = j | X0 = i) = Pijn ,
où P n = P × · · · × P au sens des produits de matrices et P n = Pijn i,j∈E
.
P (X0 = x0 , · · · , Xn = xn | X0 = x0 )
= P (X1 = x1 , · · · , Xn−1 = xn−1 | X0 = x0 ) P (Xn = xn | X0 = x0 , · · · , Xn−1 = xn−1 )
= P (X1 = x1 , · · · , Xn−1 = xn−1 | X0 = x0 ) Pxn−1 ,xn
= Px0 ,x1 · · · Pxn−1 ,xn .
Remarque. Une application importante de la Propriété 2.7 est la suivante : fixons des
entiers n et k, et soient x0 , · · · , xn , · · · , xn+k des points de E. On a alors
e0 = Xn , · · ·,
En mots, si on sait qu’à l’instant n la chaı̂ne est en xn , alors la chaı̂ne X
ek = Xn+k , · · ·, obtenue par translation temporelle, ne dépend pas de la trajectoire suivie
X
pour arriver en xn au temps n, et a même loi que la chaı̂ne initiale quand cette dernière
est issue de xn . C’est une propriété conforme à l’intuition que l’on peut avoir. ⊔
⊓
avec 0 < p, q < 1. Pour calculer P n , on peut diagonaliser P . Les valeurs propres sont 1 et
1 − p − q, et on diagonalise D = Q−1 P Q avec
q p
1 −p −1 p+q p+q 1 0
Q= , Q = 1 1 , D= .
1 q − p+q p+q
0 1−p−q
La diagonale de D est constituée des valeurs propres. Les colonnes de Q sont les vecteurs
propres à droite de P , et les lignes de Q−1 les vecteurs propres à gauches. Les vecteurs
propres sont uniques à une constante multiplicative près; on a choisi la constante pour la
valeur propre 1 de sorte que la première ligne de Q−1 soit un vecteur probabilité (on verra
plus tard pourquoi). On a alors
n
P n = QDQ−1
= QDn Q−1
q+p(1−p−q)n p−p(1−p−q)n
p+q p+q
= .
q−q(1−p−q)n p+q(1−p−q)n
p+q p+q
Le fait que la seconde valeur propre, 1 − p − q soit en module strictement inférieure à 1 est
primordial dans le calcul; la matrice limite est constituée de deux vecteurs lignes identiques,
qui est le vecteur propre à gauche de P , normalisé de sorte à être une probabilité.
Supposons maintenant que l’état initial de la chaı̂ne est donné par une probabilité
P(X0 = 0) = a, P(X0 = 1) = 1 − a. Nous avons vu que l’état de la chaı̂ne au temps n suit
la loi caractérisée par
P(Xn = j | X0 = i) = Pijn i, j = 0 ou 1,
q p
lim P (Xn = 0 | X0 = i) = , lim P (Xn = 1 | X0 = i) = .
n→∞ p+q n→∞ p+q
On notera que la limite en loi qu’on a obtenue est donnée par le vecteur propre associé à
la valeur propre 1, normalisé pour être une probabilité.
Passons au cas général.
Propriété 3.1. Si l’état initial de la chaı̂ne, X0 , suit la loi v, alors Xn suit la loi vP n .
Définition 3.2. Un vecteur probabilité v = (v1 , · · · , vN ) sur E est dit probabilité in-
variante (ou probabilité d’équilibre), pour la chaı̂ne de matrice de transition P si v est
un vecteur propre à gauche de valeur propre 1, i.e. v = vP .
Propriété 3.3. Si v est une probabilité invariante et si l’état intial de la chaı̂ne X0 suit
la loi v, alors Xn suit également la loi v pour tout n.
132 — Chapitre 13. Exemples de processus aléatoires —
Il existe toujours une probabilité invariante lorsque la chaı̂ne de Markov est à valeurs
dans un espace d’état fini. Les questions naturelles qui se posent alors sont : (i) s’il y a
unicité pour probabilité invariante; (ii) en admettant que la réponse est oui, si quelle que
soit la distribution initiale de la chaı̂ne, l’état converge quand le temps tend vers l’infini,
vers cette unique probabilité invariante.
On peut observer que si, pour une distribution initiale donnée m = (m1 , · · · , mN ),
Xn converge en loi vers un vecteur probabilité v, autrement dit limn→∞ mP n = v, alors
vP = v, et v est nécessairement une probabilité invariante.
On a le résultat suivant dont on ne présente pas la preuve.
Théorème 3.4. Soit X0 , · · · , Xn , · · · une chaı̂ne de Markov sur un espace fini, avec pour
matrice de transition P . On suppose que les coefficients de P sont tous strictement positifs.
Alors il existe une unique probabilité invariante, v, et quelque que soit la distribution
initiale de la chaı̂ne, Xn converge en loi vers v quand n tend vers ∞.
Si tous les coefficients de P ne sont pas strictement positifs, on ne peut pas appliquer
le Théorème 3.4. Il est possible d’appliquer un autre résultat.
Définition 3.5. On dit qu’une chaı̂ne de Markov de probabilités de transition (Pij )(i,j)∈E 2
est irréductible si, pour chaque couple d’états (i, j), il existe des entiers m et n tels que
Pijm > 0 et Pji
n
> 0.
Théorème 3.6. Une chaı̂ne de Markov irréductible sur un espace fini a une unique
probabilité invariante. C’est le vecteur propre à gauche associé à la valeur propre 1, qui
est simple.
Remarque. Il est clair que, si E est fini, et si tous les coefficients de P k sont strictement
positifs pour un certain entier k, alors la chaı̂ne est irréductible. Donc d’après le Théorème
3.6, il existe une unique probabilité invariante. ⊔
⊓