0% ont trouvé ce document utile (0 vote)
11 vues134 pages

Introduction aux probabilités de base

Ce document présente un cours de probabilités de base avec 13 chapitres traitant de concepts comme les espaces de probabilité, les variables aléatoires, l'indépendance, les lois des grands nombres et les processus aléatoires.

Transféré par

prof.math.naji.ali
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
11 vues134 pages

Introduction aux probabilités de base

Ce document présente un cours de probabilités de base avec 13 chapitres traitant de concepts comme les espaces de probabilité, les variables aléatoires, l'indépendance, les lois des grands nombres et les processus aléatoires.

Transféré par

prof.math.naji.ali
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

Université Pierre-et-Marie-Curie — 4 place Jussieu — 75252 Paris Cedex 05

PROBABILITÉS DE BASE

Année 2009 – 2010

Zhan SHI

[Link]
Table des matières

Chapitre 1. Espaces de probabilité · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 1

Chapitre 2. Variables aléatoires discrètes · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 9

Chapitre 3. Variables aléatoires · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 15

Chapitre 4. Vecteurs aléatoires · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 27

Chapitre 5. Indépendance · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 39

Chapitre 6. Fonctions caractéristiques · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 49

Chapitre 7. Suites et séries de variables aléatoires · · · · · · · · · · · · · · · · · · · · · · · · · 61

Chapitre 8. Loi des grands nombres · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 73

Chapitre 9. Convergence en loi · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 81

Chapitre 10. Théorème central limite · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 91

Chapitre 11. Espérances conditionnelles · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 101

Chapitre 12. Vecteurs aléatoires gaussiennes · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 113

Chapitre 13. Exemples de processus aléatoires · · · · · · · · · · · · · · · · · · · · · · · · · · · · 123


— Chapitre 1. Espaces de probabilité — 1

Chapitre 1. Espaces de probabilité

1. Axiomatique de Kolmogorov
Définition 1.1. Un espace mesurable (Ω, F ) est un ensemble Ω non-vide muni d’une tribu
F qui vérifie les propriétés suivantes :
(a) Ω ∈ F .
(b) Si A ∈ F , alors Ac ∈ F , où Ac désigne le complémentaire de A relatif à Ω:
Ac = Ω\A.
S∞
(c) Si (An )n>1 est une suite d’éléments dans F , alors n=1 An ∈ F .

Remarque. Par passage au complémentaire, on a aussi sous l’hypothèse de (c) que


∩∞
n=1 An ∈ F . ⊔

Définition 1.2. On appelle mesure de probabilité (ou simplement : probabilité) sur


(Ω, F ) une application P définie sur F qui vérifie les axiomes suivants :
i. Si A ∈ F , alors 0 6 P(A) 6 1.
ii. P(Ω) = 1.
iii (σ-additivité). Si (An )n>1 est une suite finie ou infinie dénombrable d’éléments de
F , deux à deux disjoints (c’est-à-dire tels que Ai ∩ Aj = ∅ si i 6= j), alors P(∪n An ) =
P
n P(An ).
On appellera (Ω, F , P) un espace de probabilité (parfois : espace probabilisé).

Langage probabiliste : A ∈ F est un événement.

2. Propriétés élémentaires
Propriété 2.1. Pour tout A ∈ F , on a P(Ac ) = 1 − P(A).
2 — Chapitre 1. Espaces de probabilité —

Preuve. Par iii et ii, P(A) + P(Ac ) = P(A ∪ Ac ) = P(Ω) = 1. D’où le résultat. ⊔

Propriété 2.2. P(∅) = 0.

Remarque. A ∈ F , P(A) = 0 n’implique pas forcément A = ∅. De même, A ∈ F ,


P(A) = 1 n’implique pas A = Ω. ⊔

Propriété 2.3. Si A ∈ F et B ∈ F , avec B ⊂ A, alors P(A\B) = P(A∩B c ) = P(A)−P(B).

Propriété 2.4. Si A ∈ F et B ∈ F , alors P(A\B) = P(A) − P(A ∩ B).

Propriété 2.5. Si A ∈ F et B ∈ F , alors P(A ∪ B) = P(A) + P(B) − P(A ∩ B).

Propriété 2.6. Si (An )n>1 est une suite croissante d’éléments dans F , alors P(∪∞
n=1 An ) =
limn→∞ P(An ).

Preuve. Soient B1 = A1 , B2 = A2 ∩ Ac1 , B3 = A3 ∩ Ac2 , · · ·, Bn = An ∩ Acn−1 . Les


événements (Bn )n>1 étant deux à deux disjoints, avec ∪∞ ∞
n=1 Bn = ∪n=1 An , on a, d’après
P ∞ Pk
la propriété de σ-additivité que P(∪∞
n=1 An ) = n=1 P(Bn ) = limk→∞ n=1 P(Bn ) =
limk→∞ P(∪kn=1 Bn ) = limk→∞ P(Ak ). ⊔

Propriété 2.7. Si (An )n>1 est une suite décroissante d’éléments dans F , alors P(∩∞
n=1 An )
= limn→∞ P(An ).

Preuve. Ceci est une conséquence directe de la propriété précédente par passage au
complémentaire. ⊔

Propriété 2.8. Soit {An }n>1 une partition finie ou infinie dénombrable de (Ω, F ) (c’est-
à-dire que les An sont deux à deux disjoints, et que leur union est Ω). Alors pour tout
B ∈ F,
X
P(B) = P(B ∩ An ).
n

Preuve. Soient Bn = An ∩ B. Les (Bn ) sont deux à deux disjoints, avec ∪∞


n=1 Bn = B. Par
σ-additivité,
X X
P(B) = P(Bn ) = P(B ∩ An ). ⊔

n n

3. Exemple : équi-probabilité et dénombrement


— Chapitre 1. Espaces de probabilité — 3

On considère un espace fini Ω = {ω1 , ω2 , · · · , ωn }, muni de la tribu F = P(Ω) := {A :


A ⊂ Ω}, et de la probabilité P : F → [0, 1] avec

#(A) #(A)
P(A) = = , ∀A ∈ F .
#(Ω) n

Cette probabilité s’appelle “équi-probabilité” sur Ω, car il ne privilège aucun élément


particulier de Ω.

Exemple 3.1. On jette trois fois une pièce de monnaie parfaite. On peut représenter
l’espace Ω comme l’ensemble des applications de {1, 2, 3} (trois jets) dans {P, F } (P =
pile, F = face). Autrement dit, Ω = {P, F }3 , donc n = #(Ω) = 23 = 8.
Il est alors facile de voir par exemple que

3
P ( on sort exactement une fois P ) = ,
8
1 7
P ( on sort au moins une fois P ) = 1 − P ( on sort trois fois F ) = 1 − = . ⊔

8 8

Exemple 3.2. On considère l’arrivée d’une course de chevaux, avec dix partants, numéro-
tés de 1 à 10. On note l’ordre d’arrivée. On suppose que les concurrents sont de force égale
et qu’il n’y a pas d’ex-aequo. L’espace Ω est l’ensemble des injections de {1, 2, · · · , 10} dans
lui-même. Donc n = #(Ω) = 10!. On a alors

#(ω ∈ Ω : ω(10) = 10)


P ( le numéro 10 arrive dernier ) =
10!
nombre d’injections de {1, 2, · · · , 9} dans lui-même
=
10!
9! 1
= = .
10! 10
Si l’on s’intéresse à l’événement A = { le numéro 10 arrive dans les trois premiers }, on
peut considérer Ak = { le numéro 10 arrive à la k-ième place } (k = 1, 2 ou 3). Les Ak
sont deux à deux disjoints, on a

3
P(A) = P(A1 ) + P(A2 ) + P(A3 ) = . ⊔

10

Exemple 3.3. Le jeu du loto, qui est un jeu de la Française des Jeux, consiste à choisir
6 numéros distincts parmi {1, 2, · · · , 49}. On suppose que les boules qui portent les 49
numéros sont toutes parfaites.
4 — Chapitre 1. Espaces de probabilité —

Ici on ne s’intéresse qu’aux résultats des 6 boules. L’espace Ω est

Ω = {{a1 , a2 , · · · , a6 } : 1 6 ai 6 49, les ai sont deux à deux différents }.

(Par exemple, {1, 2, · · · , 6} = {6, 5, · · · , 1}). On a n = #(Ω) = ( 49


6
). Par conséquent,

1
P ( on gagne le premier prix avec un bulletin ) = ≈ 7 × 10−8 . ⊔

( 49
6 )

4. Événements indépendants
Définition 4.1. Soit A et B deux événements sur l’espace de probabilité (Ω, F , P). On
dit qu’ils sont indépendants si P(A ∩ B) = P(A) P(B).

Exemple 4.2. Deux événements A et B sont indépendants si et seulement si Ac et B


sont indépendants.
En effet, P(A∩B) = P(A) P(B) ⇔ P(B)−P(A∩B) = P(B)−P(A) P(B) ⇔ P(Ac ∩B) =
P(Ac ) P(B).
On peut appliquer le même argument pour voir que A et B sont indépendants si et
seulement si Ac et B c sont indépendants. ⊔

Warning. Il ne faut pas confondre deux événements indépendants [P(A∩B) = P(A)P(B)]


avec deux événements disjoints [A ∩ B = ∅]. Ce sont des notions totalement différentes. ⊔

Définition 4.3. Les événements A1 , · · ·, An sont indépendants si, pour tout k 6 n et


tout k-uplet 1 6 i1 < i2 < · · · ik 6 n,

(2.1) P (Ai1 ∩ · · · ∩ Aik ) = P(Ai1 ) · · · P(Aik ).

Exercice 4.4. Soit Bi = Ai ou Aci . Il est clair que A1 , · · ·, An sont indépendants si et


seulement si B1 , · · ·, Bn sont indépendants.
On verra dans le Chapitre V une explication simple de cette propriété. ⊔

Exemple 4.5. On serait tenté de penser que si (Ai )16i6n sont deux-à-deux indépendants,
alors ils sont aussi indépendants. Ceci est en fait faux, même pour n = 3. L’indépendance
deux-à-deux dit que
P(A1 ∩ A2 ) = P(A1 )P(A2 ),
P(A2 ∩ A3 ) = P(A2 )P(A3 ),
P(A1 ∩ A3 ) = P(A1 )P(A3 ),
— Chapitre 1. Espaces de probabilité — 5

alors que l’indépendance de A1 , A2 et A3 demande une condition supplémentaire :

P(A1 ∩ A2 ∩ A3 ) = P(A1 )P(A2 )P(A3 ).

Cette dernière n’est pas du tout garantie par les trois conditions précédentes.
On jette deux fois une pièce de monnaie parfaite. Soient A1 = “P la première fois”,
A2 = “P la deuxième fois”, et A3 = “deux fois le même résultat”. Il est intuitivement
clair que A1 , A2 et A3 ne peuvent être indépendants, car A3 est totalement déterminés
par A1 et A2 (par exemple, si A1 et A2 sont réalisés, alors on sait que A3 est aussi réalisé).
Mathématiquement, on a P(A1 ) = P(A2 ) = P(A3 ) = 1/2, tandis que

1 1
P(A1 ∩ A2 ∩ A3 ) = P(A1 ∩ A2 ) = 6= = P(A1 )P(A2 )P(A3 ),
4 8

ce qui prouve que A1 , A2 et A3 ne sont pas indépendants.


On a pourtant

1
P(A1 ∩ A2 ) = = P(A1 )P(A2 ),
4
1
P(A2 ∩ A3 ) = P(A2 ∩ A1 ) = = P(A2 )P(A3 ),
4
1
P(A1 ∩ A3 ) = P(A1 ∩ A2 ) = = P(A1 )P(A3 ),
4

d’où l’indépendance deux-à-deux. ⊔


Exercice 4.6. (Cet exercice ne sera pas traité dans le cours.) Désignons par ϕ(n) la
fonction d’Euler de la théorie des nombres, c’est-à-dire, ϕ(n) est le nombre des entiers plus
petits que n et qui sont premiers avec n. Alors

Y  1

(2.3) ϕ(n) = n 1− ,
p
p: p|n

où le produit est sur tous les facteurs premiers p de n.


Pour (re)démontrer cette formule bien connue de la théorie des nombres, on considère
le modèle probabiliste suivant : on choisit au hasard un nombre parmi {1, 2, · · · , n} avec
équi-probabilité. Pour tout nombre premier p, soit

Ap = { le nombre choisi est divisible par p }.


6 — Chapitre 1. Espaces de probabilité —

Soient p1 , p2 , · · ·, pm les facteurs premiers de n. Montrons d’abord que Ap1 , Ap2 , · · ·,


Apm sont des événements indépendants. D’après la Proposition 2.2, il suffit de montrer
que P(Api1 ∩ · · · ∩ Apik ) = P(Api1 ) · · · P(Apik ). Or, il est clair que
 
n
P(Api ) = P le nombre est un élément de ∈ {pi , 2pi , 3pi , · · · , pi pi }
n/pi 1
= = ,
n pi

tandis que
 
P(Api1 ∩ · · · ∩ Apik ) = P le nombre choisi est un élément de {q, 2q, 3q, · · · , nq q}
n/q 1
= = ,
n pi1 · · · pik

où q := pi1 · · · pik , ce qui donne P(Api1 ∩ · · · ∩ Apik ) = P(Api1 ) · · · P(Apik ).


On sait donc que Ap1 , Ap2 , · · ·, Apm sont indépendants. Ainsi, Acp1 , Acp2 , · · ·, Acpm
sont aussi indépendants. On a,

Yk  
1
P(Acp1 ∩···∩ Acpk ) = P(Acp1 ) · · · P(Acpk ) = 1− .
i=1
pi

ϕ(n)
D’autre part, P(Acp1 ∩ · · · ∩ Acpk ) = n . D’où l’identité (2.3). ⊔

5. Probabilité conditionnelle
Soit (Ω, F , P) un espace de probabilité.

Définition 5.1. Soient A ∈ F et B ∈ F , avec P(B) > 0. La probabilité conditionnelle de


A sachant B est définie par
P(A ∩ B)
P(A | B) = .
P(B)

Exemple 5.2. On joue avec deux dés, un rouge et un blanc.


Soit A = { on obtient deux fois 6 }. Alors P(A) = 1/36.
Soit B = { le dé blanc donne 6 }. On a P(B) = 1/6. Donc la probabilité d’avoir deux
6, sachant que le dé blanc a donné 6, est

P(A ∩ B) P(A) 1/36 1


P (A | B) = = = = .
P(B) P(B) 1/6 6
— Chapitre 1. Espaces de probabilité — 7

On remarque que P(A | B) 6= P(A). ⊔


Propriété 5.3. Si P(B) > 0, alors A et B sont indépendants ⇐⇒ P(A | B) = P(A).

Propriété 5.4. Soit P(B) > 0. L’application A 7→ P(A | B) (pour A ∈ F ) vérifie les
axiomes de Kolmogorov; elle définit donc une nouvelle probabilité sur l’espace mesurable
(Ω, F ).

Ainsi, toutes les propriétés pour les probabilités sont valables pour les probabilités
conditionnelles. Par exemple, si (An )n>1 est une suite croissante d’éléments de F , alors


!
[
P An | B = lim P(An | B).
n→∞
n=1

La preuve de la Propriété 5.4, qui n’est pas présentée ici, est tout à fait triviale.
La propriété suivante permet de déduire P(B | A) à partir de P(A | B).

Propriété 5.5. Soient A et B deux événements tels que P(A) > 0 et P(B) > 0. On a
alors
P(A|B) P(B)
P(B|A) = .
P(A)

P(A∩B) P(A|B) P(B)


Preuve. Par définition, P(B|A) = P(A)
= P(A)
. ⊔

Propriété 5.6. Soit {An }n=1,2,··· une partition finie ou infinie dénombrable de (Ω, F ),
avec P(An ) > 0 pour tout n. Alors
X
P(B) = P(An )P(B|An ), ∀B ∈ F .
n

P
Preuve. D’après la Propriété 2.8, P(B) = n P(B ∩ An ). Le résultat découle alors de la
relation P(B ∩ An ) = P(An )P(B|An). ⊔

Exemple 5.7. On tire deux cartes d’un paquet de 52. Quelle est la probabilité que la
deuxième carte soit “Dame” ?
La situation dépend du résultat de la première carte. Si celle-ci est Dame, alors
la probabilité (conditionnelle) que la deuxième carte soit Dame est 3/51. Si celle-ci ne
l’est pas, alors la probabilité (conditionnelle) en question devient 4/51. On est donc dans
8 — Chapitre 1. Espaces de probabilité —

le cadre de probabilités conditionnelles, et l’on fait une discussion sur le résultat de la


première carte.
Soient
A1 := {la première carte est Dame} ,
A2 := {la première carte n’est pas Dame} .
On a A1 ∪ A2 = Ω et A1 ∩ A2 = ∅. Soit B := {la deuxième carte est Dame}. Par la
Propriété 5.6,
4 3 48 4 1
P(B) = P(A1 )P(B|A1 ) + P(A2 )P(B|A2 ) = × + × = .
52 51 52 51 13
On constate que la deuxième carte a exactement la même chance d’être Dame que la

première, ce qui est rassurant par exemple pour le tirage au sort dans un tournoi sportif.⊔

Propriété 5.8 (Formule de Bays). Soit {An }n=1,2,··· une partition finie ou infinie dénom-
brable de (Ω, F ), avec P(An ) > 0 pour tout n. Alors pour tout B ∈ F tel que P(B) > 0,
P(An )P(B|An )
P(An |B) = P .
m P(Am )P(B|Am )

Preuve. Par définition,


P(An ∩ B) P(An )P(B|An )
P(An |B) = = ,
P(B) P(B)
ce qui complète la preuve à l’aide de la propriété précédente. ⊔

Exemple 5.9. Dans un concours de pronostic sportif pour un match entre l’équipe E
et l’équipe F (pas de match nul), les participants sont composés à 50% d’étudiants de
Jussieu, à 20% d’étudiants de Dauphine, et à 30% d’étudiants d’Orsay. On constate que
60% des étudiants de Jussieu prévoient l’équipe E gagnante, ainsi que 30% des étudiants
de Dauphine, et 90% des étudiants d’Orsay. On tire une personne au hasard parmi les
participants : elle pronostique sur l’équipe F gagnante. Quelle est la probabilité qu’il s’agit
de quelqu’un de Jussieu ?
On définit A1 := {Jussieu}, A2 := {Dauphine}, et A3 := {Orsay}. On sait que
ces trois événements forment une partition de Ω, avec P(A1 ) = 0, 5, P(A2 ) = 0, 2, et
P(A3 ) = 0, 3.
Soit B := {supporteur de l’équipe F}. Par hypothèse, P(B|A1 ) = 0, 4, P(B|A2 ) =
0, 7, et P(B|A3 ) = 0, 1. D’après la formule de Bays,
P(A1 )P(B|A1 )
P(A1 |B) = =
P(A1 )P(B|A1 ) + P(A2 )P(B|A2 ) + P(A3 )P(B|A3 )
0, 5 × 0, 4 20 1
= = > . ⊔

0, 5 × 0, 4 + 0, 2 × 0, 7 + 0, 3 × 0, 1 37 2
— Chapitre 2. Variables aléatoires discrètes — 9

Chapitre 2. Variables aléatoires discrètes

1. Loi d’une variable aléatoire discrète


Dans tout le chapitre, (Ω, F , P) désigne un espace de probabilité, tel que Ω soit au
plus dénombrable.
Soit (E, E) un espace mesurable. On appelle variable aléatoire (v.a.) discrète à valeurs
dans E toute application mesurable X : Ω → E. Le plus souvent, E = N, Z, R ou Rd .
Un exemple de v.a. discrète : le nombre de bons numéros au loto (voir l’Exemple 3.3
traité dans le Chapitre 1).
On note PX la mesure image de P par X. C’est-à-dire que, pour tout A ∈ E,

PX (A) = P ({ω ∈ Ω : X(ω) ∈ A}) = P ({X ∈ A}) = P (X ∈ A) .

PX , qui est une mesure de probabilité sur E (car PX (E) = P(Ω) = 1), est appelée la loi
de la variable aléatoire X ou encore sa distribution.
Soit {xk , k = 1, 2, · · ·} := X(Ω), qui représente l’ensemble des valeurs que X peut
prendre. Cet ensemble est au plus infini dénombrable, car c’est le cas pour Ω. On suppose
que {xk } ∈ E, ∀k. La loi de X est caractérisée par les données (xk ) et (pk ), où :

pk = PX ({xk }) = P({X = xk }), k = 1, 2, · · ·

En effet, pour tout A ∈ E,


X
PX (A) = pk .
k: xk ∈A

2. Moments d’une v.a. discrète réelle


10 — Chapitre 2. Variables aléatoires discrètes —

Lorsque (E, E) = (R, B(R)) (espace réel muni de la tribu borélienne), on dit que X
est une v.a. réelle.

Définition 2.1. Soit X une v.a. réelle, et soit {xk , k = 1, 2, · · ·} l’ensemble des valeurs
prises par X. Si
X
|xk | pk < ∞,
k

on dit que X admet un moment d’ordre 1, et on pose


X
E(X) = xk pk .
k

On appelle E(X) l’espérance — ou la moyenne — de X.


Plus généralement, pour n > 1, on dit que X admet un moment d’ordre n si X n
admet un moment d’ordre 1.

Remarque. Il est clair que si la v.a. X est bornée, c’est-à-dire s’il existe un réel M > 0
tel que |X(ω)| 6 M pour tout ω ∈ Ω, alors X admet des moments de tous ordres. C’est
le cas en particulier lorsque #(Ω) < ∞. ⊔

Définition 2.2. Si X admet un moment d’ordre 2, alors elle admet un moment d’ordre
1. On pose alors
Var(X) = E(X 2 ) − (EX)2 ,

et on appelle cette quantité la variance de X.

Le fait que l’existence d’un moment d’ordre 2 implique celle d’un moment d’ordre 1, ainsi
que la propriété suivante, seront prouvés dans le chapitre 3 dans un contexte beaucoup
plus général.

Propriété 2.3. Si X admet un moment d’ordre 2, alors


h i
Var(X) = E (X − EX)2
p
Par conséquent, Var(X) > 0, et on appelle Var(X) l’écart-type de X.

Propriété 2.4. Soit g une fonction réelle telle que


X
|g(xk )| pk < ∞.
k
— Chapitre 2. Variables aléatoires discrètes — 11

La v.a. g◦X, que l’on note souvent g(X), admet un moment d’ordre 1, avec
X
E(g(X)) = g(xk ) pk .
k
P 2
En particulier, si k (xk ) pk < ∞, alors X admet un moment d’ordre 2, et on a
X
E(X 2 ) = (xk )2 pk .
k

Heuristiquement, E(X) mesure la “moyenne” de la v.a. X, tandis que Var(X) mesure


la dispersion par rapport à la moyenne. Par exemple, soient X et Y les variables qui
désignent les notes de deux étudiants. On suppose :

P(X = 10) = 1/4, P(X = 11) = 1/2, P(X = 12) = 1/4,


P(Y = 3) = 1/8, P(Y = 9) = 1/6, P(Y = 11) = 3/8,
P(Y = 14) = 1/4, P(Y = 18) = 1/12.

Les variables X et Y étant bornées, elles admettent des moments de tous ordres.
1 1 1
E(X) = × 10 + × 11 + × 12 = 11,
4 2 4
1 1 3 1 1
E(Y ) = × 3 + × 9 + × 11 + × 14 + × 18 = 11.
8 6 8 4 12
Pourtant,
1 1 1
E(X 2 ) = × 102 + × 112 + × 122 = 121, 5 ,
4 2 4
1 1 3 1 1
E(Y 2 ) = × 32 + × 92 + × 112 + × 142 + × 182 = 136.
8 6 8 4 12
Donc
1
Var(X) = E(X 2 ) − (EX)2 = 121, 5 − 121 = ,
2
Var(Y ) = E(Y 2 ) − (EY )2 = 136 − 121 = 15.
Les résultats du deuxième étudiant sont donc beaucoup moins réguliers que ceux du pre-
mier, ce qui est, a priori, parfaitement clair.

3. Exemples de lois discrètes


Exemple (variable constante). P(X = c) = 1 pour un réel c. E(X) = c. Var(X) = 0.
PX est la masse de Dirac en c. ⊔

12 — Chapitre 2. Variables aléatoires discrètes —

Exemple (loi de Bernoulli). On dit que X est une variable de Bernoulli de paramètre
p ∈ [0, 1] si
P(X = 1) = p, P(X = 0) = 1 − p.

On a E(X) = p, Var(X) = p(1 − p). ⊔


Exemple (loi binomiale). On dit que X est une variable binomiale de paramètres (n, p),
où n ∈ N∗ et p ∈ [0, 1] si
 
n
P(X = i) = pi (1 − p)n−i , i = 0, 1, · · · , n.
i

On a E(X) = np, Var(X) = np(1 − p). Interprétation : si l’on jette n fois une pièce de
monnaie avec P(P ) = p et P(F ) = 1 − p. Le nombre de fois où l’on obtient P suit la loi
binomiale de paramètres (n, p).

Exemple (loi géométrique). On dit que X est une variable géométrique de paramètre
p ∈ ]0, 1[ si
P(X = n) = (1 − p)pn , n = 0, 1, 2, · · ·

On a E(X) = p/(1 − p), Var(X) = p/(1 − p)2 . Interprétation : si l’on jette une pièce de
monnaie avec P(P ) = p et P(F ) = 1 − p. Le nombre de fois où l’on obtient P avant d’avoir
un F suit la loi géométrique de paramètre p.

Exemple (loi de Poisson). On dit que X est une variable de Poisson de paramètre
θ > 0 si n
−θ θ
P(X = n) = e , n = 0, 1, 2, · · ·
n!
On a E(X) = θ, Var(X) = θ.

4. Fonction génératrice d’une v.a. à valeurs entières


positives
Dans cette section, on suppose que X est une v.a. à valeurs dans N.

Définition 4.1. La fonction génératrice de X est la fonction GX : [0, 1] → [0, 1] définie


par

X
X
GX (s) = E(s ) = sn P(X = n), s ∈ [0, 1],
n=0
— Chapitre 2. Variables aléatoires discrètes — 13

avec la convention 00 := 1.

Propriété 4.2. La fonction génératrice détermine la loi de X. Plus précisément, pour


tout n > 0,
(n)
G (0)
P(X = n) = X ,
n!
(n)
où GX (0) désigne la dérivée n-ième de GX en 0.
P∞
Preuve. La série entière s 7→ n=0 sn P(X = n) a un rayon de convergence supérieur ou
P∞
égal à 1 (car n=0 P(X = n) converge). On peut donc récupérer P(X = n) en utilisant la
formule qui relie les coefficients d’une série entière avec les dérivées en 0. ⊔

Exemple (loi de Bernoulli). Si X est une variable de Bernoulli de paramètre p ∈ [0, 1],
alors
GX (s) = 1 − p + sp.

Exemple (loi binomiale). Si X suit la loi binomiale de paramètres (n, p),


n  
X n
GX (s) = pi (1 − p)n−i si = (sp + 1 − p)n .
i
i=0

Exemple (loi géométrique). Soit X une variable géométrique de paramètre p ∈ ]0, 1[,

X 1−p
GX (s) = (1 − p)pn sn = .
n=0
1 − sp

Exemple (loi de Poisson). Si X est une variable de Poisson de paramètre θ > 0,



X n
−θ θ
GX (s) = e sn = esθ−θ = eθ(s−1) .
n=0
n!
14 — Chapitre 2. Variables aléatoires discrètes —
— Chapitre 3. Variables aléatoires — 15

Chapitre 3. Variables aléatoires

1. Loi d’une variable aléatoire


Soit (Ω, F , P) un espace de probabilité, et soit E un espace muni d’une tribu E. On
appelle variable aléatoire (v.a.) à valeurs dans E toute application mesurable X : Ω → E.
Souvent, on prend E = R muni de la tribu borélienne, et on appelle X v.a. réelle.
Soit X une v.a. à valeurs dans E, et soit E e un espace muni d’une tribu E. e Si g :
e Ee ) est une fonction mesurable, alors g(X) est une v.a., à valeurs dans E.
(E, E) → ( E, e

Définition 1.1. Soit X : (Ω, F ) → (E, E) une variable aléatoire. On appelle loi de X
(ou encore sa distribution) la mesure de probabilité PX sur (E, E) donnée par

PX (A) = P(X −1 (A)) = P(X ∈ A) = P ({ω ∈ Ω : X(ω) ∈ A}) , A∈E.

[En termes de la théorie d’intégration, il s’agit de la mesure image de P par l’application


mesurable X.]

Définition 1.2. Si une v.a. réelle X est intégrable par rapport à P, c’est-à-dire si
R

|X| dP < ∞, on dit alors que X admet un moment d’ordre 1, et on pose
Z Z
E(X) = X(ω) P(dω) = X dP.

On appelle E(X) espérance de X (ou sa moyenne).

Théorème 1.3. PX est l’unique mesure sur (E, E) telle que pour toute fonction g : E → R
mesurable et bornée, on ait
Z
E (g(X)) = g(x)PX (dx).
E
16 — Chapitre 3. Variables aléatoires —

Preuve. L’unicité est évidente en prenant pour g l’indicatrice d’un ensemble mesurable
générique A ∈ F , puisque dans ce cas

E(g(X)) = E(1X∈A ) = P(X ∈ A) = PX (A) .

On montre maintenant l’identité pour toute fonction g mesurable et bornée. En fait, on


prouve un résultat plus fort, en montrant l’identité pour toute fonction g mesurable telle
R
que E |g(x)| PX (dx) < ∞.
L’identité est vraie pour toute fonction mesurable g étagée (c’est à dire, combinaison
linéaire finie de fonctions indicatrices). Puisque toute fonction mesurable positive s’écrit
comme limite simple d’une suite croissante de fonctions étagées positives, par passage à la
limite à l’aide du théorème de convergence monotone, on voit que l’identité reste vraie pour
R
g mesurable positive telle que E g(x) PX (dx) < ∞ (sans cette condition d’intégrabilité,
l’identité reste néanmoins valable, sous la forme de ∞ = ∞). Enfin, en considérant g + et
R
g − , on obtient l’identité pour g telle que E |g(x)| PX (dx) < ∞. ⊔

La preuve du théorème précédent nous donne le résultat suivant.


R
Théorème 1.4. Soit g : E → R une fonction mesurable telle que E
|g(x)|PX (dx) < ∞.
Alors g(X) admet un moment d’ordre 1, avec
Z
E (g(X)) = g(x)PX (dx).
E

P
Remarque. Dans le cas d’une v.a. discrète, PX = k pk δxk (notation : pk = P(X = xk ),
P
δxk = masse de Dirac en xk ). Soit g une fonction mesurable telle que k |g(xk )|pk < ∞.
On a, par le Théorème 1.4,
Z X
E(g(X)) = g(x) PX (dx) = g(xk )pk .
E k

C’est l’énoncé de la Propriété 2.4 du Chapitre 2. ⊔


2. Fonction de répartition d’une v.a. réelle


On suppose que X est une variable aléatoire réelle, c’est-à-dire que E = R (muni
de sa tribu borélienne). Dans ce cas-là, la loi de X (c’est-à-dire PX ) est une mesure de
probabilité sur R.
— Chapitre 3. Variables aléatoires — 17

Définition 2.1. On appelle fonction de répartition de X la fonction FX : R → [0, 1]


donnée par
FX (x) = PX ( ] − ∞, x] ) = P({X ≤ x}), x ∈ R.

Propriété 2.2. (i) La fonction FX est croissante, avec

lim FX (x) = 0 et lim FX (x) = 1.


x→−∞ x→∞

(ii) La fonction FX est continue à droite, sa limite à gauche au point x vaut


 
FX (x−) = lim FX (y) = P(X < x) = PX ( ] − ∞, x[ ).
y→x−

Preuve. (i) Si x ≤ x′ , alors ] − ∞, x] ⊂ ] − ∞, x′ ] et on a bien FX (x) ≤ FX (x′ ). Comme


S
] − ∞, ∞[ = n>1 ] − ∞, n], et comme la famille ( ] − ∞, n])n>1 est croissante, on a

lim FX (n) = PX ( ] − ∞, ∞[ ) = 1.
n→∞
S
De même, ] − ∞, ∞[ = n>1 ] − n, ∞[ et comme FX (−n) = 1 − PX ( ] − n, ∞[ ), on a donc

1 − lim FX (−n) = PX ( ] − ∞, ∞[ ) = 1.
n→∞

(ii) Soit (xn , n > 1) une suite réelle qui décroı̂t vers x. La suite des événements {X ≤
T
xn } est décroissante et {X 6 x} = n>1 {X 6 xn }. On a donc FX (x) = limn→∞ FX (xn ).
Supposons maintenant que (yn , n > 1) est une suite strictement croissante qui converge
S
vers x. Alors la suite des événements {X 6 yn } est croissante et {X < x} = n>1 {X 6
yn }. On a donc P(X < x) = limn→∞ FX (yn ). ⊔

Propriété 2.3. Pour tout x ∈ R, on a

P({X = x}) = FX (x) − FX (x−).

(En particulier, si X est une v.a. discrète, la fonction de répartition FX caractérise la loi
de X.)

Preuve. Il suffit d’écrire {X ≤ x} = {X < x} ∪ {X = x} et appliquer l’additivité d’une


probabilité. ⊔

Propriété 2.4. La fonction de répartition FX caractérise la loi PX .


18 — Chapitre 3. Variables aléatoires —

Preuve. Pour tout intervalle de type ]a, b], on a FX (b) − FX (a) = PX ( ]a, b] ). Une mesure
sur (R, B(R)) (tribu borélienne de R) étant déterminée par la donnée des masses qu’elle
attribue aux intervalles de ce type (théorème de classe monotone), on en déduit que FX
caractérise la loi de X. ⊔

Remarque. (i) Pour une variable aléatoire réelle X admettant un moment d’ordre 1, il y
a deux façons d’écrire son espérance :
Z Z
E(X) = X dP = x PX (dx).
Ω R

(ii) Dans la Section 5 du présent chapitre, on va se donner une condition nécessaire et


suffisante pour qu’une fonction définie sur R soit la fonction de répartition associée à une
loi de probabilité sur R. ⊔

Exemple 2.5. Soit X une variable aléatoire réelle dont la fonction de répartition est FX .
On s’intéresse à la fonction de répartition des variables aléatoires suivantes :

Y := X + a,
Z := X 2 ,
U := X + = max(X, 0),

où a ∈ R est un réel connu.


On a,

FY (x) = P(Y 6 x) = P(X 6 x − a) = FX (x − a), x ∈ R.

Pour calculer FZ (x), on remarque que FZ (x) = P(Z 6 x) = 0 lorsque x < 0. Si x > 0,
√ √
FZ (x) = P(X 2 6 x) = P(− x 6 X 6 x )
√ √
= P(X 6 x ) − P(X < − x )
√ √
= FX ( x ) − FX (− x − 0).

Donc ( √ √
FX ( x ) − FX (− x − 0) si x > 0,
FZ (x) =
0 sinon.
On calcule maintenant FU (x). Il est clair que FU (x) = 0 pour x < 0. Lorsque x > 0,

FU (x) = P(max(X, 0) 6 x) = P(X 6 x) = FX (x).


— Chapitre 3. Variables aléatoires — 19

En conclusion, (
FX (x) si x > 0,
FU (x) = ⊔

0 sinon.

3. Moments d’une v.a. réelle


Propriété 3.1. Soient X1 , · · ·, Xn des v.a. réelles admettant toutes un moment d’ordre
Pn
1, et soient a1 , · · ·, an des réels quelconques. Alors la v.a. i=1 ai Xi admet également un
moment d’ordre 1, et !
n
X n
X
E ai X i = ai E(Xi ).
i=1 i=1

Inégalité de Markov. Soit X une v.a. réelle qui admet un moment d’ordre 1. Pour tout
a > 0, on a
E(|X|)
P ( |X| > a) 6 .
a

Preuve. On a
Z Z Z
E(|X|) = |X| dP > |X| 1{|X|>a} dP > a 1{|X|>a} dP = a P ( |X| > a) .
Ω Ω Ω

D’où l’inégalité cherchée. ⊔



R
Définition 3.2. On dit qu’une v.a. réelle X admet un moment d’ordre n si Ω
|X|n dP <
∞.
R R
Propriété 3.3. Soient 0 < p < q. Si Ω
|X|q dP < ∞, alors Ω
|X|p dP < ∞. En
particulier, si X admet un moment d’ordre n, alors elle admet des moments de tous ordre
m 6 n.

Preuve. On peut supposer sans perte de généralité que q > p = 1 (sinon, on considère |X|p
au lieu de |X| dans le raisonnement ci-dessous).
Par l’inégalité de Hölder (valable, en réalité, pour les mesures qui ne sont pas néce-
ssairement des mesures de probabilité), pour tout (a, b) ∈ ]1, ∞[ 2 tel que a−1 + b−1 = 1,
on a Z Z 1/a  Z 1/b
a b
|XY | dP 6 |X| dP |Y | dP .
Ω Ω Ω
20 — Chapitre 3. Variables aléatoires —

Appliquons l’inégalité à a = q, b = q/(q − 1) et Y = 1, et obtient


Z Z 1/q
q
|X| dP 6 |X| dP .
Ω Ω

D’où le résultat. ⊔

Définition et Propriété 3.4. Si X admet un moment d’ordre 2, alors elle admet un


moment d’ordre 1. On pose alors

Var(X) = E(X 2 ) − (EX)2 ,

et on appelle cette quantité la variance de X. On a en plus


h i
Var(X) = E (X − EX)2
p
Par conséquent, Var(X) > 0, et on appelle Var(X) l’écart-type de X.

Preuve. L’existence d’un moment d’ordre 1 découle de la Propriété 3.3. On a


h i h i
2 2 2
E (X − EX) = E X + (EX) − 2X E(X)
= E(X 2 ) + (EX)2 − 2(EX)2 = E(X 2 ) − (EX)2 . ⊔

Propriété 3.5. Une variable aléatoire est constante avec probabilité 1 si et seulement si
sa variance est nulle. La v.a. est alors égale à sa moyenne avec probabilité 1.

Preuve. Si X a pour variance nulle, alors E[(X − EX)2 ] = 0. Donc P(X − EX 6= 0) = 0,


c’est-à-dire P(X = E(X)) = 1.
La réciproque, qui est évidente, a déjà été démontrée dans le premier exemple de la
Section 3 du Chapitre 2. ⊔

Propriété 3.6. Soit X une v.a. réelle ayant un moment d’ordre 2, et soient a et b deux
réels. Alors aX + b admet aussi un moment d’ordre 2, avec

Var(aX + b) = a2 Var(X).

Preuve. Si X 2 est intégrable par rapport à P, alors (aX + b)2 l’est également. On a
h i h i
Var(aX + b) = E (aX + b − E(aX + b))2 = E (aX + b − aEX − b)2
h i
= E a2 (X − EX)2 = a2 Var(X). ⊔

— Chapitre 3. Variables aléatoires — 21

Inégalité de Bienaymé–Tchebychev. Soit X une variable aléatoire qui admet un


moment d’ordre 2. Pour tout réel a > 0, on a
Var(X)
P ( |X − E(X)| > a ) 6 .
a2

Preuve. On a

P ( |X − E(X)| > a ) = P |X − E(X)|2 > a2 ,

et il ne reste qu’à appliquer l’inégalité de Markov. ⊔


4. Densité d’une v.a. réelle


Rappelons brièvement un résultat très important de la théorie des mesures. Soient µ1
et µ2 deux mesures σ-finies sur l’espace mesurable (E, E). On dit que µ1 est absolument
continue par rapport à µ2 si, pour tout A ∈ E, µ2 (A) = 0 =⇒ µ1 (A) = 0. Le théorème de
Radon–Nikodym dit que ceci est le cas si et seulement s’il existe f : E → R+ mesurable
R
telle que µ1 = f • µ2 (c’est-à-dire µ1 (A) = A f dµ2 pour tout A ∈ E). Souvent, on écrit
dµ1
dans ce cas µ1 ≪ µ2 , et f := dµ 2
.
Soit X une v.a. réelle. Si la mesure de probabilité PX est absolument continue par
rapport à la mesure de Lebesgue, c’est-à-dire si PX (dx) = fX (x) dx (dx étant la mesure
de Lebesgue), alors on dit que X admet une fonction de densité fX . Ceci signifie que
R
PX (A) = A fX (x) dx pour toute partie borélienne A ⊂ R. On a alors
Z x
FX (x) = fX (u) du, x ∈ R.
−∞

La fonction de répartition est dans ce cas-là une fonction continue sur R.

Remarque. (i) Si la fonction de répartition FX est continue sur R, X n’admet pas


nécessairement une densité.
(ii) Si FX est continue et presque partout dérivable, telle que FX soit une fonction
primitive de sa dérivée, alors X a une densité qui est la dérivée de FX .
(iii) Si f et g sont des fonctions de densité d’une même v.a. réelle, alors f = g presque
partout. ⊔

Théorème 4.1. Si X admet la densité fX , et si g est une fonction mesurable sur R telle
que Z
|g(x)| fX (x) dx < ∞,
R
22 — Chapitre 3. Variables aléatoires —

alors g(X) admet un moment d’ordre 1, avec


Z
E(g(X)) = g(x)fX (x) dx.
R
R
En particulier, (i) si R
|x| fX (x) dx < ∞, alors X admet un moment 1, avec
Z
E(X) = xfX (x) dx.
R

(ii) Si A est un borélien de R, alors


Z
P(X ∈ A) = fX (x) dx.
A

Preuve. On a PX (dx) = fX (x) dx. Le résultat découle alors du Théorème 1.4. ⊔


On se donne quelques exemples de densités de probabilité de v.a. réelles.

Exemple 4.2 (loi uniforme). La mesure de Lebesgue sur [0, 1] (ou (0, 1)) est une mesure
de probabilité, qu’on appelle la loi uniforme sur [0, 1] (ou (0, 1)). La densité est

fX (x) = 1(0,1) (x).

En particulier,
Z 1
1 1
E(X) = x dx = , Var(X) = .
0 2 12
On peut aussi facilement calculer la fonction de répartition :

 0 si x < 0,



FX (x) = x si 0 6 x 6 1,




1 si x > 1.
Plus généralement, si a < b, on appelle loi uniforme sur [a, b] la mesure de probabilité
(b − a)−1 1[a,b] (x) dx. Donc pour la loi uniforme sur [a, b], la fonction de densité est
1
1]a,b[ (x).
b−a
On remarque que si X suit la loi uniforme sur [0, 1], alors la v.a. Y = (b − a)X + a
suit la loi uniforme sur [a, b]. En effet, pour tout x ∈ R, on a FY (x) = P(Y 6 x) = P(X 6
x−a
b−a ) = 0 si x < a, et FY (x) = 1 si x > b; et si x ∈ [a, b],
Z (x−a)/(b−a)
x−a
FY (x) = du = .
0 b−a
— Chapitre 3. Variables aléatoires — 23

Donc Z x
1
FY (x) = 1]a,b[ (t) dt, x ∈ R.
−∞ b−a
L’expression à droite n’est autre que la fonction de répartition d’une v.a. suivant la loi
uniforme sur [a, b]. Comme la fonction de répartition détermine la loi d’une v.a. réelle, on
conclut que Y suit la loi uniforme sur [a, b]. ⊔

Exemple 4.3 (loi exponentielle). Pour tout θ > 0, la mesure θe−θx 1R+ (x) dx a pour
masse 1, c’est donc une mesure de probabilité que l’on appelle la loi exponentielle de
paramètre θ. La densité de cette loi de probabilité vaut donc

fX (x) = θe−θx 1R+ (x).

En particulier, Z ∞
1
E(X) = xθe−θx dx = .
0 θ
Plus généralement, pour n > 1,
Z ∞
n Γ(n + 1) n!
E(X ) = xn θe−θx dx = n
= n.
0 θ θ

On peut aussi facilement calculer la fonction de répartition :


(
0 si x 6 0,
FX (x) = ⊔

−θx
1−e si x > 0.

Exemple 4.4 (loi de Cauchy standard). La mesure sur R de densité π1 1+x 1


2 dx a

bien pour masse 1, c’est une mesure de probabilité sur R que l’on appelle loi de Cauchy
standard. La densité de la loi de Cauchy standard est donc

1 1
fX (x) = .
π 1 + x2

Bien que x 7→ xfX (x) soit une fonction impaire sur R (on serait donc tenté de dire que
E(X) = 0), X n’admet pas de moment d’ordre 1, car |x|fX (x) n’est pas intégrable par
rapport à la mesure de Lebesgue.
La fonction de répartition de la loi de Cauchy standard est

1 1
FX (x) = + Arctan(x). ⊔

2 π
24 — Chapitre 3. Variables aléatoires —

Exemple 4.5 (loi gaussienne). En écrivant


Z ∞ 2 Z ∞  Z ∞ 
−x2 /2 −x2 /2 −y 2 /2
e dx = e dx e dy
−∞ −∞ −∞
Z ∞ Z ∞
2
+y 2 )/2
= dx dy e−(x
−∞ −∞
Z ∞
2
= 2π e−r /2
r dr
0
= 2π ,
R∞ 2 √ 2
on obtient l’identité e−x /2
dx = 2π. Ainsi, la mesure √1 e−x /2 dx a pour masse
−∞ 2π
1, on l’appelle la loi gaussienne standard (ou la loi normale standard). La densité est donc

1 2
fX (x) = √ e−x /2 .

Plus généralement, pour tout µ ∈ R et σ 2 > 0, la mesure sur R,


 
1 (x − µ)2
√ exp − dx
2πσ 2 2σ 2

a également pour masse 1 (il s’agit d’un changement de variables simple), on l’appelle la
loi gaussienne N (µ, σ 2 ). On peut vérifier que

E(X) = µ, Var(X) = σ 2 .

X−µ
Il est facile de vérifier que si X suit la loi gaussienne N (µ, σ 2 ), alors Y := σ suit la loi
gaussienne standard N (0, 1).
La loi gaussienne standard est souvent appelée la loi gaussienne centrée réduite, car
elle a pour espérance 0 et pour variance 1.
La fonction de répartition de la loi gaussienne n’admet pas d’expression explicite
simple. ⊔

Exemple 4.6. Soit X une v.a. uniforme sur ] − π2 , π2 [ , c’est-à-dire que la densité de X est

1
fX (x) = 1]− π2 , π2 [ (x).
π
Soit Y = tan(X). On s’intéresse à la loi de la v.a. Y . Pour tout x ∈ R,
Z Arctan(x)
1 1 1
P(Y 6 x) = P (X 6 Arctan(x)) = du = + Arctan(x).
π −π/2 2 π
— Chapitre 3. Variables aléatoires — 25

Y suit donc la loi de Cauchy standard.


Si X est une v.a. uniforme sur (0, 1), on a vu dans l’Exemple 4.2 que π(X − 21 ) suit
la loi uniforme sur ] − π2 , π2 [ . Donc Y = tan(π(X − 21 )) suit la loi de Cauchy standard. On
verra dans la section suivante qu’il s’agit d’un phénomène très général. ⊔

5. Loi uniforme et loi réelle quelconque


Proposition 5.1. (i) Soit F : R → [0, 1] une fonction croissante, continue à droite, telle
que
lim F (x) = 0, lim F (x) = 1.
x→−∞ x→∞

Alors elle est fonction de répartition associée à une loi de probabilité réelle.
(ii) Soit F : R → [0, 1] la fonction de répartition associée à la loi de probabilité µ sur
R, c’est-à-dire F (x) = µ( ] − ∞, x] ). Soit F −1 : [0, 1] → R l’inverse continue-à-droite de F ,
c’est-à-dire
F −1 (x) = inf{y ∈ R : F (y) > x}, x ∈ ]0, 1[ .

Si X suit la loi uniforme sur [0, 1], alors la variable aléatoire Y = F −1 (X) suit la loi µ.

Preuve. Soit F : R → [0, 1] une fonction croissante, continue à droite, telle que

lim F (x) = 0, lim F (x) = 1.


x→−∞ x→∞

Soit Y = F −1 (X). Il s’agit de vérifier que Y a pour fonction de répartition F .


Pour tout x ∈ R,

(∗) Y 6 x ⇐⇒ F −1 (X) 6 x ⇐⇒ inf{y : F (y) > X} 6 x .

D’une part, la dernière assertion de (∗) est satisfaite dès que F (x) > X, autrement dit on
a {X < F (x)} ⊂ {Y 6 x}. Comme X suit la loi uniforme, il en découle que

F (x) = P(X < F (x)) 6 P (Y 6 x) .

D’autre part, si la dernière assertion de (∗) est vérifiée, alors F (y) > X pour tout y > x,
c’est-à-dire {Y 6 x} ⊂ {X < F (y)}. On a donc P (Y 6 x) 6 P (X < F (y)) = F (y)
(puisque X suit la loi uniforme). On fait tendre y vers x, et comme F est continue à
droite, on obtient
P (Y 6 x) 6 F (x) .
26 — Chapitre 3. Variables aléatoires —

En conclusion, on a donc vérifié que F est la fonction de répartition de Y . ⊔


La Proposition 5.1 a une application importante en informatique. La plupart des


ordinateurs permettent de générer des pseudo “variables aléatoires” de “loi” approxima-
tivement uniforme sur [0, 1], c’est-à-dire que l’ordinateur fournit à l’utilisateur un nombre
réel “aléatoire” X tel que X ∈ [0, x] avec fréquence d’environ x pour x ∈ [0, 1]. La Propo-
sition 5.1 permet donc de générer des variables aléatoires réelles de lois arbitraires à partir
d’une variable aléatoire X suivant la loi uniforme sur [0, 1].
— Chapitre 4. Vecteurs aléatoires — 27

Chapitre 4. Vecteurs aléatoires

1. Fonction de répartition d’un vecteur aléatoire


Un vecteur aléatoire de dimension N est une variable aléatoire à valeurs dans RN
(muni de sa tribu borélienne). On peut donc appliquer tous les résultats sur les v.a.
générales.
On note X = (X1 , · · · , XN ). La fonction de répartition de X est

FX (x1 , · · · , xN ) = PX ( ] − ∞, x1 ] × · · · × ] − ∞, xN ])
= P (X1 6 x1 , · · · , XN 6 xN ) , (x1 , · · · , xN ) ∈ RN .

On remarque que FX est une fonction sur RN , à valeurs dans [0, 1], croisssante en chaque
xi .

2. Densité d’un vecteur aléatoire


Si PX (loi du vecteur aléatoire X) est absolument continue par rapport à la mesure
de Lebesgue sur RN , c’est-à-dire, si

PX (dx1 · · · dxN ) = fX (x1 , · · · , xN ) dx1 · · · dxN ,

alors fX est appelée la densité de X. Relation entre densité et fonction de répartition :


Z Z
FX (x1 , · · · , xN ) = · · · fX (u1 , · · · , uN ) du1 · · · duN .
]−∞,x1 ]×···× ]−∞,xN ]

Plus généralement, si une fonction g : RN → R est telle que


Z Z
··· |g(x1 , · · · , xN )| fX (x1 , · · · , xN ) dx1 · · · dxN < ∞,
RN
28 — Chapitre 4. Vecteurs aléatoires —

alors la v.a. réelle g(X1 , · · · , XN ) admet un moment d’ordre 1, avec


Z Z
E (g(X1 , · · · , XN )) = ··· g(x1 , · · · , xN ) fX (x1 , · · · , xN ) dx1 · · · dxN .
RN

En particulier, pour tout borélien A ⊂ RN ,


Z Z
P (X ∈ A) = · · · fX (x1 , · · · , xN ) dx1 · · · dxN ,
A
R R
ce qui n’est pas surprenant, car par définition, PX (A) = · · · A fX (x1 , · · · , xN ) dx1 · · · dxN .

Exemple 2.1. Soit (X, Y ) de densité

f(X,Y ) (x, y) = θ 2 e−θ(x+y) 1R∗+ (x)1R∗+ (y),


RR
où θ > 0 est une constante fixée. Comme f
R2 (X,Y )
(x, y) dx dy = 1, f(X,Y ) est une
fonction de densité sur R2 .
On s’intéresse à la fonction de répartition F(X,Y ) du vecteur aléatoire (X, Y ). Par
définition, Z Z
F(X,Y ) (x, y) = f(X,Y ) (u, v) du dv.
]−∞,x]× ]−∞,y]

Vu que f(X,Y ) = 0 dès que u 6 0 ou v 6 0, on déduit que F(X,Y ) (x, y) 6= 0 seulement si


x > 0 et y > 0. Dans ce cas,
Z Z
F(X,Y ) (x, y) = θ 2 e−θ(u+v) du dv = (1 − e−θx )(1 − e−θx ).
]0,x]× ]0,y]

Par conséquent,

 (1 − e−θx )(1 − e−θx ), si x > 0 et y > 0,
F(X,Y ) (x, y) = ⊔


0, sinon.

Exemple 2.2. Soit (X, Y ) de densité

1
f(X,Y ) (x, y) = 1A (x, y),
x3
où A = {(x, y) ∈ R2 : x > 1, 0 6 y 6 x}. On cherche à calculer la fonction de répartition.
RR
Il est facile de vérifier que f
R2 (X,Y )
(x, y) dx dy = 1. Donc f(X,Y ) est bien une
fonction de densité sur R2 .
— Chapitre 4. Vecteurs aléatoires — 29

On sait que pour tout (x, y) ∈ R2 , la fonction de répartition de (X, Y ) est


Z Z
F(X,Y ) (x, y) = f(X,Y ) (u, v) du dv
]−∞,x]× ]−∞,y]
Z Z
1
= 3
du dv.
A∩( ]−∞,x]× ]−∞,y]) u

Si x < 1 ou si y < 0, on a A ∩ ( ] − ∞, x]× ] − ∞, y]) = ∅, donc F(X,Y ) (x, y) = 0.


Si x > 1 et 0 6 y 6 1,
Z xZ y  
1 y 1
F(X,Y ) (x, y) = 3
du dv = 1− 2 .
1 0 u 2 x

Si x > 1 et 1 < y < x,


Z xZ 1 Z y Z x
1 1
F(X,Y ) (x, y) = 3
du dv + dv 3
du
1 0 u 1 v u
  Z  
1 1 1 y 1 1
= 1− 2 + dv − 2
2 x 2 1 v2 x
   
1 1 1 1 y−1
= 1− 2 + 1− −
2 x 2 y 2x2
1 y
=1− − 2.
2y 2x
Finalement, si x > 1 et y > x,
Z x Z u Z x
1 1 1
F(X,Y ) (x, y) = du dv 3 = du 2
= 1− .
1 0 u 1 u x

Si en plus, on veut par exemple calculer la probabilité P(2 6 X 6 3), on a


Z Z Z 3 Z u
1
P(2 6 X 6 3) = f(X,Y ) (u, v) du dv = du dv
[2, 3]×R 2 0 u3
Z 3
1 1 1 1
= du 2
= − = . ⊔

2 u 2 3 6

3. Moments
Définition 3.1. Soit X = (X1 , · · · , XN ) un vecteur aléatoire. Si X1 , · · ·, XN admettent
toutes un moment d’ordre 1, alors le vecteur

E(X) = (E(X1 ), · · · , E(XN ))


30 — Chapitre 4. Vecteurs aléatoires —

est appelé l’espérance (ou l’espérance-vecteur) de X.

Définition 3.2. Soient X et Y deux v.a. réelles admettant toutes des moments d’ordre
2. Alors
Cov(X, Y ) = E ((X − EX)(Y − EY ))

est appelée la covariance entre X et Y .

On remarque que la covariance Cov(X, Y ) est bien définie tant que X et Y admettent
des moments d’ordre 2. En effet, rappelons l’inégalité de Cauchy–Schwarz (qui est un cas
spécial de l’inégalité de Hölder que l’on a vue au chapitre précédent) :

Inégalité de Cauchy–Schwarz. Si X et Y sont des v.a. réelles admettant des moments


d’ordre 2, alors
p p
E(|XY |) 6 E(X 2 ) E(Y 2 ) .

La proposition suivante nous donne quelques propriétés élémentaires de la covariance.

Propriété 3.3. Si X et Y admettent un moment d’ordre 2, alors


(i) Cov(X, Y ) = Cov(Y, X).
(ii) Cov(X, X) = Var(X).
(iii) Cov(X, Y ) = E(XY ) − E(X) · E(Y ).
(iv) Cov(aX + b, cY + d) = ac Cov(X, Y ) pour tous réels a, b, c et d.
(v) Var(X + Y ) = Var(X) + Var(Y ) + 2Cov(X, Y ).

Preuve. (i), (ii) Evidente.


(iii) On a

Cov(X, Y ) = E (XY − XE(Y ) − Y E(X) + E(X) · E(Y ))


= E(XY ) − E(X) · E(Y ) − E(X) · E(Y ) + E(X) · E(Y )
= E(XY ) − E(X) · E(Y ).

(iv) Par définition,


 
Cov(aX + b, cY + d) = E (aX + b − aEX − b)(cY + d − cEY − d)
= ac E ((X − EX)(Y − EY ))
= ac Cov(X, Y ).
— Chapitre 4. Vecteurs aléatoires — 31

(v) On a

 
Var(X + Y ) = E (X + Y − E(X + Y ))2 = E ((X − EX) + (Y − EY ))2

= E (X − EX)2 + (Y − EY )2 + 2(X − EX)(Y − EY )
= Var(X) + Var(Y ) + 2Cov(X, Y ). ⊔

Définition 3.4. Si X et Y admettent des moments d’ordre 2 telles que Var(X)Var(Y ) > 0,
alors
Cov(X, Y )
ρ(X, Y ) := p p
Var(X) Var(Y )

est appelé le coefficient de corrélation entre X et Y .

Propriété 3.5. Si X et Y admettent des moments d’ordre 2 telles que Var(X)Var(Y ) > 0,
alors ρ(X, Y ) ∈ [−1, 1].

Preuve. Par l’inégalité de Cauchy–Schwarz,

|Cov(X, Y )| 6 E(|(X − EX)(Y − EY )|)


p p p p
6 E((X − EX)2 ) E((Y − EY )2 ) = Var(X) Var(Y ). ⊔

Définition 3.6. Soit X = (X1 , · · · , XN ) un vecteur aléatoire tel que chaque composante
admet un moment d’ordre 2. On appelle

Var(X1 ) · · · Cov(X1 , XN ) 
Cov(X1 , X2 )
 Cov(X2 , X1 ) Var(X2 ) · · · Cov(X1 , XN ) 
D=
 .. .. .. .. 

. . . .
Cov(XN , X1 ) Cov(XN , X2 ) · · · Var(XN )

matrice de variances-covariances (ou: matrice de covariances, ou encore: matrice de disper-


sion) de X. Il s’agit de la matrice symétrique D = (Dij )16i,j6N avec Dij = Cov(Xi , Xj ).

Propriété 3.7. La matrice D est positive au sens que pour tout a = (a1 , · · · , aN ) ∈ RN ,
X
a D at = Dij ai aj > 0.
16i,j6N
32 — Chapitre 4. Vecteurs aléatoires —

Preuve. On a
X X
Dij ai aj = ai aj E ((Xi − EXi )(Xj − EXj ))
16i,j6N 16i,j6N
 
X
= E ai (Xi − EXi )aj (Xj − EXj )
16i,j6N
 !2 
N
X
= E ai (Xi − EXi )  > 0. ⊔

i=1

Il existe une extension de la Propriété 3.3 (iv)–(v) à plusieurs variables aléatoires


réelles.

Propriété 3.8. (i) Si X1 , · · ·, XN sont des v.a. réelles admettant toutes un moment
d’ordre 2, alors

N
X X
Var(X1 + · · · + XN ) = Var(Xi ) + 2 Cov(Xi , Xj ).
i=1 16i<j6N

(ii) Si X1 , · · ·, XN , Y1 , · · ·, YM sont des v.a. réelles admettant toutes un moment


d’ordre 2, alors pour tous réels a1 , · · · aN , b1 , · · ·, bM ,
 
N
X M
X N X
X M
Cov  ai X i , b j Yj  = ai bj Cov(Xi , Yj ).
i=1 j=1 i=1 j=1

4. Changement de variables
Soit X un vecteur aléatoire à valeurs dans un ouvert ∆ ⊂ RN (souvent : ∆ = RN )
qui admet comme densité fX = fX 1∆ . Soit

h: ∆→D

(avec D ⊂ RN ) un C 1 -difféomorphisme de ∆ dans D, c’est-à-dire que h est une application


de ∆ dans D qui est bijective et continûment différentiable, et dont l’application réciproque
— Chapitre 4. Vecteurs aléatoires — 33

h−1 (de D dans ∆) est aussi continûment différentiable. Alors le vecteur aléatoire Y =
h ◦ X = h(X) a pour densité

fX (x)
fY (y) = 1D (y), y = h(x)
|(Dh)(x)|
fX (h−1 (y))
= 1D (y),
|(Dh)(h−1 (y))|

où (Dh)(x) est le jacobien de h en x : soit h = (h1 , · · · , hN ),


 ∂h1 (x1 ,···,xN ) ∂h1 (x1 ,···,xN ) 
∂x1
··· ∂xN
 .. .. .. 
(Dh)(x) = det  . .
. .
∂hN (x1 ,···,xN ) ∂hN (x1 ,···,xN )
∂x1
··· ∂xN

Ceci est appelé formule du changement de variables. N’oublions pas la valeur absolue
pour le jacobien!

Exemple 4.1 (suite de l’Exemple 2.1). Soit (X, Y ) un vecteur aléatoire de densité

f(X,Y ) (x, y) = θ 2 e−θ(x+y) 1R∗+ ×R∗+ (x, y).

On définit les v.a. U = X + Y et V = X − Y . Quelle est la loi du vecteur aléatoire (U, V ) ?


L’application h(x, y) = (x + y, x − y) est un C 1 -difféomorphisme de R∗+ × R∗+ dans
D = {(u, v) : u > 0, |v| < u}, avec h−1 (u, v) = ( u+v u−v
2 , 2 ). Le jacobien est

 
1 1
(Dh)(x) = det = −2.
1 −1

Donc (U, V ) a pour densité

1 2 −θ(x+y) 1
f(U,V ) (u, v) = θ e 1R∗+ ×R∗+ (x, y) = θ 2 e−θu 1D (u, v), ⊔

2 2

Preuve et Remarque. On démontre la formule du changement de variables. Notons qu’il


est souvent beaucoup plus facile d’utiliser ce que l’on appelle la méthode de la fonction
muette :
Soit ϕ : RN → R une fonction borélienne bornée. On a
    Z
E ϕ(Y ) = E ϕ(h(X)) = ϕ(h(x))fX (x) dx.

34 — Chapitre 4. Vecteurs aléatoires —

Par un changement de variables (usuel), l’intégrale vaut


Z
fX (h−1 (y))
ϕ(y) dy.
D |(Dh)(h−1 (y))|

(Rappelons le changement de variables usuel : si g : RN → R est une fonction borélienne


R R
qui est intégrable par rapport à 1D (y) dy, alors D g(y) dy = ∆ g(h(x))|(Dh)(x)| dx.)
Ceci étant vrai pour toute fonction ϕ, on en déduit (par exemple en prenant des
fonctions indicatrices) que h(X) a pour densité

fX (h−1 (y))
1D (y). ⊔

|(Dh)(h−1 (y))|

Exemple 4.2. Soit X une v.a. qui suit la loi uniforme sur ]0, 1[ , et soit h : ]0, 1[ → R avec
h(x) = tan(π(x − 12 )). On cherche la loi de Y = h(X). On a vu dans l’Exemple 4.6 du
Chapitre 4 que Y suit la loi de Cauchy standard. On redémontre ce résultat ici en utilisant
la méthode de la fonction muette.
Remarquons que
1 Arctan(y)
h−1 (y) = + , y ∈ R.
2 π
Soit ϕ : R → R une fonction borélienne bornée. On a
  Z 1 Z
dy
E(ϕ(Y )) = E ϕ(h(X)) = ϕ(h(x)) dx = ϕ(y) .
−1 R π(1 + y 2 )

En particulier, soit ϕ = 1]−∞,a] , et on a


Z a
dy
FY (a) = ,
−∞ π(1 + y 2 )

où FY (a) := P(Y 6 a) est la fonction de répartition de Y en a. A droite, on reconnait


la fonction de répartition (en a) de la loi de Cauchy standard. Comme la fonction de
répartition détermine une loi de probabilité, on déduit que Y suit la loi de Cauchy standard,
1
et admet comme densité fY (y) = π(1+y 2) . ⊔

Exemple 4.3. Supposons que X suit la loi uniforme sur ]0, 1[ . On s’intéresse à la loi de
 
1
Y = ln .
X

Pour nous, h(x) = ln(1/x), qui est un C 1 -difféomorphisme de ]0, 1[ dans R∗+ , avec
h−1 (y) = e−y , pour y ∈ R∗+ .
— Chapitre 4. Vecteurs aléatoires — 35

Soit ϕ : R → R une fonction borélienne bornée. On a


  Z 1 Z
E(ϕ(Y )) = E ϕ(h(X)) = ϕ(h(x)) dx = ϕ(y) 1R∗+ (y) e−y dy.
0 R

En particulier, soit ϕ = 1]−∞,a] , et on a


Z a
P(Y 6 a) = 1R∗+ (y) e−y dy.
−∞

Le terme à droite est la fonction de répartition en a de la loi exponentielle de paramètre


1. Donc PY = 1R∗+ (x) e−x dx, autrement dit, Y suit la loi exponentielle de paramètre 1. ⊔

Exemple 4.4. Soit X une variable aléatoire suivant la loi de Cauchy standard. On cherche
d’abord à déterminer la loi de 1/X, et ensuite à montrer que E(|X|1−ε ) > 1, quel que soit
ε ∈ ]0, 1].
On calcule d’abord la loi de Y = 1/X. Soit ϕ : R → R une fonction borélienne
bornée. On a   Z 1 1
E(ϕ(Y )) = E ϕ(1/X) = ϕ(1/x) dx
R π 1 + x2
Z
1 1 1
= ϕ(y) dy
R π 1 + y y2
−2
Z
1 1
= ϕ(y) dy.
R π 1 + y2
1 1
Donc Y admet comme densité fY (y) = π 1+y 2
. Autrement dit, 1/X suit également la loi
de Cauchy standard.
Les variables X et 1/X suivent la même loi. Posons Z = |X|1−ε . On a en particulier,
E(Z) = E( Z1 ) ∈ ]0, ∞[ . Or, d’après l’inégalité de Cauchy–Schwarz,
" r ! #2
1 √ 1
E(Z) · E( ) > E Z· = 1.
Z Z

On obtient alors E(|X|1−ε ) > 1. ⊔


5. Lois marginales
Soit X = (X1 , · · · XN ) un vecteur aléatoire. On appelle loi marginale la loi de tout
sous-vecteur (Xi1 , · · · , Xik ) (avec k < N ) extrait de X. Pour distinguer PX des lois
marginales, on l’appelle de temps en temps loi conjointe de X1 , · · ·, XN .
36 — Chapitre 4. Vecteurs aléatoires —

Afin de simplifier l’écriture, on ne s’intéresse qu’à la loi de (X1 , · · · , Xk ).

Proposition 5.1. Soit

F(X1 ,···,XN ) (x1 , · · · , xN ) = P(X1 ,···,XN ) ( ] − ∞, x1 ] × · · · × ] − ∞, xN ])


= P (X1 6 x1 , · · · , XN 6 xN ) ,

la fonction de répartition de (X1 , · · · , XN ). Soit 1 6 k < N . Alors la fonction de répartition


de (X1 , · · · , Xk ) est

F(X1 ,···,Xk ) (x1 , · · · , xk ) = lim F(X1 ,···,XN ) (x1 , · · · , xN ).


xk+1 →+∞,···,xN →+∞

On écrit souvent

F(X1 ,···,Xk ) (x1 , · · · , xk ) = F(X1 ,···,XN ) (x1 , · · · , xk , +∞, · · · , +∞).

En particulier, la loi (marginale) de Xi est donnée par sa fonction de répartition

FXi (xi ) = F(X1 ,···,XN ) (+∞, · · · , +∞, xi , +∞, · · · , +∞).

(n) (n)
Preuve. Fixons (x1 , · · · xk ) ∈ Rk . Soient (xk+1 )n>1 , · · ·, (xN )n>1 des suites croissantes
tendant toutes vers l’infini. La suite d’événements (indexée par n)

(n) (n)
{X1 6 x1 , · · · , Xk 6 xk , Xk+1 6 xk+1 , · · · XN 6 xN }

croı̂t vers {X1 6 x1 , · · · , Xk 6 xk }. Donc

P (X1 6 x1 , · · · , Xk 6 xk )
 
(n) (n)
= lim P X1 6 x1 , · · · , Xk 6 xk , Xk+1 6 xk+1 , · · · XN 6 xN ,
n→∞

ou encore,

(n) (n)
F(X1 ,···,Xk ) (x1 , · · · , xk ) = lim F(X1 ,···,XN ) (x1 , · · · , xk , xk+1 , · · · , xN ).
n→∞

Ceci prouve le théorème. ⊔


Proposition 5.2. Si f(X1 ,···,XN ) est la donsité du vecteur aléatoire X = (X1 , · · · , XN ),


alors le vecteur aléatoire (X1 , · · · , Xk ) admet la densité
Z Z
f(X1 ,···,Xk ) (x1 , · · · , xk ) = · · · f(X1 ,···,XN ) (x1 , · · · , xN ) dxk+1 · · · dxN .
RN −k
— Chapitre 4. Vecteurs aléatoires — 37

Preuve. D’après la Proposition 5.1 et le théorème de Fubini,

F(X1 ,···,Xk ) (x1 , · · · , xk )


Z x1 Z xk Z Z 
= du1 · · · duk · · · f(X1 ,···,XN ) (u1 , · · · , uN ) duk+1 · · · duN .
−∞ −∞ R R

Donc (X1 , · · · , Xk ) a une loi qui est absolument continue par rapport à la mesure de
Lebesgue sur Rk , de densité
Z Z
f(X1 ,···,Xk ) (x1 , · · · , xk ) = · · · f(X1 ,···,XN ) (x1 , · · · , xk , uk+1 , · · · , uN ) duk+1 · · · duN . ⊔

R R

Exemple 5.3. Soit (X, Y ) un vecteur aléatoire de densité

f(X,Y ) (x, y) = θ 2 e−θ(x+y) 1R∗+ ×R∗+ (x, y).

Par la Proposition 5.2, on sait que la loi de Y est absolument continue par rapport à la
mesure de Lebesgue. De plus, la densité de X est
Z Z ∞
fX (x) = f(X,Y ) (x, y) dy = θ 2 e−θ(x+y) 1R∗+ (x) dy
R
Z ∞ 0
= θ 2 e−θx 1R∗+ (x) e−θy dy = θe−θx 1R∗+ (x).
0

Donc X suit la loi exponentielle de paramètre θ.


De même, on peut vérifier que Y suit également la loi exponentielle de paramètre θ.

La proposition ci-dessus a une analogue pour les vecteurs aléatoires discrets.

Proposition 5.4. Si (X1 , · · · , XN ) est un vecteur aléatoire à valeurs dans E1 × · · · × EN .


Alors pour tout k < N ,
X
P (X1 = x1 , · · · , Xk = xk ) = P (X1 = x1 , · · · , XN = xN ) .
(xk+1 ,···,xN )∈Ek+1 ×···×EN
38 — Chapitre 4. Vecteurs aléatoires —
— Chapitre 5. Indépendance — 39

Chapitre 5. Indépendance

1. Variables aléatoires indépendantes


e respec-
Définition 1.1. Soient X et Y deux variables aléatoires à valeurs dans E et E,
tivement. On dit que X et Y sont indépendantes si pour tout A ∈ E et tout B ∈ E, e

P (X ∈ A , Y ∈ B) = P(X ∈ A) P(Y ∈ B).

Quand on exprime l’indépendance en termes des distributions, on obtient que deux


v.a. X et Y sont indépendantes si et seulement si P(X,Y ) — la loi du couple (X, Y ) —
vérifie
P(X,Y ) (A × B) = PX (A) PY (B), e
∀A ∈ E, B ∈ E.
e est la loi produit PX ⊗ PY .
Autrement dit, la loi P(X,Y ) sur E × E

Proposition 1.2. Pour que deux v.a. X et Y soient indépendantes, il faut et il suffit que

E (f (X)g(Y )) = E(f (X)) E(g(Y )),

pour toute fonction mesurable bornée f : E → R et toute fonction mesurable bornée


e → R.
g: E

Preuve. Si X et Y sont indépendantes, alors on a bien

E (f (X)g(Y )) = E(f (X)) E(g(Y ))

lorsque f = 1A et g = 1B . Par linéarité, la formule reste valable pour f et g étagées. Le


cas général en découle par approximation. ⊔

40 — Chapitre 5. Indépendance —

Corollaire 1.3. Si X et Y sont indépendantes, alors il en est de même pour f (X) et g(Y )
pour toutes fonctions mesurables f et g.

Définition 1.4. On dit que n v.a. X1 , · · ·, Xn sont indépendantes, si

P (X1 ∈ A1 , · · · , Xn ∈ An ) = P(X1 ∈ A1 ) · · · P(Xn ∈ An ), ∀A1 ∈ E1 , · · · , ∀An ∈ En .

Ceci équivaut à :

E (f1 (X1 ) · · · fn (Xn )) = E(f1 (X1 )) · · · E(fn (Xn ))

pour toutes les fonctions mesurables bornées fk : Ek → R.

Warning. L’indépendance deux-à-deux n’implique pas l’indépendance de plusieurs vari-


ables. Par exemple, si X et Y sont indépendantes, ainsi que Y et Z, et X et Z, on n’a pas
forcément que X, Y et Z soient indépendantes. ⊔

Remarque. Si X1 , · · ·, Xn sont indépendantes, et si 1 6 i1 < i2 < · · · ik 6 n, alors les


nouvelles v.a. (X1 , · · · , Xi1 ), (Xi1 +1 , · · · , Xi2 ), · · ·, (Xik +1 , · · · , Xn ) sont indépendantes.
Par conséquent, si f1 , · · ·, fik+1 sont des fonctions mesurables sur E1 × · · · × Ei1 , · · ·,
Eik +1 × · · · En respectivement, alors les v.a.

f1 (X1 , · · · , Xi1 ), f2 (Xi1 +1 , · · · , Xi2 ), · · · , fik+1 (Xik +1 , · · · , Xn )

sont indépendantes. ⊔

Remarque. Si X1 , · · ·, Xn sont toutes des v.a. réelles discrètes, à valeurs dans E1 , · · ·,


En , respectivement, alors leur indépendance équivaut à :

P (X1 = x1 , · · · , Xn = xn ) = P(X1 = x1 ) · · · P(Xn = xn ),

pour tout (x1 , · · · , xn ) ∈ E1 × · · · × En . ⊔


Exemple 1.5. Soient X1 , · · ·, Xn des v.a. indépendantes telles que Xi suivent la loi de
Pn
Poisson de paramètre θi > 0 (1 6 i 6 n). On s’intéresse à la loi de Y = i=1 Xi .
Considérons la fonction génératrice de Y : pour s ∈ [0, 1],

n
! n n
 Y Y Y
Y Xi
GY (s) = E s =E s = GXi (s) = e−θi (1−s) = e−θ(1−s) ,
i=1 i=1 i=1
— Chapitre 5. Indépendance — 41

Pn
avec θ := i=1 θi . Donc Y suit la loi de Poisson de paramètre θ. ⊔

Théorème 1.6. Les v.a. réelles X1 , · · ·, Xn sont indépendantes si et seulement si

(∗) F(X1 ,···,Xn ) (x1 , · · · , xn ) = FX1 (x1 ) · · · FXn (xn ), ∀(x1 , · · · , xn ) ∈ Rn .

Preuve. La partie “seulement si” est évidente. Il suffit de prendre Ai = ] − ∞, xi ] dans la


Définition 1.4.
Pour vérifier la partie “si”, on suppose l’identité (∗). Fixons (x2 , · · · , xn ) ∈ Rn−1 .
Considérons deux applications µ1 : B(R) → [0, 1] et µ
e1 : B(R) → [0, 1] (B(R) étant la
tribu borélienne de R) définies par
µ1 (A) := P (X1 ∈ A, X2 6 x2 , · · · , Xn 6 xn ) ,
e1 (A) := P (X1 ∈ A) P (X2 6 x2 ) · · · P (Xn 6 xn ) ,
µ A ∈ B(R).
e1 sont deux mesures (finies) sur (R, B(R)). De plus, il résulte
Il est clair que µ1 et µ
de (∗) que µ1 ( ] − ∞, x]) = µ e1 ( ] − ∞, x]) quel que soit x ∈ R. Donc pour tous a < b
e1 ( ]a, b]). Une mesure sur (R, B(R)) étant déterminée par les valeurs
réels, µ1 ( ]a, b]) = µ
qu’elle attribue aux intervalles du type de ]a, b], on déduit que µ1 et µ e1 sont deux mesures
identiques sur (R, B(R)). En d’autres mots, pour tout A ∈ B(R) et tout (x2 , · · · , xn ) ∈
Rn−1 ,

P (X1 ∈ A, X2 6 x2 , · · · , Xn 6 xn ) = P (X1 ∈ A) P (X2 6 x2 ) · · · P (Xn 6 xn ) .

Fixons maintenant A1 ∈ B(R) et (x3 , · · · , xn ) ∈ Rn−2 , et considérons


µ2 (A) := P (X1 ∈ A1 , X2 ∈ A, X3 6 x3 , · · · , Xn 6 xn ) ,
e2 (A) := P (X1 ∈ A1 ) P (X2 ∈ A) P (X3 6 x3 ) · · · P (Xn 6 xn ) ,
µ A ∈ B(R).
De nouveau, il s’agit de mesures sur (R, B(R)) qui attribuent la même masse sur l’intervalle
]−∞, x] (quel que soit x ∈ R) et qui sont donc identiques sur B(R). En itérant la procédure,
on obtient : pour Ai ∈ B(R) (1 6 i 6 n),

P (X1 ∈ A1 , X2 ∈ A2 , · · · , Xn ∈ An ) = P (X1 ∈ A1 ) P (X2 ∈ A2 ) · · · P (Xn ∈ An ) .

D’où l’indépendance des variables aléatoires X1 , · · ·, Xn . ⊔


Théorème 1.7. Soit (X1 , · · · , Xn ) un vecteur aléatoire dont la loi est absolument continue
par rapport à la mesure de Lebesgue. Alors X1 , · · ·, Xn sont indépendantes si et seulement
si

(∗∗) f(X1 ,···,Xn ) (x1 , · · · , xn ) = fX1 (x1 ) · · · fXn (xn ),


42 — Chapitre 5. Indépendance —

pour presque tout (x1 , · · · , xn ) ∈ Rn .

Preuve. La partie “seulement si” découle de (∗) en dérivant. La partie “si” se démontre
en intégrant dans les deux côtés de (∗∗). ⊔

Exemple 1.8 (suite des Exemples 2.1, 4.1 et 5.3 du Chapitre 4). Soit (X, Y ) un
vecteur aléatoire de densité

f(X,Y ) (x, y) = θ 2 e−θ(x+y) 1R∗+ ×R∗+ (x, y).

On a vu dans l’Exemple 5.3 que

fX (x) = θe−θx 1R∗+ (x), fY (y) = θe−θy 1R∗+ (y).

Donc f(X,Y ) (x, y) = fX (x)fY (y). Par la Proposition 1.7, on conclut que X et Y sont
indépendantes. ⊔

Exemple 1.9. Soient N1 et N2 deux variables indépendantes suivant la même loi gaussi-
enne centrée réduite. On s’intéresse à la variable aléatoire

N1
X= .
N2

Soit u ∈ R. On a, par le théorème de Fubini,


  Z Z 
N1 1 −(x2 +y2 )/2
FX (u) = P 6u = 1{x/y6u} e dx dy.
N2 R R 2π

Faisons un changement de variables z = x/y dans l’intégrale entre parenthèses, et ap-


pliquons ensuite de nouveau le théorème de Fubini :
Z Z u 
|y| −(z2 +1)y2 /2
FX (u) = e dz dy
R −∞ 2π
Zu Z 
|y| −(z2 +1)y2 /2
= e dy dz
−∞ R 2π
Zu
1 1
= dz.
−∞ π 1 + z2

Par conséquent, N
N2 suit la loi de Cauchy standard.
1

On remarque que cet exemple est en accord avec l’Exemple 4.4 du Chapitre 4 où l’on a

démontré que l’inverse de la loi de Cauchy standard est encore la loi de Cauchy standard.⊔
— Chapitre 5. Indépendance — 43

Exemple 1.10. Soient N1 et N2 deux variables indépendantes suivant la même loi gaussi-
enne centrée réduite. On s’intéresse à la variable aléatoire

X = N12 + N22 .

Il est clair que X est à valeurs dans R∗+ . Soit u > 0. On a


ZZ
2 2
 1 −(x2 +y2 )/2
FX (u) = P N1 + N2 6 u = e dx dy.
{x2 +y 2 6u} 2π

Avec un passage aux coordonnées polaires, on obtient


Z √u
2
FX (u) = re−r /2 dr = 1 − e−u/2 .
0

Autrement dit, (N12 + N22 ) suit la loi exponentielle de paramètre 1/2 (donc de moyenne
2). ⊔

Propriété 1.11. Si la densité du vecteur aléatoire (X1 , · · · , Xn ) se factorise :

f(X1 ,···,Xn ) (x1 , · · · , xn ) = g1 (x1 ) · · · gn (xn ),

alors X1 , · · ·, Xn sont indépendantes.

Preuve. D’après la Proposition 5.2 du chapitre précédent, X1 admet la densité

fX1 (x1 ) = c1 g1 (x1 ), x1 ∈ R,

où la constante Z Z
c1 = ··· g2 (x2 ) · · · gn (xn ) dx2 · · · dxn .
Rn−1
De même, pour tout 2 6 j 6 n, la densité de Xj est

fXj (xj ) = cj gj (xj ), xj ∈ R,

avec une certaine constante cj . Donc

fX1 (x1 ) · · · fXn (xn ) = c1 · · · cn gn (x1 ) · · · gn (x1 ).

Or, Z Z
1= ··· fX1 (x1 ) · · · fXn (xn ) dx1 · · · dxn
Rn
Z Z
= c1 · · · cn ··· g1 (x1 ) · · · gn (xn ) dx1 · · · dxn
Rn
Z Z
= c1 · · · cn ··· f(X1 ,···,Xn ) (x1 , · · · , xn ) dx1 · · · dxn
Rn
= c1 · · · cn ,
44 — Chapitre 5. Indépendance —

ce qui implique que

f(X1 ,···,Xn ) (x1 , · · · , xn ) = g1 (x1 ) · · · gn (xn ) = fX1 (x1 ) · · · fXn (xn ).

D’après la Proposition 1.7, les v.a. X1 , · · ·, Xn sont indépendantes. ⊔


Exemple 1.12. Soient X et Y deux v.a. réelles indépendantes, de densités respectives

θ a −θx a−1
fX (x) = e x 1R∗+ (x),
Γ(a)
θ b −θy b−1
fY (y) = e y 1R∗+ (y),
Γ(b)

où a > 0, b > 0 et θ > 0 sont des constantes connues. (On dit que X et Y suivent les lois
gamma de paramètres (a, θ) et (b, θ) respectivement). On s’intéresse à la loi de X + Y .
Faisons un changement de variables U = X + Y et V = X/(X + Y ). On a
 
x
h(x, y) = x + y, = (u, v),
x+y

qui est une bijection de R∗+ × R∗+ dans R∗+ × ]0, 1[ avec h−1 (u, v) = (uv, u(1 − v)). Il s’agit
d’un difféomorphisme, dont le jacobien est
 
1 1 1 1
(Dh)(x, y) = det y x =− =− .
(x+y)2 − (x+y)2 x+y u

Soit ϕ : R2 → R une fonction mesurable bornée. On a

E(ϕ(U, V )) = E(ϕ(h(X, Y )))


ZZ
θ a+b
= ϕ(h(x, y)) e−θ(x+y) xa−1 y b−1 dx dy
R∗
+
×R∗
+
Γ(a) Γ(b)
ZZ
θ a+b 1
= ϕ(u, v) e−θu (uv)a−1 (u(1 − v))b−1 du dv
R∗
+
× ]0, 1[ Γ(a) Γ(b) | − 1/u|
ZZ
θ a+b
= ϕ(u, v) e−θu 1R∗+ (u)ua+b−1 1 ]0, 1[ (v)v a−1 (1 − v)b−1 du dv.
R2 Γ(a) Γ(b)

Donc (U, V ) a pour densité

θ a+b
f(U,V ) (u, v) = e−θu 1R∗+ (u)ua+b−1 1 ]0, 1[ (v)v a−1 (1 − v)b−1 .
Γ(a) Γ(b)
— Chapitre 5. Indépendance — 45

a+b
θ
D’après la Proposition 1.11, U et V sont indépendantes. Comme Γ(a+b) e−θu ua+b−1 1R∗+ (u)
est la densité de la loi gamma de paramètre (a + b, θ), on conclut que
θ a+b −θu a+b−1
fU (u) = e u 1R∗+ (u).
Γ(a + b)
Donc la somme de deux variables aléatoires gamma indépendantes suit encore une loi
gamma.
On peut également voir que
Γ(a + b) a−1
fV (v) = v (1 − v)b−1 1 ]0, 1[ (v)
Γ(a) Γ(b)
v a−1 (1 − v)b−1 1 ]0, 1[ (v)
= .
B(a, b)
Cette loi est connue sous le nom de bêta. ⊔

Remarque. (i) Si les v.a. réelles intégrables X et Y sont indépendantes, alors

E(XY ) = E(X)E(Y );

il suffit d’étudier le cas où X et Y sont toutes positives (sinon, on considèrera séparément
leur partie positive et partie négative), l’identité ci-dessus est alors une conséquence de la
Proposition 1.2 appliquée aux v.a. min(X, n) et min(Y, n), et du théorème de convergence
monotone en faisant n → ∞.
Donc, si X et Y admettent des moments d’ordre 2, l’indépendance entre les v.a.
intégrables X et Y implique que Cov(X, Y ) = 0. On a ainsi

Var(X + Y ) = Var(X) + Var(Y ).

(Rappelons que Var(X + Y ) = Var(X) + Var(Y ) si et seulement si Cov(X, Y ) = 0; on dira


que X et Y sont non-corrélées).
Attention : la réciproque est fausse! Si E(XY ) = E(X)E(Y ) (ceci équivaut à :
Cov(X, Y ) = 0), on n’aura pas forcément l’indépendance entre X et Y . Voir l’Exemple
1.13 ci-dessous pour un exemple simple.
(ii) Plus généralement, si les v.a. réelles X1 , · · ·, Xn sont indépendantes, alors

E(X1 · · · Xn ) = E(X1 ) · · · E(Xn ),

et E(Xi Xj ) = E(Xi )E(Xj ) si i 6= j. Donc, si X et Y admettent des moments d’ordre 2,


alors Cov(Xi , Xj ) = 0, i 6= j. Par conséquent,

Var(X1 + · · · + Xn ) = Var(X1 ) + · · · + Var(Xn ). ⊔



46 — Chapitre 5. Indépendance —

Récapitulation. Pour un couple de v.a. réelles admettant des moments d’ordre 2,

X et Y indépendantes =⇒ Cov(X, Y ) = 0 ⇐⇒ E(XY ) = E(X) E(Y )


⇐⇒ Var(X + Y ) = Var(X) + Var(Y ).

Pour un vecteur aléatoire dont toute composante admet un moment d’ordre 2,

X1 , · · ·, Xn indépendantes =⇒ X1 , · · ·, Xn deux-à-deux indépendantes


=⇒ Cov(Xi , Xj ) = 0 ∀i 6= j
=⇒ Var(X1 + · · · + Xn ) = Var(X1 ) + · · · + Var(Xn ). ⊔

Exemple 1.13 (exemple de v.a. réelles non-corrélées qui ne sont pas indépendantes). Soit
X une v.a. réelle discrète telle que

1
P (X = 1) = P (X = 2) = P (X = −1) = P (X = −2) = .
4

On pose Y = X 2 . Alors E(X) = 0 et E(XY ) = E(X 3 ) = 0. On a donc

Cov(X, Y ) = E(XY ) − E(X) E(Y ) = 0,

c’est-à-dire que X et Y sont non-corrélées.


Il est clair que X et Y ne sont pas indépendantes, car

1 1
P (X = 1, Y = 4) = 0 6= × = P (X = 1) P (Y = 4) . ⊔

4 2

2. Événements indépendants
Proposition 2.1. Soient A1 , · · ·, An des événements sur un espace de probabilité (Ω, F , P).
Ils sont (mutuellement) indépendants si et seulement si les variables aléatoires 1A1 , · · ·,
1An sont indépendantes.

Preuve. Partie “seulement si”. Supposons que A1 , · · ·, An sont des événements indépen-
dants. Par définition, pour tout k 6 n et tout k-uplet 1 6 i1 < i2 < · · · ik 6 n,

P (Ai1 ∩ · · · ∩ Aik ) = P(Ai1 ) · · · P(Aik ). (∗)


— Chapitre 5. Indépendance — 47

Soient (x1 , · · · , xn ) ∈ Rn . D’après le Théorème 1.6, il suffit de vérifier que

(∗∗) P (1A1 > x1 , · · · , 1An > xn ) = P (1A1 > x1 ) · · · P (1An > xn ) .

S’il existe un xj > 1, alors les deux côtés de (∗∗) sont nuls, donc l’identité est vraie. On
suppose donc que xj 6 1, pour tout 1 6 j 6 n.
Soit E := {1 6 j 6 n : xj > 0}. Si E = ∅, c’est-à-dire xj 6 0 pour tous les j,
alors les deux côtés de (∗∗) vallent 1, donc l’identité est vraie. Si en revanche E 6= ∅, soit
E = {i1 , · · · , ik }. Dans ce cas, xj 6 0 si j ∈
/ E donc 1Aj > xj , tandis que si j ∈ E, alors
xj ∈ ]0, 1], et donc 1Aj (ω) > xj équivaut à ω ∈ Aj . Par conséquent, {1A1 6 x1 , · · · , 1An 6
Q
xn } = Ai1 ∩ · · · ∩ Aik , et P(1A1 > x1 ) · · · P(1An > xn ) = j∈E P(Aj ). Par (∗), on a
P(1A1 > x1 , · · · , 1An > xn ) = P(1A1 > x1 ) · · · P(1An > xn ), c’est à dire (∗∗).
Partie “si”. Supposons que 1A1 , · · ·, 1An sont indépendantes. Donc pour tout k 6 n et
tout k-uplet 1 6 i1 < i2 < · · · < ik 6 n, 1A1 , · · ·, 1An sont indépendantes. En particulier,
P(1Ai1 ∈ B, · · · 1Ain ∈ B) = P(1Ai1 ∈ B) · · · P(1Ain ∈ B) pour tout borélien B ⊂ R.
Prenons B = {1}, et on obtient P(Ai1 ∩ · · · ∩ Aik ) = P(Ai1 ) · · · P(Aik ). ⊔

On jette un rapide coup d’oeil sur la probabilité conditionnelle.

Exemple 2.2. Soit Y une variable aléatoire suivant la loi de Poisson de paramètre θ > 0 :
θn
P(Y = n) = e−θ n! pour n = 0, 1, · · · Soit X telle que pour chaque n,
 
n
P(X = k | Y = n) = pk (1 − p)n−k , k = 0, 1, · · · , n.
k

(Certains disent que “sachant Y = n, X suit la loi binomiale de paramètre (n, p).”)
On s’intéresse à la loi de X. Pour tout k > 0,

X
P(X = k) = P(X = k | Y = n) P(Y = n)
n=0
X∞   n
n k n−k −θ θ
= p (1 − p) e
k n!
n=k

e−θ (θp)k X [θ(1 − p)]n−k
=
k! (n − k)!
n=k
−θp k
e (θp)
= .
k!

Autrement dit, X suit la loi de Poisson de paramètre (θp). ⊔



48 — Chapitre 5. Indépendance —
— Chapitre 6. Fonctions caractéristiques — 49

Chapitre 6. Fonctions caractéristiques

1. Définition et exemples
Dans tout ce chapitre, sauf mention contraire, X désigne une v.a. à valeurs dans RN
(donc un vecteur aléatoire de dimension N ) et PX sa loi. Notons que PX est une mesure
de probabilité sur RN .

Définition 1.1. L’application ϕX : RN → C donnée par


  Z
iht,Xi
ϕX (t) = E e = eiht,xi PX (dx)
RN

s’appelle la fonction caractéristique de X.

Autrement dit, la fonction caractéristique d’une variable aléatoire est la transformée


de Fourier de sa loi, au sens où ϕX (t) = PbX (− 2π
t
), avec
Z
PbX (t) = e−2iπht,xi PX (dx),
RN

qui la transformée de Fourier de PX .


Il est clair que

• on a toujours ϕX (0) = 1;
• la fonction caractéristique prend ses valeurs dans le disque unité, c’est-à-
 
dire |ϕX (t)| ≤ 1 pour tout t ∈ RN . En effet, |E eiht,Xi | 6 E |eiht,Xi | =
1;
• ϕλX+a (t) = eiha,ti ϕX (λt), pour tout λ ∈ R et tout a ∈ RN ;
• si PX admet la densité fX (par rapport à la mesure de Lebesgue), alors
R
ϕX (t) = RN eiht,xi fX (x) dx;
50 — Chapitre 6. Fonctions caractéristiques —

• ϕX est une fonction semi-positive dans le sens que pour tous n > 1, ti ∈ RN ,
Pn Pn
zi ∈ C (1 6 i 6 n), on a k=1 ℓ=1 ϕX (tk − tℓ )zk z ℓ > 0. En effet,

n X
n n X
n
!
X X
ϕX (tk − tℓ )zk z ℓ = E eihtk ,Xi zk e−ihtℓ ,Xi z ℓ
k=1 ℓ=1 k=1 ℓ=1
 
n 2
X
= E eihtk ,Xi zk  > 0.
k=1

• Théorème de Bochner (admis) : toute fonction ϕ semi-positive satisfaisant


ϕ(0) = 1 est la fonction caractéristique associée à une loi de probabilité.

On regarde maintenant quelques exemples importants en dimension N = 1.

1
Exemple 1.2 (loi uniforme). Si PX = b−a 1]a,b[ (x) dx (loi uniforme sur [a, b]), alors

eibt − eiat
ϕX (t) = . ⊔

i(b − a)t

Exemple 1.3 (loi exponentielle). Si PX est la loi exponentielle de paramètre θ > 0,


PX = θe−θx 1R+ (x) dx, alors
Z ∞
θ
ϕX (t) = θe−θx eitx dx = . ⊔

0 θ − it

2. Propriétés des fonctions caractéristiques


Proposition 2.1. La fonction caractéristique est continue sur RN .

Preuve. C’est une conséquence immédiate de la continuité de l’application t → eiht,xi pour


chaque x ∈ RN , et du théorème de convergence dominée.
Plus concrètement, fixons t ∈ RN , et soit (tn )n>1 une suite arbitraire tendant vers
t. On a, pour tout x ∈ RN , eihtn ,xi → eiht,xi (n → ∞). D’autre part, pour tout n et
tout x, |eihtn ,xi | 6 1 qui est intégrable par rapport à la mesure PX . Par le théorème de
convergence dominée,
Z Z
ihtn ,xi
ϕX (tn ) = e PX (dx) → eiht,xi PX (dx) = ϕX (t), n → ∞.
RN RN
— Chapitre 6. Fonctions caractéristiques — 51

La suite (tn ) étant quelconque, on en déduit que ϕX est continue en t. ⊔


Proposition 2.2. Si PX est absolument continue par rapport à la mesure de Lebesgue,


alors
lim ϕX (t) = 0.
|t|→∞

Remarque. Ceci est un cas particulier d’un résultat général (Théorème de Riemann–
Lebesgue) sur la transformée de Fourier : Si g est une fonction mesurable intégrable sur
RN , alors gb(t) → 0 quand |t| → ∞.
Attention : Ici la condition que la loi soit absolument continue est importante.
Sinon, on ne peut pas espérer en général que lim|t|→∞ ϕX (t) = 0. Par exemple, si X = c
(constante; nous sommes en dimension N = 1), on a ϕX (t) = eict qui ne tend pas vers 0.

Théorème 2.3. Deux variables aléatoires X et Y ont même loi si et seulement si ϕX = ϕY .


Autrement dit, comme son nom l’indique, la fonction caractéristique ϕX caractérise la loi
de X.

Preuve. Si PX = PY , on a en particulier pour tout t ∈ RN ,


Z Z
iht,xi
ϕX (t) = e PX (dx) = eiht,xi PY (dx) = ϕY (t).
RN RN

Pour la réciproque, on va supposer pour simplifier l’écriture que la dimension est


N = 1. Le cas des dimensions supérieures est similaire, mais avec des notations plus
lourdes. On remarque d’abord que, pour k > 1 et θ ∈ R,
Z ∞
1 1 2k
eitθ e−|t|/k dt = 1 + 1 = .
−∞ k
− iθ k
+ iθ 1 + θ2 k2

On a donc
Z Z Z ∞
2k
PX (dy) = PX (dy) dt eit(y−x) e−|t|/k ;
R 1 + (y − x)2 k 2 R −∞

puis en appliquant le théorème de Fubini


Z Z ∞
2k
PX (dy) = e−itx e−|t|/k ϕX (t) dt.
R 1 + (y − x)2 k 2 −∞
52 — Chapitre 6. Fonctions caractéristiques —

Considérons ensuite une fonction h continue, positive, bornée et intégrable. En appliquant


le théorème de Fubini et un changement de variables, on tire

Z ∞ Z  Z Z ∞    
2k t 2
h(x) PX (dy) dx = h y− dt PX (dy).
−∞ R 1 + (y − x)2 k 2 R −∞ k 1 + t2

Quand on fait tendre k vers ∞, le terme entre parenthèses dans le membre de droite
2 2
converge vers h(y) 1+t2 en restant dominé par khk∞ 1+t2 (qui est intégrable par rapport à

la mesure produit dt ⊗ PX ). En appliquant le théorème de convergence dominée, on voit


donc que

Z Z ∞ Z ∞ 
1 −itx −|t|/k
h(y) PX (dy) = lim e e ϕX (t) dt h(x) dx.
R 2π k→∞ −∞ −∞

R R
Donc si ϕX = ϕY , on a R
h(y) PX (dy) = R
h(y) PY (dy) pour toute fonction h continue,
positive, bornée et intégrable. Soit a < b. Il existe une suite de fonctions continues, posi-
tives, bornées et intégrables (hk ) telle que hk converge simplement vers 1]a,b[ , et que |hk | 6
R R
1. Par le théorème de convergence dominée, R hk (y) PX (dy) → R 1]a,b[ (y) PX (dy) =
P(a < X < b). Donc P(a < X < b) = P(a < Y < b). Faisant b tendre vers ∞, on a
1 − FX (a) = 1 − FY (a). Comme la fonction de répartition détermine la loi d’une v.a., on
en déduit que PX = PY . ⊔

Le Théorème 2.3 a beaucoup d’applications, car, il est pour certaines v.a. beaucoup
plus facile de calculer la fonction caractéristique que de calculer par exemple la fonction
de répartition.
Une conséquence immédiate du Théorème 2.3 est la suivante, parfois appelée formule
d’inversion, que l’on a déjà vue sous forme de transformée de Fourier inverse.

Théorème 2.4. Si ϕX est intégrable par rapport à la mesure de Lebesgue sur RN , alors
X admet la densité
Z
1
fX (x) = e−iht,xi ϕX (t) dt, x ∈ RN .
(2π)N RN

En plus fX est bornée sur RN .


— Chapitre 6. Fonctions caractéristiques — 53

Exemple 2.5. Soit Y une variable aléatoire réelle de densité fY (x) := 12 e−|x| . On a
Z ∞
1
ϕY (t) = eitx−|x| dx
2 −∞
Z ∞ Z 0
1 1
= e−(1−it)x dx + e(1+it)x dx
2 0 2 −∞
 
1 1 1
= +
2 1 − it 1 + it
1
= .
1 + t2

Il s’agit d’une fonction intégrable sur R. Par le Théorème 2.4,


Z
1 e−itx 1
2
dt = fY (x) = e−|x| .
2π R 1+t 2

ce qui équivaut à :
Z
1 eitx
dx = e−|t| .
R π 1 + x2

Autrement dit, si X suit la loi de Cauchy standard, alors ϕX (t) = e−|t| .


On peut également démontrer ce résultat en utilisant le théorème des résidus en anal-
yse complexe. ⊔

Théorème 2.6. Les v.a. réelles X1 , · · ·, Xn sont indépendantes si et seulement si


n
Y
ϕX (t) = ϕXk (tk ), ∀t = (t1 , · · · , tn ) ∈ Rn ,
k=1

où X := (X1 , · · · , Xn ).

Preuve. Soit PX1 ⊗ · · · ⊗ PXN la mesure produit sur espace (RN , B(RN )). On a, par
R Qn Qn
définition, RN eiht,xi (PX1 ⊗ · · · ⊗ PXN )(dx) = k=1 ϕXk (tk ). Donc ϕX (t) = k=1 ϕXk (tk )
si et seulement si les fonctions caractéristiques associées à PX1 ⊗ · · · ⊗ PXN et à PX sont
identiques, ce qui équivaut à PX1 ⊗ · · · ⊗ PXN = P(X1 ,···,Xn ) (car la fonction caractériqtique
caractérise une loi de probabilité), c’est à dire, X1 , · · ·, Xn sont indépendantes. ⊔

Remarque. Si X1 , · · ·, Xn sont des vecteurs aléatoires (de dimension N > 1) indépen-


dantes, alors
ϕX1 +···+Xn (t) = ϕX1 (t) × · · · × ϕXn (t), t ∈ RN .
54 — Chapitre 6. Fonctions caractéristiques —

En particulier, si X1 , · · ·, Xn sont des v.a. réelles indépendantes, alors

(∗) ϕX1 +···+Xn (t) = ϕX1 (t) × · · · × ϕXn (t), t ∈ R.

Attention à ne pas confondre ceci avec le Théorème 2.6 ! En fait, la condition (∗) n’est
pas suffisante pour assurer l’indépendance entre X1 , · · ·, Xn : elle dit simplement que
ϕ(X1 ,···,Xn ) (t, · · · , t) = ϕX1 (t) · · · ϕXn (t) pour tout t ∈ R, tandis que la condition dans le
Théorème 2.6 dit que ϕ(X1 ,···,Xn ) (t1 , · · · , tn ) = ϕX1 (t1 ) · · · ϕXn (tn ), pour tout (t1 , · · · , tn ) ∈
Rn . Cette dernière est beaucoup plus forte que la condition (∗). ⊔

Exemple 2.7. Soit (X, Y ) un vecteur aléatoire de densité

f(X,Y ) (x, y) = 2 1D (x, y),

où
D := {(x, y) : 0 6 x 6 1/2, x 6 y 6 x + 1/2}
∪ {(x, y) : 1/2 6 x 6 1, x 6 y 6 1 ou 0 6 y 6 x − 1/2}.
(Il convient de faire un dessin.) On peut facilement déterminer les lois (marginales) de
R1
X et de Y . En effet, pour tout x ∈ [0, 1], fX (x) = 0 f(X,Y ) (x, y) dy = 1, et bien sûr
fX (x) = 0 si x ∈/ [0, 1]. De même, fY (y) = 1[0,1] (y). Autrement dit, X et Y suivent la
même loi uniforme sur [0, 1] : donc

eit − 1
ϕX (t) = ϕY (t) = .
it
Il est clair que X et Y ne sont pas indépendantes car f(X,Y ) (x, y) 6= fX (x)fY (y) (ou plus
simplement : parce que f(X,Y ) ne se factorise pas).
On s’intéresse à la loi de X + Y . On a,
ZZ
ϕX+Y (t) = 2 eit(x+y) dx dy
(x,y)∈D
ZZ ZZ
it(x+y)
= e dx dy + eit(x+y) dx dy.
(x,y)∈D (y,x)∈D

Or, si l’on écrit De := {(x, y) : (y, x) ∈ D}, on voit que D ∪ D


e = [0, 1]2 , et que D ∩ D
e =
{(x, y) ∈ [0, 1]2 : y = x, ou |y − x| = 1/2}. Ce dernier ensemble est de mesure de Lebesgue
(sur R2 ) nulle. Donc
ZZ Z 1 2
it(x+y) itx
ϕX+Y (t) = e dx dy = e dx = ϕX (t)ϕY (t).
(x,y)∈[0,1]2 0
— Chapitre 6. Fonctions caractéristiques — 55

On a donc un exemple de couple de variables aléatoires X et Y qui ne sont pas indépen-


dantes, mais qui satisfait la condition que ϕX+Y (t) = ϕX (t)ϕY (t), ∀ t ∈ R. ⊔

Exemple 2.8. Si X et Y sont deux v.a. de Cauchy standard indépendantes, alors

ϕX+Y (t) = e−|t| × e−|t| = e−2|t| .

D’autre part,
ϕ2X (t) = ϕX (2t) = e−2|t| .

Donc la somme de deux v.a. de Cauchy indépendantes a même loi que deux fois une v.a.
de Cauchy standard. ⊔

Soient maintenant µ et ν deux mesures finies sur RN . On rappelle que le produit de


convolution de µ et ν, noté par µ ∗ ν, est la mesure image de µ ⊗ ν par l’application de
RN × RN dans RN définie par (x, y) 7→ x + y. Autrement dit, µ ∗ ν est une mesure sur RN
définie par
ZZ
(µ ∗ ν)(A) = 1A (x + y) µ(dx) ν(dy), A ∈ B(RN ).
RN ×RN

Donc pour toute fonction borélienne bornée h,


Z ZZ
(†) h(x)(µ ∗ ν)(dx) = h(x + y) µ(dx) ν(dy).
RN RN ×RN

En prenant h(x) = e−2iπht,xi dans (†) et en appliquant le théorème de Fubini, on tire que
la transformée de Fourier de la mesure finie µ ∗ ν est le produit des transformées de Fourier
de µ et de ν.
Si on suppose maintenant que µ et ν sont des mesures de probabilités. La mesure
produit µ ⊗ ν sur RN × RN est donc la loi de (X, Y ), où X et Y sont indépendantes et
de loi respectives µ et ν. La formule (†) montre que µ ∗ ν est la loi de la somme X + Y .
On peut bien sûr itérer le procédé. On retiendra le résultat suivant :

Proposition 2.8. Soient X1 , · · ·, Xn des vecteurs aléatoires indépendants à valeurs dans


RN , de lois respectives PX1 , · · · , PXn . La loi de X1 + · · · + Xn est le produit de convolution
PX1 ∗ · · · ∗ PXn .

3. Application au calcul des moments


56 — Chapitre 6. Fonctions caractéristiques —

La fonction caractéristique d’une v.a. réelle X permet de calculer très facilement les
moments de X, pourvu qu’ils existent.

Proposition 3.1. Supposons que la v.a. réelle X admet un moment d’ordre n > 1. Alors
ϕX est de classe C n et
(n)
ϕX (t) = in E(X n eitX ), t ∈ R.

En particulier,
(n)
nϕ (0)
E(X ) = X n .
i

Preuve. Nous allons prouver la formule pour n = 1; le cas général en découle par récurrence.
On remarque tout d’abord que pour tout θ ∈ R,

| sin(θ)| 6 |θ|, 1 − cos(θ) = 2 sin2 (θ/2) 6 |θ|/2.

On a pour tout t ∈ R,
Z   Z  
ϕX (t + ε) − ϕX (t) ei(t+ε)x − eitx eiεx − 1
= PX (dx) = eitx PX (dx).
ε R ε R ε

L’intégrand dans le terme de droite est dominé par 2|x| et converge vers ixeitx quand ε → 0.
On applique le théorème de convergence dominée pour obtenir la formule

ϕ′X (t) = i E(XeitX ).

L’application t 7→ xeitx est continue pour chaque x, et est dominée par |x| indépendamment
de t. Par convergence dominée, on a
Z Z
itx
lim xe PX (dx) = xeit0 x PX (dx),
t→t0 R R

ce qui établit la continuité de ϕ′X . ⊔


Remarque. On se gardera de croire que si ϕX admet une dérivée d’ordre n à l’origine,


(n)
alors E(X n ) = ϕX (0); il existe des v.a. dont la fonction caractéristique est continûment
dérivable, et qui n’ont pas de moment d’ordre 1. Par exemple, supposons que

dx
PX (dx) = c 1{|x|>2} ,
|x|2 ln |x|
— Chapitre 6. Fonctions caractéristiques — 57

R∞
où c est la constante de normalisation. D’une part, on sait que −∞
|x|PX (dx) = ∞
(intégrale de Bertrand). D’autre part, par symétrie, on a
Z Z ∞
iεx
 dx dx
1 − ϕX (ε) = c 1−e 2
= 2c (1 − cos(εx)) .
|x|>2 |x| ln |x| 2 x2 ln x

Montrons maintenant que ϕ′X (0) = 0 : après un changement de variables y = εx, il s’agit
R∞
de montrer que 2ε y1−cos(y)
2 ln(y/ε) dy → 0 quand ε → 0.
R∞
Par le théorème de convergence dominée, on voit que 1 y1−cos(y)
2 ln(y/ε) dy → 0. Pour
R 1 1−cos(y) R1 1
l’intégrale sur [2ε, 1], on remarque que 2ε y2 ln(y/ε) dy 6 K 2ε ln(y/ε) dy pour une certaine
constante K < ∞, car la fonction 1−cos(y)
y2
est bornée. Par un changement de variables,
R1 1
R 1/ε R 3
2ε ln(y/ε)
dy = ε 2 ln1x dx. Comme 2 ln1x dx est une constante finie, il reste seulement
1
RA 1
de vérifier que A 3 ln x
dx → 0 quand A → ∞.
Or, par intégration par parties,
Z A h x iA Z A Z A
1 1 A 3 1
dx = + 2
dx 6 − + c∗ dx,
3 ln x ln x 3 3 (ln x) ln A ln 3 3 ln x

où l’on a utilisé dans la dernière inégalité le fait que (ln1x)2 6 lnc∗x pour tout x ∈ [3, ∞[ ,
RA
avec la constante c∗ := ln13 < 1. Donc 3 ln1x dx 6 1−c 1
( A − ln33 ), ce qui implique que
∗ ln A
1
R A 1
A 3 ln x dx → 0, A → ∞. ⊔

Exemple 3.2. (loi gaussienne). Si PX est la loi gaussienne standard N (0, 1), alors
Z ∞  2
1 x
ϕX (t) = √ exp − eitx dx
2π −∞ 2

est à valeurs réelles (par symétrie). Une dérivation sous le signe somme donne
Z ∞  2
1 x
ϕ′X (t) =√ ix exp − eitx dx.
2π −∞ 2
2
A l’aide d’une intégration par parties (dériver x → eitx et intégrer x → xe−x /2
), on obtient
Z ∞  2
1 x
ϕ′X (t) = −√ t exp − eitx dx = −t ϕX (t).
2π −∞ 2

La résolution de cette équation différentielle donne ln(|ϕX (t)|) = −t2 /2 + c. Comme


ϕX (0) = 1, on conclut que
2
ϕX (t) = e−t /2
.
58 — Chapitre 6. Fonctions caractéristiques —

Plus généralement, on peut utiliser la representation Y = σX + µ pour Y de loi


N (µ, σ 2 ) en fonction d’une variable normale standard X afin d’obtenir la fonction car-
actéristique associée à la loi N (µ, σ 2) :
 
σ 2 t2
ϕY (t) = exp itµ − .
2

Si PY = δµ (masse de Dirac en µ), on a ϕY (t) = eitµ , ce qui correspond formellement à la


formule précédente en prenant σ = 0. Donc la loi constante est souvent considérée comme
un cas dégénéré de loi gaussienne. ⊔

Exemple 3.3. Si X a pour loi N (µ, σ 2 ) et Y a pour loi N (ν, τ 2 ), avec X et Y indépen-
dantes, alors
   
σ 2 t2 τ 2 t2
ϕX+Y (t) = ϕX (t)ϕY (t) = exp itµ − × exp itν −
2 2
 2 2 2

(σ + τ )t
= exp it(µ + ν) − .
2

Donc X + Y a pour loi N (µ + ν, σ 2 + τ 2 ). ⊔


Exemple 3.4. Si X a pour loi N (0, 1), indépendante de la v.a. ε qui a pour loi P(ε =
1) = P(ε = −1) = 1/2. Soit Y = εX. On a
Z Z Z
itεX itux
ϕY (t) = E(e )= e PX (dx) Pε (du) = ϕX (tu) Pε (du)
R R R
Z  2 2  2
t u t
= exp − Pε (du) = exp − .
R 2 2

Donc Y suit la loi N (0, 1).


On a E(X) = 0 = E(Y ). De plus, E(XY ) = E(εX 2 ) = E(ε) E(X 2 ) = 0. Donc
Cov(X, Y ) = 0. D’autre part, comme |X| = |Y |, les v.a. X et Y ne sont évidemment pas
indépendantes. On a donc un exemple de deux v.a. réelles gaussiennes non-corrélées, qui
ne sont pas indépendantes. ⊔

Exemple 3.5. Plus généralement, si X est une v.a. réelle dont la loi est symétrique sur R
(c’est-à-dire que PX = P−X ), et si ε est une v.a. réelle indépendante de X telle que ε2 = 1,
alors PεX = PX , ce qui est intuitivement clair.
— Chapitre 6. Fonctions caractéristiques — 59

En effet, pour tout t ∈ R,


Z Z
itεX

ϕεX (t) = E e = eitux Pε (du) PX (dx)
Z

= E eituX Pε (du)
 
= E eitX P (ε = 1) + E e−itX P (ε = −1)

= E eitX = ϕX (t).

Notons que PX = P−X si et seulement si ϕX est une fonction paire sur R, ce qui est le cas
si par exemple X admet une fonction de densité qui est symétrique sur R. ⊔

Exemple 3.6. Si X et Y sont des v.a. réelles indépendantes avec PX = PY = N (µ, σ 2 ),


alors X + Y et X − Y sont indépendantes.
En effet, pour (t1 , t2 ) ∈ R2 ,
 
ϕ(X+Y,X−Y ) (t1 , t2 ) = E ei(t1 +t2 )X+i(t1 −t2 )Y
= ϕX (t1 + t2 )ϕY (t1 − t2 )
 
σ 2 (t1 + t2 )2 σ 2 (t1 − t2 )2
= exp iµ(t1 + t2 ) − + iµ(t1 − t2 ) −
2 2
2 2 2

= exp i(2µ)t1 − σ (t1 + t2 ) .

D’autre part, d’après l’Exemple 3.3, PX+Y = N (2µ, 2σ 2) et PX−Y = N (0, 2σ 2). Donc
ϕX+Y (t1 ) = exp(i(2µ)t1 − σ 2 t21 ), et ϕX−Y (t2 ) = exp(−σ 2 t22 ). Par conséquent,

ϕ(X+Y,X−Y ) (t1 , t2 ) = ϕX+Y (t1 )ϕX−Y (t2 ), ∀(t1 , t2 ) ∈ R2 .

La Proposition 2.5 nous confirme alors que X + Y et X − Y sont indépendantes. ⊔



60 — Chapitre 6. Fonctions caractéristiques —
— Chapitre 7. Suites et séries de variables — 61

Chapitre 7. Suites et séries de variables


aléatoires

On considère une suite X1 , · · ·, Xn , · · · de v.a. réelles et on s’intéresse au comportement


asymptotique de cette suite aléatoire. L’étude repose en partie sur un résultat élémentaire
très utile.

1. Lemme de Borel–Cantelli
On considère une suite d’événements {An , n > 1} dans (Ω, F ). La suite des événe-
S
ments k>n Ak , n > 1 est décroissante, son intersection
\ [
A = lim sup An = Ak
n→∞
n>1 k>n

est encore un événement dans F . On remarquera que A représente l’ensemble des aléas ω
qui appartiennent à une infinité d’événements An , autrement dit 1A = lim supn→∞ 1An ; ce
qui justifie la notation. On écrira souvent {An infiniment souvent } à la place de l’ensemble
lim supn→∞ An .
On peut également définir lim inf n→∞ An = (lim supn→∞ Acn )c . Autrement dit,
[ \
lim inf An = Ak .
n→∞
n>1 k>n

Il est clair que lim inf n→∞ An = {ω ∈ Ω : ω ∈ An sauf un nombre fini d’indice n}, ou
encore 1lim inf An = lim inf n→∞ 1An .

Exemple 1.1. Soient Ω = R, F = B(R) (tribu borélienne), A1 = ∅, A2 = [−3, 3] et

A2k−1 = [−1, 2[, A2k = [−2, 1], k > 1.


62 — Chapitre 7. Suites et séries de variables —

On a
lim sup An = [−2, 2[ , lim inf An = [−1, 1].
n→∞ n→∞

Théorème 1.2 (lemme de Borel–Cantelli). Soit {An }n>1 une suite d’événements.
P∞
(i) Si n=1 P(An ) < ∞, alors

P ( An infiniment souvent ) = 0.

P∞
(ii) Si n=1 P(An ) = ∞, et si les événements {An }n>1 sont indépendants (c’est
à dire, pour tout n, A1 , · · ·, An sont indépendants), alors

P ( An infiniment souvent ) = 1.

Remarque. Dans les applications, on utilise souvent la version suivante de la conclusion


dans la partie (i) : il existe un événement B avec P(B) = 1, tel que pour tout ω ∈ B, on
puisse trouver n0 = n0 (ω) < ∞ tel que ω ∈ Acn lorsque n > n0 . ⊔

Preuve du lemme de Borel–Cantelli. (i) SFixons ε > 0. Il existe un entier N tel que
P∞
n=N P(An ) < ε, et en conséquence P n>N An < ε. De la définition de l’événement
lim supn→∞ An , on tire a fortiori P(lim supn→∞ An ) < ε.
(ii) Comme les An sont indépendants, il en est de même pour leurs complémentaires,
et on a
     
m
[ m
\ m
Y m
X
P Aj  = 1 − P  Acj  = 1 − P(Acj ) > 1 − exp − P(Aj ) .
j=k j=k j=k j=k

On fait tendre m vers ∞, et on tire


   

[ ∞
X
P Aj  > 1 − exp − P(Aj ) = 1.
j=k j=k

S∞
Comme les événements j=k Aj décroissent vers lim supn→∞ An quand k → ∞, on a bien
P(lim supn→∞ An ) > 1 (et donc = 1). ⊔

2. Divers modes de convergence


— Chapitre 7. Suites et séries de variables — 63

Définition 2.1 (convergence p.s.). On dit que la suite de v.a. {Xn }n>1 converge
presque sûrement vers une v.a. X s’il existe un événement A avec P(A) = 1, tel que

lim Xn (ω) = X(ω) pour tout ω ∈ A.


n→∞

Autrement dit, n o
P ω ∈ Ω : lim Xn (ω) = X(ω) = 1.
n→∞

On dit souvent que Xn converge vers X avec probabilité 1.

Exemple 2.2. Soit (Xn ) une suite de v.a. réelles indépendantes suivant la même loi
gaussienne N (0, 1). Soit Sn = X1 + · · · + Xn . On sait que Sn suit la loi N (0, n). Donc
par l’inégalité de Markov, pour tout ε > 0,
 E(|Sn |3 ) E(|X1 |3 )
P (|Sn | > nε) = P |Sn |3 > ε3 n3 6 = .
ε3 n3 ε3 n3/2
P
On a n P(|Sn | > nε) < ∞. D’après la première partie du lemme de Borel–Cantelli,

P ( |Sn | > nε, pour une infinité de n ) = 0.

De façon équivalente, il existe A ∈ F avec P(A) = 1 tel que

∀ω ∈ A, ∃n0 = n0 (ω, ε) < ∞ tel que |Sn (ω)| 6 nε, ∀n > n0 .

A fortiori, pour tout ε > 0,


 
|Sn (ω)|
P ω : lim sup 6 ε = 1.
n→∞ n

La v.a. lim supn→∞ |Snn | vaut donc 0 avec probabilité 1, autrement dit, Snn → 0 p.s.
On a utilisé le fait que si X est une v.a. réelle telle que P(0 6 X 6 ε) = 1 quel
que soit ε > 0, alors P(X = 0) = 1. Ceci se démontre par exemple en remarquant que
{X = 0} = ∩k>1 {0 6 X 6 k1 }. ⊔

Exemple 2.3. Soient X, X1 , X2 , · · · des v.a. réelles, et soit {εn } une suite de réels
P
strictement positifs tendant vers 0. Si P(|Xn − X| > εn ) est convergente, alors Xn → X
p.s.
En effet, d’après la première partie du lemme de Borel–Cantelli, il existe A ∈ F avec
P(A) = 1 tel que

∀ω ∈ A, ∃n0 = n0 (ω) < +∞ tel que |Xn (ω) − X(ω)| < εn , ∀n > n0 .
64 — Chapitre 7. Suites et séries de variables —

A fortiori, si ω ∈ A, alors Xn (ω) → X(ω) (n → +∞). Donc Xn converge presque sûrement


vers X. ⊔

P
Exemple 2.4. Soient X, X1 , X2 , · · · des v.a. réelles telles que P(|Xn − X| > ε) soit
convergente pour tout ε > 0, alors Xn → X p.s.
Ceci est un renforcement de l’exemple précédent, car si εn → 0 (n → +∞), alors
P(|Xn − X| > εn ) > P(|Xn − X| > ε) lorsque n est suffisamment grand.
Fixons ε > 0. Par hypothèse et le lemme de Borel–Cantelli, il existe A ∈ F avec
P(A) = 1 tel que

∀ω ∈ A, ∃n0 = n0 (ω) < +∞ tel que |Xn (ω) − X(ω)| < ε, ∀n > n0 .

Donc pour tout ω ∈ A, on a lim supn→∞ |Xn (ω) − X(ω)| 6 ε. D’où : P(lim supn→∞ |Xn −
X| 6 ε) = 1. Le réel ε > 0 étant quelconque, on déduit que P(limn→∞ (Xn − X) = 0) = 1;
autrement dit, Xn converge presque sûrement vers X. ⊔

Exemple 2.5. On se donne une suite de v.a. {Xn }n>1 indépendantes, suivant toutes la
même loi. Si E(|X1 |) = ∞, alors lim supn→∞ n−1 |Xn | = ∞ p.s.
En effet, fixons un réel a > 0. On a, par le théorème de Fubini


X ∞
X
P(|Xn /n| > a) = P(a−1 |X1 | > n) = E(⌊a−1 |X1 |⌋) > E(a−1 |X1 |) − 1 = ∞.
n=1 n=1

On applique la deuxième partie du lemme de Borel–Cantelli.


On a utilisé l’identité importante qui dit que si Y est une variable aléatoire à valeurs
P∞
dans N, alors E(Y ) = n=1 P(Y > n) (les deux termes convergent ou divergent en même
P∞ P∞ P∞
temps). En effet, par le théorème de Fubini, n=1 P(Y > n) = n=1 j=n P(Y = j) =
P∞ Pj P∞
j=1 n=1 P(Y = j) = j=1 jP(Y = j) = E(Y ). ⊔

Définition 2.6 (convergence en probabilité). On dit que la suite {Xn }n>1 converge
en probabilité vers une v.a. X si pour tout ε > 0

lim P (|Xn − X| > ε) = 0.


n→∞

Remarque. Il est facile de voir que les résultats usuels sur les limites (unicité de la limite,
linéarité, etc) sont valables pour les convergences p.s. et en probabilité. ⊔

— Chapitre 7. Suites et séries de variables — 65

Exemple 2.7. Soit {Xn } une suite de v.a. réelles telle que E(Xn ) → a et Var(Xn ) → 0.
Alors, par l’inégalité de Markov, pour tout ε > 0,

 E[(Xn − a)2 ]
P (|Xn − a| > ε) = P (Xn − a)2 > ε2 6
ε2
2
Var(Xn ) + (a − E(Xn ))
= → 0.
ε2
Donc Xn converge en probabilité vers a. ⊔

Exemple 2.8. Si les v.a. réelles Xn suivent la même loi, alors


 
Xn
P > ε = P (|Xn | > εn) → 0.
n
Xn
Donc n
converge en probabilité vers 0. Dans les deux exemples, il n’y a rien qui nous
garantit la convergence p.s. ⊔

Exemple 2.9. {Xn }n>1 converge en probabilité vers X si et seulement si, pour tout ε > 0,
il existe N ∈ N tel que P (|Xn − X| > ε) 6 ε pour tout n > N .
Il suffit de prouver la partie “si”. Fixons ε0 > 0. Par hypothèse, pour tout ε ∈ ]0, ε0 ],
il existe N ∈ N tel que : si n > N , alors P (|Xn − X| > ε) 6 ε. Donc P (|Xn − X| > ε0 ) 6
P (|Xn − X| > ε) 6 ε. Par définition, limn→∞ P (|Xn − X| > ε0 ) = 0. Autrement dit,
Xn → X en probabilité. ⊔

Proposition 2.10. Si Xn → X p.s., alors la convergence a lieu également en probabilité.

Preuve. Soit A ∈ F tel que P(A) = 1 et que pour tout ω ∈ A, Xn (ω) → X(ω), n → ∞.
On fixe ε > 0. Pour chaque entier n, on considère l’événement

Bn = {ω ∈ A : sup |Xk (ω) − X(ω)| > ε}.


k≥n
T
La suite des Bn est décroissante et n>1 Bn = ∅ (puisque Xn converge vers X sur A). On
a donc limn→∞ P(Bn ) = 0. Comme

{|Xn − X| > ε} ⊂ Bn ∪ Ac ,

on a a fortiori limn→∞ P(|Xn − X| > ε) = 0. ⊔


Exemple 2.11. La réciproque de la Proposition 2.10 est fausse; voici un contre exemple.
On prend Ω = [1, 2] que l’on munit de la tribu borélienne et de la mesure de Lebesgue.
66 — Chapitre 7. Suites et séries de variables —

Pour chaque n, on note k l’unique entier tel que 2k 6 n < 2k+1 , et on prend Xn (ω) =
1[n2−k ,(n+1)2−k ] (ω). Il est clair que pour tout ε ∈ ]0, 1[ , P(|Xn | > ε) = 2−k , de sorte que
Xn → 0 en probabilité. Néanmoins, pour tout ω ∈ [1, 2], il existe une infinité d’entiers n
pour lesquels Xn (ω) = 1, et Xn (ω) ne converge pas vers 0. ⊔

En revanche on a une réciproque partielle.

Proposition 2.12. Si Xn → X en probabilité, alors il existe une sous-suite extraite XN(n)


qui converge vers X p.s.

Preuve. Comme P(|Xk − X| > ε) → 0 (k → ∞) pour tout ε > 0, on peut trouver



pour tout n > 1 un entier N (n) tel que P |XN(n) − X| > 1/n 6 2−n . De plus, la
suite {N (n)}n>1 peut être choisie de sorte qu’elle soit strictement croissante. La série
P 
P |XN(n) − X| > 1/n étant convergente, on peut appliquer l’Exemple 2.3 pour voir
que XN(n) converge presque sûrement vers X. ⊔

Proposition 2.13. Xn → X en probabilité si et seulement si pour toute sous-suite


(XN(n) ) on peut en extraire une sous-sous-suite (XN(M (n)) ) qui converge vers X presque
sûrement.

Preuve. Si Xn → X en probabilité, alors XN(n) → X en probabilité. Par la proposition


précédente, on peut en extraire une sous-sous-suite (XN(M (n)) ) qui converge vers X p.s.
Réciproquement, supposons que pour toute sous-suite (XN(n) ) on peut en extraire
une sous-sous-suite (XN(M (n)) ) qui converge vers X presque sûrement. Fixons ε > 0, et on
étudie la suite numérique an := P(|Xn − X| > ε). Pour toute sous-suite (aN(n) ) on peut
en extraire une sous-sous-suite (aN(M (n)) ) qui converge vers 0. Ceci équivaut à an → 0
(n → ∞). Autrement dit, Xn → X en probabilité. ⊔

Remarque. On se gardera de croire que la condition que “pour toute sous-suite (XN(n) )
on puisse en extraire une sous-sous-suite (XN(M (n)) ) qui converge vers X presque sûre-
ment” soit équivalente à la convergence p.s. de (Xn ) vers X. D’après la proposition
précédente, ceci signifie simplement la convergence en probabilité de (Xn ) vers X, ce
qui est plus faible que la convergence p.s. En réalité, la convergence p.s. de (Xn ) vers
X est équivalente à la condition suivante : il existe A ∈ F avec P(A) = 1 tel que tout
ω ∈ A vérifie la propriété : pour toute sous-suite XN(n,ω) (ω) on puisse en extraire une
sous-sous-suite XN(M (n,ω),ω) (ω) qui converge vers X(ω). Mais attention, cette dernière
propriété concerne toute sous-suite XN(n,ω) (ω) où N (n, ω) dépend de ω, ce qui n’est pas
le cas de la condition du départ qui était un peu plus faible. ⊔

— Chapitre 7. Suites et séries de variables — 67

La Proposition 2.13 a surtout des applications théoriques. En voici deux.

Proposition 2.14 (lemme de Fatou). Si Xn > 0 (pour tout n > 1) et si Xn → X en


probabilité, alors lim inf n→∞ E(Xn ) > E(X).

Preuve. Soit (XN(n) ) une sous-suite quelconque. Par la proposition précédente, il existe
une sous-sous-suite (XN(M (n)) ) qui converge vers X p.s. Par le lemme de Fatou usuel,
lim inf n→∞ E(XN(M (n)) )) > E(X). Donc lim inf n→∞ E(Xn ) > E(X). ⊔

Proposition 2.15. Si Xn → X en probabilité, et si f est une fonction continue sur R,


alors f (Xn ) → f (X) en probabilité.

Preuve. Soit (f (XN(n) )) une sous-suite quelconque. Par la Proposition 2.13, il existe une
sous-sous-suite (XN(M (n)) ) qui converge vers X p.s., donc (f (XN(M (n)) )) converge vers
f (X) p.s. En utilisant de nouveau la Proposition 2.13, f (Xn ) → f (X) en probabilité. ⊔

En théorie de l’intégration, on a vu d’autres modes de convergence que l’on rappelle.

Définition 2.16 (convergence dans Lp ). Pour tout p > 1, on dit qu’une suite {Xn }n>1
de v.a. converge dans Lp (Ω, F , P) vers une v.a. X ∈ Lp (Ω, F , P) si

lim E (|Xn − X|p ) = 0.


n→∞

Lorsque p = 2, on dit également que Xn converge vers X en moyenne quadratique.

Remarque. (i) Par l’inégalité de Hölder, si Xn → X dans Lp , et si q ∈ [1, p[ , alors la


convergence a lieu dans Lq .
(ii) Si Xn → X dans Lp , alors |Xn | → |X| dans Lp (car | |Xn| − |X| | 6 |Xn − X|).
(iii) Si Xn → X dans Lp , et si p ∈ N∗ , alors E(Xnp ) → E(X p ) (exercice à domicile). ⊔

Exemple 2.17. On se donne une suite de v.a. {Xn }n>1 , suivant toutes la même loi. Si
X1 ∈ L1 (Ω, F , P), alors la suite Xn /n converge vers 0 p.s. et dans L1 (P).
En effet, E(|Xn /n|) = n−1 E(|X1 |) → 0, donc Xn /n → 0 dans L1 (P).
Pour la convergence p.s., on fixe un réel k > 0. On a, par le théorème de Fubini,


X ∞
X
P(|Xn /n| > 1/k) = P(k|X1 | > n) = E(⌊k|X1 |⌋) < ∞.
n=1 n=1
68 — Chapitre 7. Suites et séries de variables —

On applique la partie directe de Borel–Cantelli. L’événement

Ak = {lim sup n−1 |Xn | < 1/k}.


n→∞

a pour probabilité 1, il en est de même pour l’intersection de ces événements. D’où la


convergence p.s. ⊔

Comparons la notion de convergence Lp avec les précédentes.

Proposition 2.18. Si Xn → X dans Lp , alors la convergence a encore lieu en probabilité.

Preuve. Fixons ε > 0. Par l’inégalité de Markov,

E (|X − Xn |p )
P (|X − Xn | > ε) 6 → 0, n → ∞. ⊔

εp

Exemple 2.19. La réciproque est en général fausse. Soit {Xn }n>3 une suite de v.a. réelles
telle que P(Xn = n) = ln1n et P(Xn = 0) = 1 − ln1n . Pour tout ε > 0,

1
P (|Xn | > ε) 6 → 0.
ln n
Donc Xn → 0 en probabilité. D’autre part,
np
E (|Xn |p ) = → ∞.
ln n
Donc Xn ne converge pas vers 0 dans Lp . ⊔

Proposition 2.20. Si Xn → X en probabilité et s’il existe une v.a. réelle Y ∈ Lp telle


que |Xn | ≤ Y pour tout n, alors Xn → X dans Lp .

Preuve. Si la suite {Xn }n>1 converge vers X en probabilité, c’est encore le cas pour toute
suite extraite, disons {XN(n) }n>1 . On sait qu’on peut extraire de cette dernière une sous-
suite, disons {XN(M (n)) }n>1 qui converge p.s. vers X. Par hypothèse, on peut appliquer le
théorème de convergence dominée, i.e., XN(M (n)) → X dans Lp (Ω, F , P). Ainsi, de toute
suite extraite de {Xn }n>1 , on a su extraire une sous-sous-suite qui converge vers X dans
Lp . Donc Xn → X dans Lp . ⊔

Corollaire 2.21 (convergence dominée). Si Xn → X en probabilité et s’il existe


une v.a. réelle Y admettant un moment d’ordre 1 telle que |Xn | ≤ Y pour tout n, alors
E(Xn ) → E(X).
— Chapitre 7. Suites et séries de variables — 69

Exemple 2.22. On se donne Y une variable aléatoire réelle définie sur l’espace de prob-
abilité (Ω, F , P), uniformément distribuée sur l’intervalle [3, 6]. Pour tout n > 1 et tout
ω ∈ Ω, on pose
( 2
5n si 3 6 Y (ω) 6 3 + (4/n2 ),
Xn (ω) =
0 sinon.
(a) Déterminer E(Xn ) et E(Xn2 ), (n > 1).
(b) Calculer E(Xn+1 Xn+2 ), (n > 1).
(c) La suite (Xn ) converge-t-elle presque sûrement vers une limite?
(d) La suite (Xn ) converge-t-elle en probabilité vers une limite?
(e) La suite (Xn ) converge-t-elle dans L1 vers une limite?

Solution. (a) On peut écrire Xn = 5n2 1[3, 3+4n−2 ] (Y ). Donc E(Xn ) = 5n2 P(3 6 Y 6
3 + 4n−2 ) et E(Xn2 ) = 25n4 P(3 6 Y 6 3 + 4n−2 ). Si n = 1, on a P(3 6 Y 6 7) = 1,
donc E(X1 ) = 5 et E(X12 ) = 25. Si n > 2, on a P(3 6 Y 6 3 + 4n−2 ) = 4n−2 /3, donc
E(Xn ) = 20
3
et E(Xn2 ) = 100
3
n2 (n > 2).
(b) Par définition, Xn+1 Xn+2 = 25(n + 1)2 (n + 2)2 1[3, 3+4(n+2)−2 ] (Y ), ce qui implique
que E(Xn+1 Xn+2 ) = 25(n + 1)2 (n + 2)2 P(3 6 Y 6 3 + 4(n + 2)−2 ) = 100 2
3 (n + 1) .
(c) Soit Ω0 = {ω ∈ Ω : 3 < Y (ω) 6 6}. On a P(Ω0 ) = 1. Pour tout ω ∈ Ω0 , posons
p
n0 = n0 (ω) = 2/ Y (ω) − 3 , alors Y (ω) > 3 + 4/n2 (donc Xn (ω) = 0) dès que n > n0 .
Par conséquent, P{ω ∈ Ω : limn→∞ Xn (ω) = 0} = 1, c’est-à-dire que Xn converge presque
sûrement vers (la variable constante) 0.
(d) Convergence presque sûre impliquant convergence en probabilité, on déduit que
Xn converge en probabilité vers 0.
(e) Si Xn convergeait dans L1 vers une limite disons X, alors elle convergerait égale-
ment en probabilité vers X (Proposition 2.17). Or, dans la question précédente, on a vu
que Xn converge en probabilité vers 0, ce qui impliquerait P(X = 0) = 1. Autrement
dit, Xn convergerait dans L1 vers 0, ce qui entraı̂nerait limn→∞ E(Xn ) = E(0) = 0. Ceci
contredit le fait que E(Xn ) = 20
3
(n > 2). En conclusion, Xn ne peut converger dans L1 .⊔

Exemple 2.23. Il est à noter qu’une suite de v.a. réelles converge p.s., en probabilité ou
dans Lp (p > 1) si et seulement si elle est de Cauchy. Ceci est clair pour la convergence
dans Lp (car dans la théorie d’intégration on a vu que Lp , p > 1, est un espace de Banach)
et pour la convergence p.s. (par vérification directe). On montre maintenant qu’il est vrai
pour la convergence en probabilité.
Soient (Xn )n>1 des v.a. réelles qui forment une suite de Cauchy dans le sens que
quel que soit ε > 0, P(|Xp − Xq | > ε) → 0, p → ∞, q → ∞ (c’est-à-dire que pour
70 — Chapitre 7. Suites et séries de variables —

tout ε > 0 et tout δ > 0, il existe N ∈ N vérifiant la propriété suivante : p > N ,


q > N ⇒ P(|Xp − Xq | > ε) 6 δ). On peut trouver une suite strictement croissante
(N (k))k>1 telle que pour chaque k > 1, P(|Xp − Xq | > 2−k ) 6 2−k si p > N (k), q >
N (k). En particulier, P(|XN(k+1) − XN(k) | > 2−k ) 6 2−k , quel que soit k > 1. Il
résulte du lemme de Borel–Cantelli qu’il existe A ∈ F avec P(A) = 1 tel que si ω ∈
A, alors on puisse trouver k0 = k0 (ω) < ∞ tel que |XN(k+1) (ω) − XN(k) (ω)| 6 2−k
lorsque k > k0 . La série géométrique étant convergente, on déduit que la série numérique
P∞
k=1 (XN(k+1) (ω) − XN(k) (ω)) converge pour tout ω ∈ A. Donc XN(k) converge (lorsque
k → ∞) presque sûrement (et a fortiori en probabilité), et soit X la limite. Alors pour
ε > 0, P(|Xn − X| > ε) 6 P(|Xn − XN(k) | > ε/2) + P(|XN(k) − X| > ε/2) → 0 (lorsque
k → ∞, n → ∞). Ceci prouve que Xn converge en probabilité vers X.
Réciproquement, si Xn → X en probabilité, alors pour tout ε > 0, P(|Xn − Xm | >
ε) 6 P(|Xn − X| > ε/2) + P(|Xm − X| > ε/2) → 0 (n → ∞, m → ∞). ⊔

3. Séries de variables aléatoires indépendantes


P1
Il est connu que la série numérique n diverge (série harmonique), tandis que la série
P (−1)n
numérique n converge (théorème des séries altérnées). Une question naturelle est
de savoir ce qui se passe lorsque l’on met un signe aléatoire sur chacun des termes n1 . Plus
précisément, soit (εn )n>1 une suite de v.a. indépendantes telle que P(εn = 1) = P(εn =
−1) = 1/2 quel que soit n, et on cherche à étudier la convergence (dans quel sens?) de la
P εn
série n .
L’étude de ce problème se situe dans un contexte plus général. On se donne une
suite de v.a. réelles {Xn }n>1 que l’on suppose indépendantes (c’est-à-dire que pour tout n,
X1 , · · · , Xn sont des v.a. indépendantes). On note Sn = X1 + · · · + Xn la somme partielle
jusqu’à l’ordre n, et on s’intéresse à la convergence de la suite des v.a. Sn .

Théorème 3.1. Si Sn converge en probabilité, alors Sn converge également p.s.

La preuve de ce théorème difficile ne fait pas partie du programme du cours. Elle


repose sur un lemme technique.

Lemme 3.2. Soient {Un }16n6M et {Vn }16n6M deux suites finies de v.a. positives telles
que pour chaque n ≤ M , Vn est indépendant de (Un , Un+1 , · · · , UM ). On a alors pour tout
x > 0,
     
P max (Un − Vn ) > x > min P(Vn < x) × P max Un > 2x .
16n6M 16n6M 16n6M
— Chapitre 7. Suites et séries de variables — 71

Preuve du Lemme 3.2. Définissons les événements suivants :

An = {Un > 2x, Un+1 6 2x, · · · , UM 6 2x}, 1 6 n 6 M.

(En fait, AM = {UM > 2x}). Il est clair que les An sont deux-à-deux disjoints, et que
SM
n=1 An = {max16n6M Un > 2x}. Considérons l’expression :

M
X
I= P ({Vn < x} ∩ An ) .
n=1

On a, d’une part,
M
! M
[ X
I=P ({Vn < x} ∩ An ) 6 P (Vn < x, Un > 2x)
n=1 n=1
 
6P max (Un − Vn ) > x .
16n6M

D’autre part, grâce à l’indépendance,


M
X
I= P (Vn < x) P (Un > 2x, Un+1 6 2x, · · · , UM 6 2x)
n=1
  M
X
> min P(Vn < x) × P (Un > 2x, Un+1 ≤ 2x, · · · , UM ≤ 2x)
16n6M
n=1
  M
!
[
= min P(Vn < x) × P {Un > 2x, Un+1 6 2x, · · · , UM 6 2x}
n=1,···,M
n=1
   
= min P(Vn < x) × P max Un > 2x . ⊔

16n6M 16n6M

Preuve du Théorème 3.1. Soit S la limite des Sn (en probabilité). On sait qu’il existe
une suite extraite SN(n) qui converge vers S p.s. (ici, N : N∗ → N∗ est une certaine
application strictement croissante). Pour chaque entier n > 1, il existe un unique entier ℓ
tel que N (ℓ − 1) 6 n < N (ℓ), et on pose α(n) = N (ℓ − 1). L’application α est croissante
sur N∗ . On introduit

Un = |S − Sn | , Vn = |Sα(n) − Sn | , Wn = |S − Sα(n) | .

Par construction, on sait que Wn → 0 p.s. et Vn → 0 en probabilité (critère de Cauchy).


De plus, pour chaque n fixé, la v.a. Vn est indépendante de (Un , Un+1 , · · ·).
72 — Chapitre 7. Suites et séries de variables —

Fixons x > 0 arbitrairement petit. Puisque Wn > Un − Vn , on a d’après le Lemme


3.2 que pour tous les entiers p, q avec p 6 q
 
P (maxp6n6q (Un − Vn ) > x)
P max Un > 2x 6
p6n6q minp6n6q P(Vn < x)
P (maxp6n6q Wn > x)
6 .
minp6n6q P(Vn < x)

Fixons ε > 0. Puisque Vn → 0 en probabilité, on peut trouver un entier n0 tel que


P(Vn < x) > 1 − ε dès que n > n0 .
Puisque Wn → 0 p.s., on peut trouver un entier n1 tel que P (maxp6n6q Wn > x) < ε
pour tout n1 6 p 6 q.
En conséquence, pour p > n0 + n1 ,
 
ε
P max Un > 2x 6 , ∀q > p,
p6n6q 1−ε

et donc également, en faisant tendre d’abord q vers ∞ puis p vers ∞


 
ε
P lim sup Un > 2x 6 .
n→∞ 1−ε

Comme ε et x sont arbitraires, on a bien lim supn→∞ Un = 0 p.s., ce qui termine la preuve
du Théorème 3.1. ⊔

Proposition 3.3. Supposons que les v.a. réelles indépendantes Xn sont centrées et ad-
mettent toutes un moment d’ordre 2, i.e., E(Xn ) = 0 et E(Xn2 ) < ∞. Alors Sn con-
verge dans L2 (Ω, F , P) si et seulement si la série des moyennes quadratiques converge,
P∞ 2
n=1 E(Xn ) < ∞. Dans ce cas, la convergence a lieu p.s. également, et la limite, S∞ , est
P∞
une v.a. centrée dont la variance vaut n=1 E(Xn2 ).

Preuve. Par le critère de Cauchy, Sn converge dans L2 (Ω, F , P) si et seulement si E[(Sn −


Sm )2 ] → 0 (n → ∞, m → ∞). Or, pour m < n, E[(Sn − Sm )2 ] = Var(Sn − Sm ) =
Pn Pn 2
P 2
i=m Var(Xi ) = i=m E(Xi ), qui converge vers 0 si et seulement si la série i E(Xi )
P ∞
converge. Donc Sn converge dans L2 (Ω, F , P) si et seulement si n=1 E(Xn2 ) < ∞.
Si c’est le cas, la convergence a encore lieu en probabilité; il ne reste qu’à appliquer le
Théorème 3.1. ⊔

εn
Exemple 3.4. On prend Xn = n ,avec {εn }n>1 une suite de v.a. indépendantes et
P∞
équidistribuées telle que P(ε1 = 1) = P(ε1 = −1) = 1/2. La série n=1 |Xn | diverge p.s.,
P∞
alors que la série n=1 Xn converge p.s. (semi-convergence). ⊔

— Chapitre 8. Loi des grands nombres — 73

Chapitre 8. Loi des grands nombres

On se donne X1 , · · ·, Xn , · · · une suite de v.a. réelles indépendantes et identiquement


distribuées (en abbréviation : i.i.d.), et on s’intéresse à la convergence de la suite au sens
de Césaro.

1. Loi des grands nombres


Pour ne pas passer trop de temps sur des questions techniques un peu délicates, on
admettra que si PX est une loi de probabilité sur R, on peut construire un espace de
probabilité adéquat et une suite de v.a. X1 , · · ·, Xn , · · · indépendantes et toutes de loi PX .
Il est un cas simple dans lequel une telle construction est explicite.

Exemple 1.1. (Construction de Lebesgue d’une suite de v.a. de Bernoulli indépendantes).


On prend Ω = [0, 1), muni de la tribu borélienne et de la mesure de Lebesgue. On écrit
P∞
ω ∈ Ω sous forme dyadique, ω = n=1 Xn (ω)2−n (suivant la convention usuelle, l’écriture
où tous les Xn (ω) valent 1 à partir d’un certain rang est exclue). Alors la suite {Xn }n>1
est une suite de v.a. indépendantes, chacune suit une loi de Bernoulli de paramètre 1/2.
Pn
En effet, si on se donne une suite finie (x1 , · · · , xn ) de 0 et 1 et si on pose y = j=1 xj 2−j ,
alors {X1 = x1 , · · · , Xn = xn } = [y, y + 2−n [ et donc

n
Y
−n
P (X1 = x1 , · · · , Xn = xn ) = 2 = P(Xj = xj ). ⊔

j=1

La loi des grands nombres a été découverte par Jacques Bernoulli, précisément pour
une suite de v.a. de Bernoulli indépendantes. C’est l’un des résultats les plus importants
de la théorie des probabilités.
74 — Chapitre 8. Loi des grands nombres —

Théorème 1.2 (loi des grands nombres forte). (i) Si E(|X|) < ∞ disons E(X) = µ,
alors
X1 + · · · + Xn
lim = µ,
n→∞ n
presque sûrement.
(ii) Si E(|X|) = ∞, alors la suite {n−1 (X1 + · · · + Xn )}n>1 diverge p.s.

Preuve. (i) Nous ne démontrerons ici la loi que sous l’hypothèse plus restrictive que X
admet un moment d’ordre 2. Une preuve complète est pourvue dans la Section 3 du présent
chapitre.
Tout d’abord, en considérant séparément la partie positive de Xn et sa partie négative,
on remarque qu’il suffit de démontrer le résultat pour des v.a. positives, ce que l’on suppose
désormais.
On note S(n) = X1 + · · · + Xn . On a E(S(n)) = nµ et Var(S(n)) = nVar(X). En
particulier,  
S(n4 ) − n4 µ Var(X)
Var = .
n4 n4
D’après l’inégalité de Bienaymé–Tchebychev,
 
−4 4 1 Var(X)
P |n S(n ) − µ| > 6 .
n n2
P∞ −4
On déduit que la série n=1 P(|n S(n4 ) − µ| > 1/n) converge. D’après le lemme de
Borel–Cantelli, on a donc presque-sûrement,
1
|n−4 S(n4 ) − µ| 6 , sauf pour un nombre fini d’entiers n.
n
Fixons un aléas ω pour lequel l’événement ci-dessus est réalisé et prenons n suffisament
grand. Pour tout entier k tel que n4 6 k 6 (n + 1)4 , on a donc (puisque la suite (Sj , j =
1, · · · , ) est croissante)
 4  4
S(k) S((n + 1)4 ) n+1 S((n + 1)4 ) n+1
6 = 6 (µ + 1/n).
k n4 n (n + 1)4 n
4
Comme n+1
n tend vers 1 quand n → ∞, on a donc établi que pour cet aléas ω

S(k)
lim sup 6 µ.
k→∞ k
De même, on a
 4  4
S(k) S(n4 ) n S(n4 ) n
> = > (µ − 1/n) .
k (n + 1)4 n+1 n4 n+1
— Chapitre 8. Loi des grands nombres — 75

 4
n
Comme n+1 tend vers 1 quand n → ∞, on a donc établi que pour cet aléas ω

S(k)
lim inf > µ.
k→∞ k

En conclusion, on a bien pour presque tout ω : limk→∞ S(k) k = µ.


(ii) On a déjà vu dans l’Exemple 2.5 du chapitre précédent que si les v.a. X1 , · · ·, Xn ,
· · · sont indépendantes et de même loi et que E(|X|) = ∞, alors p.s., lim supn→∞ n−1 |Xn | =
∞. Dans ces conditions, la suite des moyennes de Césaro ne peut pas converger. ⊔

Remarque. On fait souvent référence au théorème comme la loi forte des grands nombres.
Une conséquence immédiate du théorème est que sous les hypothèses (i), la suite n−1 S(n)
converge en probabilité vers la moyenne µ. On parle dans ce dernier cas de loi faible des
grands nombres, par opposition à la loi forte. ⊔

Remarque. La loi des grands nombres justifie l’interprétation fréquentielle de la notion


de probabilité. Typiquement, on réalise un grand nombre d’expériences dans des condi-
tions identiques, dont le résultat dépend de l’aléas (exemple, durée de vie d’une ampoule
électrique > 1000 heures). On note Xn = 1 si la n-ième expérience réussit, Xn = 0 sinon.
La suite X1 , · · ·, Xn , · · · est une suite de v.a. de Bernoulli indépendantes, de moyenne
E(X) = P(X = 1). La fréquence de succès de l’expérience converge donc p.s. vers la
probabilité de succès. ⊔

Exemple 1.3. Soit {Uj }j>1 une suite i.i.d. de v.a. suivant la loi uniforme sur [0, 1]. Par
la loi forte des grands nombres, lorsque n tend vers l’infini,
n
1X 1
Uj → E(U1 ) = , p.s.
n j=1 2

Ceci correspond à l’intuition que la moyenne (arithméthique) de n nombres réels “choisis


par hasard” entre 0 et 1 devrait être proche de 1/2.
Que se passe-t-il pour la moyenne géométrique? Soit
 1/n
n
Y
Xn =  Uj  .
j=1

On a  
n n
1X 1X 1
ln Xn = ln Uj = − ln .
n j=1 n j=1 Uj
76 — Chapitre 8. Loi des grands nombres —

La suite de v.a. {ln(1/Uj )}j>1 est de nouveau i.i.d. Pour savoir l’existence du moment
d’ordre 1, soit h : R → R une fonction borélienne bornée, on a
Z 1 Z ∞ Z
1 1 −y
E(h(ln )) = h(ln ) dx = h(y)e dy = h(y)e−y 1R∗+ (y) dy.
U1 0 x 0 R

Ceci montre que ln(1/U1 ) suit la loi exponentielle de paramètre 1. En particulier, elle
admet un moment d’ordre 1, avec E(ln(1/U1 )) = 1. Donc ln Xn → −1, p.s., c’est-à-dire
Xn → 1/e, p.s. ⊔

Exemple 1.4. Soient f et g deux fonctions continues sur [0, 1], telles que 0 6 f (x) <
C g(x) pour x ∈ [0, 1], où C > 0 est une constante. On montre
Z 1 Z 1
R1
f (x1 ) + · · · + f (xn ) f (x) dx
lim ··· dx1 · · · dxn = R01 .
n→∞ 0 0 g(x1 ) + · · · + g(xn ) g(x) dx
0

Pour prouver cette convergence, soit {Uj }j>1 une suite i.i.d. de v.a. suivant la loi
uniforme sur [0, 1]. Posons
n n
1X 1X
Xn = f (Uj ), Yn = g(Uj ).
n n
j=1 j=1

R1
D’après la loi forte des grands nombres, Xn → E(f (U1 )) = 0 f (x) dx, p.s., et Yn →
R1 R1 R1 R1
0
g(x) dx, p.s. Comme 0 g(x) dx > 0, on a Xn /Yn → 0 f (x) dx/ 0 g(x) dx, p.s.
Comme |Xn /Yn | 6 C qui est intégrable, il résulte du théorème de convergence dominée
que R1
 
Xn f (x) dx
E → R01 .
Yn g(x) dx
0

Or,   Z Z
1 1
Xn f (x1 ) + · · · + f (xn )
E = ··· dx1 · · · dxn ,
Yn 0 0 g(x1 ) + · · · + g(xn )
ce qui donne le résultat voulu. ⊔

2. Application : théorème de Glivenko–Cantelli


Nous démontrons le théorème de Glivenko–Cantelli, théorème d’une importance fon-
damentale en statistique mathématique (souvent appelé “théorème fondamental de statis-
tique”).
— Chapitre 8. Loi des grands nombres — 77

Théorème 2.1 (Glivenko–Cantelli). Supposons que les v.a. réelles X1 , · · ·, Xn soient les
éléments d’un échantillon provenant d’une population statistique, c’est-à-dire que ce sont
des v.a. indépendantes et identiquement distribuées. Soit F (·) leur fonction de répartition
commune, et soit Fn (·) la fonction de répartition empirique de l’échantillon, c’est-à-dire
que
1
Fn (x) = #{1 6 i 6 n : Xi 6 x}, x ∈ R.
n
Alors,
sup |Fn (x) − F (x)| → 0, p.s.
x∈R

Preuve. Soit M > 2 un entier. Pour chaque 1 6 k 6 M − 1, on peut trouver un nombre


k
réel xk tel que F (xk − 0) 6 M 6 F (xk ). Par exemple, on peut prendre xk = inf{x ∈ R :
k
F (x) > M }. Posons en plus x0 := −∞ et xM := +∞. Pour chaque x fixé, la loi forte
des grands nombres nous confirme que Fn (x) converge p.s. vers F (x), et que Fn (x − 0)
converge p.s. vers F (x − 0). Donc il existe A ∈ F avec P(A) = 1 tel que

∀ω ∈ A, ∃n0 = n0 (ω, M ) < ∞ tel que pour 0 6 k 6 M et n > n0 ,


1 1
|Fn (xk , ω) − F (xk )| 6 , |Fn (xk − 0, ω) − F (xk − 0)| 6 .
M M

Soit x ∈ ]xk−1 , xk [ . Si ω ∈ A et n > n0 , on a

1
Fn (x) − F (x) 6 Fn (xk − 0) − F (xk−1 ) 6 F (xk − 0) + − F (xk−1 )
M
k 1 k−1 2
6 + − = ,
M M M M
et
1
Fn (x) − F (x) > Fn (xk−1 ) − F (xk − 0) > F (xk−1 ) − − F (xk − 0)
M
k−1 1 k 2
> − − =− .
M M M M
D’où : supx∈R |Fn (x) − F (x)| 6 2/M pour ω ∈ A et n > n0 , ce qui implique que
 
2
P lim sup sup |Fn (x) − F (x)| 6 = 1.
n→∞ x∈R M

La valeur de M > 2 étant quelconque, on obtient le résultat. ⊔


3. Preuve de la loi des grands nombres


78 — Chapitre 8. Loi des grands nombres —

(Cette preuve ne fait pas partie du programme de l’examen.)


Soient X1 , X2 , · · · des v.a. réelles i.i.d. telles que E(|X1 |) < +∞. On montre que
S(n) Pn
n
→ E(X1 ), p.s., où S(n) := i=1 Xi .
Il suffit de démontrer le résultat pour les v.a. positives (sinon on considèrera les parties
positives et les parties négatives, séparément). On suppose donc Xn > 0.
La démonstration se fait en plusieurs étapes.

Pn S(n)−T (n)
Lemme 3.1. Soient Yk := Xk 1{Xk 6k} (k > 1) et T (n) := k=1 Yk . Alors n
→ 0,
p.s.

P∞ P∞ P∞
Preuve. On a n=1 P(Xn > n) = n=1 P(X1 > n) = n=1 P(⌊X1 ⌋ > n) = E(⌊X1 ⌋) <
∞. Par la première partie du lemme de Borel–Cantelli, il existe A ∈ F avec P(A) = 1 tel
que pour tout ω ∈ A, il existe n0 = n0 (ω) < ∞ satisfaisant Xn (ω) < n (n > n0 ). Donc
Yn (ω) = Xn (ω). Ceci implique que S(n) − T (n) = S(n0 ) − T (n0 ) pour tout ω ∈ A et tout
n > n0 . ⊔

E(T (n))
Lemme 3.2. n
→ E(X1 ), n → ∞.

Preuve. Par le théorème de convergence dominée (ou par le théorème dePconvergence


n
E(Yk )
monotone), E(Yk ) = E(X1 1{X1 6k} ) → E(X1 ) (k → ∞). Donc E(Tn(n)) = k=1
n

E(X1 ), n → ∞. ⊔

Lemme 3.3.

X Var(Yk )
6 8E(X1 ).
k2
k=1

R∞
Preuve. Remarquons d’abord que E(Z p ) = P(Z > x)pxp−1 dx, pour toute v.a. pos-
0 R∞
itive Z et tout p > 0. En effet, par le théorème de Fubini, 0 P(Z > x)pxp−1 dx =
R∞R R R∞ R
0
1
Ω {Z(ω)>y 1/p }
dP(ω) dy = Ω 0 1{Z(ω)>y1/p } dy dP(ω) = Ω Z p (ω) dP(ω) = E(Z p ).
Donc Z ∞
Var(Yk ) 6 E(Yk2 ) =2 P(Yk > x)x dx
0
Z k Z k
=2 P(Yk > x)x dx = 2 P(Xk > x)x dx
0 0
Z k
=2 P(X1 > x)x dx.
0
— Chapitre 8. Loi des grands nombres — 79

Par le théorème de Fubini,


X∞ X∞ Z ∞
Var(Yk ) P(X1 > x)x1{x6k}
2
62 dx
k 0 k2
k=1 k=1
Z ∞ X ∞
!
P(X1 > x)x1{x6k}
=2 dx
0 k2
k=1
!  
Z 1 ∞
X 1 Z ∞ X
 1
62 P(X1 > x)x dx + 2 P(X 1 > x)x dx.
0 k2 1 k2
k=1 k: k>⌊x⌋

Pour j > 1,
X∞ X∞ X∞
1 1 1 1 1
2
= 2+ 2
6 +
k j k j k(k − 1)
k=j k=j+1 k=j+1
X∞  
1 1 1 1 1 2
= + − = + = .
j k−1 k j j j
k=j+1

D’où :

X Z 1 Z ∞
Var(Yk ) P(X1 > x)x
64 P(X1 > x)x dx + 4 dx
k2 0 1 ⌊x⌋
k=1
Z 1 Z ∞
64 P(X1 > x)x dx + 8 P(X1 > x) dx
0 1
Z ∞
68 P(X1 > x) dx = 8E(X1 ). ⊔

0

T (nj )
Lemme 3.4. Fixons θ > 1, et soit nj := ⌊θ j ⌋. Alors nj
→ E(X1 ), p.s.

Preuve. Si ε > 0 et Aj := {|T (nj ) − E(T (nj ))| > εnj }, alors par l’inégalité de Bienaymé–
Tchebychev, Pnj
Var(T (nj )) k=1 Var(Yk )
P(Aj ) 6 = .
ε2 n2j ε2 n2j
D’après le théorème de Fubini,

X ∞
X X Var(Yk )
P(Aj ) = .
j=1
ε2 n2j
k=1 j>1: nj >k

Puisque nj = θ j /2, on a
X 1 X 1 4k −2
64 6 ,
n2j θ 2j 1 − θ −2
j>1: nj >k j∈Z, θj >k
80 — Chapitre 8. Loi des grands nombres —

car il s’agit d’une série géométrique dont le premier terme est majoré par k −2 . Par
conséquent,
X ∞ ∞
X
4 Var(Yk ) 32E(X1 )
P(Aj ) 6 −2 2
6 < ∞,
j=1
1−θ k 1 − θ −2
k=1

(voir le Lemme 3.3). D’après la première partie du lemme de Borel–Cantelli, il existe


B ∈ F avec P(B) = 1 tel que si ω ∈ B, alors on puisse trouver j0 = j0 (ω) < ∞ tel
|T (nj )−E(Tnj ))|
que |T (nj ) − E(Tnj ))| 6 ε nj pour tout j > j0 . Donc lim supj→∞ nj
6 ε, p.s.
T (nj )−E(Tnj ))
Comme ε > 0 est quelconque, on a nj → 0, p.s. On peut conclure en utilisant
E(Tnj ))
le fait que nj → E(X1 ) (voir le Lemme 3.2). ⊔

T (n)
Lemme 3.5. n → E(X1 ), p.s.

Preuve. Pour chaque n, on peut trouver j tel que nj−1 6 n < nj . La suite (T (n))n>1
étant croissante (somme de variables positives), on a

T (nj−1 ) T (n) T (nj )


6 6 .
nj n nj−1
nj
En faisant n (donc j) tendre vers +∞, et à l’aide du fait que nj−1 → θ (j → ∞), on
obtient, grâce au Lemme 3.4,
 
E(X1 ) T (n) T (n)
P 6 lim inf 6 lim sup 6 θ E(X1 ) = 1.
n n→∞ n n→∞ n

T (n)
La constante θ > 1 étant quelconque, ceci implique que n
→ E(X1 ), p.s. ⊔

La loi forte des grands nombres est une conséquence des Lemmes 3.1 et 3.5. On
remarque que l’indépendance des v.a. {Xn }n>1 n’a pas vraiment été utilisée : elle peut
être remplacée par l’indépendance deux-à-deux. ⊔

— Chapitre 9. Convergence en loi — 81

Chapitre 9. Convergence en loi

On introduit un nouveau concept de convergence pour une suite de v.a., qui ne dépend
cette fois que de la loi de chacune de ces v.a.

1. Convergence en loi d’une suite de v.a.


Définition 1.1. On dit qu’une suite de v.a. X1 , · · ·, Xn , · · · à valeurs dans RN (donc une
suite de vecteurs aléatoires) converge en loi vers une v.a. X (à valeurs dans RN ) si, pour
toute fonction f continue bornée sur RN ,

E (f (Xn )) → E (f (X)) .

Remarque. (i) Les v.a. X1 , · · ·, Xn , · · · ne sont pas nécessairement définies sur un même
espace de probabilité.
(ii) Même si les v.a. X1 , · · ·, Xn , · · · sont définies sur un même espace de probabilité,
la convergence en loi a cette particularité qu’elle a encore lieu si l’on remplace chaque Xn
par Yn qui a la même loi que Xn (c’est-à-dire PXn = PYn quel que soit n). Ceci n’est pas
vrai pour les autres convergences (p.s., en probabilité ou dans Lp ). ⊔

Propriété 1.2. {Xn }n>1 converge en loi vers X si et seulement si pour toute fonction f
continue à support compact,

(∗) E (f (Xn )) → E (f (X)) .

Preuve. Supposons que (∗) est vérifiée par toute fonction continue à support compact.
Soit f > 0 une fonction continue bornée et ε > 0 fixé. Donc |f (x)| 6 C pour une constante
C > 0 et tout x ∈ RN .
82 — Chapitre 9. Convergence en loi —

ε
Il existe une fonction ϕ continue à support compact avec ϕ 6 1 et E(ϕ(X)) > 1 − 5C .
ε
On déduit qu’il existe donc un entier n0 tel que E(ϕ(Xn )) > 1 − 4C dès que n > n0 .
D’autre part, la fonction f ϕ est continue et à support compact; on sait donc trouver un
entier n1 tel que

|E(ϕ(Xn )f (Xn )) − E(ϕ(X)f (X))| < ε/2 dès que n > n1 .

On a alors pour tout n > n0 + n1 ,

|E(f (Xn )) − E(f (X))| 6 |E(ϕ(X)f (X)) − E(ϕ(Xn )f (Xn ))|


+ |E[(1 − ϕ(X))f (X)]| + |E[(1 − ϕ(Xn ))f (Xn)]|
ε
6 + C E(1 − ϕ(X)) + C E(1 − ϕ(Xn ))
2
ε ε ε
6 + + < ε.
2 5 4

Ceci montre la convergence en loi. ⊔


Comparons maintenant la convergence en loi avec les autres types de convergence pour
des suites de v.a.

Propriété 1.3. Si X1 , · · ·, Xn , · · · est une suite de v.a. réelles qui converge en probabilité
vers une v.a. X (en particulier, si la convergence a lieu dans Lp (Ω, F , P), ou p.s.), alors
Xn converge également vers X en loi.

Preuve. On sait que de toute sous-suite, on peut extraire une sous-sous-suite qui converge
p.s. vers X. En appliquant le théorème de convergence dominée (|f (Xn)| reste dominé
par supR |f (x)| < ∞), on voit que E(f (Xn )) → E(f (X)) le long de cette sous-sous-suite.
Comme ce résultat est valable pour toute suite extraite, on a bien limn→∞ E(f (Xn )) =
E(f (X)). ⊔

La réciproque est bien sûr fausse (si X1 , · · ·, Xn , · · · est une suite de v.a. i.i.d., par
exemple de Bernoulli, il est facile de vérifier que Xn ne converge pas en probabilités,
puisque le critère de Cauchy ne peut pas être vérifié). Cependant, on a une réciproque
très partielle.

Propriété 1.4. Si une suite de v.a. réelles {Xn }n>1 définies sur un même espace proba-
bilisé converge en loi vers X qui est une constante p.s., alors la convergence a également
lieu en probabilité.
— Chapitre 9. Convergence en loi — 83

Preuve. Soit Xn → c en loi (avec c ∈ R). Soit ε > 0. On peut trouver une fonction ϕ
continue sur R telle que ϕ(c) = 1 et que ϕ(x) 6 1{|x−c|6ε} . Donc

P (|Xn − c| 6 ε) > E (ϕ(Xn )) → E (ϕ(c)) = 1.

Par conséquent, Xn → c en probabilité. ⊔


2. Cas des v.a. à valeurs entières


Etudions la convergence en loi pour des v.a. entières, où les résultats sont très simples.
Rappelons que pour toute v.a. X à valeurs dans N, la fonction génératrice GX de X est
P∞
la fonction sur [0, 1] définie par GX (s) := E(sX ) = n=0 sn P(X = n).

Propriété 2.1. Soient X1 , · · ·, Xn , · · · des v.a. à valeurs dans N. Les assertions suivantes
sont équivalentes :
(i) Xn converge vers X en loi.
(ii) Pour chaque k ∈ N, on a limn→∞ P(Xn = k) = P(X = k).
(iii) GXn converge simplement vers GX sur [0, 1].

Preuve. (i) ⇒ (ii) : Prendre pour f une fonction continue bornée qui vaut 1 en k et 0 pour
les autres entiers.
(ii) ⇒ (i) : Soit f une fonction continue à support compact, disons dans [0, M ] (où
M ∈ N). On a

M
X M
X
E (f (Xn )) = f (k)P (Xn = k) → f (k)P (X = k) = E (f (X)) .
k=0 k=0

D’après la Propriété 1.2, on a la convergence en loi.


(ii) ⇒ (iii) : Même argument que ci-dessus en ajoutant la convergence dominée.
(iii) ⇒ (ii) : Admise. ⊔

3. Convergence en loi et fonctions de répartition


On va ensuite étudier la convergence en loi des v.a. réelles à l’aide de leurs fonctions
de répartition FXn . On dira qu’un réel x est un point de continuité d’une fonction de
répartition FX si FX (x) = FX (x−), et que c’est un point de discontinuité sinon. Autrement
84 — Chapitre 9. Convergence en loi —

dit, x est un point de discontinuité pour FX si et seulement si la loi de X, PX , a un atome


en x.

Théorème 3.1. Soient X1 , · · ·, Xn , · · · une suite de v.a. réelles. Soit FX la fonction de


répartition d’une v.a. réelle X. Les assertions suivantes sont équivalentes :
(1) Xn converge en loi vers X.
(2) Si x est un point de continuité de FX , alors limn→∞ FXn (x) = FX (x).

Preuve. La preuve se fait en deux étapes distinctes.


Première étape : montrons que (1) ⇒ (2). Pour tout ε > 0, il existe une fonction
ϕε : R → [0, 1] continue telle que ϕε (t) = 1 si t 6 x et ϕε (t) = 0 si t > x + ε. On a alors
d’une part
lim E(ϕε (Xn )) = E(ϕε (X)) 6 P(X 6 x + ε) = FX (x + ε).
n→∞

Or E(ϕε (Xn )) > P(Xn 6 x) = FXn (x), et donc lim supn→∞ FXn (x) 6 FX (x + ε). Comme
ε > 0 peut être arbitrairement petit et que FX est continue à droite, on déduit que

lim sup FXn (x) 6 FX (x).


n→∞

Pour établir l’inégalité réciproque, on prend une fonction continue ψε : R → [0, 1]


telle que ψε (t) = 1 si t 6 x − ε et ψε (t) = 0 si t > x. Comme précédemment, on tire cette
fois dans un premier temps

lim E(ψε (Xn )) = E(ψε (X)) > P(X 6 x − ε) = FX (x − ε),


n→∞

puis lim inf n→∞ FXn (x) > FX (x − ε). Comme, par hypothèse, FX (x−) = FX (x) et ε > 0
peut être pris arbitrairement petit, on a finalement lim inf n→∞ FXn (x) > FX (x). D’où
FXn (x) → FX (x).
Deuxième étape : (2) ⇒ (1). Supposons maintenant que limn→∞ FXn (x) = FX (x)
pour tout point de continuité x de FX .
Admettons pour l’instant qu’il existe des variables aléatoires réelles (Yn )n>1 et Y telles
que FXn = FYn (pour tout n > 1), FX = FY et que Yn → Y p.s. (Ceci est un cas spécial
de ce qui porte le nom de la “construction de Skorokhod”).
Puisque Yn → Y p.s., par convergence dominée, on a, pour toute fonction f continue
et bornée, on a E(f (Yn )) → E(f (Y )) (n → ∞). Or, E(f (Yn )) = E(f (Xn )) (pour tout n),
et E(f (Y )) = E(f (X)), on obtient la convergence en loi de (Xn ) vers X.
Il reste donc de montrer l’existence des v.a. (Yn )n>1 et Y vérifiant les propriétés ci-
dessus. [Cette preuve ne fait pas partie du programme de l’examen.] Soient Ω = ]0, 1[ ,
— Chapitre 9. Convergence en loi — 85

F la tribu borélienne de Ω, et soit P la mesure de Lebesgue sur Ω (attention : les v.a.


“invisibles” (Xn )n>1 et X n’ont rien à voir avec notre espace de probabilité (Ω, F , P)).
Définissons Yn (ω) := inf{y ∈ R : FXn (y) > ω}, Y (ω) := inf{y ∈ R : FX (y) > ω}, et
U (ω) := ω, ω ∈ Ω. Il est clair que U suit la loi uniforme sur [0, 1] (on peut le vérifier par
exemple en calculant sa fonction de répartition.) D’après la Proposition 5.1 du Chapitre
4, FYn = FXn , pour chaque n, et FY = FX . Il suffit alors de montrer que Yn (ω) → Y (ω),
en tout ω ∈ Ω sauf sur un ensemble au plus infini dénombrable.
Commençons par identifier l’ensemble exceptionnel. Soient pour tout ω ∈ Ω, a(ω) :=
inf{y ∈ R : FX (y) > ω} et b(ω) := inf{y ∈ R : FX (y) > ω} = Y (ω). Il est clair que
a(ω) 6 b(ω) et b(ω) 6 a(ω ′ ), quels que soient ω ∈ Ω et ω ′ ∈ Ω avec ω ′ > ω. Posons
Ω0 := {ω ∈ Ω : a(ω) = b(ω)}. L’ensemble Ω − Ω0 est au plus infini dénombrable, car
{ ]a(ω), b(ω)[ ; ω ∈ Ω − Ω0 } est une famille d’intervalles ouverts disjoints dont chacun
contient un rationnel différent.
On montre maintenant que Yn (ω) → Y (ω) pour tout ω ∈ Ω0 .
Fixons ω ∈ Ω0 . Soit z < Y (ω) = b(ω) tel que FX soit continue en z. Puisque
z < a(ω) = inf{y ∈ R : FX (y) > ω}, on a FX (z) < ω. Par hypothèse, FXn (z) → FX (z)
(n → ∞), on a FXn (z) < ω lorsque n est suffisamment grand, disons n > n0 . Donc
z 6 Yn (ω), n > n0 . D’où lim inf n→∞ Yn (ω) > z. Comme z peut être aussi proche de Y (ω)
que l’on veut, on obtient lim inf n→∞ Yn (ω) > Y (ω).
Réciproquement, fixons ω ∈ Ω0 , et soit z > Y (ω) = inf{y ∈ R : FX (y) > ω} tel que
FX soit continue en z. On a FX (z) > ω. Puisque FXn (z) → FX (z), on a FXn (z) >
ω si n > n0 , ce qui nous donne Yn (ω) 6 z (n > n0 ), d’où lim supn→∞ Yn (ω) 6 z.
Faisant z tendre vers Y (ω) le long d’une suite de points de continuité de FX , on obtient
lim supn→∞ Yn (ω) 6 Y (ω). Par conséquent, Yn (ω) → Y (ω) pour tout ω ∈ Ω0 . ⊔

La construction de Skorokhod nous confirme que Xn → X en loi équivaut à l’existence


des variables aléatoires réelles (Yn )n>1 et Y telles que PXn = PYn (pour tout n > 1),
PX = PY et que Yn → Y p.s. Ceci aide à affaiblir les conditions dans certains résultats.
Voici un exemple.

Proposition 3.2 (lemme de Fatou). Si Xn > 0 (pour tout n > 1) et si Xn → X en loi,


alors lim inf n→∞ E(Xn ) > E(X).

Preuve. Quitte à changer l’espace, il existe des variables aléatoires réelles (Yn )n>1 et
Y telles que PXn = PYn (pour tout n > 1), PX = PY et que Yn → Y p.s. Comme
Yn > 0, le lemme de Fatou usuel nous donne lim inf n→∞ E(Yn ) > E(Y ), ce qui signifie
alors lim inf n→∞ E(Xn ) > E(X). ⊔

86 — Chapitre 9. Convergence en loi —

Exemple 3.3. Le Théorème 3.1 nous dit que si FXn converge simplement vers FX (fonc-
tion de répartition de la v.a. X), alors Xn converge en loi vers X. En général, si FXn
converge simplement vers une fonction disons F , F n’est pas nécessairement la fonction de
répartition associée à une loi de probabilité sur R. Par exemple, soit pour n > 1,
(
0 si x 6 −n,
FXn (x) = (x + n)/(2n), si −n < x 6 n,
1 si x > n.

FXn est une suite de fonctions continues croissantes sur R, avec limx→−∞ FXn (x) = 0
et limx→∞ FXn (x) = 1, donc une suite de fonctions de répartition (en fait, FXn est la
fonction de répartition de la loi uniforme sur l’intervalle [−n, n]). Pourtant, FXn converge
simplement vers 1/2, qui n’est pas une fonction de répartition. ⊔

Exemple 3.4. Il est à remarquer que la convergence en loi de Xn vers X n’implique pas
nécessairement Fn (x) → F (x) en tout x ∈ R. Par exemple, soit Xn = X + n1 . On a
Xn → X p.s., donc on a a fortiori la convergence en loi. Pourtant, FXn (x) = P(Xn 6 x) =
P(X 6 x − n1 ) = FX (x − n1 ) → FX (x−). Donc on a Fn (x) → F (x) seulement si x est un
point de continuité de FX . ⊔

Théorème 3.5 (théorème de Slutsky). Soient {Xn }n>1 et {Yn }n>1 deux suites de v.a.
réelles définies sur un même espace de probabilité. Si Xn converge en loi vers X, et si Yn
converge en loi vers c ∈ R, alors
(1) Xn + Yn → X + c en loi;
(2) Xn Yn → c X en loi;
Xn X
(3) Yn → c en loi, si c 6= 0.

Preuve. On vérifie seulement (1), la preuve de (2) et (3) étant tout à fait dans le même
esprit.
Fixons x ∈ R un point de continuité de FX+c (ce qui revient à dire que x − c est un
point de continuité de FX ). On peut trouver une suite {εk }k>0 de positifs qui décroissant
vers 0 tel que x − c + εk et x − c − εk soient tous des points de continuité de FX (ce
qui est possible car l’ensemble des points de discontinuité d’une fonction monotone est
dénombrable). On a, pour chaque k > 1,

FXn +Yn (x) = P (Xn + Yn 6 x)


6 P (Xn + Yn 6 x, |Yn − c| 6 εk ) + P (|Yn − c| > εk )
6 P (Xn 6 x − c + εk ) + P (|Yn − c| > εk ) .
— Chapitre 9. Convergence en loi — 87

En faisant n tendre vers l’infini, ceci donne

lim sup FXn +Yn (x) 6 lim sup FXn (x − c + εk ) = FX (x − c + εk ).


n→∞ n→∞

Comme εk peut être arbitrairement proche de 0, on obtient,

lim sup FXn +Yn (x) 6 FX (x − c).


n→∞

De même, on a, pour tout k > 1,

P (Xn 6 x − c − εk ) 6 P (Xn + Yn 6 x) + P (|Yn − c| > εk ) ,

et donc
FX (x − c − εk ) 6 lim inf FXn +Yn (x), ∀k > 1,
n→∞

ce qui implique que


FX (x − c) 6 lim inf FXn +Yn (x).
n→∞

Donc
lim FXn +Yn (x) = FX (x − c) = FX+c (x),
n→∞

pour tout x point de continuité de FX+c . ⊔


4. Convergence en loi et fonctions caractéristiques


Pour conclure ce chapitre, on présente un résultat extrêmement utile pour savoir si
une suite de v.a. converge en loi, et déterminer sa limite. On rappelle qu’on note ϕY la
fonction caractéristique d’une v.a. Y .

Théorème 4.1. On considère comme à l’accoutumée une suite de v.a. X, X1 , · · ·, Xn ,


· · · à valeurs dans RN . Les conditions suivantes sont équivalentes :
(1) Xn converge en loi vers X.
(2) ϕXn converge simplement vers ϕX .

Preuve. (1) ⇒ (2) : Pour tout t ∈ RN , la fonction x → eiht,xi est continue et bornée. On
a donc    
iht,Xn i iht,Xi
ϕXn (t) = E e → E e = ϕX (t).

(2) ⇒ (1) : Pour simplifier, nous allons supposer que la dimension est N = 1; le cas
général est similaire, mais avec des notations plus lourdes. Supposons tout d’abord que
88 — Chapitre 9. Convergence en loi —

f est une fonction continue à support compact, dont la transformée de Fourier fb(t) =
R −2πitx
R
e f (x) dx est dans L1 (R). On sait par Fourier inverse que
Z
f (x) = e2πitx fb(t) dt.
R

On a donc en appliquant le théorème de Fubini (justifié)


Z 
E (f (Xn )) = E e fb(t) dt
2πitXn
R
Z Z

2πitXn b
= E e f (t) dt = b dt.
ϕXn (2πt)f(t)
R R

Par hypothèse, on sait que ϕXn (2πt) converge vers ϕX (2πt) pour chaque t. D’autre part,
|ϕXn (2πt)| 6 1 pour tout t ∈ R. Comme fb est intégrable, le théorème de convergence
dominée s’applique, et on tire
Z
(∗) lim E (f (Xn )) = b dt = E (f (X)) .
ϕX (2πt)f(t)
n→∞ R

Ensuite on remarque que la condition fb ∈ L1 (R) est satisfaite pour toute fonction
f de classe C 2 à support compact. En effet, la transformée de Fourier de f ′′ est t2 fb(t)
(intégration par parties), et on sait que c’est une fonction bornée. On a donc fb(t) = O(t−2 )
à l’infini, et comme fb est elle aussi bornée, c’est bien une fonction intégrable. Ainsi, on
sait que (∗) est vérifiée pour toute fonction f de classe C 2 à support compact. L’extension
de (∗) pour toute fonction continue à support compact est omise. ⊔

Exemple 4.2. Supposons que pour chaque n > 1, Xn et Yn sont indépendantes, et que
X et Y sont indépendantes. Si Xn converge en loi vers X, et si Yn converge en loi vers Y ,
alors Xn + Yn converge en loi vers X + Y .
En effet, par le Théorème 4.1, pour tout t ∈ R, ϕXn (t) → ϕX (t) et ϕYn (t) → ϕY (t).
Grâce à l’indépendance, ϕXn +Yn (t) = ϕXn (t)ϕYn (t) → ϕX (t)ϕY (t) = ϕX+Y (t). Donc
Xn + Yn converge en loi vers X + Y . ⊔

Exemple 4.3. Supposons que pour chaque n > 1, PXn = N (µn , σn2 ). Si µn → µ, et
σn2 → σ 2 , alors Xn converge en loi vers N (µ, σ 2 ).
En effet, ϕXn (t) = exp(iµn t − σn2 t2 /2) → exp(iµt − σ 2 t2 /2), qui est la fonction car-
actéristique en t de la loi N (µ, σ 2 ). Par le Théorème 4.1, Xn converge en loi vers N (µ, σ 2 ).


— Chapitre 9. Convergence en loi — 89

Exemple 4.4. Soient W1 , W2 , · · · des variables aléatoires indépendantes suivant la même


Pn
loi uniforme sur [−1, 1]. On cherche à étudier la convergence en loi de n1 j=1 W1j . (Rappel :
R ∞ 1−cos(y)
0 y2 dy = π2 .)
On remarque que la loi forte des grands nombres appliquée à la suite de variables
aléatoires iid ( W1j )j>1 ne nous donne rien d’intéressant, car W1j n’admet pas de moment
d’ordre 1. On essaie donc d’appliquer le Théorème 4.1.
La fonction caractéristique de 1/W1 vaut
Z Z 1 Z ∞
1 1 it/x −it/x cos(y)
ϕ1/W1 (t) = (e +e ) dx = cos(t/x) dx = |t| dy,
2 0 0 |t| y2
R∞ 1−cos(y) π
avec un changement de variables x = |t|/y. D’après le rappel, 0 y2 dy = 2. Donc
on peut écrire que quand t → 0,
Z ∞
1 − cos(y)
ϕ1/W1 (t) = 1 − |t| dy
|t| y2
Z |t|
π |t| 1 − cos(y)
=1− + |t| dy
2 0 y2
π |t|
=1− + o(|t|).
2
Pn
Soit Tn = n1 j=1 W1j . Alors pour tout t ∈ R fixé,
 n
 n π |t|
ϕTn (t) = ϕ1/W1 (t/n) = 1− + o(n−1 ) → e−π|t|/2 .
2n
Donc Tn converge en loi vers πC/2, où C est une variable aléatoire suivant la loi de Cauchy
standard. ⊔

Une difficulté possible quand on cherche à appliquer le Théorème 4.1, est que l’on doit
savoir a priori que la limite des fonctions caractéristiques ϕXn est elle aussi une fonction
caractéristique. Cela n’a rien d’automatique.

Exemple 4.5. Soit PXn = N (0, n), alors ϕXn (t) = exp(−nt2 /2) → 0 pour t 6= 0 et
ϕXn (0) = 1 pour tout n > 1.
Pourtant il n’y a pas de convergence en loi pour PXn . En effet, la fonction indicatrice
du singleton 0 (qui est la limite simple de ϕXn ) ne peut être une fonction caractéristique
associée à une loi de probabilité sur R car elle n’est pas continue sur R. ⊔

Même si le théorème de Bochner énoncé dans le Chapitre 6 donne une condition


nécessaire et suffisante pour qu’une fonction soit la fonction caractéristique d’une loi de
90 — Chapitre 9. Convergence en loi —

probabilite, cette condition n’est pas toujours facile à vérifer. On admet le critère suivant
très simple qui porte souvent le nom de Paul Lévy :

Théorème 4.6. Si pour chaque n > 1, ϕn est la fonction caractéristique d’une loi de
probabilité sur RN , et si ϕn converge simplement vers une fonction ϕ qui est continue en
0, alors ϕ est la fonction caractéristique d’une loi de probabilité sur RN .

Autrement dit, si l’on sait que la suite des fonctions caractéristiques ϕXn concerge
simplement vers une fonction ϕ qui est continue en 0, alors Xn converge en loi vers une
v.a. X dont la fonction caractéristique est ϕ.

Exemple 4.7. Soit {Un }n>1 une suite i.i.d. de v.a. telle que P(U1 = 1) = P(U1 = −1) =
1/2. Soit
Xn
Uj
Xn := .
j=1
2j

On a, pour tout t ∈ R, ϕUj (t) = E(eitUj ) = (eit + e−it )/2 = cos(t). Donc

n
Y   n
Y  
t t sin(t) sin(t)
ϕXn (t) = ϕUj = cos = → ,
j=1
2j j=1
2j 2n n
sin(t/2 ) t

qui est une fonction continue en 0, et est donc d’après le Théorème 4.6 la fonction car-
actéristique d’une loi de probabilité. En fait, il s’agit de la fonction caractéristique de
la loi uniforme sur (−1, 1) : soit X une v.a. suivant la loi uniforme sur (−1, 1), alors
R1
ϕX (t) = 21 −1 eitx dx = (eit − e−it )/(2it) = sin(t)
t .
Par conséquent, Xn converge en loi vers X. ⊔

— Chapitre 10. Théorème central limite — 91

Chapitre 10. Théorème central limite

1. Retour sur la loi faible des grands nombres


Nous allons tout d’abord établir la loi faible des grands nombres (i.e., pour la conver-
gence en probabilité, et non pas pour la convergence presque sûre) sous la seule hypothèse
de finitude du moment d’ordre 1. Rappelons ce dont il s’agit :

Théorème 1.1. (Loi faible des grands nombres). On se donne X1 , · · ·, Xn , · · · une


suite de v.a. réelles i.i.d., avec E(|X1 |) < ∞; on note Sn = X1 +· · ·+Xn la somme partielle
au rang n. Alors Sn /n converge en probabilité vers la moyenne E(X1 ) ∈ R.

Preuve. Etablissons d’abord la stratégie. Pour cela, on sait qu’il suffit de montrer la con-
vergence en loi (puisque la limite est une constante). A cette fin, on va calculer la fonction
caractéristique de Sn /n et vérifier qu’elle converge bien vers la fonction caractéristique de
la constante E(X1 ).

Notons ϕX (t) = E eitX (t ∈ R) la fonction caractéristique de X. Comme les v.a.
X1 , · · ·, Xn sont indépendantes et toutes de même loi que X, la fonction caractéristique
de Sn est ϕSn = ϕnX . On a donc
 
itSn /n
ϕSn /n (t) = E e = ϕSn (t/n) = ϕX (t/n)n .

On veut étudier le comportement du terme de droite quand n → ∞. Pour cela, on le


n
réécrit comme (1 − (1 − ϕX (t/n))) , et on se souvient (voir la Proposition 3.1 du Chap.
6) de ce que
ϕX (0) = 1 , ϕ′X (0) = i E(X).

On sait donc que 1 − ϕX (t/n) ∼ −itE(X)/n quand n → ∞. Il en découle que

ln ϕSn /n (t) = n ln (1 − (1 − ϕX (t/n))) ∼ itE(X).


92 — Chapitre 10. Théorème central limite —

En prenant l’exponentielle, on tire finalement

ϕSn /n (t) ∼ eitE(X) .

Or le terme de droite est la fonction caractéristique de la v.a. constante E(X); c’est


précisément ce qu’on cherchait à établir. ⊔

C’est cette même idée qui va servir à établir un résultat du second ordre pour la
moyenne de Césaro, le théorème central limite.

2. Théorème central limite


Le théorème central limite est l’un des résultats les plus importants de la théorie des
probabilités. De façon informelle, ce théorème donne une estimation très précise de l’erreur
qu’on commet en approchant la moyenne mathématique par la moyenne empirique (i.e. la
moyenne de Césaro).
Il a d’abord été observé par Gauss, qui l’appelait la loi des erreurs; mais ce dernier
n’en a pas donné de démonstration rigoureuse. La preuve en a été apportée par Moivre et
Laplace, le théorème porte parfois leurs noms. La dénomination actuelle est apparue vers
1950 (en anglais : central limit theorem, ce qu’on a parfois traduit à tort par “le théorème
de la limite centrale”).

Théorème 2.1 (Théorème Central Limite). Soient X1 , · · ·, Xn , · · · une suite de v.a.


réelles i.i.d., avec E(X 2 ) < ∞. On note Sn = X1 + · · · + Xn la somme partielle au rang n,
et σ 2 = Var(X). Alors

Sn − nE(X)
lim √ = N (0, σ 2 ) en loi,
n→∞ n

où l’on a noté N (0, σ 2) la loi de Gauss centrée et de variance σ 2 , i.e. la loi sur R :
 
1 x2
√ exp − 2 dx.
2πσ 2 2σ

Remarque. Sous les conditions du théorème, pour tous réels a < b, lorsque n tend vers
l’infini,
 
Sn − nE(X)
P √ < a → Φ(a),
σ n
— Chapitre 10. Théorème central limite — 93

 
Sn − nE(X)
P √ 6 a → Φ(a),
σ n
 
Sn − nE(X)
P a< √ < b → Φ(b) − Φ(a),
σ n
 
Sn − nE(X)
P a6 √ 6 b → Φ(b) − Φ(a). ⊔

σ n

Preuve du Théorème 2.1. On va adopter la même approche que dans la preuve de la


loi faible des grands nombres, mais au second ordre au lieu du premier ordre. Quitte à
remplacer X par X − E(X), on peut supposer que E(X) = 0.

Rappelons que la fonction caractéristique de Sn / n est donnée par

ϕSn /√n (t) = ϕX (t/ n )n .

D’autre part, comme X a un moment d’ordre 2, sa fonction caractéristique est de classe


C 2 , et son developpement de Taylor à l’origine est donné par

t2 ′′
ϕX (t) = 1 + tϕ′X (0) + ϕ (0) + o(t2 ), t → 0.
2 X

Le fait que E(X) = 0 et E(X 2 ) = σ 2 entraine que ϕ′X (0) = 0 et ϕ′′X (0) = −σ 2 . Autrement
dit, on a
σ 2 t2
ϕX (t) = 1 − + o(t2 ), t → 0.
2
Il en découle que pour chaque t ∈ R fixé
 
√ σ 2 t2 σ 2 t2
n ln ϕX (t/ n ) ∼ −n =− , n → ∞,
2n 2

et donc, en passant à l’exponentielle


 
σ 2 t2
ϕSn /√n (t) ∼ exp − .
2

Le terme de droite est la fonction caractéristique de la loi N (0, σ 2 ), et le théorème est


établi. ⊔

Exemple 2.2. On fait une suite indépendante de jets d’une pièce de monnaie parfaite.
On note n
1 si le k-ième jet est “Pile”,
Xk =
0 sinon.
94 — Chapitre 10. Théorème central limite —

Dans ce modèle simple, {Xk }k>1 est une suite iid de v.a. de Bernoulli (de paramètre 1/2),
avec
1 1
E(Xk ) = , Var(Xk ) = .
2 4
Par la loi forte des grands nombres, Sn /n converges presque sûrement vers 1/2, alors que
le théorème central limit confirme que

Sn − n/2
p
n/4

converge en loi vers une gaussienne centrée réduite. Autrement dit, lorsque n est suffisam-
ment grand,
 r 
n n
P |Sn − | 6 α ≈ P (|N | 6 α) = Φ(α) − Φ(−α) = 2Φ(α) − 1.
2 4

Regardons l’exemple de n = 10, 000 et α = 1, 96. On a Φ(α) ≈ 0, 975 et donc 2Φ(α) − 1 ≈


p
0, 95. On a aussi α n/4 = 98. L’identité ci-dessus nous dit que

P (4, 902 6 Sn 6 5, 098) ≈ 0, 95. ⊔


Exemple 2.3. On fait une suite indépendante d’essais de dés, et on note Xk le nombre
obtenu au k-ième essai. On a
E(Xk ) = (1 + 2 + 3 + · · · + 6)/6 = 7/2,
Var(Xk ) = (12 + 22 + · · · + 62 )/6 − (7/2)2 = 35/12.

La loi forte des grands nombres nous dit que lorsque n est grand, le score moyen Sn /n
devrait être proche de 3,5, tandis que d’après le théorème central limite,
r !
7n 35n
P |Sn − |6α ≈ P (|N | 6 α) = Φ(α) − Φ(−α) = 2Φ(α) − 1.
2 12
p
Prenons par exemple n = 10, 000 et α = 1, 96. On a 2Φ(α) − 1 ≈ 0, 95, 1, 96 35n/12 ≈
334, 8 et que
P (34, 666 6 Sn 6 35, 334) ≈ 0, 95.

Donc, avec 95% de chance, le score moyen se situe dans l’intervalle [34666, 35334].
Si l’on prend α = 0, 6744, on a Φ(α) = 0, 75 donc 2Φ(α) − 1 = 0, 5. Dans ce cas-là, si
p
l’on prend toujours n = 10, 000, on obtient 0, 6744 35n/12 ≈ 115, 2. Donc

P (34, 885 6 Sn 6 35, 115) ≈ 0, 50.


— Chapitre 10. Théorème central limite — 95

Donc le score moyen a à peu près autant de chance de tomber dans [34885, 35115] que de
tomber à l’extérieur. ⊔

R
Exemple 2.4. Soit µ une loi de probabilité sur R, avec R
x2 µ(dx) < ∞, ayant la propriété
suivante : si X et Y sont des v.a. indépendantes suivant la loi µ, alors X + Y et aX suivent
la même loi, pour certaine constante a ∈ R.
Pour éviter la situation triviale, on suppose que Var(X) > 0 (sinon, X sera presque
sûrement une constante).
En comparant les espérance et variance de X + Y et de aX, on obtient : 2E(X) =
aE(X) et 2Var(X) = a2 Var(X). Comme Var(X) > 0, ceci n’est possible que si a2 = 2 et
E(X) = 0.
Soit maintenant X1 , X2 , · · · une suite iid de v.a. suivant la loi µ. Par hypothèse,
X 1 + X 2 + · · · + X 4n
2n
a la même loi que X, donc converge en loi vers X. D’autre part, par la théorème central
limite,
X 1 + X 2 + · · · + X 4n
→ N (0, Var(X)), en loi,
2n
ce qui implique que X suit la loi gaussienne N (0, Var(X)).
Par conséquent, µ est une mesure gaussienne centrée. ⊔

Exemple 2.5. Soient X1 , X2 , · · · des v.a. réelles i.i.d. telles que X1 > 0, E(X1 ) = 1 et
Var(X1 ) = σ 2 ∈ ]0, +∞[ . Alors
√ √
2( Sn − n)
→ N (0, 1), en loi.
σ
√ √
2( Sn − n) Xn
En effet, on peut écrire σ = Yn , où
r !
Sn − n 1 Sn
Xn := √ , Yn := +1 .
nσ 2 2 n
Par le théorème central limite, Xn → N (0, 1) en loi, tandis que la loi forte des grands nom-
bres confirme que Yn → 1 p.s. On peut donc appliquer le théorème de Slutsky (Théorème
3.5 du Chapitre 9) pour conclure que Xn
Yn
→ N (0, 1) en loi. ⊔

Exemple 2.6. Soit f une fonction continue et bornée sur R. Alors, lorsque n → ∞,

X   Z
−n n − k nk 1 2
e f √ →√ e−x /2 f (x) dx,
n k! 2π R
k=0
n
X
−n nk 1
e → .
k! 2
k=0
96 — Chapitre 10. Théorème central limite —

On montre ces convergences en utilisant le théorème central limite. Soit X1 , X2 ,


· · · une suite iid de v.a. de Poisson de paramètre 1. On sait que, pour chaque n fixé,
Sn = X1 + · · · + Xn suit la loi de Poisson de paramètre n (puisque la fonction génératrice
de la loi de Poisson de paramètre n est s → e−n(1−s) ). Donc


X     
−n n − k nk n − Sn
e f √ =E f √ .
n k! n
k=0

D’autre part, d’après le théorème central limite,

n − Sn
√ → N (0, 1), en loi.
n

Comme f est continue et bornée sur R, par définition,


  
n − Sn
E f √ → E (f (N (0, 1))) ,
n

ce qui donne la première convergence.


Pour la seconde, il suffit de remarquer que
n
X  
−n nk Sn − n 1
e = P (Sn 6 n) = P √ 60 → P (N (0, 1) 6 0) = . ⊔

k! n 2
k=0

Exemple 2.7. Nous allons démontrer la formule de Stirling à l’aide du théorème central
limite. Prenons comme dans l’exercice précédent Sn la somme partielle d’une suite i.i.d.
de variables aléatoires de loi de Poisson de paramètre 1. On note Tn := S√ n −n
n
, et N
désigne une v.a. normale standard. On sait donc d’après le théorème central limite que
Tn converge en loi vers N . Pour chaque a > 0 fixé, la fonction fa (x) = min(|x|, a) est
continue et bornée sur R, donc

(∗) E (fa (Tn )) → E (fa (N )) , n → ∞.

D’autre part, pour une v.a. X quelconque avec E(X 2 ) < ∞,



0 6 E (|X| − fa (X)) = E (|X| − a)1{|X|>a}
 p
6 E |X|1{|X|>a} 6 E(X 2 ) P(|X| > a)
E(X 2 )
6 ,
a
— Chapitre 10. Théorème central limite — 97

à l’aide des inégalités de Cauchy–Schwarz et de Markov. Remarquons que E(Tn2 ) =


Var(Tn ) = 1 et que E(N 2 ) = 1. La convergence (∗) implique donc que
2
lim sup E(|Tn |) 6 E(|N |) + ,
n→∞ a
2
lim inf E(|Tn |) > E(|N |) − .
n→∞ a
Ceci signifie que E(|Tn |) → E(|N |). Puisque |x| = (x + x+ )/2 (où x+ est la partie positive
de x), et que E(Tn ) = 0 = E(N ), on a montré que

E(Tn+ ) → E(N + ).

Le terme de droite vaut


Z ∞
1 1
√ x exp{−x2 /2} dx = √ .
2π 0 2π
Quand au terme de gauche, on peut l’écrire comme

X∞   Xk  
−n nj j − n e−n nj nj+1
e √ = √ lim −
j=n+1
j! n n k→∞ j=n+1 (j − 1)! j!
 n+1 
e−n n nk+1
= √ lim −
n k→∞ n! k!
−n n+1 −n n

e n e n n
= √ = .
n n! n!

En remettant les pièces en place, on a donc démontré la formule de Stirling



e−n nn n 1
∼ √ . ⊔

n! 2π

Exemple 2.8. Soit (Xn )n>1 une suite de variables aléatoires i.i.d. à valeurs dans E (muni
de la tribu E). Soit A ∈ E. On s’intéresse à

Rn (ω) := #{1 6 i 6 n : Xi (ω) ∈ A}.


Pn
En écrivant Rn = i=1 1{Xi ∈A} , il est clair que Rn est une variable aléatoire réelle.
Les v.a. (1{Xi ∈A} )i>1 sont i.i.d., telles que E(1{Xi ∈A} ) = P(X1 ∈ A) et Var(1{Xi ∈A} ) =
P(X1 ∈ A)P(X1 ∈
/ A). Le théorème central limite confirme alors que

Rn − nP(X1 ∈ A)

n
98 — Chapitre 10. Théorème central limite —

converge en loi vers N (0, σ 2), où σ 2 := P(X1 ∈ A)P(X1 ∈


/ A). ⊔

Exemple 2.9. Soient Y1 , Y2 , · · · des variables aléatoires réelles indépendantes, suivant


qP N (0, 1).
toutes la loi gaussienne centrée réduite
Pn n 2
(i) Montrer que ( j=1 Yj )/ j=1 Yj converge en loi et préciser la loi limite.
P √
(ii) Soit c > 0. Déterminer si la série n P(Y n > c 2 ln n ) est convergente. On
2 R∞ 2
1
pourra utiliser les inégalités suivantes : pour tout x > 1, ( x − x13 )e−x /2 6 x e−u /2 du 6
1 −x2 /2
x
e .
(iii) Montrer que
Yn √
lim sup √ = 2, p.s.
n→∞ ln n
(iv) Que peut-on dire de lim inf n→∞ √Yn ?
ln n
(v) Soit Rn la variable aléatoire définie de la façon suivante : Rn (ω) désigne le nombre
2R√
n −n
d’éléments parmi Y1 (ω), Y2 (ω), · · ·, Yn (ω) qui sont strictement positifs. Montrer que n
converge en loi et préciser la loi limite.
(vi) Définissons N par N (ω) = inf{n > 1 : Yn (ω) > 0} (convention : inf ∅ = ∞).
Calculer P(N < ∞). Soit α > 0 un réel. Déterminer les valeurs de α telles que E(eαN ) <
∞.

Pn Pn
Solution. (i) Soient Sn := j=1 Yj et Tn := j=1 Yj2 . Par la loi des grands nombres,
p
Tn /n converge p.s. (donc a fortiori, en loi) vers 1. Donc Tn /n converge en loi vers 1.

D’autre part, Sn / n suit la loi N (0, 1), donc a fortiori converge en loi vers N (0, 1). Il

Sn / n
résulte du théorème de Slutsky (Théorème 3.5 du chapitre précédent) que √STn = √
n Tn /n
converge en loi vers N (0, 1).
Remarquons que dans cette question, on n’a pas vraiment utilisé l’hypothèse que
les variables aléatoires Yi suivent la loi gaussienne N (0, 1) : il suffit que E(Y1 ) = 0 et
E(Y12 ) = 1.

(ii) Soit d’abord c > 1. Soit n tellement grand que c 2 ln n > 1. Par l’indication
fournie dans l’exercice,
√ 1
P(Yn > c 2 ln n ) 6 √ ,
c 2 ln n nc2
ce qui donne le terme général d’une série convergente (séries de Bertrand). Donc la série
P √
n P(Y n > c 2 ln n ) converge.
D’autre part,
 
√ 1 1 1 1
P(Yn > 2 ln n ) > 1/2
− ∼ ,
(2 ln n) (2 ln n)3/2 n (2 ln n)1/2 n
— Chapitre 10. Théorème central limite — 99

P √
ce qui donne le terme général d’une série divergente. Donc la série n P(Yn > 2 ln n )
P √
diverge. A fortiori, n P(Yn > c 2 ln n ) diverge si c 6 1.
P √
Conclusion : n P(Yn > c 2 ln n ) converge si et seulement si c > 1.
(iii) Soit c > 1. On peut appliquer le lemme de Borel–Cantelli pour arriver à : il
existe un ensemble mesurable A ∈ F avec P(A) = 1 tel que, pour ω ∈ A, on peut trouver

n0 = n0 (ω) < ∞ satisfaisant : n > n0 =⇒ Yn (ω) 6 c 2 ln n. Par conséquent, presque
sûrement, lim supn→∞ √2Yln
n
n
6 c. Le réel c > 1 étant quelconque, on déduit que

Yn √
lim sup √ 6 2, p.s.
n→∞ ln n

Pour vérifier la borne inférieure, on utilise la deuxième partie du lemme de Borel–


P √
Cantelli (rappelons que les variables (Yn ) sont indépendantes et que n P(Yn > 2 ln n )
diverge), pour voir que l’on peut trouver B ∈ F avec P(B) = 1 tel que, ∀ω ∈ B, ∃ une

infinité de n satisfaisant Yn (ω) > 2 ln n. Donc P(lim supn→∞ √2Yln n
> 1) = 1.
Y
√ n
En conclusion, lim supn→∞ √lnn n = 2 p.s.
(iv) Les variables aléatoires (−Yn )n>1 sont aussi indépendantes et suivent la même
loi N (0, 1). On peut donc appliquer le résultat dans la question précédente pour voir que,
√ √
p.s., lim supn→∞ √−Y n
ln n
= 2 . Autrement dit, lim inf n→∞ √Yn = − 2, presque sûrement.
ln n
Pn
(v) Par définition, Rn = j=1 1Aj , où Aj = {ω ∈ Ω : Yj (ω) > 0}. Les variables
aléatoires (1Aj )j>1 sont iid, avec E(1A1 ) = P(A1 ) = 1/2 et Var(1A1 ) = P(A1 )−(P(A1 ))2 =
2R√
n −n
1/4. D’après le théorème central limite, n
converge en loi vers N (0, 1).
(vi) D’après la question (iii), P({ω ∈ Ω : lim supn→∞ Yn (ω) = ∞}) = 1. A fortiori,
P({ω : ∃n tel que Yn (ω) > 0}) = 1. Donc P(N < ∞) = 1.
Pour chaque n, P(T = n) = P(Y1 6 0) · · · P(Yn−1 6 0)P(Yn > 0) = 2−n . Or,
P αn −n
ne 2 < ∞ si et seulement si α < ln 2, on déduit que E(eαN ) < ∞ ⇔ α < ln 2. ⊔

3. Application à des tests statistiques


Nous allons voir sur deux exemples comment le théorème central limite peut être
appliqué pour confirmer ou infirmer des hypothèses statistiques.

Exemple 3.1. Sur 53 680 familles de lapins ayant 8 petits chacunes (soit 429 440 lapereaux
au total), il y a 221 023 mâles et 208 417 femelles. La question est de savoir si le nombre
de mâles est significativement plus élevé que celui de femelles. Autrement dit, on voudrait
tester l’hypothèse : Les chances sont égales d’avoir un mâle ou une femelle.
100 — Chapitre 10. Théorème central limite —

Notons Xi = 1 si le i-ème lapereau est un mâle, et 0 si c’est une femelle. Si l’hypothèse


est vraie, Xi suit une loi de Bernoulli de paramètre 1/2, de moyenne 1/2 et de variance
1/4. Dans ce cas, en notant S429440 = X1 + · · · + X429440 le nombre total de mâles, le
théorème central limite nous dit que pour tout a < b
√ √ ! Z b
a 429440 + 429440 b 429440 + 429440 1 2
P 6 S429440 6 =√ e−x /2 dx.
2 2 2π a

Pour a = −1, 96 et b = 1, 96, la quantité de droite vaut 0, 95. Autrement dit, avec 5%
d’erreur, S429440 devrait être compris entre

−2328 + 214720 = 214064 et 2328 + 214720 = 215376.

Or le nombre observé de S429440 est bien au delà de ces bornes, on va donc rejeter
l’hypothèse avec un risque d’erreur de 5%. ⊔

Exemple 3.2. On veut tester l’hypothèse mendelienne sur la couleur des yeux : bleu
récessif et marron dominant. Si l’hypothèse est vraie, une personne prise au hasard a une
chance sur quatre d’avoir les yeux bleus. Si l’hypothèse est valide, combien de personnes
doit-on observer pour être certain avec une probabilité de 99,8% que la proportion de
personnes aux yeux marrons sera comprise entre 0,7 et 0,8?
C’est en quelque sorte le problème inverse du précédent : il s’agit de déterminer la
taille de l’échantillon. Sous l’hypothèse de Mendel, pour un échantillon de n personnes, en
notant Sn le nombre de celles qui ont les yeux marrons, on a avec µ = 0, 75 (espérance) et
σ 2 = 0, 75 × 0, 25 = 0, 1875 (variance),
Z b
√ √  1 2
P n σa + nµ 6 Sn 6 n σb + nµ ≈ √ e−x /2 dx.
2π a
L’intégrale vaut environs 0, 998 pour a = −3 et b = 3. La probabilité peut s’écrire
 
σa Sn σb
P √ +µ6 6 √ +µ .
n n n
On doit donc choisir n tel que
√ √
σa 3 × 0, 1875 σb 3 × 0, 1875
√ + µ = 0, 75 − > 0, 7, √ + µ = 0, 75 + 6 0, 8,
n n n n
et il suffit de prendre n = 675.
Ainsi, si ayant observé 675 personnes, on trouve que la proportion de gens ayant
yeux marrons est “très éloignée” de l’intervalle [0, 7, 0, 8], il faudra revoir l’hypothèse de
Mendel. ⊔

— Chapitre 11. Espérances conditionnelles — 101

Chapitre 11. Espérances conditionnelles

1. Existence et unicité
On se donne un espace de probabilité (Ω, F , P), une v.a. X intégrable : E(|X|) < +∞,
et une sous-tribu G ⊂ F .

Définition 1.1. On appelle espérance conditionnelle de X sachant G, notée par E(X | G),
toute variable aléatoire Y intégrable vérifiant les deux conditions suivantes :

(i) Y est G-mesurable;


R R
(ii) Pour tout A ∈ G, A X dP = A Y dP (c’est-à-dire E(X1A ) = E(Y 1A ).)

On écrira probabilité conditionnelle P(A | G) := E(1A | G).

Montrons l’existence et l’unicité de l’espérance conditionnelle.

Unicité. Si Y et Y ′ sont deux v.a. intégrables vérifiant (i) et (ii). On a, pour tout
A ∈ G, E(Y 1A ) = E(Y ′ 1A ). Soit ε > 0 et soit A := {ω ∈ Ω : Y (ω) − Y ′ (ω) > ε} ∈ G. On
a
0 = E(Y 1A ) − E(Y ′ 1A ) = E((Y − Y ′ )1A ) > εP(A),

ce qui signifie que P(A) = 0. Le choix de ε > 0 étant quelconque, on obtient Y 6 Y ′ p.s.
De même, Y ′ 6 Y p.s. Donc Y = Y ′ p.s. Ceci montre l’unicité.
Strictement dit, on doit écrire Y = E(X | G) p.s., mais l’expression “presque sûr” est
souvent omise. ⊔

Existence. La preuve s’appuie sur le Théorème de Radon–Nikodym : si µ et ν sont


deux mesures σ-finies sur (Ω, G) telles que ν ≪ µ (c’est-à-dire pour tout A ∈ G, µ(A) =
R
0 =⇒ ν(A) = 0), alors il existe une fonction mesurable f > 0 telle que A f dµ = ν(A),

quel que soit A ∈ G. La fonction f est notée par dµ .
102 — Chapitre 11. Espérances conditionnelles —

On suppose sans perte de généralité que X > 0 (sinon, on considèrera séparément X +


R
et X − ). Soit µ la mesure sur G définie par µ(A) = A X dP, A ∈ G (c’est-à-dire µ = X • P;
l’intégrabilité de X garantit que µ est une mesure finie). On a donc deux mesures P
(ou plutôt la restriction de P sur G) et µ sur G telles que µ ≪ P. Par le théorème de
Radon–Nikodym, dµ dP
est bien définie, qui est intégrable car µ est une mesure finie.
R R dµ
Or, dµ
dP est G-mesurable, telle que pour tout A ∈ G, A X dP = µ(A) = A dP dP, ce
qui prouve que dµdP vérifie les conditions (i) et (ii). ⊔

Remarque. Heuristiquement on peut interpréter E(X | G) comme l’espérance de X en


tenant compte des informations apportées par la tribu G : pour chaque A ∈ G, on sait si
A est réalisé ou non. Voici quelques exemples simples pour illustrer cette idée.

Exemple 1.2. Soit X une v.a. intégrable et G-mesurable. Sachant la tribu G, X qui est
G-mesurable est considérée comme une constante : E(X | G) = X.
En effet, il est clair dans cette situation que X satisfait les conditions (i) et (ii). ⊔

Exemple 1.3. L’exemple précédent concerne la situation particulière où toute information
sur X est déjà contenue dans la tribu G. On étudie maintenant l’autre situation extrême :
X est indépendante de G, c’est-à-dire X et 1A sont indépendantes quel que soit A ∈ G.
Dans ce cas, le fait de savoir G n’apporte strictement rien sur X: E(X | G) = E(X).
En effet, E(X) est une v.a. (dégénérée) intégrable et G-mesurable. Il nous suffit
de vérifier la condition (ii). Soit A ∈ G. Comme X et 1A sont indépendantes, on a
E(X1A ) = E(X)E(1A ) = E(E(X)1A ), ce qui prouve (ii). ⊔

L’espérance conditionnelle jouit de la plupart des propriétés de l’espérance.

Propriété 1.4. (1) Si X et Y sont deux v.a. intégrables, alors E(aX+bY | G) = aE(X | G)+
bE(Y | G).
(2) Si en plus X > Y , alors E(X | G) > E(Y | G). En particulier, X > 0 implique
E(X | G) > 0.
(3) Si H est une sous-tribu de F telle que G ⊂ H, alors E[ E(X | H) | G] = E(X | G).

Preuve. (1) et (2) se vérifient par définition. Montrons (3). Il est clair que E[ E(X | H) | G]
est bien définie, car par définition, E(X | H) est intégrable. Remarquons que E[ E(X | H) | G]
est G-mesurable, ce qui donne la proriété (i). Pour (ii), soit A ∈ G, et on a

E [ E[ E(X | H) | G] 1A] = E [ E(X | H) 1A ] = E(X 1A ),


— Chapitre 11. Espérances conditionnelles — 103

car A ∈ H. Ceci donne la propriété (ii), et confirme donc que E[ E(X | H) | G] = E(X | G).

Théorème 1.5. Si X est une v.a. intégrable, alors E(E(X | G)) = E(X).

Preuve. Ceci est une conséquence de la propriété (ii), en prenant A = Ω. ⊔


Théorème 1.6. Si X et Y sont des v.a. telles que Y et XY soient intégrables, et si X est
G-mesurable, alors E(XY | G) = X E(Y | G).

Preuve. Sans perte de généralité, on suppose que X et Y sont positives (sinon, on con-
sidèrera leurs parties positive et négative, séparément).
L’identité est vraie si X est une fonction indicatrice : soit A ∈ G, alors 1A E(Y | G)
est une v.a. intégrable et G-mesurable, telle que pour tout B ∈ G,

E[1A E(Y | G) 1B ] = E(Y 1A∩B ) = E(1A Y 1B ),

ce qui implique que 1A E(Y | G) = E(1A Y | G).


Par combinaison linéaire, l’identité reste vraie pour toute fonction étagée X qui est
G-mesurable : pour tout B ∈ G,
Z Z
XE(Y | G) dP = XY dP.
B B

Le théorème de convergence monotone confirme alors que l’identité fonctionne encore si X


est positive et G-mesurable. En particulier, en prenant B = Ω on déduit que XE(Y | G)
est intégrable. Par définition, elle vaut E(XY | G). ⊔

2. Espérance conditionnelle par rapport à une v.a.


Lorsque la tribu est engendrée par une variable aléatoire (pas nécessairement à valeurs
réelles), l’espérance conditionnelle a des propriétés particulières. Cela aide surtout à sim-
plifier le calcul dans des cas pratiques.

Définition 2.1. Si G est engendrée par une variable Z (à valeurs dans un espace mesurable
quelconque), et si X est une v.a. réelle intégrable, alors on écrira E(X | Z) au lieu de
E(X | G).
Si Z = (Z1 , Z2 , · · ·), on écrira aussi E(X | Z1 , Z2 , · · ·).
104 — Chapitre 11. Espérances conditionnelles —

Soit Z une v.a. à valeurs dans (E, E). Soit A ∈ σ(Z). Par définition, il existe B ∈ E
telle que A = {ω ∈ Ω : Z(ω) ∈ B}; autrement dit, 1A = 1B (Z). Donc toute fonction
étagée qui est σ(Z)-mesurable s’écrit comme une fonction étagée (E-mesurable) de Z. Par
un passage à la limite, si ξ est une v.a. réelle intégrable et σ(Z)-mesurable, elle s’écrit
comme ξ = h(Z), où h : E → R est une fonction borélienne. Prenons ξ = E(X | Z) et on
obtient
E(X | Z) = h(Z).

L’unicité de l’espérance conditionnelle nous assure que si h1 est une fonction borélienne
telle que E(X | Z) = h1 (Z), alors h1 = h, PZ -p.p.

Exemple 2.2. Soient X et Y deux v.a. réelles indépendantes et identiquement distribuées,


telles que E(|X|) < ∞. Alors E(X | X + Y ) = (X + Y )/2.
En fait, si P(X,Z) = P(Y,Z) , alors E(X | Z) = E(Y | Z). Pour voir cela, on observe
d’abord que E(X | Z) est une v.a. intégrable et σ(Z)-mesurable. De plus, pour tout A ∈
σ(Z), E(E(X | Z) 1A ) = E(X1A ). On sait qu’il existe une fonction borélienne h telle que
1A = h(Z), ce qui nous donne E(X1A ) = E(Xh(Z)) = E(Y h(Z)) = E(Y 1A ). D’où
E(E(X | Z) 1A ) = E(Y 1A ). Par conséquent, E(X | Z) = E(Y | Z).
Pour revenir à l’exemple Z := X +Y , il suffit de remarquer que P(X,X+Y ) = P(Y,X+Y ) ,
car P(X,Y ) = P(Y,X) . Donc E(X | X + Y ) = E(Y | X + Y ). Or, E(X + Y | X + Y ) = X + Y ,
on obtient E(X | X + Y ) = (X + Y )/2. ⊔

Théorème 2.3. Soient X et Z deux v.a. indépendantes, et soit ϕ une fonction mesurable
telle que E[ |ϕ(X, Z)| ] < ∞. Soit h(z) = E(ϕ(X, z)). Alors

h(Z) = E(ϕ(X, Z) | Z).

Remarque. Le sens du théorème est intuitivement clair. Si l’on cherche la valeur de


E(ϕ(X, Z) | Z), comme Z est mesurable par rapport à σ(Z), on peut la considérer comme
une constante, disons z. Dans ce cas, E(ϕ(X, z) | Z) devient E(ϕ(X, z)) (car X et Z sont
indépendantes), qui n’est autre que h(z). Et bien sûr, z est en réalité Z. En remplaçant
z par Z dans h(z), on obtient h(Z) comme la valeur de E(ϕ(X, Z) | Z). ⊔

Preuve du Théorème 2.3. Le théorème de Fubini nous dit que h(z) est bien définie, et que
h(Z) est intégrable. Soit A ∈ σ(Z). On vérifie que E[ h(Z)1A ] = E[ ϕ(X, Z)1A ].
— Chapitre 11. Espérances conditionnelles — 105

Comme A ∈ σ(Z), on peut écrire A = {ω : Z(ω) ∈ B}. Par l’indépendance et le


théorème de Fubini,

E[ ϕ(X, Z)1A ] = E[ ϕ(X, Z)1B (Z) ]


ZZ
= ϕ(x, z)1B (z) PX (dx)PZ (dz)
Z
= h(z)1B (z) PZ (dz)

= E[ h(Z)1B (Z) ].

Il suffit alors de remarquer que 1B (Z(ω)) = 1A (ω). ⊔


Voici une recette générale pour calculer E(X | Z), lorsque (X, Z) est un vecteur aléa-
toire à valeurs dans R2 dont la loi est absolument continue par rapport à la mesure de
Lebesgue sur R2 .

Théorème 2.4. Soit (X, Z) un vecteur aléatoire à valeurs dans R2 qui admet une densité
f(X,Z) . On suppose que E(|X|) < ∞ et que fZ (z) > 0 pour tout z. On pose

f(X,Z) (x, z)
fX|Z=z (x) := , x ∈ R,
fZ (z)
Z
h(z) := x fX|Z=z (x) dx, z ∈ R.
R

Alors
E(X | Z) = h(Z).

Preuve. Il est clair d’après le théorème de Fubini que h(Z) est une variable aléatoire
intégrable. Soit A ∈ σ(Z). Il s’agit de prouver que E[ h(Z)1A ] = E[ X1A ].
Comme A ∈ σ(Z), on peut écrire A = {ω : Z(ω) ∈ B}, où B ⊂ R est une partie
borélienne. On a alors

E[ X1A ] = E[ X1B (Z) ]


Z Z
= dx dz x f(X,Z) (x, z)
R B
Z
= dz h(z)fZ (z)
B
= E[ h(Z)1B (Z) ].

D’où le résultat désiré. ⊔



106 — Chapitre 11. Espérances conditionnelles —

Remarque. On remarque que fX|Z=z (x) est la limite de

P(X ∈ [x, x + dx], Z ∈ [z, z + dz])/(dx dz)


P(Z ∈ [z, z + dz])/ dz
= P (X ∈ [x, x + dx] | Z ∈ [z, z + dz]) / dx,

lorsque dx et dz tendent vers 0. C’est pour cette raison que fX|Z=z est souvent appelée
“densité conditionnelle de X sachant Z = z” (il s’agit bien sûr d’une fonction de densité
associée à une loi de probabilité sur R). Dans la littérature, on trouve de temps en temps
l’écriture informelle E(X | Z = z) pour désigner h(z). ⊔

Exemple 2.5. Soient X et Y deux v.a. réelles indépendantes suivant la même loi gaussi-
enne N (0, 1). Soit Z = X + Y .
Il est facile de calculer la loi de (X, Z). Pour toute fonction borélienne bornée ϕ :
R2 → R, on a Z Z
1 2 2
E (h(X, Z)) = h(x, x + y) e−(x +y )/2 dx dy

ZR ZR
1 2 2
= h(x, z) e−(x +(z−x) )/2 dx dy.
R R 2π
Donc (X, Z) admet une densité qui vaut
1 −(x2 +(z−x)2 )/2
f(X,Z) (x, z) = e , (x, z) ∈ R2 .

2
1
D’autre part, PZ = N (0, 2), donc fZ (z) = √
2 π
e−z /4 . Posons, pour chaque z ∈ R,

f(X,Z) (x, z) 1 2 2 2 1 2
fX|Z=z (x) := = √ e−(x +(z−x) )/2+z /4 = √ e−(x−z/2) .
fZ (z) π π
La fonction fX|Z=z n’est autre que la densité de la loi gaussienne N (z/2, 1/2) (d’où vient
une formulation du genre “sachant Z = z, X suit la loi gaussienne N (z/2, 1/2)”). Posons
Z
h(z) = xfX|Z=z (x) dx = z/2.
R

D’après le Théorème 2.4, E(X | Z) = h(Z) = Z/2. On arrive donc à la même conclusion
que dans l’Exemple 2.2. ⊔

Exemple 2.6. Soient N , X1 , X2 , · · · des v.a. réelles indépendantes, admettant toutes des
moments d’ordre 1. On suppose que les Xi suivent la même loi, et que N est à valeurs
dans N. Définissons
N(ω)
X
Y (ω) := Xi (ω),
i=1
— Chapitre 11. Espérances conditionnelles — 107

P0
(convention : i=1 := 0). On cherche à déterminer le moment d’ordre 1 de Y .
P+∞ Pn
Il est clair que Y est une v.a.; il suffit d’écrire Y (ω) := n=1 i=1 Xi (ω)1{N(ω)=n} ,
qui est représentée comme somme de v.a. réelles. Il est également clair que Y admet un
moment d’ordre 1, car par le théorème de Fubini,

+∞ X
n
! +∞ X
n
X X 
E |Xi | 1{N=n} = E |Xi | 1{N=n}
n=1 i=1 n=1 i=1
+∞ X
X n
= E (|Xi |) P (N = n)
n=1 i=1
+∞
X
= E (|X1 |) nP (N = n) = E (|X1 |) E (N ) < +∞.
n=1

Le même argument nous donne en fait E(Y ) = E(X1 )E(N ).


On peut calculer E(Y ) à l’aide du Théorème 2.3. En effet, soit

n
!
X
h(n) = E Xi = nE(X1 ),
i=1

alors le Théorème 2.3 nous dit que E(Y | N ) = h(N ) = N E(X1 ). D’après le Théorème 1.5,
E(Y ) = E(N E(X1 )) = E(N ) E(X1 ). ⊔

On termine cette section avec une inégalité célèbre.

Théorème 2.7 (Inégalité de Jensen). Soit X une variable aléatoire réelle, et soit ϕ
une fonction convexe. Si X et ϕ(X) sont intégrables, alors

ϕ (E[ X | G ]) 6 E [ ϕ(X) | G ] , p.s.

En particulier, ϕ(E(X)) 6 E[ ϕ(X) ].

Preuve. Soit ϕ′ la dérivée à droite de ϕ. On a, pour tous réels x et y,

ϕ′ (x)(y − x) 6 ϕ(y) − ϕ(x).

Fixons n > 1, et soit ξ := E[ X | G ]. On remplace dans l’inégalité précédente x et y par


ξ1{|ξ|6n} et X, respectivement, pour arriver à :
  
ϕ′ ξ1{|ξ|6n} X − ξ1{|ξ|6n} 6 ϕ(X) − ϕ ξ1{|ξ|6n} .
108 — Chapitre 11. Espérances conditionnelles —

On prend l’espérance conditionnelle par rapport à G dans les deux côtés. Comme ξ est
G-mesurable, il résulte du Théorème 1.6 que
  
ϕ′ ξ1{|ξ|6n} ξ − ξ1{|ξ|6n} 6 E [ ϕ(X) | G ] − ϕ ξ1{|ξ|6n} .

On fait n → ∞. En remarquant que ξ1{|ξ|6n} → ξ, on arrive à : 0 6 E[ ϕ(X) | G ] − ϕ(ξ).


C’est ce qu’il fallait démontrer. ⊔

3. Espérance conditionnelle et projection orthogonale


Lorsque X est une v.a. réelle admettant un moment d’ordre 2, il y a une interprétation
géométrique pour représenter E(X | G).

Théorème 3.1. Si E(X 2 ) < ∞, alors E(X | G) est la variable Y , G-mesurable et admet-
tant un moment d’ordre 2, qui minimise “l’erreur quadratique” E[(X − Y )2 ].

Remarque. (i) Soit L2 (F ) := {Y : E(Y 2 ) < ∞} qui, muni du produit scalaire


hY1 , Y2 i := E(Y1 Y2 ), est un espace de Hilbert. Il est facile de voir que L2 (G) := {Y :
Y est G-mesurable, E(Y 2 ) < ∞} est un sous-espace fermé. Sous la condition E(X 2 ) < ∞,
le Théorème 3.1 nous confirme que E(X | G) est la projection orthogonale de X sur L2 (G),
c’est-à-dire l’élément dans L2 (G) qui est le plus proche de X.
(ii) Dans la cas particulier où G = σ(Z), le Théorème 3.1 s’énonce comme suit : la
fonction mesurable f minimisant la quantité E[(X − f (Z))2 ] est telle que f (Z) = E(X | Z).
Si Z est une constante, on retombe sur le fait que la constante c minimisant E[(X − c)2 ]
est c = E(X).

Preuve. Puisque E(X 2 ) < ∞, l’inégalité de Jensen (Théorème 2.7) nous dit que E(X | G)
est un élément de L2 (G). Il suffit donc de montrer que X − E(X | G) est orthogonale de
L2 (G). Soit Z ∈ L2 (G). On sait que XZ admet un moment d’ordre 1, et par le Théorème
1.6, E(ZX | G) = Z E(X | G). Donc

E(ZX) = E [ E(ZX | G) ] = E [ Z E(X | G) ] .

Autrement dit, E[Z(X − E(X | G))] = 0. ⊔


4. Introduction aux martingales


— Chapitre 11. Espérances conditionnelles — 109

On aborde la notion de martingale (à temps discret), et étudie quelques propriétés de


base des martingales.
Soit (Ω, F , P) un espace de probabilité. Une filtration (Fn )n>0 sur cet espace est une
famille croissante de sous-tribus de F :

F0 ⊂ F1 ⊂ F2 ⊂ · · · ⊂ F .

Une suite de variables aléatoires (Xn , n > 0) est dite adaptée par rapport à (Fn ) si
pour tout n, Xn est Fn -mesurable.

Définition 4.1. On dit que (Xn ) est une martingale [resp. surmartingale; sous-martingale]
si
(i) (Xn ) est adapté;
(ii) ∀ n, E(|Xn |) < ∞;
(iii) ∀ n, E(Xn+1 | Fn ) = Xn , p.s. [resp., E(Xn+1 | Fn ) 6 Xn ; E(Xn+1 | Fn ) > Xn ].

Remarquons que si X est une surmartingale, alors n 7→ E(Xn ) est décroissante.

Exemple 4.2. Soit ξ une variable aléatoire intégrable. Soit Xn := E(ξ | Fn ). Alors (Xn )
est une martingale. ⊔

Exemple 4.3. Soit (ξi )i>0 une suite de variables aléatoires intégrables et indépendantes.
Soient
Xn
Xn := ξi , Fn := σ{Xi , 0 6 i 6 n}.
i=0

Il est clair que (Xn ) est adapté, et est intégrable. De plus, E(Xn+1 | Fn ) = Xn + E(ξn+1 ).
Donc X est une martingale si E(ξn ) = 0, ∀ n; est une sous-martingale si E(ξn ) > 0, ∀ n; et
est une surmartingale si E(ξn ) 6 0, ∀ n. ⊔

Il est clair que X est une sous-martingale si et seulement si −X est une surmartingale,
et que X est une martingale si et seulement si elle est à la fois une sous-martingale et une
surmartingale. En voici quelques autres propriétés.

Proposition 4.4. Si (Xn ) est une sous-martingale, alors ∀ m > n, E(Xm | Fn ) > Xn , p.s.

Preuve. On a
E(Xm | Fn ) = E[ E(Xm | Fm−1 ) | Fn] > E[Xm−1 | Fn ].

Ceci démontre le résultat cherché avec un argument par récurrence. ⊔



110 — Chapitre 11. Espérances conditionnelles —

Proposition 4.5. (i) Si (Xn ) et (Yn ) sont des martingales (resp. sous-martingales; sur-
martingales), alors (Xn + Yn ) l’est également.
(ii) Si (Xn ) et (Yn ) sont des sous-martingales, alors max(Xn , Yn ) est une sous-
martingale.

Preuve. Évidente. ⊔

Proposition 4.6. (i) Si (Xn ) est une martingale et si ϕ est une fonction convexe telle que
pour tout n, ϕ(Xn ) soit intégrable. Alors (ϕ(Xn )) est une sous-martingale.
(ii) Si (Xn ) est une sous-martingale et si ϕ est une fonction convexe croissante telle
que pour tout n, ϕ(Xn ) soit intégrable. Alors (ϕ(Xn )) est une sous-martingale.

Preuve. (i) Il est clair que (ϕ(Xn )) est adapté. D’autre part, d’après l’inégalité de Jensen
(Théorème 2.7),
E[ϕ(Xn+1 ) | Fn ] > ϕ(E[Xn+1 | Fn ]) = ϕ(Xn ).

Donc (ϕ(Xn )) est une sous-martingale.


(ii) Comme ϕ est croissante et convexe, on a

E[ϕ(Xn+1 ) | Fn ] > ϕ(E[Xn+1 | Fn ]) > ϕ(Xn ).

D’où la conclusion. ⊔

Proposition 4.7. (i) Soit (Xn ) une martingale et soit p > 1 un réel. Si E(|Xn |p ) < ∞
pour tout n, alors (|Xn |p ) est une sous-martingale.
En particulier, pour tout a ∈ R, (|Xn − a|) est une sous-martingale.
(ii) Si (Xn ) est une sous-martingale, et si a ∈ R, alors (Xn − a)+ est une sous-
martingale.

Preuve. Il s’agit d’appliquer la Proposition 4.6 à ϕ(x) := |x|p (fonction convexe) et à


ϕ(x) := (x − a)+ (fonction convexe et croissante). ⊔

On note désormais

_
F∞ := Fn ,
n=0

la plus petite sous-tribu de F qui contient toutes les Fn .

Définition 4.8. Une application T : Ω → {0, 1, 2, · · · ; ∞} est appelée un temps d’arrêt si


pour tout n > 0, {T 6 n} ∈ Fn .
— Chapitre 11. Espérances conditionnelles — 111

Remarque. On peut facilement vérifier que T est un temps d’arrêt si et seulement si


∀ n 6 ∞, {T = n} ∈ Fn . ⊔

Définition 4.9. La tribu FT est définie par

FT = {A ∈ F∞ : ∀ n, A ∩ {T = n} ∈ Fn }
= {A ∈ F∞ : ∀ n, A ∩ {T 6 n} ∈ Fn }.

Propriété 4.10. (i) Si S et T sont deux temps d’arrêt, alors S ∨ T et S ∧ T sont aussi
des temps d’arrêt.
(ii) Si S et T sont des temps d’arrêt tels que S 6 T , p.s., alors FS ⊂ FT .
(iii) Si (Xn ) est adapté et si T est un temps arrêt, alors XT 1{T <∞} est FT -mesurable.

Preuve. (i) On a {S ∨ T 6 n} = {S 6 n} ∩ {T 6 n}, et {S ∧ T 6 n} = {S 6 n} ∪ {T 6 n}.


(ii) Si A ∈ FS , alors A ∩ {T 6 n} = (A ∩ {S 6 n}) ∩ {T 6 n} ∈ Fn .
P∞
(iiii) Il suffit de remarquer que XT 1{T <∞} = n=0 Xn 1{T =n} est F∞ -mesurable, et
que pour tout A ⊂ R borélien et n, {XT 1{T <∞} ∈ A} ∩ {T = n} = {Xn ∈ A} ∩ {T = n} ∈
Fn . ⊔

On s’intéresse maintenant au processus (XT ∧n ) arrêté à un temps d’arrêt T .

Théorème 4.11. Si T est un temps d’arrêt, et si (Xn ) est une sous-martingale (resp.
surmartingale), alors (XT ∧n ) est une sous-martingale (resp. surmartingale).

Preuve. Comme |XT ∧n | 6 |X0 | + |X1 | + · · · + |Xn |, XT ∧n est intégrable. Il est clair que
(XT ∧n ) est adapté, car XT ∧n est FT ∧n -mesurable, et cette dernière est une sous-tribu de
Fn . Enfin, puisque {T > n + 1} = {T 6 n}c ∈ Fn ,
   
E (XT ∧(n+1) − XT ∧n ) | Fn = E (Xn+1 − Xn ) 1{T >n+1} | Fn
= 1{T >n+1} E [(Xn+1 − Xn ) | Fn] > 0. ⊔

Avant d’énoncer le résultat principal de cette section, on prouve un résultat prélimi-


naire.

Lemme 4.12. Soient X et Y deux variables aléatoires intégrables, et soit G une sous-tribu
de F . On a E(X | G) 6 E(Y | G), p.s., si et seulement si E(X 1A ) 6 E(Y 1A ) pour tout
A ∈ G.
112 — Chapitre 11. Espérances conditionnelles —

e := E(X | G) et Ye := E(Y | G). Pour tout


Preuve. Pour simplifier l’écriture, on pose X
A ∈ G, on a E[X 1A ] − E[Y 1A ] = E{E[(X − Y ) | G] 1A } = E{[ Xe − Ye ] 1A }.
Partie “seulement si”. Supposons que X e 6 Ye p.s., alors pour tout A ∈ G, E[X 1A ] −
e − Ye ] 1A } 6 0.
E[Y 1A ] = E{[ X
Partie “si”. Réciproquement, on suppose que A ∈ G, E[X 1A ] 6 E[Y 1A ] pour tout
A ∈ G. On considère A := {ω : X e > Ye } ∈ G (car Xe et Ye sont toutes deux G-mesurables).
On a alors 0 > E[X 1A ] − E[Y 1A ] = E{[ X e − Ye ] 1A } > 0. Donc E{[ X e − Ye ] 1A } = 0.
Comme [ Xe − Ye ] 1A > 0 p.s., ceci n’est possible que si [ X
e − Ye ] 1A } = 0 p.s. ; autrement
e 6 Ye p.s.
dit, X ⊔

Théorème 4.13 (théorème d’arrêt). Soient S et T deux temps d’arrêt bornés tels que
S 6 T . Si (Xn ) est une sous-martingale (resp. surmartingale), alors

E(XT | FS ) > XS [resp. 6 XS ] p.s.

Preuve. Supposons que P(S 6 T 6 k) = 1. Alors |XT | 6 |X0 | + |X1 | + · · · + |Xk | qui est
intégrable. Soit A ∈ FS . On a

k
X 
E{[ XT − XS ] 1A } = E [ XT ∧k − Xn ] 1A∩{S=n} .
n=0

Comme A ∩ {S = n} ∈ Fn , et (XT ∧n ) est une sous-martingale (Théorème 4.11), on a,


d’après le Lemma 4.12,
 
E [ XT ∧k − Xn ] 1A∩{S=n} > E [ XT ∧n − Xn ] 1A∩{S=n} = 0,

la dernière identité provenant du fait que XT ∧n = Xn sur {S = n}. On a donc démontré


que E{[ XT − XS ] 1A } > 0. ⊔

Corollaire 4.14. Soit T un temps d’arrêt tel que P(T 6 k) = 1. Si (Xn ) est une sous
martingale, alors
E(X0 ) 6 E(XT ) 6 E(Xk ).

En particulier, si (Xn ) est une martingale, alors E(XT ) = E(X0 ).


— Chapitre 12. Vecteurs aléatoires gaussiens — 113

Chapitre 12. Vecteurs aléatoires gaussiens

1. Définition et propriétés
On rappelle que la loi gaussienne de moyenne µ ∈ R et de variance σ 2 > 0 a pour
2
σ2 2
densité σ√12π exp(− (x−µ)
2σ 2 ), x ∈ R. Sa fonction caractéristique vaut exp(iµt − 2 t ), t ∈ R.
Il est commode de convenir qu’une masse de Dirac δµ est la loi gaussienne de moyenne µ
et de variance nulle.
 
X1
.
Définition 1.1. Soit X =  ..  une v.a. à valeurs dans RN (donc un vecteur aléatoire
XN
de dimension N ). On dit que X est un vecteur gaussien si toute combinaison linéaire de
 
λ1
PN .
ses coordonnées (c’est-à-dire j=1 λj Xj = λ1 X1 + · · · + λN XN pour λ =  ..  ∈ RN )
λN
suit une loi gaussienne.
 
X1
.
Remarque. (i) Si X =  ..  est un vecteur gaussien, alors chaque coordonnée est une
XN
v.a. gaussienne réelle.
(ii) Attention, la réciproque est fausse. Par exemple, soient Y et ε deux variables
aléatoires indépendantes telles que Y suive la loi gaussienne centrée réduite N (0, 1) et que
P(ε = 1) = P(ε = −1) = 1/2. Soit W = εY . Alors (Y, W ) n’est pas un vecteur gaussien
car Y +W n’est pas une v.a. gaussienne (en effet, P(Y +W = 0) = 1/2). Pourtant chacune
des composantes est une v.a. gaussienne (il a été démontré dans l’Exemple 3.4 du Chapitre
6 que W est une v.a. gaussienne). ⊔

Exemple 1.2. Si X1 , · · ·, XN sont des v.a. gaussiennes (réelles) indépendantes, alors


(X1 , · · · , XN ) est un vecteur gaussien, car on sait que la somme de v.a. gaussiennes
indépendantes est gaussienne. ⊔

114 — Chapitre 12. Vecteurs aléatoires gaussiens —


X1
.
Exemple 1.3. Si X =  ..  est un vecteur gaussien, A est une matrice M × N
XN
déterministe, et B ∈ RM , alors AX + B est un vecteur gaussien, car les combinaisons
linéaires des composantes de AX + B sont des combinaisons linéaires (plus des constantes)
de X1 , · · · , XN . ⊔

Propriété 1.4. La fonction caractéristique d’un vecteur gaussien X est donnée par
 
N
X X
1
ϕX (t) = exp i µj tj − Djk tj tk  , t ∈ RN ,
2
j=1 16j,k6N

où D = (Djk )N×N est la matrice de covariances de X. En conséquence, la loi d’un vecteur
gaussien est complètement déterminée
 par sa moyenne et sa matrice de covariances. On
µ1
 .. 
notera N (µ, D), où µ :=  . .
µN


t1
. PN
Preuve. Soit t =  ..  ∈ RN , et soit Y := j=1 tj Xj . On a
tN

ϕX (t) = E eiY = ϕY (1).

PN P
Or, Y est une v.a. gaussienne réelle, E(Y ) = j=1 tj µj et Var(Y ) = 16j,k6N tj tk Djk ,
ce qui nous donne
 
N
X X
1
ϕX (t) = exp i tj µj − tj tk Djk  . ⊔

j=1
2
16j,k6N

Nous montrons maintenant comment construire un vecteur gaussien de moyenne et


de matrice de covariances données.

Propriété 1.5. Soit µ ∈ RN , et soit D une matrice N × N symétrique positive (c’est-à-


P
dire que 16j,k6N λj λk Djk > 0 pour tout λ ∈ RN ). Alors, il existe un vecteur gaussien
N -dimensionnel de moyenne µ et de matrice de covariances D.
— Chapitre 12. Vecteurs aléatoires gaussiens — 115

Preuve. On sait construire N variables gaussiennes centrées réduites indépendantes, N1 ,


· · ·, NN . On note dans la preuve
   
µ1 N1
 .  .
µ =  ..  , N =  ..  .
µN NN

Toute matrice symétrique positive admettant une racine carrée, on peut trouver une ma-
trice symétrique C = (Cjk )N×N telle que C 2 = D. Posons

X = CN + µ.

(Attention à la notation : X est en colonne.) D’après les Exemples 1.2 et 1.3, X est un
vecteur gaussien, de moyenne µ. Pour déterminer sa matrice de covariances, remarquons
que

Cov (Xj , Xk ) = E ((Xj − µj )(Xk − µk ))


" N ! N
!#
X X
=E Cjℓ Nℓ Ckm Nm
ℓ=1 m=1
X
= Cjℓ Ckm E (Nℓ Nm ) .
16ℓ,m6N

Or, E(Nℓ Nm ) vaut 1 si ℓ = m et vaut 0 sinon, ce qui implique que Cov (Xj , Xk ) =
PN t t
ℓ=1 Cjℓ Ckℓ = (CC )jk , où C est le transposé de C. Donc la matrice de covariances de
X est CC t .
Comme C est symétrique, CC t = C 2 = D, on a montré que X est bien un vecteur
gaussien de moyenne µ et de matrice de covariances D. ⊔

Propriété 1.6 (Densité gaussienne). Soit µ un vecteur quelconque de RN et D une


−1
matrice N × N symétrique positive. Si det(D) 6= 0, et si D−1 = (Djk )N×N désigne la
matrice inverse de D, alors la loi gaussienne N -dimensionnelle N (µ, D) est absolument
continue par rapport à la mesure de Lebesgue sur RN , et a pour densité
 
1 1 X
−1
p exp − Djk (xj − µj )(xk − µk ) .
(2π)N/2 det(D) 2
16j,k6N

−1
Reparque. Attention, Djk 6= 1/Djk en général.
116 — Chapitre 12. Vecteurs aléatoires gaussiens —

Preuve. Soit X = CN + µ comme dans la construction précédente. On connaı̂t la densité


de N , car N1 , · · ·, NN sont des v.a. gaussiennes indépendantes. On obtient alors la densité
de X en effectuant un changement de variables. ⊔

Théorème 1.7. Soit (X1 , · · · , XN ) un vecteur gaussien. Pour que les variables aléatoires
X1 , · · · , XN soient indépendantes, il faut et il suffit que la matrice de covariances de X
soit diagonale.

Preuve. La condition est trivialement nécessaire. Pour la réciproque, on utilise de nouveau


la construction X = CN + µ. Si D (la matrice de covariances de X) est diagonale, alors
C est aussi diagonale : C = diag(C11 , · · · , CNN ). On a alors Xj = Cjj Nj + µj pour
1 6 j 6 N . Comme N1 , · · ·, NN sont des v.a. (gaussiennes) indépendantes, on déduit
l’indépendance entre les v.a. X1 , · · ·, XN . ⊔

Remarque. La preuve du théorème montre que si (X1 , · · · , XN , Y1 , · · · , YM , Z1 , · · · , ZL )


est un vecteur gaussien, alors (X1 , · · · , XN ) et (Y1 , · · · , YM ) sont indépendants si et seule-
ment si Cov(Xi , Yj ) = 0 quels que soient 1 6 i 6 N et 1 6 j 6 M . ⊔

Exemple 1.8. Si un couple (X, Y ) de v.a. réelles est gaussien, alors X et Y sont
indépendantes si et seulement si Cov(X, Y ) = 0. On se gardera bien de croire que si
individuellement X et Y sont des v.a. réelles gaussiennes telles que Cov(X, Y ) = 0,
alors X et Y sont indépendantes (on pensera à l’Exemple 3.4 du Chapitre 6). Pour qu’il
en soit ainsi, il est nécessaire que le couple (X, Y ) soit un vecteur gaussien, ce qui n’a rien
d’automatique. ⊔

Exemple 1.9. Soient X et Y deux variables aléatoires indépendantes telles que PX =


PY = N (µ, σ 2 ). Il a été démontré dans l’Exemple 3.6 du Chapitre 6, à l’aide de fonction
caractéristique, que X + Y et X − Y sont indépendantes. On redémontre ce résultat
maintenant, à l’aide de propriétés de vecteurs gaussiens.
Soient a, b, c et d des réels quelconques. D’après les Exemples 1.2 et 1.3, (aX +
bY, cX + dY ) est un vecteur gaussien. Comme Cov(aX + bY, cX + dY ) = (ac + bd)σ 2 ,
le Théorème 1.7 nous dit que aX + bY et cX + dY sont indépendantes si et seulement si
ac + bd = 0, ce qui est le cas par exemple lorsque a = b = c = 1 et d = −1. ⊔

Exemple 1.10. Soient U1 , U2 , · · · des variables aléatoires indépendantes suivant la même


loi gaussienne N (0, 1). Soient a0 , a1 , a2 , · · · des réels tels que aj aj+1 = 0 pour tout j > 0,
— Chapitre 12. Vecteurs aléatoires gaussiens — 117

P
et que la série a2n converge. On pose

n
X
Vn = an−i Ui , n = 1, 2, · · ·
i=1

(i) Étudier la convergence en loi de Vn .


(ii) Les variables Vn et Vn+1 sont-elles indépendantes?
(iii) Étudier la convergence dans L2 (Ω, F , P) de Vn .

Solution. (i) La variable Vn suit une loi gaussienne (somme de variables gaussiennes
Pn Pn−1
indépendantes), E(Vn ) = 0 et Var(Vn ) = i=1 a2n−i = j=0 a2j . Donc sa fonction car-
2 Pn−1 2 P∞
actéristique vaut ϕVn (t) = exp(− t2 j=0 a2j ) → exp(− t2 j=0 a2j ), n → ∞. Donc Vn
P∞
converge en loi vers la gaussienne N (0, j=0 a2j ). (Cas dégénéré : Vn converge en loi vers
0 si aj = 0, ∀j > 0).
(ii) Toute combinaison linéaire de Vn et de Vn+1 donne une combinaison linéaire de
U1 , U2 , · · ·, Un+1 qui est une variable aléatoire gaussienne (somme de variables gaussi-
ennes indépendantes). Par définition, (Vn , Vn+1 ) est un vecteur gaussien, et Vn et Vn+1
sont indépendantes si et seulement si leur covariance s’annule. Or, Cov(Vn , Vn+1 ) =
Pn
i=1 an−i an+1−i = 0, on déduit que Vn est indépendante de Vn+1 .
(iii) Si Vn converge dans L2 , alors E[(Vn − Vn+1 )2 ] → 0 (n → ∞). Or, Vn et Vn+1
Pn−1 Pn
sont indépendantes, on a E[(Vn − Vn+1 )2 ] = Var(Vn ) + Var(Vn+1 ) = j=0 a2j + j=0 a2j →
P∞
2 j=0 a2j , ce qui n’est possible que si les aj sont identiquement nuls.
En conclusion, Vn converge dans L2 si et seulement si aj = 0, ∀j > 0 (dans ce cas, Vn
converge dans L2 vers 0). ⊔

Exemple 1.11. Soit un vecteur aléatoire gaussien X dont les n + 1 composantes Z, X1 ,


· · · Xn sont des variables centrées réduites telles que (α étant une constante connue)

ρ(Z, Xi) = α, 1 6 i 6 n,
ρ(Xi , Xj ) = α2 , 1 6 i 6= j 6 n.

(i) On pose
Xi − αZ
Ui = √ , 1 6 i 6 n.
1 − α2
Déterminer la loi du vecteur (Z, U1 , · · · , Un ) et en déduire celle du vecteur (Z, X1, · · · , Xn ).
Pn S
(ii) Loi de S = i=1 Xi ? Loi de T = Z ?
118 — Chapitre 12. Vecteurs aléatoires gaussiens —

Solution. (i) Le vecteur aléatoires (Z, U1 , · · · , Un ) étant une transformation linéaire du


vecteur gaussien X, est un vecteur gaussien, centré. Pour déterminer sa loi, il suffit de
déterminer la matrice de covariances. Pour 1 6 i 6 n,

Var(Xi ) + α2 Var(Z) − 2αCov(Xi , Z)


Var(Ui ) = = 1,
1 − α2

et
Cov(Z, Xi) − αVar(Z)
Cov(Z, Ui ) = √ = 0.
1 − α2
Si 1 6 i 6= j 6 n,

Cov(Xi , Xj ) + α2 Var(Z) − αCov(Xi , Z) − αCov(Xj , Z)


Cov(Ui , Uj ) = = 0.
1 − α2

Donc (Z, U1 , · · · , Un ) suit la loi gaussienne N (0, Id), où Id désigne la matrice (n+1)×(n+1)
identitique. Autrement dit, Z, U1 , · · ·, Un sont des variables indépendantes suivant la
même loi gaussienne centrée réduite.
Le vecteur aléatoire (Z, X1 , · · · , Xn ) étant une transformation linéaire du vecteur
gaussien (Z, U1 , · · · , Un ), est donc aussi un vecteur gaussien. On a (en écrivant β :=

1 − α2 )
 
  1 0 0 ··· 0    
Z Z Z
α β 0 ··· 0 
 X1   U  U 
 .  =  α 0 β · · · 0   .1  := A ·  .1  .
 ..   . . . .  .   .. 
. . .
. . . . . ...  .
Xn Un Un
α 0 0 ··· β
 
Z
 X1 
Donc la matrice de covariances de  
 ...  est
Xn
  
1 0 0 ··· 0 1 α α ··· α
α β 0 ··· 0 0 β 0 ··· 0 
  
D := AA = 
t α 0 β ··· 0 0 0 β ··· 0 
. .. .. ..   .
. ..
.   .. .. .. ..
. .. 
. . . . . . .
α 0 0 ··· β 0 0 0 ··· β
 
1 α α ··· α
α 1 α2 · · · α2 
 
= α α2 1 · · · α2  .
. .. .. . . .. 
 .. . . . . 
α α2 α2 · · · 1
— Chapitre 12. Vecteurs aléatoires gaussiens — 119

Autrement dit, le vecteur aléatoire (Z, X1 , · · · , Xn ) suit la loi gaussienne N (0, D).
(ii) Par définition,
p Xn
S = nαZ + 1 − α 2 Ui ,
i=1

qui suit la loi gaussienne N (0, n2 α2 + n(1 − α2 )).


D’autre part, Pn
S p n−1/2 i=1 Ui
T = = nα + n(1 − α ) 2 .
Z Z
p
La variable T a donc la même loi que nα + n(1 − α2 ) C, où C désigne une variable
aléatoire suivant la loi de Cauchy standard. La densité de T vaut
p
1 n(1 − α2 )
fT (x) = , x ∈ R. ⊔

π n(1 − α2 ) + (x − nα)2

2. Théorème central limite multi-dimensionnel



Soit X = (X (1) , · · · , X (N) ) une v.a. à valeurs dans RN . On suppose que E kXk2 <
∞. Soit µ le vecteur-espérance de X, et soit D sa matrice de covariances. On sait que D
est une matrice symétrique positive. En conséquence, il existe une unique loi sur RN qui
soit gaussienne de moyenne nulle et de matrice de covariances D; on la notera N (0, D).
On sait d’après le théorème central limite uni-dimensionnel que pour chaque coor-
(j) (j)
donnée j, si on se donne une suite de v.a. X1 , · · · , Xn , · · · indépendantes et de même loi
que X (j) , alors
(j) (j)
X1 + · · · + Xn − nµj
√ → N (0, Djj ) (en loi).
n
En revanche, le théorème central limite uni-dimensionnel ne permet pas de conclure quant
à la convergence des vecteurs aléatoires (convergence conjointe des coordonnées). Ce point
fait l’objet la version multi-dimensionnelle du théorème central limite :

Théorème 2.1. Soient X1 , · · ·, Xn , · · · des vecteurs aléatoires indépendants, ayant tous


la même loi que X. Alors
X1 + · · · + Xn − nµ

n
converge en loi quand n → ∞ vers N (0, D).

La preuve du théorème est très proche de celle que nous avons donnée en dimension
1, en montrant la convergence des fonctions caractéristiques. L’écriture est plus longue.
120 — Chapitre 12. Vecteurs aléatoires gaussiens —

3. Espérances conditionnelles
Théorème 3.1. Soit (X, Y ) un vecteur aléatoire gaussien à valeurs dans R2 , alors
E(X | Y ) = aY + b, où a et b sont deux réels.

Preuve. Puisque X est une v.a. gaussienne réelle, elle admet des moments de tous ordres.
D’après le Théorème 3.1 du Chapitre 11, E(X | Y ) est la projection orthogonale de X sur
L2 (Y ).
Si Y est dégénérée (PY est une masse de Dirac), il n’y a rien à démontrer, car σ(Y ) =
{Ω, ∅}, et E(X | Y ), qui est σ(Y )-mesurable, est une v.a. constante.
Supposons maintenant Var(Y ) > 0. Soit a ∈ R. Le vecteur (X − aY, Y ) est encore
gaussien (car toute combinaison linéaire de X − aY et de Y donne une v.a. gaussienne).
Si
Cov(X, Y )
a := ,
Var(Y )
alors Cov(X − aY, Y ) = Cov(X, Y ) − aVar(Y ) = 0. D’après le Théorème 1.6, X − aY et
Y sont indépendantes. Donc E(X − aY | Y ) = E(X − aY ) := b. On a,

E(X | Y ) = E(aY | Y ) + E(X − aY | Y ) = aY + b,

ce qu’il fallait démontrer. ⊔


Remarque. On peut facilement généraliser le théorème pour le cas où Y est à valeurs
dans RN dont la matrice de covariances est inversible. ⊔

Exemple 3.2. La preuve du Théorème 3.1 donne la valeur exacte de a et b : a =


Cov(X, Y )/Var(Y ) et b = E(X) − aE(Y ). Dans la pratique, il est facile de retrouver
ces valeurs “à la main”. Par exemple, soit (X, Y ) un vecteur aléatoire gaussien tel que
E(X) = 3, E(Y ) = 0, Var(X) = 9, Var(Y ) = 1 et Cov(X, Y ) = −2. Par le Théorème 2.1,
on peut écrire E(X | Y ) = aY + b. En prenant l’espérance dans les deux côtés, on obtient
E(X) = aE(Y ) + b, c’est-à-dire b = 3.
D’autre part, E(XY | Y ) = Y E(X | Y ) = aY 2 + bY . D’où E(XY ) = aE(Y 2 ) + bE(Y ),
c’est-à-dire a = −2. Donc
E(X | Y ) = −2Y + 3. ⊔

Exemple 3.3. Dans l’exemple précédent, si l’on cherche les réels a, b, c et d qui minimisent
la quantité E[(X − a − bY − cY 2 − dY 3 )2 ], on sait que c = d = 0, a = 3 et b = −2. La
— Chapitre 12. Vecteurs aléatoires gaussiens — 121

valeur minimale de la quantité vaut alors


 
E[(X − 3 + 2Y )2 ] = E ((X − EX) + 2(Y − EY ))2
= Var(X) + 4Var(Y ) + 4Cov(X, Y ) = 5.
On peut retrouver ce résultat en faisant un calcul direct. ⊔

Exemple 3.4. Soit (X, Y ) un vecteur aléatoire gaussien tel que E(X) = E(Y ) = 0,
E(X 2 ) = E(Y 2 ) = 1 et E(XY ) = ̺ ∈ ] − 1, 1[. Montrer que
1 1
P(X > 0, Y > 0) = + arcsin(̺).
4 2π
Il est possible de prouver l’identité en utilisant la densité exacte de (X, Y ), mais il
est plus commode d’utiliser l’espérance conditionnelle. En effet, Z := X − ̺Y est une v.a.
gaussienne indépendante de Y , car (Z, Y ) est un vecteur gaussien tel que Cov(Z, Y ) = 0.
De plus, PZ = N (0, 1 − ̺2 ). Donc par les Théorèmes 1.6 et 2.3 du chapitre précédent,

P (X > 0, Y > 0 | Y ) = 1{Y >0} E 1{Z>−̺Y } | Y
( !)
̺Y
= 1{Y >0} 1 − Φ − p ,
1 − ̺2
Rx 2
où Φ(x) := (2π)11/2 −∞ e−u /2 du désigne la fonction de répartition de la gaussienne centrée
réduite N (0, 1). Par symétrie, 1 − Φ(−x) = Φ(x). Donc
( !)
̺Y
P (X > 0, Y > 0) = E 1{Y >0} Φ p
1 − ̺2
Z ∞ !
̺u 1 2
= Φ p √ e−u /2 du.
0 1 − ̺2 2π
R∞ 2
Étudions la fonction h(a) := 0 Φ(au) √12π e−u /2 du, a ∈ R. Par convergence dominée,
Z ∞
′ u 2 1 2 1
h (a) = √ e−(au) /2 √ e−u /2 du = , a ∈ R.
0 2π 2π 2π(a2 + 1)
R∞ 2
Comme h(0) = 0 12 √12π e−u /2 du = 41 , on obtient
1 1
h(a) = arctan(a) + , a ∈ R.
2π 4
Par conséquent,
! !
̺ 1 ̺ 1
P (X > 0, Y > 0) = h p = arctan p +
1 − ̺2 2π 1 − ̺2 4
1 1
= arcsin(̺) + ,
2π 4
ce qui donne l’identité cherchée. ⊔

122 — Chapitre 12. Vecteurs aléatoires gaussiens —
— Chapitre 13. Exemples de processus aléatoires — 123

Chapitre 13. Exemples de processus


aléatoires

Un processus aléatoire (ou : processus stochastique) à temps discret est une suite de
variables aléatoires X0 , X1 , · · ·, Xn , · · · Il décrit l’évolution d’un phénomène aléatoire si
l’on considère les indices 0, 1, 2, · · · comme du temps.
Ce chapitre ne fait pas partie du programme de l’examen.

1. Marche aléatoire simple


Soient ξ1 , ξ2 , · · · des v.a. iid qui prennent les valeurs +1 ou −1 avec probabilité 1/2.
Définissons X0 = 0 et
n
X
Xn = ξj , n = 1, 2, · · ·
j=1

On peut considérer Xn comme la position à l’instant n d’une particule qui se déplace de


manière aléatoire sur Z.
On peut facilement étendre ce modèle en dimension quelconque. Soient ξ1 , ξ2 , · · · des
v.a. iid à valeurs dans Zd , avec
P(ξ1 = (1, 0, · · · , 0)) = P(ξ1 = (−1, 0, · · · , 0))
= P(ξ1 = (0, 1, · · · , 0)) = P(ξ1 = (0, −1, · · · , 0))
= ···
= P(ξ1 = (0, 0, · · · , 1)) = P(ξ1 = (0, 0, · · · , −1))
1
= .
2d
Soit X0 = 0 et soit
n
X
Xn = ξj , n = 1, 2, · · ·
j=1
124 — Chapitre 13. Exemples de processus aléatoires —

Le processus stochastique {X0 , X1 , · · · , Xn , · · ·} est appelé “marche aléatoire simple (et


symétrique)” en dimension d.
Le théorème central limite multi-dimensionnel nous confirme que

X
√ n → N (0, D), en loi,
n
avec  1/d
0 ··· 0 
 0 1/d · · · 0 
D=  .. .. .. .. 
.
. . . .
0 0 · · · 1/d

Comme D est une matrice diagonale, Xn / n converge en loi vers un vecteur gaussien dont
les composantes sont indépendantes.
On se pose maintenant la question si la marche aléatoire revient infiniment souvent à
l’origine. Soit
pn = P (Xn = 0) .

Il est évident que pn = 0 si n est impair. En revanche, si n est pair, soit n = 2k,
 2k X
1 (2k)!
p2k =
2d (k1 ! · · · kd !)2
k1 +···+kd =k, ki >0
 2k   X  2
1 2k k!
= .
2d k k1 ! · · · kd !
k1 +···+kd =k, ki >0

En particulier, on a  
−2k 2k
p2k = 2 , si d = 1,
k
 2
−2k 2k
p2k = 4 , si d = 2.
k
A l’aide de la formule de Stirling, on obtient : lorsque k → ∞,

1
p2k ∼ √ , si d = 1,
πk
1
p2k ∼ , si d = 2.
πk
En général, on a pour tout d > 1,
 d/2
1 d
p2k ∼ , k → ∞,
2d−1 πk
— Chapitre 13. Exemples de processus aléatoires — 125

(pour cetter dernière équivalence, voir par exemple le livre de Rényi, “Calcul des Proba-
bilités”, Dunod, pp. 471–472). Donc si d > 3, on a
X
pn < ∞.
n

Par le lemme de Borel–Cantelli, presque sûrement, lorsque n est suffisamment grand,


Xn 6= 0. Donc, avec probabilité 1, la marche aléatoire ne visite l’origine qu’un nombre fini
de fois.
P
Lorsque d = 1 ou 2, n pn = ∞, on ne peut pas directment conclure, car les
événements {Xn = 0} ne sont pas indépendants. On va faire autrement. Soit

qn = P (X1 6= 0, X2 6= 0, · · · , Xn−1 6= 0, Xn = 0) .

(En mots, qn représente la probabilité que, à l’instant n, la marche aléatoire revienne à


l’origine pour la première fois). Il est clair que qn = 0 si n est impair. On a
 
[k
p2k = P  {X1 6= 0, X2 6= 0, · · · , X2j−1 6= 0, X2j = 0, X2k = 0}
j=1
k−1
X
= q2k + P{X1 6= 0, X2 6= 0, · · · , X2j−1 6= 0, X2j = 0, ξ2j+1 + · · · + ξ2k = 0}
j=1
k−1
X
= q2k + q2j p2k−2j
j=1
k−1
X
(∗) = q2k + q2k−2ℓ p2ℓ .
ℓ=1

Posons deux séries entières



X
f (x) = p2k xk ,
k=1

X
g(x) = q2k xk , |x| < 1.
k=1

On a donc par (∗),


f (x) = g(x) + f (x)g(x),

ou alors
f (x)
g(x) = , |x| < 1.
1 + f (x)
126 — Chapitre 13. Exemples de processus aléatoires —

On sait que

X ∞
X
lim f (x) = p2k , lim g(x) = q2k .
x→1− x→1−
k=1 k=1
P∞
Puisque k=1 p2k = ∞ (si d = 1 ou 2), on a limx→1− f (x) = ∞, donc limx→1− g(x) = 1.
P∞
C’est-à-dire que k=1 q2k = 1. Ceci signifie que lorsque d = 1 ou 2, la marche aléatoire
revient à l’origine avec probabilité 1. Donc elle revient infiniment souvent à l’origine. On
peut maintenant énoncer le résultat suivant.

Théorème 1.1 (Pólya 1921). (i) En dimension d = 1 ou 2, avec probabilité 1 la marche


aléatoire visite infiniment souvent l’origine.
(ii) En dimension d > 3, avec probabilité 1, la marche aléatoire ne visite l’origine
qu’un nombre fini de fois. D’une façon équivalente, la probabilité que la marche aléatoire
revienne à l’origine est strictment inférieure à 1.

2. Chaı̂nes de Markov
Dans toute la section, X0 , X1 , · · · désigne une suite de variables aléatoires à valeurs
dans E. On suppose que l’espace d’état E est au plus dénombrable.

Définition 2.1. On dit que X0 , · · ·, Xn , · · · est une chaı̂ne de Markov (homogène) s’il
P
existe des nombres réels positifs (Pij )(i,j)∈E 2 avec j∈E Pij = 1 pour tout i ∈ E, tels que
pour tout entier n > 0, tous i, j, x0 , · · · , xn ∈ E :

P (Xn+1 = j | X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i) = Pij ,

pourvu que la probabilité conditionnelle soit bien définie. On appelle (Pij )j∈E la proba-
bilité de transition pour l’état i. Lorsque l’espace d’état E est fini, P = (Pij )(i,j)∈E 2 est
une matrice qu’on appelle la matrice de transition de la chaı̂ne.

Il est intuitivement clair, et facile de vérifier directement, que pour une chaı̂ne de
Markov, on a

P (Xn+1 = j | X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i) = P (Xn+1 = j | Xn = i) .

On dit que l’évolution de la chaı̂ne après la date n ne dépend du passé X0 , · · ·, Xn qu’à


travers sa position au temps n (et non pas du trajet qu’elle a suivi pour atteindre cet état).
Cette propriété est appelée propriété de Markov.
— Chapitre 13. Exemples de processus aléatoires — 127

Voyons maintenant des exemples concrets.

Exemple 2.2 (marche aléatoire simple). Soit X0 , X1 , · · · une marche aléatoire simple et
symétrique sur Z. Lorsque l’événement {X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i} est non-vide
(c’est-à-dire que |xk − xk−1 | = 1 et |xn−1 − i| = 1), on a

P (Xn+1 = j | X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i)


= P (Xn + ξn+1 = j | X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i)
= P (ξn+1 = j − i | X0 = x0 , · · · , Xn−1 = xn−1 , Xn = i)
= P (ξn+1 = j − i)

1/2, si |j − i| = 1,
=
0, sinon.

Donc X0 , X1 , · · · forme une chaı̂ne de Markov (avec E = Z), avec pour tout i ∈ Z,

1/2, si |j − i| = 1,
Pij = ⊔

0, sinon.

Exemple 2.3 (marche aléatoire avec réflexion au bord). On appelle X0 , X1 , · · · une


marche aléatoire simple et symétrique sur {0, 1, 2, · · · , N }, avec réflexion au bord, si la
marche aléatoire visite 0 (resp. N ) à un certain moment, elle est forcée de visiter 1 (resp.
N − 1) à l’étape suivante. On est exactement dans la situation précedente, sauf pour i = 0
et i = N : P01 = 1, P0j = 0 si j 6= 1; PN,N−1 = 1, PNj = 0 si j 6= N − 1. Il s’agit d’une
chaı̂ne de Markov avec E = {0, 1, 2, · · · , N }. La matrice de transition est

 0 1 0 0 ··· 0 0 0 
 1/2 0 1/2 0 · · · 0 0 0 
 
 0 1/2 0 1/2 · · · 0 0 0 
P =
 .. .. .. .. .. .. .. .. .
 ⊔

 . . . . . . . . 
 
0 0 0 0 · · · 1/2 0 1/2
0 0 0 0 ··· 0 1 0

Exemple 2.4 (marche aléatoire avec absorption au bord). On appelle X0 , X1 , · · · une


marche aléatoire simple et symétrique sur {0, 1, 2, · · · , N }, avec absorption au bord, au
sens que si la marche aléatoire visite 0 ou N , elle y restera pour le reste du temps. On est
encore dans la situation précedente, sauf pour i = 0 et i = N : P00 = 1, P0j = 0 si j 6= 0;
128 — Chapitre 13. Exemples de processus aléatoires —

PNN = 1, PNj = 0 si j 6= N . Il s’agit d’une chaı̂ne de Markov avec E = {0, 1, 2, · · · , N }.


La matrice de transition est
 1 0 0 0 ··· 0 0 0 
 1/2 0 1/2 0 · · · 0 0 0 
 
 0 1/2 0 1/2 · · · 0 0 0 
P = . ..  ⊔

. .. .. .. ..
.
.. .. .
 . . . . . . . 
 
0 0 0 0 · · · 1/2 0 1/2
0 0 0 0 ··· 0 0 1

Exemple 2.5 (chaı̂ne à deux états). Considérons l’état d’une ligne téléphonique Xn = 0 si
la ligne est libre à l’instant n, et Xn = 1 si la ligne est occupée. Supposons que sur chaque
intervalle de temps, il y a une probabilité p qu’un appel arrive (un appel au plus). Si la
ligne est déjà occupée, l’appel est perdu. Supposons également que si la ligne est occupée
au temps n, il y a une probabilité q qu’elle se libère au temps n + 1. On peut modéliser
ainsi une chaı̂ne de Markov à valeurs dans E = {0, 1}, avec matrice de transition
 
1−p p
P = . ⊔

q 1−q

Exemple 2.6 (file d’attente simple). On modifie l’exemple précédent en supposant qu’on
peut mettre un appel en attente. Les appels arrivent et la ligne se libère comme avant. Si
un appel arrive pendant que la ligne est occupée et si le système n’est pas saturé, l’appel
est mis en attente. Si un appel arrive alors qu’il y a déjà un en attente, il est perdu. Cette
fois l’espace d’état est E = {0, 1, 2}. On a

P00 = 1 − p, P01 = p, P02 = 0.

De même
P20 = 0, P21 = q, P22 = 1 − q.

Le cas où il y a exactement un appel retenu au temps n est un peu plus délicat. On a
P10 = q(1 − p) (l’appel se termine et pas d’appel nouveau arrive) et P12 = p(1 − q) (un
appel nouveau arrive et celui en cours continue). Comme la somme P10 + P11 + P12 doit
valoir 1, on a donc P11 = 1 − q(1 − p) − p(1 − q). Finalement, la matrice de transition de
la chaı̂ne est  
1−p p 0
 
 
P =  q(1 − p) 1 − q(1 − p) − p(1 − q) p(1 − q)  . ⊔

 
0 q 1−q
— Chapitre 13. Exemples de processus aléatoires — 129

On décrit maintenant l’état d’une chaı̂ne de Markov.

Propriété 2.7. Soit X0 , X1 , · · · une chaı̂ne de Markov à valeurs dans E, avec pour
probabilités de transition (Pij )(i,j)∈E 2 . Alors, pour (x0 , · · · , xn ) ∈ E n+1 , on a

P (X1 = x1 , · · · , Xn = xn | X0 = x0 ) = Px0 ,x1 · · · Pxn−1 ,xn .

En particulier, si l’espace d’état E est fini, disons E = {1, · · · , N },

P (Xn = j | X0 = i) = Pijn ,

où P n = P × · · · × P au sens des produits de matrices et P n = Pijn i,j∈E
.

Preuve. La première formule s’obtient par récurrence. Plus précisément, on a

P (X0 = x0 , · · · , Xn = xn | X0 = x0 )
= P (X1 = x1 , · · · , Xn−1 = xn−1 | X0 = x0 ) P (Xn = xn | X0 = x0 , · · · , Xn−1 = xn−1 )
= P (X1 = x1 , · · · , Xn−1 = xn−1 | X0 = x0 ) Pxn−1 ,xn
= Px0 ,x1 · · · Pxn−1 ,xn .

La seconde formule en découle de la première si E = {1, · · · , N } :


N
X N
X
P (Xn = j | X0 = i) = ··· P (X1 = x1 , · · · , Xn−1 = xn−1 , Xn = j | X0 = i)
x1 =1 xn−1 =1
N
X N
X
= ··· Pi,x1 · · · Pxn−1 ,j
x1 =1 xn−1 =1
= Pijn . ⊔

Remarque. Une application importante de la Propriété 2.7 est la suivante : fixons des
entiers n et k, et soient x0 , · · · , xn , · · · , xn+k des points de E. On a alors

P (Xn+1 = xn+1 , · · · , Xn+k = xn+k | X0 = x0 , · · · , Xn = xn )


P (X0 = x0 , · · · , Xn = xn , Xn+1 = xn+1 , · · · , Xn+k = xn+k )
=
P (X0 = x0 , · · · , Xn = xn )
Px ,x · · · Pxn−1 ,xn Pxn ,xn+1 · · · Pxn+k−1 ,xn+k
= 0 1
Px0 ,x1 · · · Pxn−1 ,xn
= Pxn ,xn+1 · · · Pxn+k−1 ,xn+k
= P (X1 = xn+1 , · · · , Xk = xn+k | X0 = xn ) .
130 — Chapitre 13. Exemples de processus aléatoires —

e0 = Xn , · · ·,
En mots, si on sait qu’à l’instant n la chaı̂ne est en xn , alors la chaı̂ne X
ek = Xn+k , · · ·, obtenue par translation temporelle, ne dépend pas de la trajectoire suivie
X
pour arriver en xn au temps n, et a même loi que la chaı̂ne initiale quand cette dernière
est issue de xn . C’est une propriété conforme à l’intuition que l’on peut avoir. ⊔

3. Propriétés des chaı̂nes de Markov sur un espace


fini
Dans cette section on suppose que X0 , X1 , · · · est une chaı̂ne de Markov à valeurs
dans l’space d’état E qui est fini, E = {1, · · · , N }, et on note P la matrice de transition.
On s’intéresse à la distribution de Xn quand n → ∞. D’après la Propriété 2.7, ceci
revient à étudier la suite de matrices P n quand n → ∞.
Considèrons d’abord l’exemple simple de la chaı̂ne à deux états
 
1−p p
P = ,
q 1−q

avec 0 < p, q < 1. Pour calculer P n , on peut diagonaliser P . Les valeurs propres sont 1 et
1 − p − q, et on diagonalise D = Q−1 P Q avec
   q p   
1 −p −1 p+q p+q 1 0
Q= , Q = 1 1 , D= .
1 q − p+q p+q
0 1−p−q

La diagonale de D est constituée des valeurs propres. Les colonnes de Q sont les vecteurs
propres à droite de P , et les lignes de Q−1 les vecteurs propres à gauches. Les vecteurs
propres sont uniques à une constante multiplicative près; on a choisi la constante pour la
valeur propre 1 de sorte que la première ligne de Q−1 soit un vecteur probabilité (on verra
plus tard pourquoi). On a alors
n
P n = QDQ−1
= QDn Q−1
 q+p(1−p−q)n p−p(1−p−q)n 
p+q p+q
= .
q−q(1−p−q)n p+q(1−p−q)n
p+q p+q

Comme |1 − p − q| < 1, on voit que


 q p 
p+q p+q
lim P n =  .
n→∞ q p
p+q p+q
— Chapitre 13. Exemples de processus aléatoires — 131

Le fait que la seconde valeur propre, 1 − p − q soit en module strictement inférieure à 1 est
primordial dans le calcul; la matrice limite est constituée de deux vecteurs lignes identiques,
qui est le vecteur propre à gauche de P , normalisé de sorte à être une probabilité.
Supposons maintenant que l’état initial de la chaı̂ne est donné par une probabilité
P(X0 = 0) = a, P(X0 = 1) = 1 − a. Nous avons vu que l’état de la chaı̂ne au temps n suit
la loi caractérisée par

P(Xn = j | X0 = i) = Pijn i, j = 0 ou 1,

et on déduit que quand n → ∞, quelque soit l’état initial i de la chaı̂ne,

q p
lim P (Xn = 0 | X0 = i) = , lim P (Xn = 1 | X0 = i) = .
n→∞ p+q n→∞ p+q

On notera que la limite en loi qu’on a obtenue est donnée par le vecteur propre associé à
la valeur propre 1, normalisé pour être une probabilité.
Passons au cas général.

Convention. Un vecteur v = (v1 , · · · , vN ) est dit “vecteur probabilité” sur


E = {1, · · · , N } si les coefficients de v sont positifs et de somme 1. On dit qu’une v.a. Y
à valeurs dans E suit la loi v si P(Y = i) = vi pour tout i ∈ E.

Propriété 3.1. Si l’état initial de la chaı̂ne, X0 , suit la loi v, alors Xn suit la loi vP n .

Preuve. D’après la Propriété 2.7, pour tout j ∈ E,


X X
P(Xn = j) = P(X0 = i)P(Xn = j | X0 = i) = vi Pijn .
i∈E i∈E

Donc Xn suit la loi vP n . ⊔


Définition 3.2. Un vecteur probabilité v = (v1 , · · · , vN ) sur E est dit probabilité in-
variante (ou probabilité d’équilibre), pour la chaı̂ne de matrice de transition P si v est
un vecteur propre à gauche de valeur propre 1, i.e. v = vP .

La propriété suivante justifie la terminologie :

Propriété 3.3. Si v est une probabilité invariante et si l’état intial de la chaı̂ne X0 suit
la loi v, alors Xn suit également la loi v pour tout n.
132 — Chapitre 13. Exemples de processus aléatoires —

Preuve. Si v une probabilité invariante, alors vP n = v. D’après la Propriété 3.1, Xn suit


la loi v. ⊔

Il existe toujours une probabilité invariante lorsque la chaı̂ne de Markov est à valeurs
dans un espace d’état fini. Les questions naturelles qui se posent alors sont : (i) s’il y a
unicité pour probabilité invariante; (ii) en admettant que la réponse est oui, si quelle que
soit la distribution initiale de la chaı̂ne, l’état converge quand le temps tend vers l’infini,
vers cette unique probabilité invariante.
On peut observer que si, pour une distribution initiale donnée m = (m1 , · · · , mN ),
Xn converge en loi vers un vecteur probabilité v, autrement dit limn→∞ mP n = v, alors
vP = v, et v est nécessairement une probabilité invariante.
On a le résultat suivant dont on ne présente pas la preuve.

Théorème 3.4. Soit X0 , · · · , Xn , · · · une chaı̂ne de Markov sur un espace fini, avec pour
matrice de transition P . On suppose que les coefficients de P sont tous strictement positifs.
Alors il existe une unique probabilité invariante, v, et quelque que soit la distribution
initiale de la chaı̂ne, Xn converge en loi vers v quand n tend vers ∞.

Remarque. On se gardera de croire que le résultat précédent est valable en toute


généralité. Il est facile de construire des chaı̂nes de Markov possèdant plusieurs proba-
bilités invariantes. ⊔

Si tous les coefficients de P ne sont pas strictement positifs, on ne peut pas appliquer
le Théorème 3.4. Il est possible d’appliquer un autre résultat.

Définition 3.5. On dit qu’une chaı̂ne de Markov de probabilités de transition (Pij )(i,j)∈E 2
est irréductible si, pour chaque couple d’états (i, j), il existe des entiers m et n tels que
Pijm > 0 et Pji
n
> 0.

On admet le résultat suivant qui généralise le Théorème 3.4.

Théorème 3.6. Une chaı̂ne de Markov irréductible sur un espace fini a une unique
probabilité invariante. C’est le vecteur propre à gauche associé à la valeur propre 1, qui
est simple.

Remarque. Il est clair que, si E est fini, et si tous les coefficients de P k sont strictement
positifs pour un certain entier k, alors la chaı̂ne est irréductible. Donc d’après le Théorème
3.6, il existe une unique probabilité invariante. ⊔

Vous aimerez peut-être aussi