Rappels de théorie des probabilités

Convergence des variables aléatoires

Annexe

Échantillonnage et estimation

N. RIANE

Faculté des sciences économiques, juridiques et sociales de Rabat

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Aléatoire

A quoi tu penses ?

Je pense que, si en ouvrant un dictionnaire au hasard, on tombait

sur le mot hasard, ce serait un miracle, alors que si on tombait sur

le mot miracle, ce serait un hasard.

H. Le Tellier, Les amnésiques n'ont rien vécu d'inoubliable .

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Espaces probabilisés, variables aléatoires, lois

Dénition
Un espace probabilisé est la donnée de
1 un espace des états Ω.
2 un ensemble des événements P(Ω).
3 une probabilité P : P(Ω) → [0, 1] qui vérie
P(Ω) = 1.
pour toute famille dénombrable d'événements disjoints deux à
Pn
deux Ai ∈ P(Ω), P(∪ni=1 Ai ) = i=1 P(Ai ).

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Espaces probabilisés, variables aléatoires, lois - Exemple

Exemple - La pièce de monnaie :

On jette une pièce de monnaie équilibrée. Déterminer un espace

probabilisé relatif à cette expérience.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Variable aléatoire

Dénition
Une variable aléatoire sur espace probabilisé (Ω, P(Ω), P) est une
application X : Ω → E , avec E = N, Z, R. On lui associe une
mesure de probabilité PX appelée la loi de la variable aléatoire X
ou encore sa distribution :

PX (x) = P(X = x)

La fonction de répartition d'une v.a X est la fonction

FX : E → [0, 1] dénie par

FX (x) = P(X ⩽ x)

On distingue les variables aléatoires discrètes et les variables

aléatoires continues.
N. RIANE Échantillonnage et estimation
 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Espérance - variance

Dénition
Soit X une v.a. sur espace probabilisé (Ω, P(Ω), P). On dénit,
lorsqu'elles existent, l'espérance de X
dans le cas discret : E(X ) = k xk P(X = xk ).
P

dans le cas continu : E(X ) = x dPX = x fX (x)dx , où fX

R R

est la fonction de densité de X .

et la variance de X
 
V(X ) = E (X − E(X ))2 = E(X 2 ) − E(X )2

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Moment

Dénition
Soit X une v.a. sur espace probabilisé (Ω, P(Ω), P). On dénit,
lorsqu'il existe, le moment (non centré) d'ordre m de X par
µm = E(X m ).

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Indépendance

Dénition
Une suite de v.a X1 , . . . , Xn est dite indépendante si pour tout n
et toutes valeurs x1 , . . . , xn

P(X1 = x1 , . . . , Xn = xn ) = P(X1 = x1 ) · · · P(Xn = xn )

On a alors
E(X1 · · · Xn ) = E(X1 ) · · · E(Xn )
et
V(X1 + . . . + Xn ) = V(X1 ) + . . . + V(Xn )

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Indépendance - Exemple

Exemple - La pièce de monnaie :

On jette deux fois une pièce de monnaie équilibrée. Que peut-on

dire des événements suivants d'une manière bilatérale :
A={Pile au premier jet},
B={Face au premier jet},
C={Pile au second jet},
D={Face au premier jet et Pile au second jet}.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Inégalité de Markov/BienayméTchebychev

Théorème - Inégalité de Markov

Soit X une v.a. tel que E(|X |) < ∞. Pour tout a > 0, on a

E(|X |)
P(|X | ⩾ a) ⩽
a

Corollaire - Inégalité de BienayméTchebychev

Soit X une v.a. tel que E(|X |2 ) < ∞. Pour tout a > 0, on a

V(X )
P(|X − E(X )| ⩾ a) ⩽
a2

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Inégalités - Exemple

Exemple - La pièce de monnaie :

On jette 100 fois une pièce de monnaie équilibrée.

1 Déterminer une majoration de la probabilité que le nombre de
pile soit supérieur ou égale à 80.
2 Déterminer une minoration de la probabilité que l'erreur
absolue par rapport à la moyenne soit inférieure à 10.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi discrète uniforme

Dénition
On dit que X est une v.a. discrète uniforme sur {x1 , . . . , xk } si
1
P(X = xi ) = .
k !2
Pk Pk 2
Pk
xi xi x i
On a E(X ) = i=1 , V(X ) = i=1 − i=1
,
k k k
Pk
xi 2
µ2 = i=1 .
k

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi de Bernoulli

Dénition
On dit que X est une v.a. de Bernoulli de paramètre p ∈ [0, 1] si
P(X = 1) = p and P(X = 0) = 1 − p .
On a E(X ) = p , V(X ) = p(1 − p), µ2 = p .

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi binomiale

Dénition
On dit que X est une v.a.  de paramètres (n, p), où
binomiale
n
n ∈ N⋆ et p ∈ [0, 1], si P(X = i) = p i (1 − p)n−i .
i
On a E(X ) = np , V(X ) = np(1 − p), µ2 = np(1 − p) + n2 p 2 .

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi géométrique

Dénition
On dit que X est une v.a. géométrique de paramètre p ∈]0, 1[ si
P(X = n) = (1 − p)n−1 p pour n = 1, 2, 3 . . ..
p p 2−p
On a E(X ) = , V(X ) = , µ2 = .
1−p (1 − p)2 p2

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi de Poisson

Dénition
On dit que X est une v.a. de Poisson de paramètre λ > 0 si
λn
P(X = n) = e −λ pour n = 1, 2, 3 . . ..
n!
On a E(X ) = λ, V(X ) = λ, µ2 = λ(1 + λ).

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi continue uniforme

Dénition
On dit que X est une v.a. continue uniforme sur [a, b] si sa
densité de
probabilité est donnée par
 1 si x ∈ [a, b]
fX (x) = b − a .
0 sinon

b+a (b − a)2 a2 + ab + b 2
On a E(X ) = , V(X ) = , µ2 = .
2 12 3

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi exponentielle

Dénition
On dit que X est une v.a. de paramètre
exponentielle
( λ > 0 si sa
λe −λx si x > 0
densité de probabilité est donnée par fX (x) = .
0 sinon

1 1 2
On a E(X ) = , V(X ) = 2 , µ2 = 2 .
λ λ λ

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi normale (gaussienne)

Dénition
On dit que X est une v.a. gaussienne de paramètres µ et σ , où
µ ∈ R and σ > 0 et on note N (µ, σ 2 ) sa loi, si sa densité de
1 (x−µ) 2

probabilité est donnée par fX (x) = √ e− σ . 2 2

2πσ 2
On a E(X ) = µ, V(X ) = σ , µ2 = σ + µ2 .
2 2

X −µ
On appelle la v.a. une v.a. centrée et réduite , elle suit une
σ
loi normale de moyenne 0 et de variance 1.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi chi-deux

Dénition
Soient X1 , . . . , Xn des v.a. indépendantes de loi Gaussienne centrées
et réduites. La loi de la v.a. Z = X1 2 + . . . + Xn 2 est dite la loi de
chi-deux de n degrés de liberté, et on note χ (n).
2

La densité
 de probabilité est donnée par
1 n
 e −x/2 x −1 si x > 0
2

fX (x) = 2 Γ(n/2)
n/2
.
0

sinon.

On a E(X ) = n, V(X ) = 2n.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi de Student

Dénition
Soient X et Y deux variables aléatoires indépendantes telles que la
v.a. X est de loi Gaussienne centrée et réduite, et la v.a. Y est de
X
loi chi-deux de n degrés de liberté. La loi de la v.a. Z = p est
Y /n
dite la loi de Student de n degrés de liberté, et on note t(n).

La densité de probabilité est donnée par

− n+ 1
Γ( n+ ) 1
 2
fX (x) = √1nπ Γ( n ) 1 + xn .
2
2

n
On a E(X ) = 0 si n > 1, V(X ) = si n > 2.
n−2
N. RIANE Échantillonnage et estimation
 Rappels de théorie des probabilités
Convergence des variables aléatoires Espaces probabilisés, variables aléatoires, lois
Annexe

Loi de Fisher-Snedecor
Dénition
Soient X et Y deux variables aléatoires indépendantes qui suivent
une loi du de chi-deux à respectivement m et n degrés de liberté.
X /m
La loi de la v.a. Z = est dite la loi de Fisher-Snedecor de
Y /n
paramètres m et n, et on note F (m, n).

La densité de probabilité est donnée par

Γ( m+n ) m/ − 2 1
fX (x) = Γ m Γ n nn/2 mm/2 x m+n .
2

( ) ( )
2 2 (mx+n) 2

2(m + n − 2)
 2
n n
On a E(X ) = si n > 2, V(X ) = si
n−2 n−2 m(n − 4)
n > 4.
N. RIANE Échantillonnage et estimation
 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Convergence en probabilité

Dénition
On dit qu'une suite de v.a X1 , . . . , Xn , . . . converge en probabilité

vers une v.a X si et seulement si, ∀ε > 0

lim P (|Xn − X | > ε) = 0

n→+∞

On note Xn −→ X .
P

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Convergence en loi

Dénition
On dit qu'une suite de v.a X1 , . . . , Xn , . . . converge en loi vers la
v.a X si et seulement si pour tout x ∈ R (qui est point de
continuité de la fonction de répartition FX (t) de X ) on a

lim FXn (x) = FX (x)

n→+∞

L
On note Xn −→ X .

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Théorème de Slutsky

Théorème
Soient X1 , X2 , . . . et Y1 , Y2 , . . . deux suites de v.a. telles que
L L
Xn −→ X et Yn −→ d avec d ∈ R une constante, alors
L
Xn + Yn −→ X + d
L
Xn Yn −→ dX
Xn L X
−→ , si d ̸= 0
Yn d

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Loi des grands nombres

Théorème
Si X1 , . . . , Xn , . . . est une suite de v.a. indépendantes et de même
loi (i.i.d.), avec E(Xi ) = µ, pour i ⩾ 1, alors

X1 + . . . + Xn P
−→ µ
n

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Loi des grands nombres - Exemple

Soit U1 , U2 , . . . une
Pn suite i.i.d. de v.a. suivant la loi uniforme sur
Un
[0, 1]. Que vaut i=1 lorsque on genere une innité de v.a. Ui ?
n

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Loi central limite

Théorème
Soient X1 , . . . , Xn , . . . est une suite de v.a. indépendantes et de
même loi (i.i.d.), avec E(Xi ) = µ et V(Xi ) = σ 2 , pour i ⩾ 1, alors
!
X +...+Xn
n √ −µ
1
L
−→ N (0, 1)
σ/ n

N. RIANE Échantillonnage et estimation

 Convergence en probabilité
Rappels de théorie des probabilités
Convergence en loi
Convergence des variables aléatoires
Loi des grands nombres
Annexe
Loi central limite

Loi des grands nombres - Exemple

On lance une pièce de monnaie équilibrée n fois et soit Xn le

nombre de pile. Donner un intervalle de Xn avec n = 104 pour une
probabilité de 0.95.

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires La fonction Gamma
Annexe

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires La fonction Gamma
Annexe

Sommaire

1 Rappels de théorie des probabilités

Espaces probabilisés, variables aléatoires, lois

2 Convergence des variables aléatoires

Convergence en probabilité

Convergence en loi

Loi des grands nombres

Loi central limite

3 Annexe

La fonction Gamma

N. RIANE Échantillonnage et estimation

 Rappels de théorie des probabilités
Convergence des variables aléatoires La fonction Gamma
Annexe

La fonction Gamma

Dénition
La fonction Gamma Γ est dénit pour tout réel strictement positif
par : Z +∞
Γ(z) = t z−1 e −t dt
0

La fonction Γ prolonge la fonction factoriel ! sur R⋆+ , en eet,

Γ(n) = n! si n ∈ N.

N. RIANE Échantillonnage et estimation