Introduction

Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Statistique Inferentielle

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Plan

1 Introduction
Généralités
2 Estimation ponctuelle
Estimation d’une espérance
Estimation d’une Variance
3 Estimation par intervalle de confiance
Introduction
Estimation par intervalle de confiance d’une espérance :
Estimation par intervalle de confiance d’une variance :
4 Estimation par la méthode des moments
5 Estimation par la méthode de maximum de vraisemblance

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

INTRODUCTION

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance Généralités
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

L’estimation statistique est un processus pour trouver une valeur approchée

d’un paramètre inconnu à partir de données observées d’un échantillon.
L’objectif de l’estimation est de trouver un estimateur qui soit proche de la
valeur vraie du paramètre, tout en restant aussi simple et facile à calculer que
possible.

Il y a quatre grand types d’estimations :

Estimation ponctuelle : une seule valeur.
Estimation par intervalle de confiance : un intervalle.
Méthode des moments
Méthode de maximum de vraisemblance
Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance Généralités
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Généralités
Soit θ un paramètre d’une population P et (X1 ; . . . ; Xn ) un n-échantillon
aléatoire simple de taille n issu de P. On appelle estimateur de θ toute
formule calculable à l’aide des Xi notée souvent par

θ̂ = f (X1 ; . . . ; Xn ).

Pour ne pas confondre, une estimation est l’application numérique de la

formule de l’estimateur avec des réalisations dites aussi observations
(x1 ; . . . ; xn ) des Xi et on note θ̂ = f (x1 ; . . . ; xn )

Exemple
Soit (XP1 ; . . . ; X5 ) un n-échantillon issu d’une Population P.
n
X = 15 i=1 Xi est un estimateur (dit moyenne empirique) et pour des
observation (1 ;1.5 ;1.25 ;1.23 ;1.33) alors,
X = 15 (1 + 1.5 + 1.25 + 1.23 + 1.33) est une estimation.

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance Généralités
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Propriétés d’un estimateur

Estimateur sans biais

Le biais d’un estimateur θ̂ de θ est défini par B(θ̂) = E (θ̂) − θ. C’est la
différence entre la valeur attendue de θ̂ et la valeur réelle de θ. On dit
que θ̂ est un estimateur sans biais de θ si E (θ̂) = θ, c’est-à-dire que
B(θ̂) = 0.

Un estimateur θ̂ = f (X1 ; . . . ; Xn ) de θ est dit convergeant ou efficace si

lim V (θ̂) = 0
+∞

Si T1 et T2 sont deux estimateurs sans biais de θ, T1 est considéré

comme plus efficace que T2 si Var(T1 ) < Var(T2 ) et si E(T1 ) = E(T2 )

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance Généralités
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Exemple
Soit X1 , · · · , Xn un échantillon de taille n d’une variable aléatoire X suivant une
loi uniforme sur l’intervalle [0, θ], où θ est un paramètre positif inconnu. Soit
n
θbn = max1≤i≤n Xi un estimateur de θ. on rappelant que E (θbn ) = n+1 θ:

Montrer que θn = 2X n est un estimateur sans biais. Avec Xn = n1 ni=1 Xi

P

Montrer que θbn est plus efficace que θn .

Correction de l’exercice :
1 E (θn ) = θ ?. Nous avons :
n
1X 1 nθ
E (θn) = 2E (X n) = 2 E (Xi ) = 2 = θ.
n i=1 n 2

2
θ2 θ2
Var(θbn ) = 2
< Var (θn ) =
(n + 1) (n + 2) 3n

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance Généralités
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation ponctuelle

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation d’une espérance
Estimation par intervalle de confiance
Estimation d’une Variance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation ponctuelle d’une espérence

L’estimation ponctuelle de l’espérance consiste à trouver un unique

estimateur µ̂ de µ basé sur un échantillon aléatoire (X1 , . . . , Xn ) d’une
population P. On considère
n
1X
µ̂ = Xn = Xi .
n
i=1

Alors X est un estimateur sans biais convergent vers µ.

n
1X 1
E (X n ) = E (Xi ) = nµ = µ
n n
i=1
n
1 X 1 Var (X )
Var (X n ) = 2 Var (Xi ) = 2 nVar (X ) = .
n n n
i=1

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation d’une espérance
Estimation par intervalle de confiance
Estimation d’une Variance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation ponctuelle d’une variance

; · · · ; Xn ) un échantillon de n réalisations de X . On note par P

Soit (X1P
S 2 = n1 ni=1 (Xi − X̄ )2 la variance de cette n-échantillon. Où X̄ = n1 ni=1 Xi est la
moyenne empirique de l’échantillon.
Un estimation de la variance de la population est donc

n
n 1 X
σˆ2 = S2 = (Xi − X̄ )2 . (1)
n−1 n − 1 i=1

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation d’une espérance
Estimation par intervalle de confiance
Estimation d’une Variance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Exemple
Un échantillon tiré d’un population donne les observations suivantes : 120, 141, 93,
105, 76, 132, 190, 117.
1 Donner une estimation ponctuelle de la moyenne de la population.
2 Donner une estimation ponctuelle de la variance ainsi de l’écart type de la
population.
Réponse :
1 Pn 1
X = i=1 Xi = 8 (120 + · · · + 117) = 111, 6
1
n
n n 1 Pn
2 Sc = n−1 S = n−1 n i=1 (Xi − X )2 =
2 2
1
(120 − 111, 6)2 + · · · + (117 − 111, 6)2 = 434.72
 
7 p √
Par suite σˆ2 = Sc2 = 434.72 et σ̂ = σˆ2 = 434.72

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation d’une espérance
Estimation par intervalle de confiance
Estimation d’une Variance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation par intervalle de confiance

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

La théorie des intervalles de confiance consiste à construire autour de

l’estimation ponctuelle un intervalle ayant une grande probabilité d’odre
(1 − α) de contenir la vraie valeur du paramètre.
Il faut savoir que si la taille de l’échantillon est n ≥ 30 alors la moyenne
empirique de l’échantillon suit la loi normale c’est à dire
n
1X σ
X = Xi −→suit N (mpop , √pop )
n n
i=1

ce qui est équivalent au fait que

X − mpop
Z= σpop
√
−→suit N (0, 1)
n

où mpop et σpop sont respectivement la moyenne et l’écart type de la

population.

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Exemple
Soit H une machine qui découpe des pièces dont le diamètre est D = 20mm et d’écart
type σ = 2mm. On travail sur un échantillon de 100 pièces.
1 Déterminer la probabilité p(X < 20.4mm), avec X désigne la moyenne
empirique de l’échantillon.
2 Déterminer la probabilité p(19.8mm < X < 20.4mm).

Correction de l’exemple :
1 Puisque n ≥ 30, alors nous avons

X −→suit N (mpop , σ√popn ) = N (20, 15 ).

Ce qui implique

X − 20
Z = 1
−→suit N (0, 1)
5

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

En utilisant la table de la loi normale, on peut trouver les résultats

suivants :

X − 20 20.4 − 20
p(X < 20.4mm) = p( 1 < 1 ) = p(Z < 2) = FZ (2) = 0.977 (2)
5 5

Avec FZ c’est la fonction de répartition de la loi normale réduite N(0, 1).

-2- En utilisant la table de la loi normale, on peut trouver les résultats
suivants

p(19.8 < X < 20.4mm) = p( 19.8−20

1 < X −20
1 < 20.2−20
1 )
5 5 5
= p(−1 < Z < 1) = FZ (1) − FZ (−1) (
= 2FZ (1) − 1 = 2 × 0.8413 − 1 = 0.6826.

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Estimation par intervalle de confiance d’une espérance

Cas.1 : Si la taille de l’échantillon est n ≥ 30 et la variance de la

population σ 2 est connue, alors l’intervalle de confiance de µ à une
probabilité de confiance de (1 − α) est
 
σ σ
IC(1−α) = X − Zα √ , X + Zα √
n n

Avec Zα := FZ−1 (1 − α2 ) se lit sur la table de la loi normale N (0, 1) pour

une probabilité de 1 − α2 .

Remarque
Ce modèle est également valable lorsque n < 30 et si la variable aléatoire
X suit une distribution normale N (µ, σ 2 ) et si σ 2 est connue.

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Exemple
On a observé la taille de n = 200 hommes tunisiens adultes. Après un
calcul, on a obtenu une moyenne pour cet échantillon : X = 168. Si on
suppose que la valeur de la variance est connue et égale à σ 2 = 1, alors
on peut donner un intervalle de confiance à 95% de la vraie moyenne de
la population tunisienne des hommes en utilisant la formule suivante :

 
σ σ
IC0.95 = X − Z0.05 √ , X + Z0.05 √
n n

Où Z0.05 = FZ (1 − 0.05/2) = 1.96 se lit sur la table de la loi normale

N (0, 1). Par la suite, on aura,

 
1 1
IC0.95 = 168 − 1.96 √ , 168 + 1.96 √ = [166.77, 169.23]
200 200

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Cas.2 : Si la taille de l’échantillon est n < 30 et que X suit une

loi normale N (µ, σ 2 ) avec σ 2 et µ inconnus. Alors, l’intervalle de
confiance de µ à une probabilité de confiance de (1 − α) est :
 
S S
IC(1−α) = X − tα √ , X + tα √
n n

Avec :
tα est déterminé à partir de la table de la loi de Student selon
la formule :
α
P(T > tα ) = , avec n − 1 degrés de liberté
2
√
”S” désigne l’écart type de l’échantillon (S = S 2 ).

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Exemple
On va étudier le cout du logement près du campus universitaire. Un
échantillon de 10 appartements a permis d’estimer le cout moyen du loyer
mensuel à X = 350 dinars par mois et un écart type de S = 30 dinars.
Quelle est l’intervalle de confiance à 95% de la moyenne des loyers
mensuels de la polulation. On suppose que les loyer suit un loi Normale.

Réponse : Puisque n = 10 < 30et les loyers suit la loi normale alors :
 
S S
IC(1−α) = X − tα √ , X + tα √
n n
Où tα est la quantile d’ordre α2 = 0.05
2 = 0.025 de la loi de Student avec
n − 1 = 9 degrés de liberté. En utilisant une table de la loi de Student,
on trouve tα = 2.262. et par suite
 
30 30
IC(0.95) = 350 − 2.262 √ , 350 + 2.262 √ = [328.54, 371.46]
10 10
Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Estimation par intervalle de confiance d’une variance

On rappelle que l’estimation ponctuelle de la variance pour un échantillon
c2 = 1 Pn (Xi − X )2 = S 2 .
de taille n est donnée par : σ n−1 i=1 c
L’intervalle de confiance peut être déterminé en utilisant les quantiles de
la distribution chi-deux avec (n-1) degrés de liberté :
" #
(n − 1)σc2 (n − 1)σ c2
,
a b
2
Il convient de rappeler que la variable aléatoire Y = (n−1)Sσ2 suit une
distribution khi-deux à (n − 1) degrés de liberté. Les nombres a et b sont
déterminés à partir de la table de la loi khi-deux avec :
α α
p(Y ≥ a) = et p(Y ≥ b) = 1 −
2 2
.
Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Exemple
Pour α = 0.05, n = 31 et S 2 = 100, on a ddl = 31 − 1 = 30
α
a =? on a 2 = 0.025 et ddl=30 donc d’après la table de la loi
khi-deux
a = 46.98
α
b =? on a 1 − 2 = 0.975 et ddl=30 donc d’après la table de
la loi khi-deux
b = 16.80
Par suit
(n − 1)S 2 (n − 1)S 2
 
IC = , = [0.3965, 0.4835]
a b

Statistique Inferentielle
 Introduction
Estimation ponctuelle Introduction
Estimation par intervalle de confiance Estimation par intervalle de confiance d’une espérance :
Estimation par la méthode des moments Estimation par intervalle de confiance d’une variance :
Estimation par la méthode de maximum de vraisemblance

Estimation par la méthode des moments

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation par la méthode des moments

L’estimation par méthode des moments (E.M.M) est une méthode

statistique pour estimer les paramètres d’une distribution à partir des
moments d’un échantillon. Elle consiste à trouver les valeurs des
paramètres qui minimisent la différence entre les moments observés de
l’échantillon et les moments théoriques de la distribution.
En général, l’estimation d’un paramètre θ ∈ R tel que E(X ) = ϕ(θ), où
ϕ est une fonction inversible, est donnée par θb = ϕ−1 (X n ), où ϕ−1 est
l’inverse de la fonction qui relie θ à l’espérance de la variable aléatoire X .

Exemple
(X1 ; · · · ; Xn ) un échantillon issu d’une v.a X qui suit une loi exponentielle
de paramètre θ avec E (Xi ) = θ1 = ϕ(θ). Alors un estimateur de θ est
θb = ϕ−1 (X n ) = X1 .
n

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Exemple
On considère la fonction f définie R par :
 1
θ−1
si 1 ≤ x ≤ θ
f (x) =
0 sinon

Calculer l’espérance et la variance de X .

On suppose que le paramètre θ est inconnu. On considère un échantillon
(X1 ; · · · ; Xn ). Trouver, en utilisant la méthode des moments, un estimateur θb
pour θ.

1- Z ∞ Z θ x
Z
θ+1 θ
E (X ) = xf (x) = xf (x) ==
−∞ 1 1 θ − 1 2

θ3 − 3θ θ+1 2
 
V (X ) = E (X 2 ) − E (X )2 = −
6(θ − 1) 2
x+1
2- E (X ) = ϕ(θ) implique que θ = ϕ−1 (X n ), où ϕ(x) = 2
. En calculant ϕ−1 , on
aura
θb = ϕ−1 (X n ) = 2Xn − 1

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation par la méthode de maximum de vraisemblance

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Estimation par la méthode de maximum de vraisemblance

Définition : Soit X une variable aléatoire réelle de loi paramétrique
(discrète :P(X = x), ou continue de densité fX ), dont on veut estimer le paramètre θ.
On appelle fonction de vraisemblance de θ pour une réalisation (x1 , . . . , xn ) d’un
échantillon, la fonction de θ :

n
Y
L(x, θ) = L(x1 , . . . , xn , θ) = f (x1 , . . . , xn , θ) = fX (xi )
i=1

Exemple : Soit (X1 , . . . , Xn ) un n-échantillon aléatoire simple issue d’une variable

aléatoire qui suit la densité suivante :
(
1 − θ1 x
f (x) = θ
e , 0≤x
0, sinon
Qn
L(x, θ) = i=1 fX (xi )

n
( ( Pn
1 − θ1 xi 1 − θ1 i=1 xi
=
Y
θ
e , 0 ≤ xi = θn
e , 0 ≤ xi
i=1
0, sinon 0, sinon

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

Principe de la méthode : Cette méthode consiste à trouver les valeurs du paramètre θ

qui maximisent la fonction de vraisemblance L(x, θ) donnée par :
n
Y
L(x, θ) = f (Xi , θ)
i=1

La valeur θ̂ qui maximise L(x, θ) serait un bon estimateur car elle donne la plus grand
probabilité pour cet échantillon. Cette méthode consiste à résoudre le système suivant

∂L(x,θ)

 ∂θ
=0 pour déterminer θ̂
 ∂ 2 L(x,θ)
<0 pour assurer l’existance du maxθ L(x, θ)

∂2θ

Remarque : Il est plus commode de maximiser ln(L(x, θ)) que de maximiser L(x, θ).

Exemple : ContinuantQ notre exemple précédent dont sa fonction de vraisemblance est

donnée par L(x, θ) = ni=1 fX (xi )
( Pn
1 − θ1 i=1 xi
= θn
e , 0 ≤ xi
0, sinon

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

On résout 
∂ ln(L(x,θ))

 ∂θ
=0 (1)
 ∂ 2 ln(L(x,θ))
<0 (2)

∂2θ

(1) On a
1 Pn 1 Pn
ln( θ1n e − θ ) = ln( θ1n ) + ln(e − θ
Pn
i=1 xi i=1 xi ) = −n ln(θ) − 1
θ i=1 xi . Par suite

1 Pn Pn
∂
∂θ
ln( θ1n e − θ i=1 xi ) = 0 ⇔ −n 1θ + 1
θ i=1 xi =0

−nθ+ ni=1 xi
P Pn
⇔ θ
= 0 ⇔ −nθ + i=1 xi =0

1
Pn
⇔θ= n i=1 xi = θ̂

Statistique Inferentielle
 Introduction
Estimation ponctuelle
Estimation par intervalle de confiance
Estimation par la méthode des moments
Estimation par la méthode de maximum de vraisemblance

(2)
∂2 1
Pn
∂2θ ln( θ1n e − θ i=1 xi
)

∂ 1 1
Pn
= ∂θ (−n θ + θ2 i=1 xi )
Pn
n 2 xi
= θ2 − i=1
θ3
Pn
n 2 xi
=θ=X 2 − i=1
3
X X
Pn
nX −2 xi
= 3
i=1
X

nX −2nX
= 3
X

−nX −n
= 3 = 2 <0
X X

Statistique Inferentielle