Estimation et Tests d'Hypothèses
Estimation et Tests d'Hypothèses
com
3 novembre 2021
Estimation et Tests d’hypothèses :
Université de Thiès —
UFR Sciences Économiques et Sociales — Département Management des Organisations
Table des matières
1
3.2.4 Test de conformité d’une variance . . . . . . . . . . . . . . . . . . 32
2
Chapitre 1
Échantillonnage et Distributions
d’échantillonnage
1.1 Introduction
Pour des raisons évidentes, il est souvent impossible d’étudier les caractéristiques de tous
les éléments d’une population. On se limite donc à l’étude d’échantillons.
Nous verrons comment sélectionner un échantillon à partir d’une population finie grâce
à la méthode d’échantillonnage aléatoire simple et comment un échantillon aléatoire peut
être issu d’une population infinie générée par un processus. Nous verrons ensuite comment
utiliser les données obtenues à partir de l’échantillon pour estimer la moyenne, l’écart type
ou une proportion de la population. De plus, nous introduirons le concept de distribution
d’échantillonnage. Comme nous le montrerons, la connaissance de la distribution d’échan-
tillonnage appropriée est ce qui nous permet de conclure quant à la justesse des résultats de
l’échantillon. La dernière section traite des méthodes d’échantillonnage aléatoire alternatives
à l’échantillonnage aléatoire simple, qui sont souvent employées dans la pratique.
Grâce à la théorie de l’échantillonnage, on peut, à partir des observations faites sur un
échantillon, estimer un paramètre dont la valeur est inconnue sur la population, soit en don-
nant une valeur approchée de ce paramètre (estimation ponctuelle), soit en déterminant un
intervalle auquel on peut attribuer un certain degré de confiance (estimation par intervalle
de confiance).
1.2 L’échantillonnage
Exemple 1.2.1. En 2003, la Finlande comptait 2 657 000 véhicules. Une étude exhaustive
de cette population de véhicules a permis de montrer que :
— Le nombre moyen de kilomètres parcourus en 2003 est m = 18 740 km.
— L’écart type du nombre de kilomètres parcourus est e = 2100 km.
On choisit au hasard un échantillon de 1 000 véhicules. Deux questions sont à élucider :
— Quel sera le nombre moyen de kilomètres parcourus observé dans l’échantillon ?
— Quel sera l’écart type du nombre de kilomètres parcourus observé dans l’échan-
tillon ?
3
Le problème consiste à déduire de la moyenne et de l’écart type connus dans la population
mère les valeurs probables de ces mêmes paramètres dans l’échantillon.
le raisonnement déductif à mener est moins simple qu’il y paraît à première vue, car
l’échantillon est constitué au hasard. Ainsi, il y a un très grand nombre d’échantillons de
taille 1 000 qui peuvent être extraits de la population mère. D’un échantillonà l’autre, le
kilométrage moyen varie, ainsi que l’écart type du kilométrage.
Pour pouvoir tirer de l’observation d’un échantillon des informations relatives à la popu-
lation toute entière, et si possible préciser quelle fiabilité on peut donner à ces informations,
il est nécessaire dans un premier temps de déterminer la distribution probabiliste du pa-
ramètre étudié, sur l’ensemble de tous les échantillons de la taille choisie. On détermine
cette distribution en fonction des paramètres supposés connus sur la population.
Définition 1.2.1. 1. La population totale sur laquelle porte l’étude s’appelle la popu-
lation mère. Elle est notée P.
2. La taille de cette population mère est notée N.
3. La variable statistique qui associe à chaque individu de la population mère une mo-
dalité s’appelle la variable statistique parente. La variable statistique parente est
notée XS . La moyenne et l’écart type de XS sont respectivement notés m et e.
Exemple 1.2.2. Dans l’exemple précédent, la population mère P est constituée de tous les
véhicules répertoriés en Finlande en 2003. La taille N est égale à 2 657 000. La variable
statistique parente est l’application XS , qui associe à chaque véhicule du parc automobile
le nombre de kilomètres parcourus en 2003. La moyenne de XS sur P est m = 18740 km,
l’écart type de XS sur P est e = 2100 km.
4
• A chaque individu de la population, XS associe le nombre de kilomètres parcourus en
2003.
• A chaque événement élémentaire de l’univers des possibles, X associe également
également le nombre de kilomètres parcourus en 2003.
Il convient toutefois de remarquer que, d’un point de vue théorique, XS et X sont fondamen-
talement différentes. En effet, XS est une variable statistique qui a une distribution observée,
une moyenne m et un écart type e. L’application X est une variable aléatoire qui a une
distribution de probabilité (ou loi de probabilité), une espérance µ et un écart type σ.
Définition 1.2.2. Soit XS une variable statistique parente définie sur une population mère P.
Soit ε l’expérience aléatoire qui consiste à choisir au hasard un individu dans la population
mère P.
Soit Ω l’univers des possibles associé à ε.
1. La variable aléatoire parente X est la variable aléatoire qui associe à chaque événe-
ment élémentaire de Ω une réalisation suivant le même processus d’association que
XS .
2. L’espérance et l’écart type de X sont respectivement notés µ et σ.
L’exemple qui suit s’intéresse au lien numérique entre les paramètres m et µ et les para-
mètres e et σ.
Exemple 1.2.3 (Matchs de hand-ball et exclusions pour 2 min). Dans le département des
Landes, 20 équipes féminines participent au championnat Excellence de hand-ball. Lors
de la saison 2011-2012, ces équipes ont joué 50 matchs (38 matchs de championnat et 12
matchs de coupe). Les arbitres de ces 50 matchs ont noté sur chaque feuille de match le
nombre d’exclusions pour 2 min lors de la partie.
La variable statistique parente XS associe à chacun des matchs le nombre d’exclu-
sions pour 2 min. La distribution observée de XS est consignée dans le tableau suivant
Nombre d’exclusions pour 2 min (modalités xj ) 0 1 2 3 4 5
Effectifs nj 10 4 8 15 10 3
Fréquences observées fj 0,20 0,08 0,16 0,30 0,20 0,06
Le nombre moyen d’exclusions pour 2 min est égal à :
5
X
m= fj · xj = 0, 2 · 0 + 0, 08.1 + 0, 16.2 + 0, 3.3 + 0, 2.4 + 0, 06.5 = 2, 4.
j=0
5
élémentaires ωi qui représentent chacun un match. L’expression “choisi au hasard” est
modélisée par l’équiprobabilité des événements élémentaires. Ainsi, pour tout événement
1
élémentaire i, on pose P (ωi ) = 50 .
Soit X la v.a. qui associe au match tiré le nombre d’exclusions pour 2 min. Il vient :
1 1 1
P [X = 0] = 10. = 0, 2; P [X = 1] = 4. = 0, 08; P [X = 2] = 8. = 0, 16;
50 50 50
1 1 1
P [X = 3] = 15. = 0, 3; P [X = 4] = 10. = 0, 2; P [X = 5] = 3. = 0, 06.
50 50 50
La loi de probabilité de la variable aléatoire X est donc :
x 0 1 2 3 4 5
P [X = x] 0,2 0,08 0,16 0,3 0,2 0,06
Par construction, c’est-à-dire compte tenu de la définition de l’expérience aléatoire ε et de
la définition de la variable aléatoire parente X, calquée sur celle de la variable statistique
parente XS :
• Les valeurs des réalisations de X sont les mêmes que les valeurs des modalités de
XS .
• Les valeurs numériques des probabilités des réalisations de X sont égales aux valeurs
numériques des fréquences des modalités de XS .
Par conséquent :
5
X
E (X) = µ = pi .xi = 0, 2.0 + 0, 08.1 + 0, 16.2 + 0, 3.3+, 0, 2.4 + 0, 06.5 = 2, 4.
i=0
Proposition 1.2.1.
Soit :
1. XS est une variable statistique parente définie sur une population mère P ,
2. ε l’expérience aléatoire qui consiste à choisir au hasard un individu dans la popula-
tion mère P.
3. Ω l’univers des possibles associé à ε,
4. X la variable aléatoire parente qui associe à chaque événement élémentaire de Ω une
réalisation suivant le même processus d’association que XS .
Alors :
1. La moyenne m de XS est égale à l’espérance µ de X.
2. L’écart type e de XS est égale à l’écart type σ de X.
6
Les valeurs de m et µ ainsi que celles de e et σ sont égales, moyennant l’hypothèse
que le tirage dans la population mère est réalisé au hasard (du fait que la modélisation par
l’équiprobabilité sur Ω dont découlent les égalités numériques des paramètres). D’un point
de vue pratique l’hypothèse d’équiprobabilité est essentielle. L’exemple qui suit illustre ce
point .
Exemple 1.2.4. Un institut de sondage veut tirer au hasard un échantillon de taille 1 000
dans la population des adultes vivant en France. Pour que chaque individu ait la même
probabilité d’être tirée dans l’échantillon, il faut :
• disposer de la base complète de sondage, c’est-à-dire de la liste exhaustive (et actua-
lisée) de tous les adultes vivant en France à une date précise,
• numéroter ensuite chaque individu de la base,
• puis utiliser un système de type “boule de loto”, pour choisir au hasard 1 000 indivi-
dus.
7
Remarque 1.2.2. Ainsi définies, les 1 000 v.a. Xi suivent la même loi de probabilité que la
v.a. parente X (avec les mêmes paramètres, exemple même espérance et même écart type).
Un tel échantillon de taille n peut être constitué
avec remise : chaque élément tiré est remis dans la population avant le tirage de l’élé-
ment suivant, on peut donc tirer plusieurs fois le même élément, et les n variables
aléatoires Xi sont indépendantes, ou
sans remise : un échantillon est alors un sous-ensemble de Ω.
— Si le rapport τ = Nn , appelé taux de sondage, est suffisamment faible (inférieur à
1
10
), alors les n variables aléatoires Xi sont considérées indépendantes.
— Si le rapport τ = Nn est trop élevé, alors les variables aléatoires qui constituent
l’échantillon ne sont pas indépendantes.
Définition 1.2.3. Un échantillon aléatoire simple de taille n (e.a.s.) issu de la variable aléa-
toire (v.a.) parente X est un n-uplet (X1 , X2 , · · · , Xn ), appelé également vecteur aléatoire,
où :
1. Les n v.a. Xi suivent la même loi de probabilité que la v.a. parente X.
2. Les n v.a. Xi sont indépendantes.
Un tel échantillon est noté n-EAS.
Exemple 1.2.5. Dans l’exemple, le taux de sondage τ = 2657000 1000
. τ = 0, 04% < 10%, donc
(X1 , X2 , · · · , Xn ) est considéré comme un 1000-EAS issu de la v.a. parente X.
Exemple 1.2.6. Ω est un ensemble de paquets de riz “premier prix”. 10 % d’entre eux sont
percés. On prélève un échantillon de 10 paquets.
Supposons d’abord que la population est constituée des 50 paquets placés sur le rayon
d’une épicerie, 5 d’entre eux étant percés.
Si le prélèvement est effectué avec remise, la proportion de paquets défectueux dans la
population reste de 10 % et la probabilité de tirer un paquet percé de 0, 1 à chaque tirage.
Si le prélèvement est effectué sans remise, les tirages ne sont plus indépendants puisque
la proportion de paquets défectueux varie au fil des tirages. En effet, après tirage du premier
paquet, il reste 49 paquets dont 5 percés (soit environ 10,2 %) si le premier ne l’est pas, ou
4 percés (soit environ 8,2 %) si le premier l’est.
Par contre si la population Ω considérée est l’ensemble des paquets de riz de même type
à la sortie de l’usine d’ensachage (population “infinie”), la proportion de paquets percés
(10 %), ne sera pas modifiée (ou le sera de façon tout à fait négligeable), que le prélèvement
soit exhaustif ou non.
Les résultats donnés dans tout le chapitre ne sont applicables que si l’on a indépendance
des tirages, on considérera donc des échantillons constitués avec remise, ou éventuellement
sans remise si Ω peut être assimilée à une population de taille infinie.
8
Une procédure de sélection d’un échantillon aléatoire simple, à partir d’une population
finie, consiste à choisir les éléments de l’échantillon un par un, de façon à ce que les n
éléments restants dans la population aient la même propabilité d’être sélectionné.
Remarque 1.2.3. Des nombres aléatoires générés par ordinateur peuvent également être
utilisés pour procéder à la sélection d’un échantillon aléatoire. Excel possède une fonction
de génération de nombres aléatoires.
La procédure d’échantillonnage peut se faire sans remise (la plus utilisée) ou bien avec
remise.
9
93 22 53 64 39 07 10 63 76 35 87 03 04 79 88 08 13 13 85 51
55 34 57 72 69 78 76 56 54 74 92 38 70 96 92 52 06 79 79 45
82 63 18 27 44 69 66 92 19 09 23 68 35 26 00 99 53 93 61 28
52 70 05 48 34 56 65 05 61 86 90 92 10 70 80 15 39 25 70 99
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...
Remarque 1.2.4. Il est important de lire la table strictement dans le sens choisi, qu’il soit
horizontal ou vertical, et sans omissiom ;
10
Échantillonnage par grappes Les grappes sont composées de façon hétérogène et donc
sont représentatives de la population.
Exemple : les classes d’une école de deuxième cycle au secondaire.
Exemple 1.2.8. Constitutuion d’un échantillon de pièces fabriquées par une machine :
— production quotidienne :6000 pièces ;
— taille de l’échantillon quotidien à prélever : 60 parmi une population contenant 5000
pièces, soit 1 pièce sur 6000/60=100.
Chaque jour, le numéro d’ordre de la pièce à prélever parmi les 100 premières (numérotées
de 00 à 99) sera déterminé par lecture d’un nombre au hasard de 2 chiffres. En commençant
à la 3e ligne de la table précédente et en choisissant une lecture horizontale on aura :
— le 1er jour : numéro lu : 82 ; on prélèvera la 83e pièce fabriquée par la machine ;
— le 2e jour : numéro lu : 63 ; on prélèvera la 64e pièce fabriquée par la machine ; etc.
Les pièces prélevées pour constituer l’échantillon à contrôler seront
— le 1er jour : la 83e , la 183e , la 283e , . . . jusqu’à la 5983e ;
— le 2e jour : la 64e , la 164e , la 264e , . . . jusqu’à la 5964e .
Exemple 1.2.9. Constitution d’un échantillon de 200 salons de coiffures situés en France
(exceptés les DOM-TOM).
Les unités primaires pourraient être les départements français, numérotés de 1 à 97, et
dix d’entre eux pris au hasard ;
Dans chaque département, tous les salons de coiffure seraient numérotés et 20 d’entre
eux pris au hasard.
11
Échantillonnage raisonnés ou empiriques Les sondages aléatoires supposent la confec-
tion d’une liste numérotée de tous les éléments de la population-mère (sondages à un degré)
ou d’une liste des unités primaires et d’une liste des éléments qui les constituent (sondages à
deux degrés). La confection de ces listes est parfois matériellement impossible. On s’efforce
alors de construire, de manière raisonnée, un échantillon “représentatif” de la population
étudiée, c’est-à-dire une sorte de modèle réduit de cette population. Un tel échantillon est dit
raisonné ou empirique.
La méthode des quotas propose une démarche de construction d’un échantillon empi-
rique. Elle consiste à :
— repérer les facteurs (caractères qualitatifs ou quantitatifs des éléments) susceptibles
d’affecter le phénomène étudié ;
— déterminer pour chaque facteur, la distribution des éléments de la population-mère ;
— consistuer un échantillon respectant la structure de ces distributions.
Exemple 1.2.10. Sondage d’opinion politique des électeurs de la région R sur un échan-
tillon de 500 personnes :
Trois facteurs déterminants de l’opinion sont retenus : l’âge de l’électeur, son sexe, et
son activité professionnelle.
La population-mère se distribue ainsi (distributions marginales ou quotas) :
— suivant l’âge : 18 à 29 ans : 24 % ; 30 à 59 ans : 46 % ; 60 ans et plus : 30 % ;
— suivant le sexe : masculin : 48 % ; féminin : 52 % ;
— suivant l’activité professionnelle : agriculteurs : 2 % ; commerçants et artisans : 6
% ; cadres moyens et employés : 29 % ; cadres supérieurs et professions libérales :
21 % ; ouvriers : 8 % ; autres : 34 %.
L’échantillon devra respecter ces quotas et comprendre par exemple 150 personnes de plus
de 60 ans (500 × 0,30), 360 femmes (500 × 0,52), 40 ouvriers (500 × 0,08), etc.
Outre ces distributions marginales, il devra également respecter autant que possible les
distributions croisées des trois facteurs, même si elles ne sont connues qu’approximative-
ment. Par exemple si l’on sait que 70 % des ouvriers sont de sexe masculin dans la région R,
il faudra que, parmi les 40 ouvriers de l’échantillon, 28 (40 × 0,70) soient des hommes.
La méthode des quotas est extrêmememt utilisée, non seulement parce qu’elle est souvent
la seule possible, c’est le cas en marketing pour les études de marché, mais aussi parce
qu’elle est moins coûteuse que les sondages aléatoires et qu’elle donne de très bons résultats
si elle est appliquée avec soin.
Cependant, dans la mesure où elle ne repose sur aucun fondement de théorie statistique,
elle ne permet pas de mesurer la précision des estimations faites à partir de l’échantillon,
contrairement aux sondages aléatoires.
12
n étant un entier fixé, on considère (X1 , X2 , · · · , Xn ) un échantillon aléatoire simple de
taille n issu de la variable aléatoire parente X.
1. La statistique ou moyenne empirique de l’échantillon est la variable aléatoire
n
1X
X̄n = Xi .
n i=1
Démonstration.
n
1X 1
E X̄n = E (Xi ) = nµ = µ
n i=1 n
n
! n
1 X 1 X 1 2 σ2
V X̄n = V X i = V (X i ) = nσ = .
n2 i=1
n2
i=1
n2 n
Théorème 1.3.1. Soit (Xn ) une suite de variables aléatoires indépendantes de même loi
d’espérance µ et d’écart-type σ. Alors :
X̄n − µ Loi
√ −−→ N (0; 1) .
σ/ n
13
Proposition 1.3.2 (Loi des grands nombres). Loi faible des grands nombres Soit X1 , X2 , · · · , Xn
indépendantes d’espérance m1 , m2 , · · · , mn finies et de variance σ12 , σ22 , · · · , σn2 fi-
nies.
n n n
1X 1 X 2 1X
Si mi → m et si 2 σ → 0, alors X̄n = Xi est tel que :
n i=1 n i=1 i n i=1
P
X̄n −
→ m.
n
1X
Loi forte des grands nombres Soit X1 , X2 , · · · , Xn indépendantes telles que mi →
n i=1
∞
X σi2
m et est convergente ; alors :
i=1
i2
ps
X̄n −
→ m.
X̄n − µ Loi
√ −−→ N (0; 1) .
σ/ n
X1
et l’on sait que la série converge.
i2
14
Distribution d’échantillonnage de la moyenne
Théorème 1.3.2. Soit (Xn ) une suite de variables aléatoires indépendantes de même loi
n
1X 2
d’espérance µ et d’écart-type σ. X̄n = Xi , E X̄n = µ, V X̄n = σn .
n i=1
• Si l’échantillon est normal Xi ∼ N (µ, σ)
• Si l’échantillon est de Bernoulli Xi ∼ B (1, p) et si min (np, n(1 − p)) ≥ 5
• Si l’échantillon est quelconque et n ≥ 30
alors
X̄n − µ Loi
√ −−→ N (0; 1) .
σ/ n
Remarque 1.3.1. Dans le cas d’un échantillon de Bernoulli, ce théorème s’écrit :
P0 − p Loi
p pq −−→ N (0; 1) .
n
— Si Xn ∼ B (n, p) alors
Xn − np Loi
√ −−−−→ N (0; 1) .
npq n→+∞
— Si Xn ∼ B (n, p), si n est grand, alors
X ≈ N (np; npq) .
— Si Xλ ∼ P (λ) alors
Xλ − λ Loi
√ −−−−→ N (0; 1) .
λ n→+∞
nSn2
χ2n−1 .
σ2
Cas 2. Lorsque l’échantillon n’est pas gaussien mais qu’il est de grande taille (n au
moins égal à 30), l’application du TCL permet de montrer que la variance empirique
tend vers une loi normale.
Cas 3. Lorsque l’échantillon n’est gaussien ni de grande taille, une étude au cas par cas
permet éventuellement de déterminer la loi de la variance empirique.
15
Chapitre 2
2.1.1 Définitions
Soit X une variable aléatoire de densité f (x, θ) appartenant à un intervalle I de R.
Définition 2.1.1. Un n-échantillon (ou échantillon de taille n) de X est un n−uplet (X1 , X2 , . . . , Xn )
tel que les Xi ont la même loi que X et sont indépendants.
Définition 2.1.2. Une réalisation de l’échantillon est un n−uplet (x1 , x2 , . . . , xn ) où les xi
sont des nombres réels, résultats d’expériences.
Définition 2.1.3. Une statistique de l’échantillon est une variable aléatoire ϕ (X1 , X2 , . . . , Xn )
où ϕ est une application de Rn dans R.
Les statistiques sont utilisées pour estimer les caractéristiques de la population totale. Les
statistiques les plus utilisées sont la moyenne empirique, la variance empirique, la fréquence
empirique.
Définition 2.1.4. Un estimateur T de θ est une statistique à valeurs dans I.
[Biais d’un estimateur]
16
Définition 2.1.5. Le biais de l’estimateur est
b(θ) = E(T ) − θ.
lim E(Tn ) = θ0 .
n→∞
Définition 2.1.7. L’estimateur est convergent si la suite (Tn ) converge en probabilité vers
θ0 :
∀ε > 0, P (|Tn − θ0 | > ε) −−−→ 0.
n→∞
Un moyen simple de vérifier cette propriété de convergence est donner dans le théorème
qui suit.
Théorème 2.1.1. Tout estimateur sans biais dont la variance tend vers zéro est convergent :
Eθ (Tn ) = θ P
⇒ Tn −−−→ θ.
Vθ (Tn ) → 0 n→∞
Théorème 2.1.2. Un estimateur convergent est asymptotiquement sans biais. Pour qu’un
estimateur asymptotiquement sans biais soit convergent il suffit que
V(Tn ) −−−→ 0.
n→∞
V (T1 ) ≤ V (T2 ).
17
2.1.3 Méthode du maximum de vraisemblance
La méthode du maximum de vraisemblance consiste à déterminer, parmi tous les esti-
mateurs possibles du paramètre θ inconnu , celui qui rend maximale la probabilité d’avoir
obtenu l’échantillon obseré, c’est-à-dire la vraisemblance de l’échantillon.
∂L ∂2L
=0 et < 0,
∂θ ∂θ2
or L et ln L atteignent leur maximum pour la même valeur de θ, et comme L est toujours un
produit, il est plus facile de déterminer θ qui rend maximum ln L :
∂ ln L ∂ 2 ln L
=0 et < 0.
∂θ ∂θ2
Définition 2.1.10. On appelle estimateur du maximum de vraisemblance (EMV) toute fonc-
tion θ̂n de (x1 , · · · , xn ) qui vérifie :
L x1 , · · · , xn ; θ̂n = max L (x1 , · · · , xn ; θ)
θ∈Θ
18
2.1.5 Inégalité de Cramer-Rao
Théorème 2.1.3. Sous les hypothèses de Cramer-Rao, en particulier si E = X(Ω) est indé-
pendant du paramètre à estimer θ, pour tout estimateur sans biais Tn de θ on a :
1
Vθ (Tn ) ≥ = BF (θ).
In (θ)
[g ′ (θ)]2
Vθ (Tn ) = ,
In (θ)
[g ′ (θ)]2
Dans ce cas In (θ)
est la borne de Cramer-Rao.
Si k = 1 on obtient E(X).
Si k = 2 on obtient E(X 2 ).
19
— Soit m̄k le moment empirique d’ordre k de X
n
1X k
m̄k (θ) = X .
n i=1 i
Si k = 1 on a : m̄1 = x̄.P
Si k = 2 on a : m̄2 = n1 ni=1 Xi2 .
La méthode des moments consiste à égaler les moments empiriques et théoriques.
Définition 2.1.12. On appelle estimation de theta obtenu par la méthode des moments la
solution θ̂ du système d’équation :
mk (θ) = m̄k .
E(aX + b) = aE(X) + b
E(X + Y ) = E(X) + E(Y )
V (aX + Y ) = a2 V (X)
V (X) = E(X 2) − [E(X)]2 = E([X − E(X)]2 )
si X, Y indépendantes,
V (X + Y ) = V (X) + V (Y ).
Estimation de m
Démonstration. On a
n n
1X 1 X σ2
E(X n ) = E(Xi ) = m et V (X n ) = V (X i ) = −−−→ 0.
n i=1 n2 i=1 n n→∞
20
Estimation de σ 2 en supposant m connu
2
Théorème 2.1.6. La variance empirique Sn est un estimateur biaisé de σ 2 , asymptotique-
ment sans biais, il est convergent.
2
Démonstration. 1. Sn est un estimateur biaisé de σ 2 :
n n n
!
2 1 X 1X 2 X 2 2
Sn = Xi2 − 2X nXi − X n Xi + n X n =
i=1
n i=1
n i=1
n
σ2
2 1X 2
2 1 2 2
2
E Sn = E(Xi ) − E( X n ) = n(m + σ ) − m +
n i=1 n n
n−1 2
= σ 6= σ 2 .
n
21
2. On montre (c’est fastidieux ...) :
2 1 2 1 1
µ4 − µ22 − 2 µ4 − 2µ22 + 3 µ4 − 3µ22 ∼ µ4 − µ22 −−−→ 0.
V Sn =
n n n n n→∞
2
Donc Sn est un estimateur convergent.
Remarque 2.1.4. On ne saurait déduire de ce théorème que Sn′ est un estimateur sans biais
de σ.
Cas particulier de la loi normale On suppose dans ce paragraphe que X suit la loi nor-
male N (m, σ 2).
X n
1
On sait que X n = n Xi suit la loi normale N (m, σ 2 ) ; c’est donc un estimateur sans
i=1
biais et convergent de m.
Les résultats obtenus au paragraphe précédent pour l’estimation de σ 2 sont encore va-
lables ; on peut préciser en outre :
2 2(n − 1) 2
V (S n ) = µ2 .
n2
Démonstration. 1. Calcul de µk .
2
Z ∞ exp − (x−m)
2σ 2
µk = E((X − m)k ) = (x − m)k √ dx
−∞ σ 2π
Z ∞ √ k
(σ 2u) −u2 √ √
= √ e (σ 2du) en posant x = m + uσ 2
−∞ σ 2π
= 0 si k est impair.
Si k est pair :
2p σ 2p ∞ 2p −u2 2p+1σ 2p ∞ 2p −u2
Z Z
µ2p = √ u e du = √ u e du
π −∞ π 0
2p σ 2p ∞ p− 1 −v √
Z
= √ v 2 e dv en posant u = v,
π 0
p 2p
2σ 1 (2p)! 2p
= √ Γ p+ = p σ .
π 2 2 (p!)
22
2. Lorsque X suit la loi normale N (m, σ 2 ) on a µ2 = σ 2 et µ4 = 3σ 4 = 3µ22 . En
reportant :
2 1 2 2 2(n − 1) 2
µ4 − µ22 − 2 µ4 − 2µ22 + 3 µ4 − 3µ22 =
V (S n ) = µ2 .
n n n n2
23
— estimation d’une proportion p ;
— estimation d’une moyenne m ;
— estimation d’une variance σ 2 .
24
de l’échantillon est une estimation de la moyenne µ. Quelle est la précision de cette esti-
mation ? On peut montrer qu’une bonne approximation de l’intervalle de confiance de µ au
niveau 1 − α est donné par la formule :
s s
x − t1−(α/2) (n − 1) √ , x + t1−(α/2) (n − 1) √ (2.5)
n n
D’un point de vue théorique elle se justifie de la manière suivante. Supposons qu’on tire un
très grand nombre d’échantillons de taille n dans la population et que, pour chaque échan-
tillon, on calcule sa variance s2 . Alors la moyenne de toutes ces variances s2 est exactement
égale à la variance σ 2 de la population. On dit que la procédure d’estimation est sans biais.
La remarque suivante permet de comprendre la nécessité d’une division par n − 1 plu-
tôt queP par n. Si l’on connaissaitPla vraie moyenne µ alors la meilleure estimation
Pnde σ serait2
2
n 2 n 2
(1/n) i=1 (xi − µ) . Comme Pn i=1 (xi −2 x) P est nécessairement inférieur à i=1 (xi − µ)
n 2 2
(cela provient de l’égalité P i=1 (x i − µ) = i=1 (xi − x) + n (x − µ) ) on peut com-
n 2
prendre que la quantité (1/n) i=1 (xi − x) serait une estimation trop petite de σ 2 . On peut
démontrer que la formule (2.6) conduit à une bonne estimation de σ 2 .
L’intervalle de confiance de σ 2 au niveau 1 − α s’obtient à l’aide de la formule :
" #
(n − 1)s2 (n − 1)s2
,
χ21−(α/2) (n − 1) χ2α/2 (n − 1)
où les quantités χ21−(α/2) (n − 1) et χ2α/2 (n − 1) sont respectivement les fractiles d’ordre α/2
et 1 − α/2 d’une loi du Khi-deux à n − 1 degrés de liberté. Cette formule est exacte lorsque
la variable étudiée suit une loi normale. Elle est assez sensible à un écart à la normalité.
Exemple 2.2.3.
25
Chapitre 3
26
L’entreprise veut contrôler régulièrement le bon fonctionnement du robot. Pour cela,
chaque jour à heure fixe, un employé prélève 50 barquettes et détermine sur cet échantillon
le poids moyen de purée par barquette. On notera xi la valeur qu’il obtient le jour i.
Compte tenu des fluctuations d’échantillonnage, xi peut être différent de la norme sana
que le robot soit mal réglé. Que dire si l’on obtient xi = 97, 5 g ? ou xi = 103 g ? Le problème
est donc de déterminer à partir de quelles valeurs on jugera que xi est vraiment trop éloigné
de 100 g, situation qui nous conduirait à décider que le robot est probablement déréglé.
Remarque 3.1.1. • Il serait préférable de dire région de “non refus” de H0 , mais pour
plus de clarté, et tout en gardant cette remarque à l’esprit, nous utiliserons l’expres-
sion “ accepter H0 ”.
La décision prise dépend de la valeur de xi et donc de l’échantillon choisi, il y a un
risque d’erreur :
• on peut refuser H0 à tort, c’est-à-dire faire réviser l’appareil alors qu’il fonctionnait
bien, (erreur dite de première espèce).
• “accepter” H0 à tort, c’est-à-dire laisser tourner le robot alors qu’en fait il est déréglé
(erreur dite de deuxième espèce).
Θ0 ∩ θ1 = ∅ Θ = Θ0 + Θ1 .
La vraie valeur θ0 du paramètre theta est donc continue soit dans Θ0 , soit dans Θ1 .
Nous noterons par la suite, par abus d’écriture, θ pour θ0 .
Associons à la partition ci-dessus les hypothèses suivantes :
H0 : θ ∈ Θ0
H1 : θ ∈ Θ1
27
Se poser un problème de test revient à rechercher un mécanisme décisionnel qui, au vu du
point (x1 , . . . , xn ) ∈ X n , permet de répondre à la question : “dans quel sous-ensemble de Θ
se trouve θ0 ?”.
Définition 3.1.1. Une hypothèse est dite simple si elle se réduit à un seul point ; dans le cas
contraire, elle est dite multiple (ou composite).
Il est évident que le rôle joué par chacune des hypothèses n’est pas symétrique. Il sera
fréquent de prendre pour hypothèse nulle celle en laquelle on a le plus confiance, compte tenu
de toutes les informations formalisées ou intuitives qu’il est possible d’avoir sur le modèle
(X, Pθ ). On définira parfois l’hypothèse nulle comme celle qui permet les calculs les plus
simples.
Un problème de test n’est donc pas symétrique, en règle générale, l’hypothèse nulle étant
privilégiée.
Test
Dans le modèle (X, Pθ ), on a donc à prendre une décision dans D, au vu de l’échantillon
x = (x1 , . . . , xn ) ∈ X n .
Définition 3.1.3. On appelle risque de première espèce que l’on notera α) la probabilité de
refuser H0 à tort, et risque de deuxième espèce (noté β) la probabilité d’“accepter” H0 à
tort.
On peut écrire :
28
L’erreur la plus grave consistant à rejeter à tort l’hypothèse nulle, la méthode de Ney-
man et Pearson fixe une valeur maximum α0 au risque de première espèce. Le test est alors
déterminé par la recherche de la règle qui minimise l’autre risque, celui de seconde espèce.
Définition 3.1.4. On appelle puissance d’un test la probabilité de refuser H0 avec raison,
c.-à-d. lorsque H1 est vérifiée, soit :
Enoncé du théorème
Théorème 3.1.1. Pour un risque de première espèce fixé à α0 , le test de puissance maximum
entre les hypothèses simples
est défini par la région critique :
L (x1 , . . . , xn ; θ0 )
W = (x1 , . . . , xn ) | ≤k
L (x1 , . . . , xn ; θ1 )
où la valeur de la constante k est déterminée par le risque fixé α0 = Pθ (W |θ = θ0 ).
29
3.2 Tests de conformité d’une moyenne, d’une proportion
et d’une variance
3.2.1 Introduction
Soit (Ω, A, P ) un espace probabilisé, X une variable aléatoire définie sur cet espace et
dont la loi dépend d’un paramètre θ inconnu.
On se propose de tester l’hypothèse nulle “le paramètre de la loi vaut θ0 contre l’hypo-
thèse alternative “le paramètre de la loi est différent de θ0 ”.
Soit H0 : θ = θ0 contre H1 : θ 6= θ0 .
Pour prendre une décision, on dispose d’un n−échantillon de X qui fournit un estimateur
Tn et une estimation θ̂ de θ.
En supposant l’hypothèse H0 vraie, on détermine pour un risque de première espèce α,
une région de R appelée zone de rejet, notée W ; pour déterminer la zone de rejet, on peut
calculer deux valeurs critiques c1 et c2 telles que :
α
P (Tn < c1 ) = P (Tn > c2 ) = .
2
L(x1 , . . . , xn ; θ) =
L(x1 , . . . , xn ; θ)
L(x1 , . . . , xn ; θ)
30
c - Détermination de la constante K
d - Critère de décision
e - Interprétation du nombre α
f - Représentation graphique
1−α
α α
2 2
m0 − t1−α √σn m0 m0 + t1−α √σn
d d
Les tableaux suivant résument les règles de décision à adopter selon les hypothèses H1 ,
pour des seuils de signification α = 0, 05 et α = 0, 01. Nous indiquons également les
conditions d’application des tests.
31
TABLE 3.1 – Tests sur une moyenne : Échantillon prélevé au hasard d’une population nor-
male de variance connue
Statistiques
Hypothèses Règles de décision Seuils de signification et valeurs cri-
de test 1
statistiques tiques α = 0, 05 α = 0, 01
H0 : µ = µ0 Z = σ/√n X−µ 0
Rejeter H0 si Z > zα/2 ou z0,025 = 1, 96 z0,005 = 2, 58
H1 : µ 6= µ0 Z < −zα/2
H0 : µ = µ0 Z = X−µ √0
σ/ n
Rejeter H0 si Z > zα z0,05 = 1, 645 z0,01 = 2, 33
H1 : µ > µ 0
H0 : µ = µ0 Z = X−µ √0
σ/ n
Rejeter H0 si Z < −zα −z0,05 = −1, 645 −z0,01 = −2, 33
H1 : µ < µ 0
TABLE 3.2 – Tests sur une moyenne : Grand échantillon (n > 30) prélevé au hasard d’une
population de variance inconnue
Statistiques
Hypothèses Règles de décision Seuils de signification et valeurs cri-
de test 2
statistiques tiques α = 0, 05 α = 0, 01
H0 : µ = µ0 Z = X−µ √0
s/ n
Rejeter H0 si Z > zα/2 ou z0,025 = 1, 96 z0,005 = 2, 58
H1 : µ 6= µ0 Z < −zα/2
H0 : µ = µ0 Z = s/√n0 X−µ
Rejeter H0 si Z > zα z0,05 = 1, 645 z0,01 = 2, 33
H1 : µ > µ 0
H0 : µ = µ0 Z = X−µ √0
s/ n
Rejeter H0 si Z < −zα −z0,05 = −1, 645 −z0,01 = −2, 33
H1 : µ < µ 0
32
TABLE 3.3 – Tests sur une moyenne : Échantillon de petite taille (n < 30) prélevé au hasard
d’une population normale de variance inconnue
Statistiques de
Hypothèses 3 Règles de décision
test
statistiques
H0 : µ = µ0 T = X−µ √0
s/ n
Rejeter H0 si T > tα/2;n−1
H1 : µ 6= µ0 ou T < −tα/2;n−1
H0 : µ = µ0 T = s/√n X−µ0
Rejeter H0 si T > tα;n−1
H1 : µ > µ 0
H0 : µ = µ0 T = X−µ √0
s/ n
Rejeter H0 si T < −tα;n−1
H1 : µ < µ 0
TABLE 3.4 – Tests sur une proportion : Échantillon de grande taille prélevé au hasard d’une
population binomiale de sorte que np ≥ 5 et n(1 − p) ≥ 5 (n > 30 est dans bien des cas
suffisant)
Statistiques
Hypothèses Règles de décision Seuils de signification et valeurs cri-
de test 4
statistiques tiques α = 0, 05 α = 0, 01
Z =
H0 : p = p0 qP̂ −p0 Rejeter H0 si Z > zα/2 ou z0,025 = 1, 96 z0,005 = 2, 58
H1 : p 6= p0 p0 (1−p0
n
Z < −zα/2
Z =
H0 : p = p0 qP̂ −p0 Rejeter H0 si Z > zα z0,05 = 1, 645 z0,01 = 2, 33
H 1 : p > p0 p0 (1−p0
n
Z =
H0 : p = p0 qP̂ −p0 Rejeter H0 si Z < −zα −z0,05 = −1, 645 −z0,01 = −2, 33
H 1 : p < p0 p0 (1−p0
n
33
TABLE 3.5 – Tests sur une variance : Échantillon prélevé au hasard d’une population normale
Statistiques de
Hypothèses Règles de décision
test 5
statistiques
2
H0 : σ = σ0 χ2 = (n−1)S σ02
Rejeter H0 si
H0 : σ 6= σ0 χ2
> χα/2;n−1 ou
2
2 2
χ < χ1−α/2;n−1
(n−1)S 2
H0 : σ = σ0 χ = σ2 2 Rejeter H0 si χ2 > χ2α;n−1
0
H0 : σ > σ0
2
H0 : σ = σ0 χ2 = (n−1)S σ02
Rejeter H0 si χ2 <
H1 : σ < σ0 χ21−α;n−1
34
L'échantillonnage aléatoire simple offre l'avantage de donner à chaque individu de la population mère une probabilité égale d'être sélectionné, ce qui résulte en des échantillons représentatifs si la population de base est homogène . Cependant, cette méthode peut être inefficace si la population comporte des sous-groupes variés, car elle risque de ne pas capturer correctement toutes les caractéristiques de la population. Les méthodes alternatives, comme l'échantillonnage stratifié, peuvent mieux assurer la représentativité en divisant la population en sous-groupes homogènes avant l'échantillonnage .
L'équiprobabilité simplifie la modélisation d'un échantillon aléatoire simple en assurant que chaque individu de la population a la même chance d'être sélectionné, ce qui permet de modéliser les sélections comme des expériences aléatoires indépendantes et identiquement distribuées . Cela garantit que les moyennes et les écarts-types observés dans l'échantillon reflètent fidèlement ceux de la population, ce qui est essentiel pour tirer des conclusions statistiques valides .
Une variable statistique parente associe une modalité observée à chaque individu dans la population mère, telle que le kilométrage parcouru par un véhicule . En revanche, une variable aléatoire parente associe une réalisation de probabilité à chaque événement élémentaire issu de la sélection aléatoire, et est définie sur l'univers de probabilité, avec une espérance et un écart-type égaux à ceux de la variable statistique .
Un échantillon aléatoire simple avec répétition est souvent préféré théoriquement lorsque la taille de l'échantillon est grande par rapport à la population, car cela garantit que chaque sélection reste indépendante et identiquement distribuée, simplifiant les calculs de variance et d'espérance statistique . Cependant, dans la pratique, l'échantillonnage sans répétition est souvent adéquat quand la population est suffisamment grande en comparaison avec l'échantillon .
Même un estimateur sans biais peut ne pas être optimal si sa variance est grande, car la qualité d'un estimateur est déterminée par son erreur quadratique moyenne, qui combine à la fois la variance et le biais. Un estimateur biaisé avec une petite variance peut parfois être plus efficace .
La variance empirique est ajustée en utilisant la variance empirique corrigée, qui inclut un facteur de correction (n/(n-1)) pour compenser le biais introduit par l'estimation de la moyenne de la population à partir d'un échantillon. Cela permet de fournir une estimation sans biais et convergente de la variance .
La connaissance de la distribution d'échantillonnage est nécessaire pour évaluer la fiabilité et la précision des estimations tirées d'un échantillon. Elle permet d'estimer la variabilité des estimations autour du vrai paramètre de population, facilitant ainsi l'établissement d'intervalles de confiance et l'évaluation de significativité statistique .
La méthode des moments consiste à égaler les moments empiriques calculés à partir de l'échantillon aux moments théoriques de la distribution de la variable aléatoire. Cela implique d'établir et de résoudre un système d'équations où les moments empiriques et théoriques concordent, permettant ainsi l'estimation des paramètres de la distribution .
La modélisation des concepts du monde réel dans un cadre théorique facilite la abstraction et la généralisation des principes d'échantillonnage. Cela permet l'application de théorèmes de probabilité pour déduire des propriétés statistiques importantes, comme la distribution d'échantillonnage et la convergence, assurant que les conclusions tirées des échantillons soient valides et fiables .
Un estimateur est convergent s'il tend en probabilité vers le paramètre vrai lorsque la taille de l'échantillon augmente. Cela est formalisé par le théorème selon lequel tout estimateur sans biais avec une variance tendant vers zéro est convergent . Cela garantit que les estimations basées sur de grands échantillons seront proches du vrai paramètre, rendant l'inférence plus fiable.