Slides de cours 1SN - 2023-2024

Statistique
Slides 1ère année SN

Corinne Mailhes et Jean-Yves Tourneret(1)

(1) University of Toulouse, ENSEEIHT-IRIT-TéSA

[Link]@[Link] et jyt@[Link]

Année 2023 − 2024

1/ 94
Slides de cours 1SN - 2023-2024

Bibliographie

Quelques références
I B. Lacaze, M. Maubourguet, C. Mailhes et J.-Y. Tourneret, Probabilités et
Statistique appliquées, Cépadues, 1997.
I Athanasios Papoulis and S. Unnikrishna Pillai, Probability, Random
Variable and Stochastic Processes, McGraw Hill Higher Education, 4th
edition, 2002.
I E. L. Lehmann and G. Casella, Theory of Point Estimation, Springer Texts
in Statistics, Springer-Verlag, New-York, 2nd edition, 1998.
I H. Van Trees, Detection, Estimation and Modulation Theory, Part I, John
Wiley & Sons, New-York 1968.
I S. Kay, Fundamentals of Statistical Signal Processing: Estimation Theory,
Prentice-Hall, Upper Saddle River, New-Jersey, 1993.
I S. Kay, Fundamentals of Statistical Signal Processing: Detection Theory,
Prentice-Hall, New-York, 1998.

2/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

3/ 94
Slides de cours 1SN - 2023-2024

Modèle statistique

Notations
I Observations
x1 , ..., xn
I Échantillon
X1 , ..., Xn
n va iid associées aux observations
I Estimateur
θ(X
b 1 , ..., Xn ) ou θbn ou θb

4/ 94
Slides de cours 1SN - 2023-2024

Exemple
Modèle 1 : xi = a + ei avec ei ∼ N (0, σ 2 )

5/ 94
Slides de cours 1SN - 2023-2024

Exemple
Modèle 2 : xi = ai + b + ei avec ei ∼ N (0, σ 2 )

6/ 94
Slides de cours 1SN - 2023-2024

Exemple
Modèle 3 : xi = a cos(iφ)+ avec ei ∼ N (0, σ 2 )

7/ 94
Slides de cours 1SN - 2023-2024

Application réelle
Altimétrie

8/ 94
Slides de cours 1SN - 2023-2024

Application réelle

Formation de l’écho altimétrique

9/ 94
Slides de cours 1SN - 2023-2024

Application réelle

Modèle de Brown

10/ 94
Slides de cours 1SN - 2023-2024

Application réelle

Modèle de Brown

11/ 94
Slides de cours 1SN - 2023-2024

Qualités d’un estimateur

θ∈R
 
I Biais (erreur systématique) : bn (θ) = E θbn − θ
I Variance
  2  h i  2
vn (θ) = E θbn − E θbn = E θbn2 − E θbn

I Erreur quadratique moyenne (Mean Square Error, MSE) (précision)

 2 
en (θ) = E θbn − θ = vn (θ) + b2n (θ)

CS de convergence : θbn est un estimateur convergent si

lim bn (θ) = lim vn (θ) = 0
n→+∞ n→+∞

12/ 94
Slides de cours 1SN - 2023-2024

Qualités d’un estimateur

θ ∈ Rp
I Biais  
bn (θ) = E θbn − θ ∈ Rp
I Matrice de covariance
     T 
E θbn − E θbn θbn − E θbn

13/ 94
Slides de cours 1SN - 2023-2024

Exemples

Exemple 1 : Xi ∼ N (m, σ 2 ), θ = m et σ 2 connue

I Moyenne empirique
n
1X
θbn = Xi , X n
n i=1
I Autre estimateur
n
2 X
θen = iXi
n(n + 1) i=1

Exemple 2 : Xi ∼ N (m, σ 2 ), θ = (m, σ 2 )T

Étude de l’estimateur
n
1X
2
bn2 =
σ Xi − X n
n i=1

14/ 94
Slides de cours 1SN - 2023-2024

Mean Square Errors

Comparaison de deux estimateurs

15/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

16/ 94
Slides de cours 1SN - 2023-2024

Inégalité de Cramér-Rao

Vraisemblance

Xi va discrète : P [X1 = x1 , ..., Xn = xn ; θ]
L(x1 , ..., xn ; θ) =
Xi va continue : p(x1 , ..., xn ; θ)

Inégalité pour θ ∈ R
I Définition
2
  [1 + b0n (θ)]
Var θbn ≥ h i = BCR(θ)
∂ 2 ln L(X1 ,...,Xn ;θ)
−E ∂θ 2

BCR(θ) est appelée Borne de Cramér Rao de θ

I Hypothèses
Log-vraisemblance deux fois dérivable et support de la loi indépendant de
θ (contre-exemple : loi U[0, θ])

17/ 94
Slides de cours 1SN - 2023-2024

Remarques

Efficacité
 
Estimateur sans biais tel que Var θbn = BCR(θ) (Il est unique !)
Exemple : Xi ∼ N (m, σ 2 ), θ = m et σ 2 connue

Cas où (X1 , ..., Xn ) est un échantillon

2
  [1 + b0n (θ)]
Var θbn ≥ h 2 i = BCR(θ)
−nE ∂ ln∂θ L(X1 ;θ)
2

18/ 94
Slides de cours 1SN - 2023-2024

Cas multivarié

Inégalité pour un estimateur non biaisé de θ ∈ Rp

I Définition  
Cov θb ≥ In−1 (θ)
avec
∂ 2 ln L(X1 , ..., Xn ; θ)
 
Iij = E − , i, j = 1, ..., p
∂θi ∂θj
et A ≥ B signifie A − B matrice semi définie positive

xT (A − B)x ≥ 0, ∀x ∈ Rp

On en déduit   
Var θbi ≥ In−1 (θ) ii


I Exemple
Xi ∼ N (m, σ 2 ), θ = (m, σ 2 )T
.

19/ 94
Slides de cours 1SN - 2023-2024

Exemple

Comparaison des variances d’estimateurs avec les bornes

20/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

21/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

22/ 94
Slides de cours 1SN - 2023-2024

Estimateur du maximum de vraisemblance

Définition
θbMV = arg max L(X1 , ..., Xn ; θ)
θ

Recherche du maximum pour θ ∈ R

Si L(X1 , ..., Xn ; θ) est régulière, on résoud

∂L(X1 , ..., Xn ; θ) ∂ ln L(X1 , ..., Xn ; θ)

= 0 ou =0
∂θ ∂θ
et on vérifie qu’on a bien un maximum en faisant un tableau de variations ou si
ce n’est pas possible en étudiant

∂ 2 ln L(X1 , ..., Xn ; θbMV )

<0
∂θ2

23/ 94
Slides de cours 1SN - 2023-2024

Régularité

Définition
On dit qu’une variable aléatoire X de densité de probabilité f (x; θ) est
régulière si (voir livre de Lehmann, Theory of Point Estimation)
I Le support de la densité f , i.e., {x|f (x; θ) > 0}, est indépendant de θ
I f (x; θ) est au moins trois fois dérivable par rapport à θ
I La vraie valeur de θ appartient à un ensemble compact Θ.
Dans ce cas, la recherche de l’estimateur du maximum de vraisemblance peut
se faire en cherchant les racines de
∂L(X1 , ..., Xn ; θ) ∂ ln L(X1 , ..., Xn ; θ)
= 0 ou =0
∂θ ∂θ

24/ 94
Slides de cours 1SN - 2023-2024

Estimateur du maximum de vraisemblance

Recherche du maximum pour θ ∈ Rp

∂L(X1 , ..., Xn ; θ) ∂ ln L(X1 , ..., Xn ; θ)
= 0 ou =0
∂θi ∂θi
pour i = 1, ..., p

Exemples
I Exemple 1 : Xi ∼ P(λ), θ = λ
I Exemple 2 : Xi ∼ N (m, σ 2 ), θ = (m, σ 2 )T

25/ 94
Slides de cours 1SN - 2023-2024

Propriétés

I Estimateur asymptotiquement non biaisé

h i
lim E θbMV − θ = 0
n→+∞

I Estimateur convergent
I Estimateur asymptotiquement efficace
 
Var θbi
lim  −1  = 1
n→+∞ In (θ) ii
I Normalité Asymptotique
I Invariance Fonctionnelle
Si µ = h(θ), où h est une fonction bijective d’un ouvert O ⊂ Rp dans un
ouvert V ⊂ Rp , alors  
µ
b MV = h θbMV

26/ 94
Slides de cours 1SN - 2023-2024

Conclusion

L’estimateur du maximum de vraisemblance possède beaucoup de bonnes

propriétés asymptotiques mais peut être difficile à étudier car il est la solution
d’un problème d’optimisation.

27/ 94
Slides de cours 1SN - 2023-2024

Remarques sur la convergence

Thèorème (voir, e.g., livre de Lehmann, Theory of Point Estimation)
Soient X1 , ..., Xn des variables aléatoires iid de même densité f (xi ; θ) avec
I θ appartient à un ouvert Θ ∈ R
I le paramètre θ est identifiable, i.e., deux valeurs différentes de θ donnent
des densités f (xi ; θ) différentes
I la log-vraisemblance l(θ) est dérivable par rapport à θ
I le support de la densité f ne dépend pas de θ
alors l’équation l0 (θ) = 0 admet une solution qui converge en probabilité vers θ0
(pas nécessairement θ̂MV ). Donc s’il y a une unique solution de l0 (θ) = 0 et que
cette solution maximise la vraisemblance, alors cette solution est l’estimateur
du maximum de vraisemblance de θ qui est un estimateur convergent.

Exemple d’estimateur θbMV non convergent (avec plusieurs maxima locaux de

l0 (θ) = 0)
1 1
f (xi |θ) = N (0, 1) + N θ, [exp(−1/θ2 )]2


2 2

28/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

29/ 94
Slides de cours 1SN - 2023-2024

Méthode des moments

Définition
Supposons que X1 , ..., Xn ont la même loi de paramètre inconnu θ ∈ Rp . En
général, le vecteur paramètre à estimer θ est lié aux premiers moments de la loi
des va Xi par une relation notée

θ = h(m1 , ..., mq )

avec mk = E[Xik ] et q ≥ p. Un estimateur des moments de θ est défini par

n
1X k
θbMo = h(m
b 1 , ..., m
b q ) avec m
bk = Xi
n i=1

Exemples
I Xi ∼ N (m, σ 2 ), θ = (m, σ 2 )T
I Xi ∼ Γ(a, b), θ = (a, b)T

30/ 94
Slides de cours 1SN - 2023-2024

Méthode des moments

Propriétés
I Estimateur convergent
I Normalité Asymptotique

Conclusion
L’estimateur des moments possède peu de propriétés mais est généralement
simple à déterminer.

31/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

32/ 94
Slides de cours 1SN - 2023-2024

Estimation Bayésienne

Principe
L’estimation Bayésienne consiste à estimer un vecteur paramètre inconnu
θ ∈ Rp à l’aide de la vraisemblance de X1 , ..., Xn (paramétrée par
 θ)et d’une
loi a priori p(θ). Pour cela, on minimise une fonction de coût c θ, θb qui
représente l’erreur entre θ et θ.
b Deux estimateurs principaux
I Estimateur MMSE : c’est la moyenne de la loi a posteriori

θbMMSE = E (θ|X1 , ..., Xn )

I Estimateur MAP : l’estimateur du maximum a posteriori (MAP) de θ est
défini par
θbMAP = arg max p(θ|X1 , ..., Xn )
θ

où p (θ|x1 , ..., xn ) est la loi a posteriori de θ.

33/ 94
Slides de cours 1SN - 2023-2024

Propriétés des estimateurs Bayésiens

Estimateur MMSE
L’estimateur MMSE minimise l’erreur quadratique moyenne (mean square
error, MSE) 
  T  
c θ, θb = E θ − θb θ − θb

Estimateur MAP
h  i
L’estimateur MAP minimise la fonction de coût E c θ, θb avec entre θ et θb

   1 si θ − θb > ∆
c θ, θb =
 0 si θ − θb < ∆

avec ∆ arbitrairement petit (Preuve : voir par exemple livre de H. Van Trees,
Detection, Estimation, and Modulation Theory, Part I).

34/ 94
Slides de cours 1SN - 2023-2024

Estimation Bayésienne

Exemple
I Vraisemblance
Xi ∼ N (θ, σ 2 )
I Loi a priori
θ ∼ N (µ, ν 2 )

Solution
I Loi a posteriori
θ|X1 , ..., Xn ∼ N mp , σp2

I Estimateurs
nν 2 σ2
   
θbMAP = θbMMSE = mp = X +µ
nν 2 + σ 2 σ + nν 2
2

35/ 94
Slides de cours 1SN - 2023-2024

Avec ou sans prior ?

36/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

37/ 94
Slides de cours 1SN - 2023-2024

Intervalle de confiance

Principe
Un intervalle de confiance [a, b] pour le paramètre θ ∈ R est un intervalle tel
que P [a < θ < b] = α, où α est le paramètre de confiance (en général
α = 0.99 ou α = 0.95).

Détermination pratique de l’intervalle

I On cherche un estimateur de θ noté θb (par la méthode des moments, du
maximum de vraisemblance, ...)
I On en déduit une statistique T (X1 , ..., Xn ) qui dépend de θ de loi connue
I On cherche c(θ) et d(θ) tels que

P [c(θ) < T (X1 , ..., Xn ) < d(θ)] = α

On en déduit l’intervalle [a, b].

38/ 94
Slides de cours 1SN - 2023-2024

Exemples
I Exemple 1 : Xi ∼ N (m, σ 2 ), m inconnue, σ 2 connue.
1
Pn
Xi − m
T = n i=1√ ∼ N (0, 1)
σ/ n
I Exemple 2 : Xi ∼ N (m, σ 2 ), intervalles de confiance pour m et σ 2
inconnue.
I Moyenne
n
1 X
2
T ∼ N (0, 1) et U = 2
Xi − X ∼ χ2n−1
σ i=1

donc
T
q ∼ tn−1
U
n−1
suit une loi de Student à n − 1 degrés de liberté.
I Variance
n
1 X
2
(Xi − X)2 ∼ χ2n−1
σ i=1

39/ 94
Slides de cours 1SN - 2023-2024

Que faut-il savoir ?

Estimation statistique
I Notions de biais, variance et convergence d’un estimateur
I Calcul d’une borne de Cramér-Rao et notion d’efficacité
I Détermination de l’estimateur du maximum de vraisemblance (MV)
I Propriétés de l’estimateur MV
I Principe et application de la méthode des moments
I Principe et application de l’estimation Bayésienne
I Détermination des intervalles de confiance

40/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

41/ 94
Slides de cours 1SN - 2023-2024

Motivations

42/ 94
Slides de cours 1SN - 2023-2024

Motivations

43/ 94
Slides de cours 1SN - 2023-2024

Motivations

Transitoires à détecter

44/ 94
Slides de cours 1SN - 2023-2024

Généralités

Principe
Un test statistique est un mécanisme qui permet de décider entre plusieurs
hypothèses H0 , H1 , ... à partir de n observations x1 , ..., xn . On se limitera dans
ce cours à deux hypothèses H0 et H1 . Effectuer un test, c’est déterminer une
statistique de test T (X1 , ..., Xn ) et un ensemble ∆ tel que

H0 rejetée si T (X1 , ..., Xn ) ∈ ∆

(1)
H0 acceptée si T (X1 , ..., Xn ) ∈
/ ∆.

Vocabulaire
I H0 est l’hypothèse nulle
I H1 est l’hypothèse alternative
I {(x1 , ..., xn )|T (x1 , ..., xn ) ∈ ∆} : région critique

45/ 94
Slides de cours 1SN - 2023-2024

Définitions

I Tests paramétriques et non paramétriques

I Hypothèses simples et hypothèses composites
I Risque de première espèce = probabilité de fausse alarme

α = PFA = P [Rejeter H0 |H0 vraie]

I Risque de seconde espèce = probabilité de non-détection

β = PND = P [Rejeter H1 |H1 vraie]

I Puissance du test = probabilité de détection : π = 1 − β

46/ 94
Slides de cours 1SN - 2023-2024

Exemple

Changement de moyenne
Xi ∼ N (m, σ 2 ), σ 2 connue

I Hypothèses
H0 : m = m0 , H1 : m = m1 > m0
I Exemple de test
n
1X
Rejet de H0 si X = Xi > Sα
n i=1

I Problèmes
Déterminer le seuil Sα , le risque β et la puissance du test π.

47/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

48/ 94
Slides de cours 1SN - 2023-2024

Caractéristiques opérationnelles du récepteur (COR)

Définition
PD = h (PFA)

Exemple
Xi ∼ N (m, σ 2 ), σ 2 connue

H0 : m = m0 , H1 : m = m1 > m0
I Probabilité de fausse alarme
!
Sα − m0 σ
α=1−F ⇔ Sα = m0 + √ F −1 (1 − α)
√σ n
n

I Probabilité de détection
!
Sα − m1
PD = π = 1 − F
√σ
n

49/ 94
Slides de cours 1SN - 2023-2024

Exemple d’application

Détection d’exoplanètes

50/ 94
Slides de cours 1SN - 2023-2024

Exemple de représentation graphique pour les courbes COR

Données indépendantes ou corrélées ?

51/ 94
Slides de cours 1SN - 2023-2024

p-valeur d’un test

Définition p(x) = inf{α ∈]0, 1[ | x ∈ Rα }
où Rα est la zone de rejet de H0 pour α fixé et x = (x1 , ..., xn ). C’est la plus
petite valeur de α pour laquelle on rejette H0 .

Calcul de la p-valeur pour le test : Rejet de H0 si T > Sα

I Si α = 0, on accepte toujours H0 donc S0 = +∞
I Si α = 1, on rejette toujours H0 donc S1 = −∞
I Plus petite valeur de α pour laquelle on rejette H0 : α∗ = 1 − F (Tobs )

52/ 94
Slides de cours 1SN - 2023-2024

Autre exemple : rejet de H0 si |T | > Sα

Calcul
I Si α = 0, on accepte toujours H0 donc z0 = 0
I Si α = 1, on rejette toujours H0 donc z1 = +∞
I Plus petite valeur de α pour laquelle on rejette H0
α∗
= 1 − F (|Tobs |) ⇔ α∗ = 2[1 − F (|Tobs )|].
2

Représentation graphique

53/ 94
Slides de cours 1SN - 2023-2024

Plan du cours

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

54/ 94
Slides de cours 1SN - 2023-2024

Théorème de Neyman-Pearson
Test paramétrique à hypothèses simples
H0 : θ = θ0 et H1 : θ = θ1 (2)

Théorème pour variables aléatoires Xi continues

À α fixé, le test qui minimise β (ou maximise π) est défini par
L(x1 , ..., xn |H1 ) p(x1 , ..., xn |θ1 )
Rejet de H0 si = > Sα
L(x1 , ..., xn |H0 ) p(x1 , ..., xn |θ0 )

Exemple
Xi ∼ N (m, σ 2 ), σ 2 connue
H0 : m = m0 , H1 : m = m1 > m0

55/ 94
Slides de cours 1SN - 2023-2024

Théorème de Neyman-Pearson
Test paramétrique à hypothèses simples
H0 : θ = θ0 et H1 : θ = θ1 (3)

Théorème pour variables aléatoires Xi discrètes

Parmi tous les tests de risque de première espèce ≤ α fixé, le test
de puissance maximale rejette l’hypothèse H0 si
L(x1 , ..., xn |H1 ) P [X1 = x1 , ..., Xn = xn |θ1 ]
= > Sα
L(x1 , ..., xn |H0 ) P (X1 = x1 , ..., Xn = xn |θ0 )

Exemple : lois de Poisson Xi ∼ P(λ)

λ = λ0 , H1 : λ = λ1 > λ0

56/ 94
Slides de cours 1SN - 2023-2024

Test de Neyman-Pearson

Résumé des différentes étapes

I 1) Déterminer la statistique et la région critique du test
I 2) Déterminer la relation entre le seuil Sα et le risque α
I 3) Calculer le risque β et la puissance π du test en fonction de α
I 4) (optionnel) Déterminer les caractéristiques opérationnelles du récepteur
I 5) Application numérique
I On accepte ou rejette l’hypothèse H0 en précisant le risque α donné
I (optionnel) On détermine la p-valeur du test

Remarque
Loi asymptotique : quand n est suffisamment grand, utilisation du théorème de
la limite centrale

57/ 94
Slides de cours 1SN - 2023-2024

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

58/ 94
Slides de cours 1SN - 2023-2024

Test du rapport de vraisemblance généralisé (generalized likelihood ratio)

Test paramétrique à hypothèses composites
H0 : θ ∈ Θ0 et H1 : θ ∈ Θ1 (4)

Définition du test
 
L x1 , ..., xn |θb1MV
Rejet de H0 si   > Sα
L x1 , ..., xn |θb MV
0

où θb0MV et θb1MV sont les estimateurs du maximum de

vraisemblance de θ sous les hypothèses H0 et H1 .

Remarque
 
L x1 , ..., xn |θbiMV = sup L (x1 , ..., xn |θ)
θ∈Θi

59/ 94
Slides de cours 1SN - 2023-2024

Est-ce que la moyenne d’un échantillon gaussien augmente ? (σ 2 connue)

Soit (X1 , ..., Xn ) un échantillon gaussien de loi N (m, σ 2 ) avec une variance σ 2
connue. On considère les hypothèses

H0 : m = m0 et H1 : m = m1 avec m1 > m0 (5)

Définition du test
n
√
 
X − m0 1X
Rejet de H0 si T = n > Sα avec X = Xi
σ n i=1

Remarques
I T suit la loi normale N (0, 1) sous H0
I Application directe de Neyman-Pearson
I Généralisation immédiate à m1 < m0 ou à m1 6= m0

60/ 94
Slides de cours 1SN - 2023-2024

Est ce que la moyenne d’un échantillon gaussien augmente ? (σ 2 inconnue)

Soit (X1 , ..., Xn ) un échantillon gaussien de loi N (m, σ 2 ) avec une variance σ 2
inconnue et les hypothèses

H0 : m = m0 et H1 : m = m1 avec m1 > m0 (6)

Définition du test

n
√
 
X − m0 1 X
Rejet de H0 si T = n > Sα avec Sn2 = (Xi − X)2
Sn n − 1 i=1

Remarques
√  X−m0  Pn
I Si on pose U = n σ
et V = 1
σ2 i=1 (Xi − X)2 , on a
T = qU qui suit une loi de Student à n − 1 ddl sous H0
V
n−1

I Généralisation immédiate à m1 < m0 ou à m1 6= m0

61/ 94
Slides de cours 1SN - 2023-2024

Est-ce que la variance d’un échantillon gaussien augmente ? (m connue)

Soit (X1 , ..., Xn ) un échantillon gaussien de loi N (m, σ 2 ) avec une moyenne m
connue et les hypothèses

H0 : σ 2 = σ02 et H1 : σ 2 = σ12 avec σ12 > σ02 (7)

Définition du test
n
1 X
Rejet de H0 si T = (Xi − m)2 > Sα
σ02 i=1

Remarques
I La loi de T sous H0 est une loi du χ2n , ce qui permet de déterminer Sα en
fonction de α.
I Généralisation immédiate à σ12 < σ02 ou à σ12 6= σ02

62/ 94
Slides de cours 1SN - 2023-2024

Est-ce que la variance d’un échantillon gaussien augmente ? (m inconnue)

Soit (X1 , ..., Xn ) un échantillon gaussien de loi N (m, σ 2 ) avec une moyenne m
inconnue et les hypothèses

H0 : σ 2 = σ02 et H1 : σ 2 = σ12 avec σ12 > σ02 (8)

Définition du test
n n
1 X 2 1X
Rejet de H0 si T = (Xi − X) > S α avec X = Xi
σ02 i=1 n i=1

Remarques
I La loi de T sous H0 est une loi du χ2n−1 , ce qui permet de déterminer Sα
en fonction de α.
I Généralisation immédiate à σ12 < σ02 ou à σ12 6= σ02

63/ 94
Slides de cours 1SN - 2023-2024

Est-ce que deux échantillons Gaussiens sont significativement différents ?

(variances connues)
Soient (X1 , ..., Xn ) et (Y1 , ..., Ym ) deux échantillons gaussiens indépendants de
lois respectives N (m1 , σ12 ) et N (m2 , σ22 ) avec des variances σ12 et σ22 connues,
et les hypothèses
H0 : m1 = m2 et H1 : m1 > m2 (9)

Définition du test

n m
X −Y 1X 1 X
Rejet de H0 si T = q 2 > S α avec X = Xi, Y = Yj
σ1 σ2 n i=1 m j=1
n
+ m2

Remarques
I La loi de T sous H0 est une loi normale N (0, 1), ce qui permet de
déterminer Sα en fonction de α.
I Généralisation immédiate à m1 < m2 ou à m1 6= m2

64/ 94
Slides de cours 1SN - 2023-2024

Est-ce que deux échantillons Gaussiens sont significativement différents ?

Soient (X1 , ..., Xn ) et (Y1 , ..., Ym ) deux échantillons gaussiens indépendants de
lois respectives N (m1 , σ12 ) et N (m2 , σ22 ) avec une même variance
σ12 = σ22 = σ 2 inconnue, et les hypothèses
H0 : m1 = m2 et H1 : m1 > m2 (10)

Définition du test
X −Y
Rejet de H0 si T = q > Sα
Sn,m (x, y) n1 + 1
m

avec Pn Pm
2 i=1 (Xi − X)2 + j=1 (Yj − Y )2
Sn,m (x, y) =
n+m−2

Remarques
I La loi de T sous H0 est une loi de Student à n + m − 2 ddl.
I Appelé test de Student ou t-test.
I Généralisation immédiate à m1 < m2 ou à m1 6= m2
65/ 94
Slides de cours 1SN - 2023-2024

Est-ce que deux échantillons Gaussiens sont significativement différents ?

Soient (X1 , ..., Xn ) et (Y1 , ..., Ym ) deux échantillons gaussiens indépendants de
lois respectives N (m1 , σ12 ) et N (m2 , σ22 ) avec des variances σ12 et σ22
inconnues, et les hypothèses
H0 : m1 = m2 et H1 : m1 > m2 (11)

Définition du test
X −Y
Rejet de H0 si T = q > Sα
2 (x)
Sn 2 (y)
Sm
n
+ m
avec 1 X
n
1 X
m
Sn2 (x) = (Xi − X)2 et Sm
2
(y) = (Yj − Y )2
n − 1 i=1 m − 1 j=1

Remarques
I Sous l’hypothèse H0 , T converge en loi vers une loi normale N (0, 1)
lorsque n et m tendent vers +∞.
I Généralisation immédiate à m1 < m2 ou à m1 6= m2

66/ 94
Slides de cours 1SN - 2023-2024

Comparaison d’espérances

Remarques générales
I Les tests précédents supposent que les deux échantillons (X1 , ..., Xn ) et
(Y1 , ..., Ym ) sont indépendants. Si ce n’est pas le cas et que n = m, on
parle de données appariées. On peut alors considérer les différences
Zi = Xi − Yi et tester la nullité de l’espérance des Zi .
I Si l’hypothèse de gaussiannité n’est pas satisfaite, on pourra effectuer un
test non paramétrique.

67/ 94
Slides de cours 1SN - 2023-2024

Est-ce que la variance de deux échantillons gaussiens a augmenté ?

Soient (X1 , ..., Xn ) et (Y1 , ..., Ym ) deux échantillons gaussiens indépendants de
lois respectives N (m1 , σ12 ) et N (m2 , σ22 ) avec des moyennes m1 et m2
connues, et les hypothèses
H0 : σ12 = σ22 et H1 : σ12 > σ22 (12)

Définition du test
Sen2 (x)
Rejet de H0 si T = > Sα
Sem2 (y)

avec
n m
1X 1 X
Sen2 (x) = (Xi − m1 )2 et Sem
2
(y) = (Yj − m2 )2
n i=1 m j=1

Remarques
I Sous l’hypothèse H0 , T est distribuée suivant une loi de Fisher F(n, m)
I Appelé F -test.
I Généralisation immédiate à σ12 < σ22 ou à σ12 6= σ22
68/ 94
Slides de cours 1SN - 2023-2024

Est-ce que la variance de deux échantillons gaussiens a augmenté ?

Soient (X1 , ..., Xn ) et (Y1 , ..., Ym ) deux échantillons gaussiens indépendants de
lois respectives N (m1 , σ12 ) et N (m2 , σ22 ) avec des moyennes m1 et m2
inconnues, et les hypothèses
H0 : σ12 = σ12 et H1 : σ12 > σ22 (13)

Définition du test
Sn2 (x)
Rejet de H0 si T = 2 (y)
> Sα
Sm
avec
n m
1 X 1 X
Sn2 (x) = (Xi − X)2 et Sm
2
(y) = (Yj − Y )2
n − 1 i=1 m − 1 j=1

Remarques
I Sous l’hypothèse H0 , T est distribuée suivant une loi de Fisher
F(n − 1, m − 1)
I Généralisation immédiate à σ12 < σ22 ou à σ12 6= σ22
69/ 94
Slides de cours 1SN - 2023-2024

Example: T-wave Alternans (TWA) Detection

Context

T-wave alternans (TWA) detection

TWA: a consistent fluctuation in the T waves on an

every-other-beat basis
recognized as an index of sudden cardiac death
a challenging problem: non-visible (microvolt-level) TWA detection
T-wave Alternans Detection Using a Bayesian Approach and a Gibbs Sampler
4 / 25
!

70/ 94
Slides de cours 1SN - 2023-2024

Signal Model

Problem formulation

Signal model for TWA detection

ECG Signal odd T−wave
Local baseline even T−wave
N1
N T,1
QRS QRS QRS QRS QRS
(a) 1 Jo,1 2 Je,1 3 Jo,2 4 Je,2 2D Je,D

(b)

ao,i ae,j ao,i ae,m ae,q

(c)

T-wave Alternans Detection Using a Bayesian Approach and a Gibbs Sampler

7 / 25
!

71/ 94
Slides de cours 1SN - 2023-2024

Estimation Results

Simulation

Estimation results

ECG signal
−0.1 estimated odd T−waves
estimated even T−waves
estimated baseline
0.3

0.2
Amp.(mv)

0.1

−0.1

1 2 3 4 5 6 7
time(sec)

Figure: Segment of dataset “e0303” with synthetic TWA and “ma” noise
SNR=10dB (black), estimated local baseline (blue), and estimated odd
(red) and even (green) T waves. Processing window length 2D = 16.
T-wave Alternans Detection Using a Bayesian Approach and a Gibbs Sampler
19 / 25
!

72/ 94
Slides de cours 1SN - 2023-2024

Statistical Test

Bayesian TWA detection

Two-sample Student’s t-test

Based on the assumption of normality of two samples:
H0 : µo = µe , H1 : µo != µe
µo and µe are the means of the odd and even T-wave amplitude
samples.
The t-test statistic can be computed as follows:
a(i)
o − ae
(i)
t (i) = ! (1)
(i)
Seo D2
D D
1 " (i) (i) 1 " (i)
a(i)
o = ao,k , ae = ae,k and
D D
# k=1 k=1
$ & D '
)
$ 1 " (2 " D ' (2
=%
(i) (i) (i)
Seo ao,k − a(i)
o + a e,k − a(i)
e .
2D − 2
k=1 k=1

T-wave Alternans Detection Using a Bayesian Approach and a Gibbs Sampler

15 / 25
!

73/ 94
Slides de cours 1SN - 2023-2024

Detection Results

Simulation

Test decisions
τ = 0, null hypothesis accepted τ = 0.93, null hypothesis rejected τ = 1, null hypothesis rejected

1 1 1
ks−test decisions

0.8 0.8 0.8

0.6 0.6 0.6
(a)

(b)

(c)
0.4 0.4 0.4
0.2 0.2 0.2
0 0 0
H0 H1 H0 H1 H0 H1
τ = 0, null hypothesis accepted τ = 0.82, null hypothesis rejected τ = 1, null hypothesis rejected

1 1 1
t−test decisions

0.8 0.8 0.8

0.6 0.6 0.6
(d)

(e)

(f)
0.4 0.4 0.4
0.2 0.2 0.2
0 0 0
H0 H1 H0 H1 H0 H1

Figure: The KS-test (top) and the t-test (bottom) decisions made for
three different 16-beat windows. (1) no synthetic TWA and SNR=10dB.
(2) synthetic 35µv TWA and SNR=5dB. (3) synthetic 35µv TWA and
SNR=10dB.
T-wave Alternans Detection Using a Bayesian Approach and a Gibbs Sampler
21 / 25
!

74/ 94
Slides de cours 1SN - 2023-2024

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

75/ 94
Slides de cours 1SN - 2023-2024

Motivations

76/ 94
Slides de cours 1SN - 2023-2024

Motivations

77/ 94
Slides de cours 1SN - 2023-2024

Motivations

78/ 94
Slides de cours 1SN - 2023-2024

Test du χ2

Le test du χ2 est un test non paramétrique d’ajustement (ou d’adéquation) qui

permet de tester les deux hypothèses suivantes

H0 : L = L0 , H1 : L 6= L0

où L0 est une loi donnée. Le test consiste à déterminer si (x1 , ..., xn ) est de loi
L0 ou non. On se limitera dans ce cours au cas simple où xi ∈ R.

Définition du test
K
X (Zk − npk )2
Rejet de H0 si φn = > Sα
npk
k=1

Remarque
I L0 peut être une loi discrète ou continue. Dans le cas discret, on
construira les classes en réunissant certaines valeurs de la loi testée.

79/ 94
Slides de cours 1SN - 2023-2024

Test du χ2

Statistique du test
K
X (Zk − npk )2
φn = > Sα
npk
k=1

I Zk : nombre d’observations xi appartenant à la classe Ck , k = 1, ..., K

I pk : probabilité qu’une observation xi appartienne à la classe Ck sachant
Xi ∼ L0
P [Xi ∈ Ck |Xi ∼ L0 ]
I n : nombre total d’observations

Loi asymptotique de la statistique du test sous H0

L
φn → χ2K−1
n→∞

Pour la preuve, voir notes de cours ou livres

80/ 94
Slides de cours 1SN - 2023-2024

Remarques
I Interprétation de φn K  2
X n Zk
φn = − pk
pk n
k=1

Distance entre probabilités théoriques et empiriques

I Nombre d’observations fini
Une heuristique dit que la loi asymptotique de φn est une bonne
approximation pour n fini si 80% des classes vérifient npk ≥ 5 et si
pk > 0, ∀k = 1, ..., K + Classes équiprobables
I Correction
Lorsque les paramètres de la loi L0 sont inconnus
L
φn → χ2K−1−np
n→∞

où np est le nombre de paramètres inconnus estimés par la méthode du

maximum de vraisemblance
I Constitution des classes dans le cas d’une loi discrète
I Puissance du test : non calculable
81/ 94
Slides de cours 1SN - 2023-2024

Exemple 1

4.13 1.41 −1.16 −0.75 1.96 2.46 0.197 0.24 0.42 2.00
2.08 1.48 1.73 0.82 0.33 −0.76 0.42 4.60 −2.83 0.197
2.59 0.54 4.06 −0.69 4.99 0.67 2.45 5.61 2.13 1.76
5.03 0.85 1.29 0.17 −0.38 2.76 −1.03 1.87 4.48 0.73

Est-il raisonnable de penser que ces observations sont issues d’une population
de loi N (1, 4) ?

Solution
I Classes

C1 : ] − ∞, −0.34], C2 : ] − 0.34, 1], C3 : ]1, 2.34], C4 : ]2.34, ∞[

I Nombres d’observations

Z1 = 7, Z2 = 12, Z3 = 10, Z4 = 11

82/ 94
Slides de cours 1SN - 2023-2024

Exemple 1

Solution
I Statistique de test
φn = 1.4
I Seuils
χ22 χ23
S0.05 5.991 7.815
S0.01 9.210 11.345
I Conclusion
On accepte l’hypothèse H0 avec les risques α = 0.01 et α = 0.05.

83/ 94
Slides de cours 1SN - 2023-2024

Exemple 2

Enoncé
On lance un dé 60 fois et on relève les nombres de fois où on a observé les
différentes faces
xi 1 2 3 4 5 6
ni 15 7 4 11 6 17
On se demande si ce dé est truqué (Hypothèse H1 ) ou non (Hypothèse H0 ).
1. Déterminer la statistique du test du chi-deux noté φ associée à ce
problème.
2. Quelle est la loi de cette statistique de test sous l’hypothèse H0 ?
3. Expliquer comment déterminer le seuil de décision Sα du test du chi-deux
à l’aide de la fonction de répartition de la loi déterminée à la question
précédente et du risque α de ce test. Pour α = 0.05, on trouve
S0.05 = 11.07 et pour α = 0.01, on a S0.01 = 15.09. Que conclut-on ?

84/ 94
Slides de cours 1SN - 2023-2024

Exemple 3 (voir TD)

Enoncé
Un statisticien pose la question suivante à un échantillon de 30 participants :
“Préférez-vous boire du thé ou du café ?”. Parmi cet échantillon, 10 préfèrent
le thé et 20 préfèrent le café. Il désire effectuer un test du chi-deux pour
déterminer s’il y a une véritable préférence pour le café dans cet échantillon.
Pour cela, il définit l’hypothèse H0 par “la probabilité de boire du thé est égale
à la probabilité de boire du café”, i.e., les deux classes {Thé} et {Café} sont
équiprobables (P [Thé] = P [Café] = 21 ).
1. Déterminer la statistique du test du chi-deux noté φ associée à ce
problème.
2. Rappeler la loi de φ sous l’hypothèse H0 (définie par “Il n’y a pas de
préférence ni pour le thé, ni pour le café”).
3. Expliquer comment déterminer le seuil de décision Sα du test du chi-deux
à l’aide de la fonction de répartition de la loi déterminée à la question
précédente et du risque α de ce test. Pour α = 0.05, on trouve
S0.05 = 3.84. Que conclut-on ?

85/ 94
Slides de cours 1SN - 2023-2024

Résumé
I Chapitre 1 : Estimation
I Modèle statistique, qualités d’un estimateur, exemples
I Inégalité de Cramér Rao
I Maximum de vraisemblance
I Méthode des moments
I Estimation Bayésienne
I Intervalles de confiance
I Chapitre 2 : Tests Statistiques
I Généralités, exemple
I Courbes COR, p-valeur
I Théorème de Neyman Pearson
I Autres tests paramétriques
I Test du χ2
I Test de Kolmogorov

86/ 94
Slides de cours 1SN - 2023-2024

Test de Kolmogorov

Le test de Kolmogorov est un test non paramétrique d’ajustement (ou

d’adéquation) qui permet de tester les deux hypothèses suivantes

H0 : L = L0 , H1 : L 6= L0

où L0 est une loi donnée. Le test consiste à déterminer si (x1 , ..., xn ) est de loi
L0 ou non. On se limitera dans ce cours au cas simple où xi ∈ [Link] dans ce
cours au cas simple où xi ∈ R.

Définition du test
Rejet de H0 si Dn = sup|Fb(x) − F0 (x)| > Sα
x∈R

Remarque
I L0 doit être une loi continue.

87/ 94
Slides de cours 1SN - 2023-2024

Statistique du test de Kolmogorov

Fonctions de répartition
F0 (x) = P [X ≤ x] est la fonction de répartition théorique de L0 et Fbn (x) est
la fonction de répartition empirique de (x1 , ..., xn )

Dn est l’écart maximum entre les deux courbes.

88/ 94
Slides de cours 1SN - 2023-2024

Calcul de Dn

Á l’aide de l’échantillon ordonné

Dn = max max{Ei+ , Ei− }
i∈{1,...,n}

avec
   
Ei+ = Fbn x+ , Ei− = Fbn x−



(i) − F0 x(i) (i) − F0 x(i)

Remarques
I x(1) , ..., x(n) est la statistique d’ordre de x1 , ..., xn telle que
x(1) ≤ ... ≤ x(n)
   
−
I Fbn x+ (i) = i/n et Fn x(i) = (i − 1)/n.
b

89/ 94
Slides de cours 1SN - 2023-2024

Statistique du test

Loi de Dn sous H0
I Indépendante de L0
I Loi asymptotique
+∞
√ X
P [ nDn < y] → (−1)k exp(−2k2 y 2 ) = K(y)
n→∞
k=−∞

Convergence de cette série très rapide (pour y > 0.56, les trois premiers
termes donnent une approximation avec une erreur inférieure à 10−4 ).

Détermination du seuil Sα
1
Sn,α = √ K −1 (1 − α)
n
Le seuil dépend de α et de n.

90/ 94
Slides de cours 1SN - 2023-2024

Remarques

Puissance du test
Non calculable

Tests unilatéraux
I Pour tester H0 : F = F0 contre H1 : F ≥ F0 , le test de Kolmogorov
rejette H0 si h i
Dn+ = sup Fbn (t) − F0 (t) ≥ Sn,α
t∈R

I Pour tester H0 : F = F0 contre H1 : F ≤ F0 , le test de Kolmogorov

rejette H0 si h i
Dn− = sup F0 (t) − Fbn (t) ≥ Sn,α
t∈R

91/ 94
Slides de cours 1SN - 2023-2024

Exemple

Est-il raisonnable de penser que ces observations sont issues d’une population
de loi uniforme sur [0, 1] ?
xi 0.0078 0.063 0.10 0.25 0.32 0.39 0.40 0.48 0.49 0.53
−
E 0.0078 0.013 0.00 0.10 0.07 0.14 0.05 0.008 0.04 0.03
i
+
E 0.0422 0.037 0.05 0.05 0.12 0.09 0.10 0.13 0.09 0.08
i
+ −
Max(E , E ) 0.0422 0.037 0.05 0.1 0.12 0.14 0.10 0.13 0.09 0.08
i i

xi 0.67 0.68 0.69 0.73 0.79 0.80 0.87 0.88 0.90 0.996
−
E 0.17 0.13 0.04 0.03 0.04 0.05 0.07 0.03 0.05 0.046
i
+
E 0.12 0.08 0.09 0.08 0.09 0.00 0.02 0.02 0.00 4e − 3
i
+ −
Max(E , E ) 0.17 0.13 0.09 0.08 0.09 0.05 0.07 0.03 0.05 0.046
i i

92/ 94
Slides de cours 1SN - 2023-2024

Résultats

Statistique de test
Dn = 0.17

Seuils pour n = 20
S0.05 0.294
S0.01 0.352

Conclusion
On accepte l’hypothèse H0 avec les risques α = 0.01 et α = 0.05.

93/ 94
Slides de cours 1SN - 2023-2024

Que faut-il savoir ?

Tests statistiques
I Définition et calcul des risques de première et seconde espèce et de la
puissance d’un test binaire
I Définition et détermination des courbes COR
I Appliquer le théorème de Neyman-Pearson dans le cas de variables
aléatoires discrètes et continues
I Connaı̂tre l’existence des tests paramétriques pour tester la valeur de la
moyenne ou de la variance d’un échantillon gaussien
I Connaı̂tre l’existence des tests paramétriques pour tester l’égalité de
moyennes et de variances pour deux échantillons gaussiens indépendants
I Principe et mise en oeuvre d’un test du χ2
I Principe et mise en oeuvre d’un test de Kolmogorov

94/ 94