Contents
1 rappel 2
1.1 probabilite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2 Variable Aléatoire Discrète . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3 Espérance, variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.4 Variables Aléatoires Continues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2 échantillonnage et estimation 17
2.1 Expérience . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.2 échantillon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3 estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.1 Estimation de la moyenne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.3.2 Estimation d’une proportion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.4 Théorème limite centra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1
h
! principe d’incertitude Heisenberg : σx .σp ≥ 2
! ∆E.∆t ≥ h2
! incertitudes dans les transistors
Chapter 1
rappel
1.1 probabilite
Definitions
! Expérience aléatoire : plusieurs résultats possibles
! Issue ou éventualité ω : un des résultats possibles
! Univers Ω : l’ensemble de tous les résultats
! Événement A : un sous-ensemble de Ω
! Exemple :
– « Compter le nombre de personnes présentes »
– ω1 = 1 (au moins. . . ), ω2 = 70, etc.
– Ω = {1, 2, . . . , Nmax }
– A = {il y a moins de 5 personnes} = {1, 2, 3, 4} ⊂ Ω
2
Statistique Appliquée 8
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Exemple : lancer deux dés
Ω
A
B
! ω1 = (1, 1), ω2 = (3, 4), ω3 = (4, 3), . . .
! Ω = {(1, 1), (1, 2), . . . , (1, 6), (2, 1), . . . , (6, 6)}
! A = {la somme est égale à 6}
! B = {le 1er est entre 3 et 5 ; le 2nd entre 2 et 4}
10
Ensembles
Ω Ω Ω
S S S
T
T T
intersection S ∩ T union S ∪ T Sc ∩ T
3
Ω Ω Ω
S
S T S U
! A = {la somme est égale à 6}
! B = {le 1er est entre 3 et 5 ; le 2nd entre 2 et 4}
10
Ensembles
Ω Ω Ω
S S S
T
T T
intersection S ∩ T union S ∪ T Sc ∩ T
Ω Ω Ω
S
S T S U
T U T V
Sc, T ⊂ S disjoints partition
!
! Disjoints : i Si = ∅ (mutuellement
" exclusifs)
! Partition : Si disjoints
! et "i Si = Ω
c
! De Morgan 1 : ("i Si ) = !i Sic
! De Morgan 2 : ( i Si )c = i Sic
11
Statistique Appliquée 9
4
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Modèle probabiliste
1. Définir l’ensemble Ω.
2. Attribuer un nombre P (A) ∈ [0, 1] à un événement A.
! Définition classique (Laplace)
nombre de cas équiprobables favorables
P (A) =
nombre de cas équiprobables possibles
! Définition intuitive (fréquence relative)
Nn (A)
P (A) = lim
n→∞ n
! Définition axiomatique (Kolmogorov)
1. P (A) ≥ 0 pour chaque événement A ⊆ Ω
2. P (A ∪ B) = P (A) + P (B) pour A et B disjoints
3. P (Ω) = 1
12
Propriétés
1. P (Ac ) = 1 − P (A)
A∩Ac =∅
dém. : P (Ω) = P (A ∪ Ac ) = P (A) + P (Ac ) = 1
2. P (∅) = 0 = P (Ωc ) 5
3. Si A ⊂ B, P (A) ≤ P (B)
4. P (A ∪ B) = P (A) + P (B) − P (A ∩ B)
5. P (A ∪ B) ≤ P (A) + P (B)
n→∞ n
! Définition axiomatique (Kolmogorov)
1. P (A) ≥ 0 pour chaque événement A ⊆ Ω
2. P (A ∪ B) = P (A) + P (B) pour A et B disjoints
3. P (Ω) = 1
12
Propriétés
1. P (Ac ) = 1 − P (A)
A∩Ac =∅
dém. : P (Ω) = P (A ∪ Ac ) = P (A) + P (Ac ) = 1
2. P (∅) = 0 = P (Ωc )
3. Si A ⊂ B, P (A) ≤ P (B)
4. P (A ∪ B) = P (A) + P (B) − P (A ∩ B)
5. P (A ∪ B) ≤ P (A) + P (B)
6. P (A ∪ B ∪ C) = P (A) + P (Ac ∩ B) + P (Ac ∩ B c ∩ C)
! Interprétation graphique :
Ω Ω
A
B A B
A∩B
Ac ∩ B
P (A) ≤ P (B) P (A ∪ B)
13
Statistique Appliquée 10
6
1.2 Variable Aléatoire Discrète
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Variable Aléatoire Discrète (une seule) 24
Définition
! Associer une valeur réelle x à chaque issue ω
d’une expérience aléatoire
! Variable aléatoire discrète (VAD) :
Nombre de valeurs possibles : fini ou infini dénombrable
x R
Ω
! Une variable aléatoire est une fonction ! (Ω → R)
! X : la variable aléatoire / x : une valeur possible
! Fonction de probabilité pX (x) :
simpl.
P ( {X = x} ) = P (X = x) " pX (x)
- ./ 0
événement ∈ Ω
25
V.A. : à usage unique
1. On « interroge » la v.a. X
2. L’expérience aléatoire associée est effectuée
3. Une issue ω ∈ Ω est réalisée 7
4. À l’issue ω correspond une valeur x
5. La v.a. X « répond » avec la valeur x
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Une partition naturelle de l’Univers
! Expérience : lancer deux dés ; X est la valeur maximale
3
[Link]. : pX (2) = P ({X = 2}) = 36
!
!
"x {X = x} = ∅
! x {X = x} = Ω
! Les événements {X = x} forment une partition de Ω
27
Fonction de Probabilité
! Normalisation
& &: "
disj. part.
x pX (x) = x P ({X = x}) = P ( x {X = x}) = P (Ω) = 1
disj. &
! P ({X ∈ S}) = x∈S pX (x)
3 7
Ω P ( {X ∈ {2, 4} }) = pX (2)8 + pX (4) = 36 + 36
α
1.3 Espérance, variance
−3 −2 −1 0 1 2 3
! Normalisation : α =
29
Espérance de X
! v.a.d. X ; m valeurs possibles
! classement par ordre : x(1) < x(2) < . . . < x(m)
! Comment calculer une valeur « moyenne » ?
1. Répéter la même expérience n fois !
(Considérer n v.a. X1 , X2 , . . . , Xn identiquement distribuées)
2. Prendre la moyenne des n valeurs x1 , x2 , . . . , xn obtenues :
moyenne = x1 +x2 +...+x
n
n
regrouper x(1) Nn (x(1) )+x(2) Nn (x(2) )+...+x(m) Nn (x(m) )
= n
−→ x(1) pX (x(1) ) + x(2) pX (x(2) ) + . . . + x(m) pX (x(m) )
n→∞&
= x xpX (x) " E[X]
30
Statistique Appliquée 18
9
! var[Y ] = var[aX + b] = E (aX + b − E[aX + b])2
4 5 4 5
2 2
= E (aX + b − aE[X] − b) = E (aX − aE[X])
4 5
2
= a E (X − E[X]) = a2 var[X]
2
33
Calcul de la variance
!
1 2
var[X] = E X 2 − (E[X])2 ≥ 0
1 2 &
! E (X − E[X])2 = x (x − E[X])2 pX (x)
var[X] = &
= &x {x2 − 2xE[X] + (E[X])
&
2 }p (x)
X &
2
= 1x x 2pX (x) − 2E[X] x xpX (x) + (E[X])2
1 22 x pX (x)
2 2 2 2
= E X − 2(E[X]) +4(E[X]) = E X − (E[X]) 5
! var[X] = E[(X − E[X])2 ] = E X 2 − 2XE[X] + (E[X])2
- ./ 0
1 2 cste 1 2
= E X 2 − 2E[X] E[X] + (E[X])2 = E X 2 − (E[X])2
34
Statistique Appliquée 20
10
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Fonction linéaire
!
Y = aX + b
!
E[Y ] = aE[X] + b
var[Y ] = a2 var[X] σY = |a|σX
& & &
! E[Y ] = E[aX + b] = x (ax + b)pX (x) = a x xpX (x) + b x pX (x)
= aE[X] + b 4 5
2
! var[Y ] = var[aX + b] = E (aX + b − E[aX + b])
4 5 4 5
2 2
= E (aX + b − aE[X] − b) = E (aX − aE[X])
4 5
2
= a E (X − E[X]) = a2 var[X]
2
33
Calcul de la variance
!
1 2
var[X] = E X 2 − (E[X])2 ≥ 0
1 2 &
! E (X − E[X])2 = x (x − E[X])2 pX (x)
var[X] = &
= &x {x2 − 2xE[X] + (E[X])
&
2 }p (x)
X 11 &
2
= 1x x 2pX (x) − 2E[X] x xpX (x) + (E[X])2
1 22 x pX (x)
2 2 2 2
= E X − 2(E[X]) +4(E[X]) = E X − (E[X]) 5
2 2 2
1.4 Variables Aléatoires Continues
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Variables Aléatoires Continues 48
Définition
! Associer une valeur réelle à chaque issue d’une expérience aléatoire
! Nombre de valeurs possibles : infini (non dénombrable)
x R
Ω
! Exemples :
– la vitesse d’une voiture
– le temps entre l’arrivée de deux clients
– la « position » d’un électron
– l’énergie d’une particule
49
Fonction de répartition : v.a.d. vers v.a.c.
V.A.D.
Fonction de probabilité, pX (k) = P ({X = k}) ! FX (b) − FX (a) =
= P ({a < X ≤ b})
0.5
! FX (k) − FX (k− ) " ∆FX |k
0.4
= P ({X = k}) = pX (k)
pX (k)
0.3
E[X]
0.2
12
0.1
0.0
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Densité de probabilité
!
P ({x < X ≤ x + dx}) = pX (x) dx
7 b
P ({a < X ≤ b}) = pX (x) dx
a
A = {a < X ≤ b}
pX (x)
Ω P (A)
a b x
! pX (x) ≥ 0 , ∀x 6x
! P ({X = x0 }) = P ({x0 < X ≤ x0 } = x00 pX (x) dx = 0
! Normalisation
6 +∞ :
−∞ pX (x) dx = P ({−∞ < X < +∞}) = P (Ω) = 1
57
Fonction de répartition
!
7 x
dFX (x)
FX (x) " P ({X ≤ x}) = pX (u) du pX (x) =
−∞ dx
! Propriétés : 13
– FX (x) : définie sur R ; continue (v.a.c.) / cont. à droite (v.a.d.)
– Monotone croissante (au sens large) :
! dx = dx
Fonction de répartition, FX (k) = P ({X ≤ k}) " pX6(x) ddp
x
! FX (x) = −∞ pX (u) du
1.0
0.8
FX (k)
0.6
0.4
0.2
0.0
35 40 45 50 55 60 65
k
Nombre d’essais : 100
55
Fonction de répartition : v.a.d. vers v.a.c.
V.A.C.
ddp pX (x) = P ({x < X ≤ x + dx})/ dx ! FX (b) − FX (a) =
= P ({a < X ≤ b})
0.08
! FX (x + dx) − FX (x) " dFX
0.06
= P ({x < X ≤ x + dx})
pX (x)
0.04
dFX P ({x<X≤x+ dx})
! dx = dx
0.02
P (A)
P (B) " pX6(x) ddp
x
! FX (x) = −∞ pX (u) du
0.00
35 40 45 50 55 60 65 ! A = {X ≤ 45}
x ! B = {50 < X ≤ 60}
Fonction de répartition, FX (x) = P ({X ≤ x})
1.0
0.8
P (B)
FX (x)
0.6
0.4
P (A)
0.2
0.0
35 40 45 50 55 60 65
56
Statistique Appliquée 30
14
A
Ω P (A)
a b x
! pX (x) ≥ 0 , ∀x 6x
! P ({X = x0 }) = P ({x0 < X ≤ x0 } = x00 pX (x) dx = 0
! Normalisation
6 +∞ :
−∞ pX (x) dx = P ({−∞ < X < +∞}) = P (Ω) = 1
57
Fonction de répartition
!
7 x
dFX (x)
FX (x) " P ({X ≤ x}) = pX (u) du pX (x) =
−∞ dx
! Propriétés :
– FX (x) : définie sur R ; continue (v.a.c.) / cont. à droite (v.a.d.)
– Monotone croissante (au sens large) :
si x1 < x2 , FX (x1 ) ≤ FX (x2 )
– limx→−∞ FX (x) = 0
– limx→+∞ FX (x) = 1
– FX (x2 ) − FX (x1 ) = P ({x1 < X ≤ x2 })
– v.a.d. : FX (x(k) ) − FX (x−
(k) ) = pX (x(k) )
– v.a.c. : dFX (x) = FX (x + dx) − FX (x) = P (x < X ≤ x + dx)
dFX (x)
– dx = P (x<X≤x+
dx
dx)
" pX (x)
58
Statistique Appliquée 31
15
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Grandeurs statistiques
! Espérance
7 +∞
µX = E[X] = x pX (x) dx
−∞
! Espérance de g(X)
7 +∞
µg(X) = E[g(X)] = g(x) pX (x) dx
−∞
! Variance
1 2 1 2
2
var[X] = σX = E (X − E[X])2 = E X 2 − E[X]2
! n-ième moment :
7 +∞
n
E[X ] = xn pX (x) dx
−∞
! n-ième moment centré :
7 +∞
n
E[(X − E[X]) ] = (x − E[X])n pX (x) dx
−∞
61
Fonction linéaire
!
Y = aX + b
!
E[Y ] =
16 aE[X] + b
var[Y ] = a2 var[X] σY = |a|σX
! Variable aléatoire discrète (VAD) :
Nombre de valeurs possibles : fini ou infini dénombrable
x R
Ω
! Une variable aléatoire est une fonction ! (Ω → R)
! X : la variable aléatoire / x : une valeur possible
Chapter 2
! Fonction de probabilité pX (x) :
simpl.
P ( {X = x} ) = P (X = x) " pX (x)
- ./ 0
échantillonnage et estimation
événement ∈ Ω
25
2.1 Expérience
V.A. : à usage unique
1. On « interroge » la v.a. X
2. L’expérience aléatoire associée est effectuée
3. Une issue ω ∈ Ω est réalisée
4. À l’issue ω correspond une valeur x
5. La v.a. X « répond » avec la valeur x
! Une v.a. X :
1. représente une expérience aléatoire
et une association Ω → R
2. est à usage unique : une seule expérience effectuée !
! N v.a. X1 , X2 , . . . , XN identiquement distribuées :
1. représente, chacune, la même expérience aléatoire
et la même association Ω → R
2. est, chacune, à usage unique :
la même expérience répetée N fois !
26
17
Statistique Appliquée 16
2.2 échantillon
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Échantillon : ensemble de variables aléatoires
! « Population pX (x) » : génère des v.a.
! Observation d’un caractère d’un individu : v.a. X, loi pX (x)
! Échantillonnage de taille n : la même expérience aléatoire répétée n fois !
ensemble de n v.a. Xi (i = 1, . . . , n)
! Échantillonnage aléatoire (non biaisé) : n v.a. identiques et indépendantes (iid)
pX1 (x) = pX2 (x) = . . . = pXn (x) = pX (x)
pX1 X2 ...Xn (x1 , x2 , . . . , xn ) = pX (x1 )pX (x2 ) . . . pX (xn )
c-à-d : avec remplacement + même probabilité de choisir chaque individu
! Statistiques : des v.a., fonctions des Xi (i = 1, . . . , n) d’un échantillon
(théorie d’échantillonnage : quelles valeurs et quelles probabilités ?)
! Obtenir un échantillon, de taille n :
ensemble de n valeurs xi (i = 1, . . . , n) −→ Statistique Descriptive !
! Expérience mentale : obtenir une infinité d’échantillons
75
Paramètres statistiques d’un échantillon
! Mesures de tendance centrale (position)
&n
– Moyenne : X̄ = n1 X
2.3 estimation i=1 i
– Médiane : partage les valeurs en deux parties
Quantiles
– Soit : partagent
une population lesXvaleurs
aléatoire 1 , X2 , . . . ,en parties
Xnki.i.d. avec espérance µ = E[Xi ] et variance σ 2 = Var(Xi ).
– Quartiles (k = 4) : Q1 , Q2 (médiane), Q3
– Déciles (k = 9) : D1 , D2 , . . . , D5 (médiane), 18 . . . , D
9
! Statistiques d’ordre : X(1) , X(2) , . . . , X(n) où x(1) ≤ x(2) ≤ . . . ≤ x(n)
! Mesures de dispersion
2.3.1 Estimation de la moyenne
L’estimateur de la moyenne est :
n
1X
X= Xi
n i=1
Espérance :
E[X] = µ
⇒ X est un estimateur non biaisé de µ
Variance : !
n n
1X 1 X σ2
Var(X) = Var Xi = Var(Xi ) =
n i=1 n2 i=1 n
L’estimateur (corrigé) de la variance est :
n
1 X
S2 = (Xi − X)2
n − 1 i=1
Espérance :
E[S 2 ] = σ 2
Donc S 2 est un estimateur non biaisé de σ 2 .
Remarque
P : si on divisait par n au lieu de n − 1, on obtiendrait un estimateur biaisé (puisque
E n1 (Xi − X)2 = n−1 2
n σ ).
Si les Xi suivent une loi normale, alors :
2σ 4
Var(S 2 ) =
n−1
2.3.2 Estimation d’une proportion
Soit Yi ∼ Bernoulli(p) (succès/échec, avec probabilité p de succès). La proportion observée est :
n
1X
p̂ = Yi
n i=1
Espérance :
E[p̂] = p
Variance :
p(1 − p)
Var(p̂) =
n
19
2.4 Théorème limite central
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
[Théorème limite central]
! X1 , X2 , . . . , Xn : série de v.a. indépendantes
! pX1 (x) = . . . = pXn (x) = pX (x) (même distribution)
! E[X1 ] = . . . = E[Xn ] = µX , σX1 = . . . = σXn = σX
!
ind
Sn = X1 + X2 + . . . + Xn , E[Sn ] = nµX , σS2 n = nσX
2
S n − µ Sn X1 + X2 + . . . + Xn − nµX
Zn = = √ , E[Zn ] = 0 , σZ2 n = 1
σSn nσX
! TLC : 7 z + ,
1 1 2
lim P ({Zn ≤ z}) = √ exp − u du
n−→∞ 2π −∞ 2
√ # $
Sn σX
! TLC : n → ∞ : Zn → N (0, 1) , Sn → N (nµX , nσX ) , n → N µX , n√
89
20
École Polytechnique de l’UNSA Département d’Électronique
Polytech’Nice-Sophia 3e année
Distribution normale (gaussienne)
! = + ,2 >
1 1 x − µX
N (µX , σX ) : pX (x) = √ exp −
2πσX 2 σX
!
E[X] = µX
!
2
var[X] = σX
! =
7 x + ,2 >
1 1 x) − µX
FX (x) = √ exp − dx)
2πσX −∞ 2 σX
81
Distribution normale
ddp pX (x) = P ({x < X ≤ x + dx})/ dx
0.4
sigma = 2
0.3
pX (x)
0.2
21
0.1
0.0
La table de la loi normale centrée réduite présentée ci-après donne pour une valeur u, la densité de
probabilité correspondant à P (x < u). La lecture de cette table est donc facile. Cette table ne concerne que
les valeurs de u supérieures à 0, mais on peut déduire facilement par symétrie les valeurs de u inférieures à
0.
Exemples.
Valeur de x si u = 1.23. On regarde la valeur à l’intersection de la ligne 1.2 et la colonne 0.03 (1.2 +
0.03 = 1.23). La valeur dans la table est 0.8907, il y a donc 89,07% (0.8907 * 100) des valeurs de cette
distribution qui sont inférieures à 1.23.
22