Coefficients de régression et variables aléatoires
Coefficients de régression et variables aléatoires
Y 1 2 X u
Yˆ b1 b2 X
Les coefficients de régression sont des types spéciaux de variables aléatoires. Nous le
démontrerons en utilisant le modèle de régression simple dans lequel Y dépend de X. Les
deux équations montrent le modèle réel et la régression estimée.
1
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
2
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
3
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
4
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
5
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
6
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
7
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
8
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y 1 2 X u
Yˆ b1 b2 X
9
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
Y 2.0 0.5 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
24
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y = 2.0 + 0.5X + u
X 2.0+0.5X u Y X 2.0+0.5X u Y
Ensuite, nous générons aléatoirement une valeur du terme résiduel pour chaque
observation en utilisant une distribution N(0,1) (distribution normale avec une moyenne
égale à 0 et une variance égale à 1).
25
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y = 2.0 + 0.5X + u
X 2.0+0.5X u Y X 2.0+0.5X u Y
Par exemple, la valeur de Y dans la première observation est 1.91, et non 2.50.
26
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y = 2.0 + 0.5X + u
X 2.0+0.5X u Y X 2.0+0.5X u Y
27
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
28
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
32
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Yˆ 1.63 0.54 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
33
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Yˆ 1.63 0.54 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
Par comparaison, la composante non stochastique de la relation réelle est aussi donnée. 2
(valeur réelle : 0.50) a été sur-estimée et 1 (valeur réelle : 2.00) a été sous-estimée.
34
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Y 2.0 0.5 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
35
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
Comme auparavant, les valeurs de Y sont modifiées en additionnant les valeurs du terme
résiduel générées aléatoirement.
36
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
Les nouvelles valeurs du terme résiduel sont marquées pour la même distribution N(0,1), de
la même manière que les précédentes, mais, sauf coincidence, seront différentes de ces
dernières.
37
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Yˆ 2.52 0.48 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
38
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Y 2.0 0.5 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
39
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
Un nouvel ensemble de nombres aléatoires a été utilisé pour générer les valeurs de Y.
40
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
Y
14.00 Yˆ 2.13 0.45 X
12.00
10.00
8.00
6.00
4.00
2.00
0.00
0.00 5.00 10.00 15.00 20.00 X
41
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
répliques b1 b2
1 1.63 0.54
2 2.52 0.48
3 2.13 0.45
4 2.14 0.50
5 1.71 0.56
6 1.81 0.51
7 1.72 0.56
8 3.18 0.41
9 1.26 0.58
10 1.94 0.52
La table résume les résultats des trois régressions et additionne ceux obtenus en répétant
le processus sept fois de plus.
42
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
10 répliques
Ci-dessus, un histogramme pour les estimations de 2. Rien de plus ne peut être observé à
ce stade.
43
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
44
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
50 répliques
45
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
100 répliques
Histogramme avec 100 répliques. Nous pouvons observer que la distribution semble être
symétrique autour de la valeur réelle, ce qui implique que l’estimateur soit non biaisé.
46
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
100 répliques
Cependant, la distibution est encore éclatée. Nous devrions répéter le processus au moins
1000 fois, peut-être plus.
47
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
100 répliques
La courbe rouge montre la forme limitant la distribution. Elle est symétrique autour de la
vraie valeur, ce qui confirme que l’estimateur est non biaisé.
48
LES COEFFICIENTS DE REGRESSION : DES VARIABLES ALEATOIRES
12
10
0
0.40 0.45 0.50 0.55 0.60
100 répliques
La distribution est normale car le terme des résidus a été généré à partir d’une distribution
normale.
49
LA PRECISION DES COEFFICIENTS DE REGRESSION
2 b2
Nous avons vu que les coefficients de la régression b1 et b2 sont des sortes spéciales de
variable aléatoire. Ils donnent respectivement des estimations de β1 et β2. Dans la dernière
séquence, nous avons démontré que ces estimations étaient non biaisées.
1
LA PRECISION DES COEFFICIENTS DE REGRESSION
Écart-type de la fonction de
densité de b2
2 b2
Dans cette séquence nous verrons que nous pouvons aussi obtenir des estimations des
écart-types des distributions. Ceci nous donnera une idée quant à leur fiabilité et nous
donnera une base pour tester les hypothèses.
2
LA PRECISION DES COEFFICIENTS DE REGRESSION
u2
X 2
u2
b1 1
2
b2
n Var( X ) 2
n Var( X )
n n
s
2
Var(e ) Var(e )
nk n2
u
17
LA PRECISION DES COEFFICIENTS DE REGRESSION
u2
X 2
u2
b1 1
2
b2
n Var( X ) 2
n Var( X )
n n
s
2
Var(e ) Var(e )
nk n2
u
su2 X2 su2
s.e.(b1 ) 1 s.e.(b2 )
n Var( X ) nVar( X )
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
Les écart-types des estimateurs apparaissent toujours dans l’output d’une régression. Voici
une régression du salaire horaire annuel sur les années d’éducation discutée dans une
séance antérieure. Les écart-types des estimateurs apparaissent dans la colonne à la droite
des coefficients. 20
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Modèle: Y = 1 + 2X + u
Hypothèse nulle: H 0 : 2 20
Hypothèse alternative: H1 : 2 20
Cette séance décrit le test d’une hypothèse à un niveau de significativité de 1 et de 5%. Elle
définit également ce que signifie une Erreur de Type I.
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Modèle: Y = 1 + 2X + u
Hypothèse nulle: H 0 : 2 20
Hypothèse alternative: H1 : 2 20
Nous supposerons que nous avons le modèle de régression simple standard et que nous
souhaitons tester l’hypothèse H0 que le coefficient de pente est égal à une certaine valeur
20.
2
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Modèle: Y = 1 + 2X + u
Hypothèse nulle: H 0 : 2 20
Hypothèse alternative: H1 : 2 20
L’hypothèse testée est l’hypothèse nulle. Nous la testerons contre l’hypothèse alternative
H1, qui est simplement que β2 n’est pas égal à β20.
3
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Modèle: Y = 1 + 2X + u
Hypothèse nulle: H 0 : 2 20
Hypothèse alternative: H1 : 2 20
Modèle d’exemple: p = 1 + 2w + u
Hypothèse nulle: H 0 : 2 1.0
Hypothèse alternative: H1 : 2 1.0
Comme illustration, nous considérons un modèle reliant l’inflation des prix à l’inflation des
salaires. p est le taux de croissance des prix et w est le taux de croissance des salaires.
4
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Modèle: Y = 1 + 2X + u
Hypothèse nulle: H 0 : 2 20
Hypothèse alternative: H1 : 2 20
Modèle d’exemple: p = 1 + 2w + u
Hypothèse nulle: H 0 : 2 1.0
Hypothèse alternative: H1 : 2 1.0
Nous testerons l’hypothèse que le taux d’inflation des prix est égal au taux d’inflation des
salaires. L’hypothèse nulle est donc H0: β2 = 1.0 (nous devrions aussi tester β1 = 0).
5
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Si l’hypothèse nulle est vraie, le coefficient de régression b2 aura une distribution avec une
moyenne de 1.0. Pour dessiner la distribution, nous devons connaître son écart-type.
6
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Nous ferons l’hypothèse que nous connaissons l’écart-type et qu’il est égal à 0.1. Il s’agit
d’une hypothèse très irréaliste. En pratique vous devez l’estimer.
7
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Voici la distribution de b2 pour le cas général. Une fois de plus, pour l’instant nous faisons
l’hypothèse que nous connaissons l’écart-type (sd).
8
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Supposons que nous disposons d’un échantillon de données pour estimer le modèle
inflation des prix/inflation du salaire et que l’estimation du coefficient de pente, b2, est 0.9.
Cela serait-il une preuve contre l’hypothèse nulle 2 = 1.0 ?
9
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
Non. Il est inférieur à 1.0, mais, puisqu’il y a un terme d’erreur dans le modèle, nous ne nous
attendions pas à obtenir une estimation exactement égale à 1.
10
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
Si l’hypothèse nulle est vraie, nous devrions fréquemment obtenir des estimations aussi
faibles que 0.9.
11
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
12
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
Si l’hypothèse nulle est vraie, la probabilité d’obtenir une estimation d’un écart-type (ou
plus) au dessus ou en dessous de la moyenne est de 31.7%.
13
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
Maintenant, supposons que dans le modèle inflation des prix/inflation des salaires nous
obtenions une estimation de 1.4. Ceci va clairement à l’encontre de l’hypothèse nulle.
14
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
15
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égale 0.1
étant donné)
Maintenant, supposons, avec le modèle inflation des prix/inflation des salaires, que
l’estimation de l’échantillon est 0.77. Il s’agit d’un résultat peu commode.
16
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
17
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
Il y a deux possibilités. La première est que l’hypothèse nulle soit vraie et que nous ayons
une estimation plutôt étrange.
18
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
La deuxième est que l’hypothèse nulle soit fausse. Le taux d’inflation des prix n’est pas
égal au taux d’inflation des salaires.
19
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
La procédure d’usage pour prendre une décision est de rejeter l’hypothèse nulle si elle
implique que la probabilité d’obtenir une estimation tant extrème est inférieure à une
certaine (petite) probabilité p.
20
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
2.5% 2.5%
Par exemple, nous pourrions choisir de rejeter l’hypothèse nulle si elle implique que la
probabilité d’obtenir une estimation tant extrème est inférieure à 0.05 (5%).
21
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
2.5% 2.5%
D’après cette règle, nous rejetterions l’hypothèse nulle si l’estimation tombait dans le flan
des 2.5% de la distribution les plus bas ou les plus hauts.
22
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
2.5% 2.5%
Si nous appliquons cette règle au modèle de l’inflation des prix/inflation des salaires, la
première estimation de 2 ne mènerait pas au rejet de l’hypothèse nulle.
23
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
2.5% 2.5%
24
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 =1.0 est vraie (l’écart-type égal à 0.1
étant donné)
2.5% 2.5%
25
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
Distribution de b2 sous l’hypothèse nulle
H0: 2 = 02 est vraie (l’écart-type étant donné)
2.5% 2.5%
Le flan des 2.5% d’une distribution normale commence toujours à 1.96 écart-types de sa
moyenne.
26
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
Donc nous rejetterions H0 si l’estimation était 1.96 écart-types (= s.d. pour standard
deviation) (ou plus) au-dessus ou en dessous de la moyenne hypothétique.
27
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
28
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
29
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
b2 20
z
s.d.
2.5% 2.5%
30
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
b2 20
z
s.d.
2.5% 2.5%
Donc, la règle de décision est de rejeter l’hypothèse nulle si z est plus grand que 1.96 en
termes absolus.
31
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
L’intervalle de valeurs de b2 qui ne mène pas au rejet de l’hypothèse nulle est appelé région
d’acceptation.
32
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
Les valeurs limites de z pour la région d’acceptation sont 1.96 et -1.96 (pour un test de
significativité à 5%).
33
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
34
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
Nous faisons l’hypothèse que nous connaissons l’écart-type et qu’il est de 0.1.
35
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
2.5% 2.5%
La région d’acceptation pour b2 est de ce fait l’intervalle 0.804 à 1.196. Une estimation
d’échantillon dans l’intervalle ne mènera pas à un rejet de l’hypothèse nulle.
36
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
2.5% 2.5%
37
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
2.5% 2.5%
Avec le test actuel, si l’hypothèse nulle est vraie, une erreur de Type I aura lieu dans 5 %
des cas car, dans 5% des cas, nous obtiendrons des estimations dans les 2.5% supérieurs
ou inférieurs.
38
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
2.5% 2.5%
Le niveau de significativité d’un test est défini comme la probabilité de faire une erreur de
Type I si l’hypothèse nulle est vraie.
39
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
2.5% 2.5%
Nous pouvons évidemment réduire le risque de faire une erreur de Type I en réduisant
l’étendue de la région de rejet.
40
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
2.5% 2.5%
Par exemple, nous pourrions changer la règle de décision pour “rejeter l’hypothèse nulle si
elle implique que la probabilité d’obtenir l’estimation d’échantillon est inférieur à 0.01 (1%).
41
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité
de probabilité de b2
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
2.5% 2.5%
42
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
0.5% 0.5%
Le flan des 0.5% d’une distribution normale commence à 2.58 écarts-type de la moyenne,
donc nous rejetons désormais l’hypothèse nulle si z est plus grand que 2.58, en termes
absolus.
43
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
rejeter H0 : 2 20 rejeter H0 : 2 20
région d’acceptation de b2:
0.5% 0.5%
Etant donné que la probabilité de faire une erreur de Type I, si l’hypothèse nulle est vraie,
est désormais de 1% seulement, le test est dit être un test de significativité à 1%.
44
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
0.5% 0.5%
Dans le cas du modèle inflation des prix/inflation des salaires, étant donné que l’écart-type
est 0.1, le flan à 0.5% commence à 0.258 au-dessus et en dessous de la moyenne, c’est à
dire, à 0.742 et 1.258.
45
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
0.5% 0.5%
La région d’acceptation pour b2 est donc l’intervalle 0.742 à 1.258. Puisqu’il est plus évasé
que celui du test à 5%, le risque de faire une erreur de Type I si l’hypothèse nulle est vraie,
est plus faible.
46
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité 5%: 20 1.96 s.d. b2 20 1.96 s.d. -1.96 < z < 1.96
de probabilité de b2 1%: 20 2.58 s.d. b2 20 2.58 s.d. -2.58 < z < 2.58
niveau de 1%
b2 0
z 2 niveau de 5%
s.d.
0.5% 0.5%
Ce diagramme compare des processus de prise de décision pour des tests à 5% et à 1%.
Notez que si vous rejetez H0 au niveau 1%, vous devez aussi le rejeter au niveau 5%.
47
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Fonction de densité 5%: 20 1.96 s.d. b2 20 1.96 s.d. -1.96 < z < 1.96
de probabilité de b2 1%: 20 2.58 s.d. b2 20 2.58 s.d. -2.58 < z < 2.58
niveau de 1%
b2 0
z 2 niveau de 5%
s.d.
0.5% 0.5%
Notez aussi que si b2 se trouve dans la région d’acceptation pour le test à 5%, il doit aussi
s’y trouver pour le test à 1%.
48
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Exemple :
Cas général Décision Inflation des
prix/inflation
des salaires
Rejeter H0 à un niveau de 1% (et 5%)
2.58 s.d.
0
2 1.258
Rejeter H0 à un niveau de 5% mais pas 1%
1.96 s.d.
0
2 1.196
Le diagramme résume les décisions possibles pour les test à 5% et 1%, pour à la fois le cas
géneral et l’example inflation des prix/inflation des salaires.
49
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Exemple :
Cas général Décision Inflation des
prix/inflation
des salaires
Rejeter H0 à un niveau de 1% (et 5%)
2.58 s.d.
0
2 1.258
Rejeter H0 à un niveau de 5% mais pas 1%
1.96 s.d.
0
2 1.196
Le milieu du diagramme indique ce que vous reporteriez. Vous ne reporteriez pas les
phrases entre parenthèses.
49
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Exemple :
Cas général Décision Inflation des
prix/inflation
des salaires
Rejeter H0 à un niveau de 1% (et 5%)
2.58 s.d.
0
2 1.258
Rejeter H0 à un niveau de 5% mais pas 1%
1.96 s.d.
0
2 1.196
Si vous pouvez rejeter H0 au niveau 1%, il suit automatiquement que vous pouvez le rejeter
au niveau 5% et il n’y a donc pas besoin de le dire. En effet, vous auriez l’air ignorant si
vous le faisiez.
49
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Exemple :
Cas général Décision Inflation des
prix/inflation
des salaires
Rejeter H0 à un niveau de 1% (et 5%)
2.58 s.d.
0
2 1.258
Rejeter H0 à un niveau de 5% mais pas 1%
1.96 s.d.
0
2 1.196
De même, si vous ne pouviez pas rejeter H0 à un niveau de 5%, c’est tout ce que vous diriez.
Il suit automatiquement que vous ne pouvez pas la rejeter à un niveau de 1%.
49
TESTER L’HYPOTHESE D’UN COEFFICIENT DE REGRESSION
Exemple :
Cas général Décision Inflation des
prix/inflation
des salaires
Rejeter H0 à un niveau de 1% (et 5%)
2.58 s.d.
0
2 1.258
Rejeter H0 à un niveau de 5% mais pas 1%
1.96 s.d.
0
2 1.196
Vous devriez repoter les résultats des deux tests seulement quand vous pouvez rejeter H0 à
un niveau de 5% mais pas à un niveau de 1%.
49
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
Niveau de 5%
2.5% 2.5%
Dans la séquence précédente une erreur de Type I était définie comme le rejet d’une
hypothèse nulle quand elle s’avérait être vraie.
1
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
Niveau de 5%
2.5% 2.5%
1
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
Niveau de 5%
2.5% 2.5%
Cette séquence démontrera qu’il y a une trade-off entre le risque de faire une erreur de Type
I et celui de faire une erreur de Type II.
1
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
Niveau de 5%
2.5% 2.5%
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Utiliser un test de significativité à 1%, à la place d’un test à 5%, réduit le risque de faire une
erreur de Type I à 1%, si l’hypothèse nulle est vraie.
5
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
5
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Le diagramme ci-dessus explique comment les tests de décisions sont réalisés, mais il ne
donne pas la distribution réelle de b2 (la courbe a donc été dessinée en pointillé).
5
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Supposons que H1: β2 = β21 est en fait vraie et que la distribution de b2 est donc gouvernée
par la courbe à droite.
8
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Si nous obtenions des données et faisions une régression, les estimations b2 pourraient
être telles que montrées. Dans ce cas nous prendrions la bonne décision et rejetterions H0,
peu importe quel test est utilisé.
9
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Voici une autre estimation. Une fois de plus, nous prendrions la bonne décision et
rejetterions l’hypothèse nulle, peu importe que nous utilisions le test à 5% ou à 1%.
10
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Dans le cas présent, nous ferions une erreur de Type II et manquerions de rejeter
l’hypothèse nulle, peu importe lequel des deux niveaux de significativité.
11
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Mais dans le cas de cette estimation, nous prendrions la bonne décision si nous avions
utilisé un test à 5% mais nous aurions commis une erreur de Type II si nous avions utilisé
un test à 1%.
12
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
La probabilité de faire une erreur de Type II si nous utilisons un test à 1% est donnée par la
probabilité que b2 se trouve dans la région d’acceptation à 1%, l’intervalle entre les lignes
verticales en pointillés rouge.
13
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Etant donné que H1 est vraie, la probabiité que b2 se trouve dans la région d’acceptation est
l’aire sous la distribution de H1 dans le diagramme (aire rose).
14
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Il s’agit de l’aire en gris dans le diagramme. Dans ce cas particulier, utiliser un test à 5% au
lieu d’un test à 1% diminuerait plus ou moins de moitié le risque de commettre une erreur
de Type II.
16
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Le problème, bien entendu, est que vous ne connaissez jamais si H0 est vraie ou fausse. Si
vous le saviez, pourquoi effectueriez vous un test…
17
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Si H0 s’avère être vraie, utiliser un test à 1% au lieu d’un test à 5% réduit fortement le risque
de commettre une erreur de Type I (vous ne pouvez pas faire une erreur de Type II).
18
ERREUR DE TYPE I ET ERREUR DE TYPE II
Distribution hypothétique
sous H0 : 2 20
0.5% 0.5%
Cependant, si H0 est faux, utiliser un test à 1% au lieu d’un test à 5% augmente le risque de
commettre une erreur de Type II (vous ne pouvez pas faire une erreur de Type I).
19
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
s.d. de b2 connu
Il s’agit d’une hypothèse très irréaliste. Nous devons habituellement l’estimer avec l’écart-
type de estimateur et nous le mettons dans le test statistique à la place de l’écart-type.
5
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Etant donné que, dans le dénominateur, nous avons remplacé l’écart-type par l’écart-type
de l’estimateur, le test statistique a une distribution t au lieu d’une distribution normale.
5
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
De ce fait, nous faisons référence au test statistique comme une distribution statistique t.
Pour le rest, la procédure de test est similaire.
5
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Nous regardons la valeur critique de t et si la statistique t est plus grande que celle-ci, en
valeur absolue, nous rejetons l’hypothèse nulle. Si ce n’est pas le cas, nous ne la rejetons
pas.
5
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Voici le graphe d’une distribution normale avec une moyenne en zéro et une variance égale
à l’unité.
6
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Un graphe d’une distribution de t avec 10 degrés de liberté (ce terme sera défini dans un
moment) a été ajouté.
7
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Quand le nombre de degrés de liberté est grand, la distribution ressemble beaucoup plus à
une distibution normale (et lorsque le nombre augmente, elle converge à un).
8
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Même lorsque le nombre de dégrés de liberté est petit, comme dans ce cas-ci, les
distributions sont très similaires.
9
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
t, 5 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Voici une autre distribution t, cette fois avec seulement 5 degrés de liberté. Elle est encore
très similaire à une distribution normale.
10
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
t, 5 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Donc, pourquoi nous acharnons nous tellement à nous référer à la distribtion t plutot qu’à la
distribution normale? Cela importerait-il vraiment si nous utilisions toujours 1.96 pour un
test à 5% et 2.58 pour un test à 1%?
11
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.4
normal
0.3 t, 10 d.f.
t, 5 d.f.
0.2
0.1
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
La réponse est que cela importe. Bien que les distributions soient généralement assez
similaires, les distributions t ont des queues de distribution plus longue que la distribution
normale, la différence étant plus grande plus le nombre de degrés de liberté est petit.
12
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.1
normal
t, 10 d.f.
t, 5 d.f.
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
En conséquence, la probabilité d’obtenir un test statistique élevé par hasard est plus
grande avec une distribution t qu’avec une distribution normale.
13
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.1
normal
t, 10 d.f.
t, 5 d.f.
0
-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6
Ceci signifie que les régions de rejet doivent commencer plus d’écart-types éloigné de zéro
pour une distribution t que pour une distribution normale.
14
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.1
normal
t, 10 d.f.
t, 5 d.f.
0
-6 -5 -4 -3 -1.96
-2 -1 0 1 2 3 4 5 6
15
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.1
normal
t, 10 d.f.
t, 5 d.f.
0
-6 -5 -4 -3 -2.33
-2 -1 0 1 2 3 4 5 6
16
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
0.1
normal
t, 10 d.f.
t, 5 d.f.
0
-6 -5 -4 -2.57-2
-3 -1 0 1 2 3 4 5 6
Celle pour une distribution avec 5 degrés de liberté commence à 2.57 écart-types de sa
moyenne.
17
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
Pour cette raison, nous avons besoin de nous référer à une table de valeurs critiques de t
quand nous effectuons des tests de significativité sur les coefficients d’une équation de
régression.
18
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
Tout en haut de la table sont listés des niveaux de significativité possibles pour un test.
Pour l’instant nous effectuerons des tests bilatéraux et ignorerons donc la ligne pour les
tests à unilatéraux tests.
19
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
20
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… …
Nombre de degrés de … … une …
liberté dans …
régression …
… … … … … … …
18 = nombre d’observations
1.734 – nombre
2.101 2.552de paramètres
2.878 estimés.
3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
La colonne verticale à gauche dresse la liste des degrés de liberté. Le nombre de degrés de
liberté dans une régression est défini comment le nombre d’observations moins le nombre
de paramètres estimés.
21
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
Dans une régression simple, nous estimons simplement deux paramètres, la constante et le
coefficient de pente, donc le nombre de degrés de liberté est n - 2 s’il y a n observations.
22
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
Si nous effectuons une régression avec 20 observations, tel que dans l’exemple inflation
des prix/inflation du salaire, le nombre de degrés de liberté serait 18 et la valeur critique de t
pour un test à 5% serait 2.101.
23
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
Notez que lorsque le nombre de degrés de liberté devient grand, la valeur critique converge
à 1.96, la valeur critique d’une distribution normale. C’est parce que la distribution t
converge vers la distribution normale.
24
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
5
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Distribution t : valeurs critiques de t
Degrés de test bilatéral 10% 5% 2% 1% 0.2% 0.1%
liberté test unilatéral 5% 2.5% 1% 0.5% 0.1% 0.05%
1 6.314 12.706 31.821 63.657 318.31 636.62
2 2.920 4.303 6.965 9.925 22.327 31.598
3 2.353 3.182 4.541 5.841 10.214 12.924
4 2.132 2.776 3.747 4.604 7.173 8.610
5 2.015 2.571 3.365 4.032 5.893 6.869
… … … … … … …
… … … … … … …
18 1.734 2.101 2.552 2.878 3.610 3.922
19 1.729 2.093 2.539 2.861 3.579 3.883
20 1.725 2.086 2.528 2.845 3.552 3.850
… … … … … … …
… … … … … … …
120 1.658 1.980 2.358 2.617 3.160 3.373
1.645 1.960 2.326 2.576 3.090 3.291
28
TEST t D’UNE HYPOTHESE PORTANT SUR COEFFICIENT DE REGRESSION
Donc nous devrions utiliser ce chiffre dans la procédure de test pour un test à 1%.
29
INTERVALLES DE CONFIANCE
2.5% 2.5%
Dans la séquence sur les tests d’hypothèse, nous commencions avec une hypothèse
donnée, par exemple : H0: 2 = 20, et nous considérions si une estimation b2 dérivée d’un
échantillon mènerait ou ne mènerait pas à son rejet.
1
INTERVALLES DE CONFIANCE
2.5% 2.5%
En utilisant un test de significativité à 5%, cette estimation ne mènerait pas au rejet de H0.
2
INTERVALLES DE CONFIANCE
2.5% 2.5%
3
INTERVALLES DE CONFIANCE
2.5% 2.5%
4
INTERVALLES DE CONFIANCE
région d'acceptation de b2
2.5% 2.5%
5
INTERVALLES DE CONFIANCE
b2
Maintenant, nous ferions exactement l’opposé. Une estimation d’échantillon étant donnée,
nous pouvons trouver l’ensemble des hypothèses qui ne seraient pas contredites par celle-
ci, en utilisant un test de significativité à 5%.
6
INTERVALLES DE CONFIANCE
20 b2
7
INTERVALLES DE CONFIANCE
Pour voir si c’est compatible avec notre estimation d’échantillon b2, nous avons besoin de
0
tracer la distribution de probabilité de b2 conditionnellement à ce que H0: 2 = 2 soit vraie.
8
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
conditionelle à ce que 2 = 02 soit vrai H0: 2 = 20
Pour ce faire, nous avons besoin de connaitre l’écart-type de la distribution. Pour l’instant
nous ferons l’hypothèse que nous la connaissons, bien que en pratique nous devons
l’estimer.
9
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
conditionelle à ce que 2 = 02 soit vrai H0: 2 = 20
Après avoir dessiner la distribution, il est clair que l’hypothèse nulle n’est pas contredite
par notre estimation d’échantillon.
10
INTERVALLES DE CONFIANCE
hypothèse nulle
H0: 2 = 21
b2 21
11
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
conditionnelle à ce que 2 = 12 soit vrai H0: 2 = 21
Après avoir dessiner la distribution de b2 conditionnelle à ce que cette hypothèse soit vraie,
nous pouvons voir que cette hypothèse est aussi compartible avec notre estimation.
12
INTERVALLES DE CONFIANCE
hypothèse nulle
H0: 2 = 22
22 b2
13
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
conditionnelle à ce que 2 = 22 soit vrai H0: 2 = 22
Elle est incompatible avec notre estimation car l’estimation mènerait à son rejet.
14
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
max
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2max
15
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
max
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2max
hypothèse nulle
Fonction de densité de probabilité de b2
max
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2max
17
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
max
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2max
Puisque b2 se trouve à la limite de la queue gauche à 2.5%, il doit être 1.96 écart-types de
moins que 2max .
18
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
max
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2max
19
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
min
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2min
De la même manière, nous pouvons identifier la plus faible valeur hypothétique de 2 , qui
n’est pas contredite par notre estimation.
20
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
min
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2min
Ceci implique que b2 se trouve sur la limite de la queue droite à 2.5% de la distribution de
probabilité conditionnelle associée. Nous l’appelerons 2min.
21
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
min
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2min
N’importe quelle valeur hypothétique plus faible serait incompatible avec notre estimation.
22
INTERVALLES DE CONFIANCE
hypothèse nulle
Fonction de densité de probabilité de b2
min
conditionnelle à ce que 2 = 2 soit vrai H0: 2 = 2min
b2 = 2min + 1.96 sd
2min = b2 - 1.96 sd
rejette tout 2 < b2 - 1.96
sd
Etant donné que b2 se trouve sur la limite de la queue droite à 2.5%, b2 est égal à 2min plus
1.96 écart-types. Donc 2min est égal à b2 moins 1.96 écart-types.
23
INTERVALLES DE CONFIANCE
(2) (1)
Le diagramme montre les valeurs limites des valeurs hypothétiques de 2 ainsi que les
distributions de probabilité de b2 qui y sont associées
24
INTERVALLES DE CONFIANCE
(2) (1)
Toute hypothèse se trouvant dans l’intervalle de 2min à 2max serait compatible avec
l’estimation d’échantillon (c’est à dire non rejetée par celle-ci). Nous appelons cette
intervalle l’intervalle de confiance à 95%.
25
INTERVALLES DE CONFIANCE
(2) (1)
Le nom provient d’une application différente de l’intervalle. Il peut être montré qu’il inclurait
la vraie valeur du coefficient avec un probabilité de 95%, à condition que le modèle soit
correctement spécifié.
26
INTERVALLES DE CONFIANCE
Ecart-type connu
intervalle de confiance à 95%
b2 - 1.96 sd < 2 < b2 + 1.96 sd
intervalle de confiance à 99%
b2 - 2.58 sd < 2 < b2 + 2.58 sd
Ecart-type connu
intervalle de confiance à 95%
b2 - 1.96 sd < 2 < b2 + 1.96 sd
intervalle de confiance à 99%
b2 - 2.58 sd < 2 < b2 + 2.58 sd
28
INTERVALLES DE CONFIANCE
Ecart-type connu
intervalle de confiance à 95%
b2 - 1.96 sd < 2 < b2 + 1.96 sd
intervalle de confiance à 99%
b2 - 2.58 sd < 2 < b2 + 2.58 sd
Jusqu’à présent nous avons fait l’hypothèse que nous connaissions l’écart-type de la
distribution. En pratique nous devons l’estimer.
29
INTERVALLES DE CONFIANCE
Ecart-type connu
intervalle de confiance à 95%
b2 - 1.96 sd < 2 < b2 + 1.96 sd
intervalle de confiance à 99%
b2 - 2.58 sd < 2 < b2 + 2.58 sd
Par conséquent, la distribution t doit être utilisée à la place de la distribution normale pour
la localisation de 2min et 2max .
30
INTERVALLES DE CONFIANCE
Ecart-type connu
intervalle de confiance à 95%
b2 - 1.96 sd < 2 < b2 + 1.96 sd
intervalle de confiance à 99%
b2 - 2.58 sd < 2 < b2 + 2.58 sd
Ceci implique que l’écart-type de l’estimateur doit être multiplié par la valeur critique de t, le
niveau de significativité et le nombre de degrés de liberté étant donné pour la détermination
des limites de l’intervalle.
31
TESTS UNILATERAUX
2.5% 2.5%
1
TESTS UNILATERAUX
2.5% 2.5%
Nous commencerons par considérer le cas où 2 peut prendre seulement deux valeurs
possibles: 20, l’hypothèse nulle, et 21, la seule alternative possible.
2
TESTS UNILATERAUX
2.5% 2.5%
3
TESTS UNILATERAUX
2.5% 2.5%
Imaginez que l’on vous ait envoyé une livraison non marquée et vous prenez un échantillon
et voyez combien de temps elles durent. Votre hypothèse nulle est qu’elles sont des
batteries normales.
4
TESTS UNILATERAUX
2.5% 2.5%
Supposez que le résultat de l’échantillon est tel que montré. Vous ne rejetteriez pas
l’hypothèse nulle car l’estimation de l’échantillon échoue dans la région d’acceptation de
H0.
5
TESTS UNILATERAUX
2.5% 2.5%
Dans ce cas-ci, vous rejetteriez l’hypothèse nulle et conclueriez que la livraison était
composée de batteries “longue vie”.
6
TESTS UNILATERAUX
2.5% 2.5%
7
TESTS UNILATERAUX
2.5% 2.5%
8
TESTS UNILATERAUX
2.5% 2.5%
Mais rejeter H0 et continuer avec H1 n’a pas de sens. De plus, le résultat de l’échantillon
semble contredire H0, mais il contredit encore plus fortement H1.
9
TESTS UNILATERAUX
2.5% 2.5%
La probabilité d’obtenir un résultat d’échantillon comme celui-ci est plus petite sous H1 que
sous H0.
10
TESTS UNILATERAUX
2.5%
Pour cette raison, la queue gauche ne devrait pas être considérée comme une zone de rejet
de H0. Seule la queue droite devrait être utilisée en tant que région de rejet.
11
TESTS UNILATERAUX
2.5%
La probabilité de commettre une erreur de Type I si H0 s’avère être vraie, est maintenant de
2.5%, donc le niveau de significativité du test est désormais 2.5%.
12
TESTS UNILATERAUX
5%
5%
Pourquoi voudrions nous faire cela? Pour y répondre, nous revenons à l’arbitrage entre les
erreurs de Type I et celles de Type II.
14
TESTS UNILATERAUX
5%
Avec un test à 5%, il y a une probabilité plus élevée de faire une erreur de Type I si H0
s’avère être vraie, mais il est moins risqué de faire une erreur de Type II si elle s’avère être
fausse.
15
TESTS UNILATERAUX
5%
Notez que la logique de laisser tomber la queue gauche dépend seulement du fait que 21
soit plus grand que 20. Cela ne dépend pas du fait que 21 soit d’une valeur spécifique.
16
TESTS UNILATERAUX
5%
Donc nous pouvons généraliser le test unilatéral pour couvrir les cas où l’hypothèse
alternative est simplement que 2 soit plus grand que 20.
17
TESTS UNILATERAUX
5%
Pour justifier l’utilisation d’un test unilatéral, tout ce que nous devons faire est d’exclure,
sur base de la théorie économique ou d’expériences empiriques passées, la possibilité que
2 soit inférieur à 20.
18
TESTS UNILATERAUX
Parfois, une hypothèse nulle H0: 2 = 20 étant donnée, sur base de la théorie économique
ou d’expériences empiriques passées, vous pouvez exclure la possibilité que 2 soit plus
grand que 20.
19
TESTS UNILATERAUX
Dans cette situation, vous effectueriez aussi un test unilatéral, maintenant avec la queue de
distribution gauche utilisée comme région de rejet. Avec ce changement, la logique est la
même qu’auparavant.
20
TESTS UNILATERAUX
2.5% 2.5%
Nous allons maintenant investiguer comment l’utilisation d’un test unialtéral améliore
l’arbitrage entre les risques de faire une erreur de Type I et de Type II.
21
TESTS UNILATERAUX
2.5% 2.5%
Nous commencerons par retourner au cas où 2 peut prendre seulement deux valeurs
possibles, 20 et 21.
22
TESTS UNILATERAUX
2.5% 2.5%
Supposons que nous utilisions un test bilatéral à 5%. Si H0 est vraie, il y a un risque de 5%
de commettre une erreur de Type I.
23
TESTS UNILATERAUX
2.5% 2.5%
Cependant, H0 pourrait être faux. Dans ce cas la probabilité de ne pas la rejeter et de faire
une erreur de Type II est donnée par l’aire gris pâle.
24
TESTS UNILATERAUX
2.5% 2.5%
Cette aire donne la probabilité que les estimations se trouvent dans la région d’acceptation
de H0, si H1 est en fait vraie.
25
TESTS UNILATERAUX
5%
Maintenant supposons que vous utilisiez un test unilatéral, en tirant avantage du fait qu’il
est rationnel de rejeter H0 si l’estimation est dans la queue gauche.
26
TESTS UNILATERAUX
5%
En ayant étendu la queue droite à 5%, nous sommes encore en train d’effectuer un test de
significativité à 5%, et le risque de faire une erreur de Type I est encore 5%, si H0 est vraie.
27
TESTS UNILATERAUX
5%
Mais si H0 est faux, le risque de commettre une erreur de Type II est plus petit
qu’auparavant.
28
TESTS UNILATERAUX
5%
29
TESTS UNILATERAUX
5%
Donc, sans augmenter la probabilité de commettre une erreur de Type I (si H0 est vraie),
nous avons réduit la probabilité de commettre une erreur de Type II (si H0 est faux).
30
TESTS UNILATERAUX
5%
Quand l’hypothèse alternative est H1: 2 > 20 ou H1: 2 < 20, le cas le plus général (et le
plus typique), nous ne pouvons pas dessiner ce diagramme.
31
TESTS UNILATERAUX
5%
Néanmoins, nous pouvons être sûr que, en utilisant un test unilatéral, nous réduisons la
probabilité de commettre un ereur de Type II, si H0 s’avère être fausse.
32
TESTS UNILATERAUX
modèle: Y = 1 + 2X + u
hypothèse nulle: H0 : 2 = 0
33
TESTS UNILATERAUX
modèle: Y = 1 + 2X + u
hypothèse nulle: H0 : 2 = 0
Il apparaît quand vous souhaitez démontrer qu’une variable X influence une autre variable
Y. Vous posez l’hypothèse nulle d’absence d’effet et essayez de rejeter H0.
34
TESTS UNILATERAUX
2.5% 2.5%
-1.96 sd 0 1.96 sd
Si vous utilisez un test bilateral de significativité à 5%, votre estimation devrait être 1.96
écart-types au-dessus ou en dessous de 0 si vous rejetez H0.
35
TESTS UNILATERAUX
5%
0 1.65 sd
Cependant, si vous pouvez justifier l’utilisation d’un test unilatéral, par exemple avec H0: 2
> 0, votre estimation devra seulement être 1.65 écart-types au dessus de 0.
36
TESTS UNILATERAUX
5%
0 1.65 sd
Ceci rend plus facile le rejet de H0 et de ce fait démontre que Y est réellement influencé par
X (en faisant l’hypothèse que votre modèle est correctement spécifié).
37
TESTS UNILATERAUX
5%
0 1.65 sd
A travers cette séquence, nous avons fait l’hypothèse que l’écart-type de la distribution de
b2 est connu et la distribution normale a été utilisée dans les diagrammes.
38
TESTS UNILATERAUX
5%
0 1.65 sd
En pratique, bien entendu, l’écart-type doit être estimé par l’écart-type de l’estimateur, et la
distribution t est la distribution pertinente. Cependant, la logique est exactement la même.
39
TESTS UNILATERAUX
5%
0 1.65 sd
40
TESTS UNILATERAUX
5%
0 1.65 sd
Donc, si H0 est faux, le risque de ne pas la rejeter, et de ce fait commettre un erreur de Type
II, est plus petit.
41
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
Dans une séquence passée il a été démontré que la variance des valeurs réelles de Y
pouvait être décomposée en la variance des valeurs estimées et la variance des résidus.
1
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
En utilisant les définitions des variances, il a ensuite été démontré que la décomposition
pouvait être écrite de manière équivalente comme la somme totale des carrés étant elle
même égale à la somme de la somme des carrés expliquée et de la somme des carrés
résiduelle. 2
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
R2, la mesure habituelle de qualité de l’estimation, était ensuite défini comme le ratio de la
somme des carrés expliquée sur la somme totale des carrés.
3
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
Y 1 2 X u
H 0 : 2 0, H 1 : 2 0
L’hypothèse nulle que nous testons est que le modèle ne possède aucun pouvoir explicatif.
4
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
Y 1 2 X u
H 0 : 2 0, H 1 : 2 0
Etant donné que X est la seule variable explicative pour le moment, l’hypothèse nulle est
que Y n’est pas déterminé par X. Mathématicalement, nous avons H0: 2 = 0.
5
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
Les hypothèses concernant la qualité de l’estimation sont testées via la statistique de F,
définie tel que montré. k est le nombre de paramètres dans l’équation de régression.
Actuellement ils ne sont que 2.
6
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
(n-k) est, comme avec la statistique t, le nombre de degrés de liberté (nombre
d’observations moins le nombre de paramètres estimés). Pour des analyses de régression
simple : n - 2.
7
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
Les statistiques F peuvent alternativement être écrites en termes de R2. Premièrement
divisez le numérateur et le dénominateur par TSS.
8
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
Nous pouvons désormais ré-écrire la F statistique tel que montré. Le R2 dans le numérateur
provient directement de la définition du R2.
9
TEST F DE QUALITE DE L’ESTIMATION
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
10
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
ESS
( k 1)
ESS /( k 1) TSS R 2 /( k 1)
F ( k 1, n k )
RSS /( n k ) RSS ( n k ) (1 R 2 ) /( n k )
TSS
F est un fonction croissante monotonique de R2. Si R2 augmente, le numérateur augmente
et le dénominateur diminue, donc F augmente.
11
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
12
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
13
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,5% (1,18) 4.41
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
Nous aurons une valeur critique qu’elle ne dépassera que 5% du temps. Si nous faisons un
test de significativité à 5%, nous rejetterions H0 si la F statistique est plus grande que cette
valeur critique.
14
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,5% (1,18) 4.41
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
Dans le cas d’un test F, la valeur critique dépend à la fois du nombre de variables
explicativies et du nombre de degrés de liberté.
15
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,5% (1,18) 4.41
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
Dans cet exemple, la valeur critique pour un test de significativité à 5% est 4.41, quand R2
est 0.20.
16
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,1% (1,18) 8.29
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
17
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,1% (1,18) 8.29
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
Si R2 est plus grand que 0.32, F sera plus grand que 8.29, et nous rejeterons l’hypothèse
nulle à un niveau de 1%.
18
TEST F DE QUALITE DE L’ESTIMATION
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,1% (1,18) 8.29
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
F
R 2 /( k 1)
140
F ( k 1, n k )
(1 R 2 ) /( n k )
120
R2 / 1
100 F (1,18)
(1 R 2 ) / 18
80
Fcrit ,1% (1,18) 8.29
60
40
20
0
0 0.2 0.4 0.6 0.8 1 R2
La raison est que un test F peut être utilisé pour différents tests d’analyses de variance.
20
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
Y 1 2 X u
H 0 : 2 0, H 1 : 2 0
Notez que pour des analyses de régressions simples, l’hypothèse nulle et l’alternative sont
mathématiquement exactement les mêmes que celles d’un test t bilatéral. Le F test pourrait-
il mener à un conclusion différente que le t test?
21
TEST F DE QUALITE DE L’ESTIMATION
(Y Y ) 2
(Yˆ Y ) 2
e 2
ESS i ˆ 2
(Y Y )
R2
TSS (Yi Y ) 2
Y 1 2 X u
H 0 : 2 0, H 1 : 2 0
Bien entendu, non! Nous allons démontrer que pour l’analyse de régressions simples, la F
statistique est le carré de la t statistique.
22
TEST F DE QUALITE DE L’ESTIMATION
23
TEST F DE QUALITE DE L’ESTIMATION
24
TEST F DE QUALITE DE L’ESTIMATION
25
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e )
R 1
2
1 R
2
Var(Y ) Var(Y )
26
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
27
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
28
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
29
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
30
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
31
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
32
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
u2
b2
2
n Var( X )
32
TEST F DE QUALITE DE L’ESTIMATION
Var(e ) Var(e ) n
R 1
2
1 R
2
s
2
Var(e )
n2
u
Var(Y ) Var(Y )
R 2 /( k 1) R2
F ( k 1, n k )
(1 R ) /( n k ) (1 R 2 ) /( n 2)
2
b22 Var( X )
Var(Y ) b22 Var( X ) b22 Var( X ) b22
2
2
t 2
Var(e ) 1 n s s
( n 2) Var(e ) u u
Var(Y ) nn2 n nVar( x )
2
b2
t
s.e.( b2
)
32
TEST F DE QUALITE DE L’ESTIMATION
33
TEST F DE QUALITE DE L’ESTIMATION
4.41 2.10 2
L’exemple nous permet de vérifier que la valeur critique de F avec 18 degrés de liberté est
égale au carré de la valeur critique de t, tel que la règle l’avait annoncé.
34
TEST F DE QUALITE DE L’ESTIMATION
8.29 2.88 2
35
TEST F DE QUALITE DE L’ESTIMATION
8.29 2.88 2
Puisque le F test est équivalent à un test bilatéral t dans le modèle de régression simple, il
n’est pas nécessaire de faire les deux tests.
36
TEST F DE QUALITE DE L’ESTIMATION
8.29 2.88 2
La test F aura sont propre rôle dans les analyses de régressions multiples.
37
TEST F DE QUALITE DE L’ESTIMATION
. reg EARNINGS S
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
Résultat de la régression du salaire horaire sur les années d’études pour l’échantillon de
570 personnes enquêtées lors de la National Longitudinal Survey of Youth.
38
TEST F DE QUALITE DE L’ESTIMATION
. reg EARNINGS S
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
39
TEST F DE QUALITE DE L’ESTIMATION
. reg EARNINGS S
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
R2 0.1036
F (1, n 2) 65.65
(1 R ) /( n 2) (1 0.1036) /(570 2)
2
40
TEST F DE QUALITE DE L’ESTIMATION
. reg EARNINGS S
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
41
TEST F DE QUALITE DE L’ESTIMATION
. reg EARNINGS S
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
---------+--------------------------------------------------------------------
S | 1.073055 .1324501 8.102 0.000 .8129028 1.333206
_cons | -1.391004 1.820305 -0.764 0.445 -4.966354 2.184347
------------------------------------------------------------------------------
65.64 8.1022
F statistique = (t statistique)²
42