STT-1700, Introduction à la statistique

Pierre Duchesne

6 janvier 2025

Pierre Duchesne STT-1700, Introduction à la statistique

Coordonnées

▶ Professeur : Pierre Duchesne

▶ Courriel : [Link]@[Link]
▶ Téléphone : 514-343-7267
▶ Bureau : 4251 du Pavillon André-Aisenstadt
▶ Site web :
http ://[Link]/∼duchesne

Pierre Duchesne STT-1700, Introduction à la statistique

Plan de cours

▶ 1. Statistiques descriptives
▶ 2. Probabilités
▶ 3. Variables aléatoires
▶ 4. Lois continues
▶ 5. Estimations ponctuelles
▶ 6. Intervalles de confiance
▶ 7. Tests d’hypothèses pour de grands échantillons
▶ 8. Inférence pour de petits échantillons
▶ 9. Tests du khi-deux
▶ 10. Régression linéaire simple

Pierre Duchesne STT-1700, Introduction à la statistique

Barême
Le barême proposé est le suivant :
▶ Premier examen intra : 25% ;
▶ Second examen intra : 25% ;
▶ Examen final : 50% ;
Ouvrages de référence (recommandés) :
▶ Mendenhall, W., Ahmed, S., Beaver, R.J. et Beaver, B. M. (2017).
Introduction to Probability and Statistics, 4ième édition canadienne.
Nelson Cengage Adapted.
▶ Moore, D.S., McCabe, J.A. et Craig, B. A. (2021). Introduction to
the Practice of Statistics, 10ième édition. W. H. Freeman and
Company, New York.
▶ Allard, J. (1992). Concepts fondamentaux de la statistique. Éditions
Addison-Wesley, Montréal.
▶ Alalouf, S., Labelle, D. et Ménard, J. (2002). Introduction à la
statistique appliquée. Loze-Dion éditeurs, Longueuil.
Pierre Duchesne STT-1700, Introduction à la statistique
Introduction générale : Qu’est-ce que la statistique ?

▶ De manière générale, la Statistique est la

discipline dont l’objectif principal est
d’apprendre des données.
▶ Une étude statistique s’articule typiquement
autour de quatre grandes étapes :
1. La collecte des données ;
2. Le traitement des données recueillies (statistique descriptive)
[Chapitre 1] ;
3. L’analyse et l’interprétation des données (inférence statistique)
[Chapitre 2-10] ;
4. La diffusion des résultats.

Pierre Duchesne STT-1700, Introduction à la statistique

Statistique descriptive

▶ La statistique descriptive a pour objectif de

décrire les données.
▶ Premier chapitre : présentation de certains
concepts cherchant à synthétiser les données.
▶ On va synthétiser l’information de manière
quantitative (avec des statistiques) ou avec des
graphiques.

Pierre Duchesne STT-1700, Introduction à la statistique

Inférence statistique

▶ L’inférence statistique est un ensemble des

méthodes.
▶ Ces méthodes permettent de formuler en termes
probabilistes un jugement sur une population.
▶ Pour y arriver, observations de résultats sur un
échantillon sélectionné au hasard de cette
population.
▶ Le mécanisme est connu du statisticien.

Pierre Duchesne STT-1700, Introduction à la statistique

Inférence statistique (suite)

▶ L’inférence statistique s’appuie sur des méthodes

qui forment la statistique mathématique, et qui
repose grandement sur notre compréhension de
la théorie des probabilités.
▶ La statistique ne peut se passer des
probabilités : cependant, la discipline demeure
distincte de la Théorie des Probabilités.
▶ La Statistique repose également fortement sur
l’informatique (codage, programmation,
l’utilisation de progiciels ou de la gestion de
bases de données, big data).
Pierre Duchesne STT-1700, Introduction à la statistique
Chapitre 1. Statistiques descriptives

Pierre Duchesne

6 janvier 2025

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.1 Introduction : variables et distributions
▶ Unité statistique (ou unité) : objet pour lequel nous
sommes intéressés à recueillir de l’information. Pas
forcément une personne. Pourrait être un ménage, une
entreprise, etc.
▶ Population : ensemble d’unités que l’on cherche à
étudier. Exemples : la population des électeurs au
Canada, population des électeurs au Québec, la
population de voitures fabriquées dans une chaı̂ne de
production donnée, la population des fermes actives au
Québec, la population des entreprises canadiennes, etc.
▶ Échantillon : un sous-ensemble de la population sur
lequel nous prendrons des mesures qui serviront à produire
des estimations sur l’ensemble de la population. Un
ensemble de règles nous amène au choix de ce
sous-ensemble.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Variables et distributions (suite)

▶ Variable : caractéristique d’une unité qui peut prendre

différentes valeurs pour différentes unités.
▶ Modalités : ce sont les différentes valeurs possibles pour
la variable.
▶ Support d’une variable : l’ensemble des valeurs
possibles pour la variable d’intérêt.
▶ Quand sur une unité expérimentale on ne mesure qu’une
variable, on parlera de données univariées. Si on mesure
deux variables sur les unités, il est question de données
bivariées. Plus généralement, on obtient des données
multivariées lorsque l’on mesure plusieurs variables sur une
unité expérimentale.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Variables qualitatives

▶ Variable qualitative : classe les individus dans un groupe

ou une catégorie.
▶ Par exemple, le sexe d’un individu à la naissance.
(homme, femme).
▶ L’Institut de la statistique du Québec (ISQ) a commencé
à colliger l’information sur le genre des personnes dans ses
enquêtes en 2019, en reconnaissance de la diversité de
genre au sein de la population (identité de genre,
expression de genre, cisgenres, transgenres, binaire
masculin-féminin, non-binaire, etc).
▶ Autre exemple, le niveau de scolarité d’un individu
(primaire, secondaire, collégial, universitaire).

Pierre Duchesne Chapitre 1. Statistiques descriptives

Variables quantitatives

▶ Variable quantitative : variable dont les

valeurs sont numériques.
▶ Les valeurs prises par une variable quantitative
peuvent être de deux grands types :
▶ Continues : souvent associées à des mesures
physiques, par exemple la température ou le
poids d’un individu.
▶ Discrètes : années de scolarité, nombre d’enfants
dans un ménage. Une variable discrète n’est pas
forcément entière.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Variables discrètes et continues

▶ Variables continues : Les valeurs peuvent

appartenir à un intervalle. Par exemple, la
température ou le poids d’un individu.
▶ Variables discrètes : On peut énumérer les
points du support, soit en nombre fini, ou infini
dénombrable (comme les entiers positifs). Par
exemple : années de scolarité, nombre d’enfants
dans un ménage, nombre d’utilisateurs d’un
réseau WIFI.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Distribution d’une variable

▶ On parlera de la distribution d’une variable

lorsque l’on étudiera la correspondance entre les
valeurs de la variable et leurs fréquences ou leurs
fréquences relatives.
▶ La fréquence représente le nombre
d’observations appartenant à une catégorie et la
fréquence relative est la fréquence divisée par le
nombre total d’observations.
▶ La fréquence relative est parfois multipliée par
100, de façon à représenter cela sous forme d’un
pourcentage.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Exemple 0.1 : Sondage sur les valeurs conservatrices

Pierre Duchesne Chapitre 1. Statistiques descriptives

Sondage sur les valeurs conservatrices (suite)

Pierre Duchesne Chapitre 1. Statistiques descriptives

Sondage sur les valeurs conservatrices (suite)

Pierre Duchesne Chapitre 1. Statistiques descriptives

Sondage sur les valeurs conservatrices (suite et fin)

▶ Méthodogie utlisée : sondage par la maison

CROP (pas clair comment les unités ont été
choisies) ;
▶ La population : adultes canadiens ;
▶ On note des statistiques tels des pourcentages.
Une marge d’erreur est rapportée (mesure de
précision) ;
▶ Utilisation d’un graphique.
▶ Points secondaires intéressants : sous-groupes
de la population : Québec versus Canada ; les
18-34 ans vs 18 ans et plus.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Exemple 0.2 : Enquête sur le traitement des eaux usées
▶ Exemple d’une enquête disponible en ligne sur le site de
Statistique Canada ([Link])

Pierre Duchesne Chapitre 1. Statistiques descriptives

Enquête sur le traitement des eaux usées (suite)

Pierre Duchesne Chapitre 1. Statistiques descriptives

Enquête sur le traitement des eaux usées (suite)

Pierre Duchesne Chapitre 1. Statistiques descriptives

Enquête sur le traitement des eaux usées (suite)
▶ Tiré de la partie Estimation :
▶ L’analyse chimique des concentrations de métabolites
des drogues ciblées dans les eaux usées de même que les
débits enregistrés au moment de l’échantillonnage à
l’usine de traitement des eaux usées mènent au calcul de
la charge de métabolites des drogues (en unités de
milligrammes de métabolite / mille personnes / jour).
▶ Pour chaque échantillon d’eau usée, une détection positive
se produit lorsque le composé cible est présent à une
concentration supérieure à la limite de détection. À cette
concentration, il est fort probable que le composé soit
présent dans l’échantillon et que la mesure ne soit pas un
faux positif.
▶ Source : Enquête canadienne sur les eaux usées (ECEU),
Statistique Canada ([Link]).
Pierre Duchesne Chapitre 1. Statistiques descriptives
Enquête sur le traitement des eaux usées (suite et fin)

▶ Population : Usines de traitement des eaux

usées dans les villes citées.
▶ Une unité était précisément une usine donnée.
▶ Méthode d’échantillonnage : il s’agit d’un
recensement.
▶ Les variables (les mesures de concentration)
sont des mesures continues.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple 1.1 : Étude des ventes d’automobile à Taiwan

▶ Les chercheurs W.-C. Hsu, L. Lin et C.-Y. Li (2014,

Transportation Planning and Technology) étudient les
préoccupations pour de l’énergie propre et les ventes de
véhicules.
▶ Ils étudient les ventes mensuelles de véhicules entre 2003
et 2007.
▶ L’étude a lieu à Taiwan.
▶ Dans leur étude, les ventes mensuelles de plusieurs
marques d’automobiles sont étudiées. Les chercheurs
décident de fusionner les marques pour retenir que 20
marques.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Tableau 1.1 ; Tableau des marques et modèles de véhicules
fusionnées

Étiquette Modèle/marque Modèles (fusionnés) Moteur Catégorie

A01 Nissan 1.3 March and Verita 1.3 Catégorie 1.3
A02 Nissan 1.6 Sentra 1.6 and Tidda 1.6 1.6 Catégorie 1.6
A03 Nissan 1.8 Sentra1.8 and Tidda 1.8 1.8 Catégorie 1.8
A04 Nissan 2.0 Cefiro 2.0 and Teana 2.0 2.0-2.5 Catégorie 2.0
A05 Nissan 3.0 Cefiro 3.0 and Teana 3.0 3.0-3.5 Catégorie 3.0
A06 Suzuki 1.3 Solio 1.3 Catégorie 1.3
A07 Ford 1.6 Tierra 1.6 1.6 Catégorie 1.6
A08 Ford 2.0(A) Tierra 2.0 and Focus 2.0 Catégorie 2.0
A09 Ford 2.0(B) Metrostar 2.0-2.5 Catégorie 2.0
A10 Mitsubishi 1.6 Lancer 1.6 Catégorie 1.6
A11 Mitsubishi 1.8 Virage 1.8 Catégorie 1.8
A12 Toyota 1.5 Tercel and Vios 1.5 Catégorie 1.3
A13 Toyota 1.6 Corolla 1.6 1.6 Catégorie 1.6
A14 Toyota 1.8 Corolla 1.8 1.8 Catégorie 1.8
A15 Toyota 2.0 Camry 2.0 2.0-2.5 Catégorie 2.0
A16 Toyota 3.0 Camry 3.0 3.0-3.5 Catégorie 3.0
A17 Mitsubishi 2.0 Savrin 2.0 2.0-2.5 Catégorie 2.0
A18 Honda SUV CRV 2.0-2.5 Catégorie VUS
A19 Ford SUV Escape 2.0-3.0 Catégorie VUS
A20 Nissan SUV X-Trail 2.0-2.5 Catégorie VUS
Pierre Duchesne Chapitre 1. Statistiques descriptives
Tableau 1.2 ; Statistiques descriptives sur les ventes
mensuelles de 20 marques/modèles de véhicules (janvier
2003 à mai 2007)
Modèle Moyenne Médiane Maximum Minimum Écart-type
Ford 1.6 1097.59 1013 3360 360 596.84
Ford 2.0(A) 276.36 203 919 1 221.65
Ford 2.0(B) 305.06 201 1600 8 344.53
Ford SUV 1028.17 1028 3400 66 696.86
Honda SUV 1132.11 1074 2716 185 483.25
Mitsubishi 1.6 1231.13 1119 2793 200 761.15
Mitsubishi 1.8 334.72 303 1130 3 279.08
Mitsubishi 2.0 1088.21 917 3031 121 645.3
Nissan 1.3 651.04 620 1765 175 366.89
Nissan 1.6 461.91 422 1329 5 310.14
Nissan 1.8 1114.36 939 2884 57 700.7
Nissan 2.0 823.72 620 3483 6 673.66
Nissan 3.0 101.79 77 511 0 99.86
Nissan SUV 1177.09 1093 4132 51 865.1
Suzuki 1.3 647.26 676 1519 85 409.23
Toyota 1.5 2137.91 2089 4064 298 915.66
Toyota 1.6 147.25 126 867 0 141.92
Toyota 1.8 2644.68 2638 4446 298 931.86
Toyota 2.0 1884.23 1911 3303 497 718.86
Toyota 3.0 183.62Pierre Duchesne
151 579
Chapitre 40 descriptives
1. Statistiques 134.87
Variables dans le Tableau 1.1

▶ Étiquette : c’est pour identifier un

modèle/marque ;
▶ Modèle/marque : variable qualitative ;
▶ Modèle/marque et modèles sont des variables
qualitatives ;
▶ Moteur : variable quantitative continue
(présentée quelque peu comme qualitative par
les chercheurs, par exemple, pour le Camry 2.0
ils indiquent 2.0-2.5) ;
▶ Catégorie : variable qualitative.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Variables dans le Tableau 1.2

▶ Modèle/marque : variable qualitative ;

▶ La variable d’intérêt est la vente à chaque mois,
variable quantitative discrète.
▶ Le tableau contient un certain nombre de
statistiques, que nous définirons plus tard.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Distribution de la variable Catégorie dans l’exemple 1.1

Catégories Fréquences Fréq. Relative

Catégorie 1.3 3 0.15
Catégorie 1.6 4 0.20
Catégorie 1.8 3 0.15
Catégorie 2.0 5 0.25
Catégorie 3.0 2 0.10
Catégorie VUS 3 0.15
Total : 20 1
Il existe de nombreuses méthodes graphiques permettant d’illustrer
la distribution d’une variable.

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.2 Quelques méthodes graphiques

▶ Les méthodes graphiques, avantages :

Consolidation et résumé de l’information.
▶ On retrouve l’information suivante :
1. Quelles valeurs de la variable ont été mesurées ;
2. Des informations sur la fréquence de chaque valeur observée.
▶ Graphiques pour variables qualitatives :
1. Diagramme circulaire (en anglais, Pie Chart) ;
2. Diagramme à bâtons (en anglais, Bar Chart) ;
▶ Graphiques pour variables quantitatives :
1. L’histogramme (en anglais, histogram) ;
2. Le graphique ‘tiges et feuilles’ (en anglais, stem-and-leaf) ;
3. Le diagramme en boı̂te (en anglais, Box plot) [Section 1.5].

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple, diagramme à bâtons
▶ Représentation courante de la distribution d’une variable
qualitative.
▶ Dans l’exemple 1.1, on avait exhibé la distribution de la
variable Catégorie. On présente un diagramme à bâtons.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple, diagramme circulaire
▶ Autre représentation courante de la distribution d’une
variable qualitative.

Pierre Duchesne Chapitre 1. Statistiques descriptives

L’histogramme : Représentation la plus courante de la
distribution d’une variable quantitative
1. Choisir un nombre de classes, habituellement entre 5 et 10.
2. Calculer l’étendue de la distribution et la largeur de la classe
(étendue = plus grande valeur - plus petite valeur). Largeur de la
classe : étendue divisée par le nombre de classes, voir étape 1.
3. Arrondir vers le haut la largeur de la classe obtenu à l’étape 2 à une
valeur appropriée (si nécessaire).
4. Déterminer les bornes des classes. La plus petite classe doit inclure
la plus petite donnée. Si une observation est sur les bornes,
compte-t-elle à droite ou à gauche ? Le livre les classe à gauche
mais il est possible de les classer à droite.
5. Construire un tableau comprenant les classes, leur fréquence
respective ainsi que leur fréquence relative respective.
6. Construire l’histogramme en mettant les intervalles sur l’axe
horizontal. Les fréquences (ou les fréquences relatives) représentent
la hauteur des bâtons.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Exemple 1.2, Notes de 30 étudiants

L’exemple provient du livre de référence, et porte sur des moyennes

académiques de 30 étudiants après une première année.
2.0 3.1 1.9 2.5 1.9 2.3 2.6 3.1 2.5 2.1
2.9 3.0 2.7 2.5 2.4 2.7 2.5 2.4 3.0 3.4
2.6 2.8 2.5 2.7 2.9 2.7 2.8 2.2 2.7 2.1
Note : L’histogramme a été fait avec l’Utilitaire d’analyse d’Excel.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Tableau de fréquence

Classe Intervalle Fréquence Fréq. relative

1 1.9 à < 2.1 3 3/30
2 2.1 à < 2.3 3 3/30
3 2.3 à < 2.5 3 3/30
4 2.5 à < 2.7 7 7/30
5 2.7 à < 2.9 7 7/30
6 2.9 à < 3.1 4 4/30
7 3.1 à < 3.3 2 2/30
8 3.3 à < 3.5 1 1/30

Pierre Duchesne Chapitre 1. Statistiques descriptives

Histogramme de la moyenne académique

Pierre Duchesne Chapitre 1. Statistiques descriptives

Symmétrie et asymétrie à droite et à gauche
▶ Si on avait un très grand nombre d’observations et que
l’on utilisait un grand nombre de classes, chacune d’une
largeur très étroite, alors l’aspect général de
l’histogramme serait une courbe assez lisse.
▶ Le choix du nombre de classes a souvent un impact
important sur l’apparence de l’histogramme.
Exemple d’une distribution symétrique Asymétrie à droite Asymétrie à gauche
0.4

0.4

0.4
0.3

0.3

0.3
0.2
y

y
0.2

0.2
0.1

0.1

0.1
0.0

0.0
0.0

−4 −2 0 2 4 0 2 4 6 8 10 0 2 4 6 8 10

x x x

Pierre Duchesne Chapitre 1. Statistiques descriptives

Le graphique ‘tiges et feuilles’

C’est une autre représentation populaire d’une variable quantitative

Construction d’un graphique tiges et feuilles :
1. Séparer chaque nombre en une tige qui contient tous les
chiffres sauf le dernier et une feuille, soit le dernier chiffre. Les
tiges ont autant de chiffres que nécessaire, alors que la feuille
n’a qu’un seul chiffre.
2. On place les tiges sur une colonne verticale avec la plus petite
tige en haut.
3. On écrit chaque feuille à droite de sa tige en ordre croissant.
Notons qu’une valeur est répétée autant de fois qu’elle
apparaı̂t.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple de la construction d’un graphique ‘tiges et feuilles’

On dispose des notes à un examen fictif. On cherche à construire

un graphique ‘tiges et feuilles’.
53 98 54 45
55 85 70 57
48 50 84 49
69 64 73 91
50 100 82 58
83 84 96 52
16 78 70 37
68 83 44 81
61 49 59 72

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple de la construction d’un graphique ‘tiges et
feuilles’ (suite)
Puisque les notes varient de 16 à 100, les tiges sont les nombres 1,
2, 3, ..., 10. La dernière valeur constituant les notes seront les
feuilles.

Table – Graphique Tiges et Feuilles

1 6
2
3 7
4 4 5 8 9 9
5 0 0 2 3 4 5 7 8 9
6 1 4 8 9
7 0 0 2 3 8
8 1 2 3 3 4 4 5
9 1 6 8
10 0
Pierre Duchesne Chapitre 1. Statistiques descriptives
Avantages d’un graphique ‘tiges et feuilles’

▶ Le graphique ‘tiges et feuilles’ exhibe non seulement les

fréquences et la forme de la distribution (comme un
histogramme) mais également les données elles-mêmes.
▶ Les méthodes graphiques sont intéressantes et utiles afin
de décrire des données.
▶ Les graphiques donnent une synthèse, un résumé de
l’information. Cependant, l’information présentée n’est pas
suffisamment précise pour mener de l’inférence (par
exemple, faire des intervalle de confiance, test
d’hypothèse, etc.).
▶ Nous avons besoin de mesures numériques. Ceci fera
l’objet des sections 1.3 et 1.4.

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.3 Mesures de tendance centrale

▶ Une caractéristique utile d’un jeu de données est

une mesure de son centre.
▶ Décrire le centre n’est pas toujours un concept
clair ; il faut se donner des définitions.
▶ On va discuter trois mesures : le mode, la
moyenne et la médiane.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Le mode
▶ Le mode d’une série de données est défini comme la (les)
donnée(s) qui a (ont) la plus grande fréquence (ainsi, la
donnée qui apparait le plus grand nombre de fois).
▶ Exemple : Un agriculteur doit peser ses quinze vaches. Il
trouve :
Table – Exemple 1.4 Poids de quinze vaches
425 489 505 398 478 489 500 401
490 399 415 504 433 351 451
▶ Ici, le mode est 489 qui apparait 2 fois, contrairement à
toutes les autres données qui n’apparaissent qu’une seule
fois.
▶ On note que le mode n’est pas toujours unique. Dans
l’exemple 1.4, si on ajoute la donnée 401, alors il y aura
deux modes : 489 et 401.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Le mode (suite)

▶ L’utilitaire d’analyse d’Excel (Statistiques descriptives) permet

de trouver le mode :
Table – Statistiques descriptives selon l’Utilitaire d’analyse d’Excel
Moyenne 448.53
Erreur-type 12.63
Médiane 451.00
Mode 489.00
Écart-type 48.90
Variance de l’échantillon 2391.55
Kurstosis (Coefficient d’aplatissement) -0.97
Coefficient d’asymétrie -0.44
Plage 154.00
Minimum 351.00
Maximum 505.00
Somme 6728.00
Nombre d’échantillons 15.00

Pierre Duchesne Chapitre 1. Statistiques descriptives

La moyenne (appelée aussi moyenne arithmétique)
▶ Soit x1 , x2 , . . . , xn une série de n données. Leur moyenne
arithmétique est définie par :
n
1X
x̄n = xi .
n
i=1
▶ Plusieurs formules statistiques impliquent la sommation de
nombres et on a besoin d’une formule spéciale pour la somme
de nombres. Donc :
Xn
xi = x1 + x2 + . . . + xn .
i=1
Pn
▶ On remarque que i dans la sommation i=1 xi est muet sur
le résultat final, de sorte que
n
X n
X
xi = xj = x1 + x2 + . . . + xn .
i=1 j=1

Pierre Duchesne Chapitre 1. Statistiques descriptives

Remarque
▶ Soit une série de n données y1 , . . . , yn et supposons que les yi
satisfont exactement :

yi = a + bxi ,

pour certains a et b. Si l’on connait la moyenne des xi , x̄n ,

alors il est facile d’obtenir la moyenne arithmétique des yi :
n n
1X 1X
ȳn = yi = (a + bxi ),
n n
i=1 i=1
n n
1X 1X
= a+ (bxi ),
n n
i=1 i=1
n
1X
= a+b xi ,
n
i=1
= a + bx̄n .
Pierre Duchesne Chapitre 1. Statistiques descriptives
La médiane

▶ La médiane est ce qui vient à l’esprit lorsque

l’on cherche une mesure de tendance centrale
qui divise les données en deux.
▶ On commence par ordonner les données, soit par
ordre croissant, soit par ordre décroissant.
▶ Une fois l’opération de trie effectuée, la médiane
est la donnée centrale.

Pierre Duchesne Chapitre 1. Statistiques descriptives

La médiane (suite)

▶ Lorsque les données sont en nombre impair, la médiane est

la donnée centrale. Par exemple, la médiane des données :

1, 3, 5, 7, 9, 10, 13

est simplement 7.
▶ Lorsque les données sont en nombre pair, la médiane est
la moyenne des deux données centrales. Par exemple, la
médiane des données

1, 3, 5, 7, 9, 10, 13, 15

est (7 + 9)/2 = 8.
▶ On note que les données sont triées en ordre croissant.

Pierre Duchesne Chapitre 1. Statistiques descriptives

La médiane (suite)

▶ Mathématiquement, on dispose d’une série initiale

x1 , . . . , xn . On les ordonne, afin d’obtenir
x(1) ≤ x(2) ≤ . . . ≤ x(n) , ce que l’on appelle les
statistiques d’ordre.
▶ La médiane est alors :
x( n+1 ) , si n est impair,
(
2
médiane = 1
 
2
x( n ) + x( n +1) , si n est pair.
2 2

▶ Dans le premier exemple n = 7 et la médiane est x(4) , la

quatrième statistique d’ordre.
▶ Dans le second exemple n = 8, et la médiane est la
moyenne de x(4) et x(5) .

Pierre Duchesne Chapitre 1. Statistiques descriptives

La médiane (suite)
▶ Que le nombre de données soit pair ou impair, le nombre
d’observations en-dessous de la médiane est égal au
nombre d’observations au dessus de la médiane.
▶ Contrairement à la moyenne arithmétique, la médiane
n’est pas affectée par la présence de valeurs atypiques
(appelées aussi valeurs extrêmes ou valeurs aberrantes).
▶ Dans l’exemple précédent, la moyenne arithmétique est
égale à :
(1 + 3 + 5 + 7 + 9 + 10 + 13 + 15)/8 = 7.875.
▶ Si on remplace la dernière valeur, 15, dans l’exemple
précédent par 315, la médiane reste inchangée alors que la
moyenne arithmétique est maintenant égale à :
(1 + 3 + 5 + 7 + 9 + 10 + 13 + 315)/8 = 45.375.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Moyenne et médiane

▶ Pour des phénomènes décrits par des

distributions symétriques, la moyenne et la
médiane devraient être très proches.
▶ Si la distribution est asymétrique, la moyenne et
la médiane diffèrent. Laquelle est la plus
grande ?
▶ La médiane est une mesure résistante (robuste)
car elle est peu affectée par les valeurs
aberrantes. Ce n’est pas le cas de la moyenne.

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.4 Mesures de dispersion
▶ Habituellement, il n’est pas suffisant de rapporter une
mesure de tendance centrale car cette dernière ne peut, à
elle seule, donner une idée complète d’une série de
données ou d’une distribution.
Histogramme Histogramme
20

30
15

20
y

y
10

10
5
0

−10 −5 0 5 10 −10 −5 0 5 10

x x

Pierre Duchesne Chapitre 1. Statistiques descriptives

L’étendue
▶ L’étendue est définie comme la différence entre la plus
grande donnée et la plus petite donnée.
▶ Si on a la série de donnée suivante :

18, 13, 11, 22, 1, 4, 6, 17, 8

alors l’étendue est égale à 22 − 1 = 21.

▶ Mathématiquement, on dispose d’une série initiale
x1 , . . . , xn . On ordonne les données, afin d’obtenir les
statistiques d’ordre x(1) ≤ x(2) ≤ . . . ≤ x(n) . On aura
alors min(x1 , . . . , xn ) = x(1) , et max(x1 , . . . , xn ) = x(n)
et l’étendue est :

étendue = max(x1 , . . . , xn ) − min(x1 , . . . , xn ),

= x(n) − x(1) .

Pierre Duchesne Chapitre 1. Statistiques descriptives

Écart-type et variance

▶ L’étendue est utile afin de décrire l’étalement d’une série

de données, mais cache beaucoup trop de choses entre le
minimum et le maximum.
▶ Une mesure de variabilité devrait quantifier les écarts au
centre de la distribution.
▶ Considérons une série de n données x1 , . . . , xn . La
variance est définie par :
Pn 2
2 i=1 (xi − x̄n )
s = ,
n−1
avec x̄n = ni=1 xi /n. Remarque : Par abus de notation,
P
on écrira souvent x̄ ≡ x̄n quand cela ne portera pas à
confusion.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Écart-type et variance (suite)

▶ L’écart-type est la racine carrée de la variance, et

s’exprime dans le même système d’unité que le
phénomène étudié.
▶ L’écart-type est défini par :
sP
n 2
i=1 (xi − x̄n )
s= ,
n−1

avec x̄n = ni=1 xi /n.

P

Pierre Duchesne Chapitre 1. Statistiques descriptives

Quelques relations utiles
▶ Supposons que l’on dispose d’une série de données
x1 , . . . , xn . Alors
n
X
(xi − x̄) = 0.
i=1
▶ En mots : la somme des écarts à la moyenne est nulle.
▶ En effet :
X n X n
(xi − x̄) = xi − nx̄,
i=1 i=1
n n
!
X X
= xi − n xi /n ,
i=1 i=1
n
X n
X
= xi − xi = 0.
i=1 i=1

Pierre Duchesne Chapitre 1. Statistiques descriptives

Quelques relations utiles (suite)
▶ Supposons que l’on dispose d’une série de données
x1 , . . . , xn . Alors
n
X n
X
2
(xi − x̄) = x2i − nx̄2 .
i=1 i=1

▶ En effet :
n
X n
X
2
(xi − x̄) = (x2i − 2xi x̄ + x̄2 ),
i=1 i=1
n
X n
X
= x2i − 2x̄ xi + nx̄2 ,
i=1 i=1
n
X n
X
= x2i − 2x̄(nx̄) + nx̄ = 2
x2i − nx̄2 .
i=1 i=1

Pierre Duchesne Chapitre 1. Statistiques descriptives

Remarques
▶ La relation ni=1 (xi − x̄) = 0 devrait convaincre qu’on ne
P
peut utiliser directement ni=1 (xi − x̄) comme mesure de
P
variabilité.
▶ On pourrait penser construire une mesure reposant sur
Pn
i=1 |xi − x̄|.
▶ Supposons que yi = a + bxi , où a et b sont des constantes.
Soit s2x la variance des xi , et s2y la variance des yi . On aura :
s2y = b2 s2x .
▶ En effet :
n n
1 X 1 X
s2y = (yi − ȳ)2 = {(a + bxi ) − (a + bx̄)}2 ,
n−1 n−1
i=1 i=1
n
1 X
= {bxi − bx̄}2 = b2 s2x ,
n−1
i=1
Pn
▶ On a utilisé le fait que ȳ = n−1 i=1 (a + bxi ) = a + bx̄.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Remarques (suite)

√
▶ Si yi = a + bxi , et puisque b2 = |b|,

s2y = b2 s2x ,
sy = |b|sx .
▶ Il est parfois utile de connaitre la position relative d’une
observation. Par exemple, dans le contexte d’un examen,
vous voudriez peut être savoir comment votre note se
compare à celle des autres étudiants dans la classe. Un
exemple d’une mesure de position relative est la cote z,
définie par :
x − x̄
z=
sx

Pierre Duchesne Chapitre 1. Statistiques descriptives

Cote z

▶ On note que la cote z peut s’écrire ainsi :

x − x̄
z = ,
s
  x  
1 −x̄
= x+ ,
sx sx
   
−x̄ 1
= + x.
sx sx

Pierre Duchesne Chapitre 1. Statistiques descriptives

Cote z (suite)

▶ Il existe une relation entre z et x de la forme

z = an + bn x

avec an = −x̄/sx et bn = 1/sx . On peut déduire

que la moyenne et l’écart-type des z satisfont
z̄ = 0 et sz = 1.
▶ On note que an et bn dépendent de n, mais que
ce n’est pas grave.
▶ La cote z est une distance standardisée entre
une donnée et la moyenne des données. Notons
que la cote z n’a pas d’unité de mesure.
Pierre Duchesne Chapitre 1. Statistiques descriptives
L’écart interquartile (interquartile range ou IQR)

▶ Les quartiles divisent un jeu de données en

quatre parties égales.
▶ Le 1er quartile est la médiane des observations
(strictement) plus petites que la médiane de
toutes les observations. On le note Q1 .
▶ Le 3ème quartile est la médiane des observations
(strictement) plus grandes que la médiane. On
le note Q3 .
▶ L’écart interquartile (interquartile range) est :

IQR = Q3 − Q1 .

Pierre Duchesne Chapitre 1. Statistiques descriptives

L’écart interquartile (suite)

▶ L’écart interquartile IQR = Q3 − Q1 est une mesure de

dispersion.
▶ On note que c’est l’étendue de la moitié centrale des
données.
▶ C’est une mesure résistante (comme la médiane).
▶ Si la distribution est symétrique, une mesure du centre et
une de dispersion résument bien la distribution. Si elle est
asymétrique, Q1 et Q3 avec la médiane donnent une
meilleure idée. Ces mesures ignorent les observations dans
les ailes, donc le minimum x(1) et le maximum x(n)
peuvent compléter.
▶ Le résumé à cinq chiffres repose sur :

minimum, Q1 , médiane, Q3 , maximum

Pierre Duchesne Chapitre 1. Statistiques descriptives

L’écart interquartile (suite)

▶ Si on fait comme dans le livre de référence de

Mendenhall, Beaver, Beaver et Ahmed, on
commence par ordonner les données et on
calcule les statistiques d’ordre
x(1) ≤ x(2) ≤ . . . ≤ x(n) .
▶ Q1 est la donnée en position (n + 1)/4 et Q3
est la donnée en position 3(n + 1)/4.
▶ Si les valeurs (n + 1)/4 et 3(n + 1)/4 ne sont
pas entières, il est recommandé de déterminer
les positions des quartiles par interpolation.

Pierre Duchesne Chapitre 1. Statistiques descriptives

L’écart interquartile, exemple
▶ Exemple 1.6. On dispose de 26 données :
1, 1, 2, 3, 3, 3, 4, 4, 5, 5, 5, 5, 5,
6, 6, 6, 7, 7, 7, 8, 9, 9, 9, 9, 9, 9.
▶ Puisque n = 26, (n + 1)/4 = 27/4 = 6.75. Ainsi par
interpolation Q1 est donnée par la valeur se situant à 3/4
de la distance entre les valeurs 3 et 4 : on trouve
Q1 = 3.75.
▶ En procédant de manière similaire, la position de Q3 est
3(n + 1)/4 = 3 × 27/4 = 20.25. Ainsi Q3 se trouve être
la valeur de trouvant à une distance de 1/4 entre les
valeurs 8 et 9 et on trouve Q3 = 8.25.
▶ Puisque n est pair, la médiane est la moyenne des données
13ième et 14ième statistiques d’ordre : (5 + 6)/2 = 5.5.
▶ Ainsi le résumé à cinq chiffres est (1; 3.75; 5.5; 8.25; 9) et
IQR = Q3 − Q1 = 8.25 − 3.75 = 4.5.
Pierre Duchesne Chapitre 1. Statistiques descriptives
En résumé

▶ La moyenne x̄ et s2 sont des mesures de

tendance centrale et de dispersion,
respectivement. Ces mesures sont sensibles aux
valeurs atypiques (valeurs aberrantes).
▶ La médiane et l’IQR sont également des mesures
de tendance centrale et de dispersion,
respectivement. Cependant ces mesures sont
résistantes (robustes) aux valeurs aberrantes.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Percentiles

▶ De manière générale, les quartiles divisent les données en

quatre quarts. Un concept plus général est celui de
percentile.
▶ Le pième percentile d’une distribution est le point qui est
plus grand que p% des observations, et qui est moins les
(100 − p)% restants.
▶ Q1 est le 25ième percentile, Q3 le 75ième, et la médiane
qui divise en deux le 50ième percentile.
▶ On note qu’avec notre définition de médiane et la façon
de calculer les quantiles on obtient des valeurs uniques.

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.5 Le diagramme en boı̂te (en anglais box plot)

▶ Autre méthode graphique fondamentale en

statistique descriptive, permettant d’étudier la
distribution d’une variable quantitative.
▶ Représentation graphique du résumé à cinq
chiffres (minimum, Q1 , médiane, Q3 , maximum)
▶ Les graphiques des boxplots sont effectués avec
R (Excel n’inclut toujours pas cette
fonctionnalité). Le nom de la fonction :
boxplot()

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple

▶ On a demandé à une classe de 100 étudiants

leur taille. Il a été spécifié qu’une seule fois (et
rapidement) de fournir la taille en centimètres.
▶ La résumé à cinq chiffres donne : (1.62, 161.0,
166.1, 170.5, 183.4). La moyenne est 164.4
▶ Avec correction : (148.4, 161.4, 166.1, 170.5,
183.4). La moyenne est 166.0.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple, boxplot

Tailles avec étudiant distrait Tailles (avec correction)

180
150

175
170
100

165
160
50

155
150
0

Pierre Duchesne Chapitre 1. Statistiques descriptives

Construction du diagramme en boı̂te (box plot)

▶ La boı̂te est délimitée par Q1 et Q3 ; la longueur de la

boı̂te est donc l’IQR ;
▶ La médiane est indiquée par une ligne à l’intérieur de la
boı̂te ;
▶ De chaque extrémité de la boı̂te, une ligne se rend
jusqu’au minimum d’un bord et au maximum de l’autre.
▶ Diagramme en boı̂te modifié (comme recommandé dans le
livre) : La ligne se rend jusqu’à la plus grande (petite)
observation qui ne dépasse pas 1.5 IQR au-delà de la
boı̂te. Toutes les observations qui dépassent cette borne
sont identifiées par un rond ou une étoile.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple, box plots côte à côte
▶ Dans la classe de 100 étudiants il y avait 50 garçons et 50
filles. Les box plots côte à côte permettent de comparer la
distribution d’une variable quantitative selon les modalités
d’une variable qualitative (ici selon le sexe).
Tailles des garçons Tailles des filles
190

180
185

175
180

170
175

165
170

160
165

155
160

150

Pierre Duchesne Chapitre 1. Statistiques descriptives

1.6 Une règle empirique : la règle 68-95-99

▶ Un histogramme est en forme de cloche s’il possède un

seul mode, s’il est symétrique et si ses queues diminuent
graduellement.
▶ Si un histogramme est en forme de cloche, alors la règle
empirique suivante, appelée la règle 68-95-99, s’applique.
▶ Soit une série de n données dont la distribution est en
forme de cloche.
(i) L’intervalle (x̄ − s, x̄ + s) contient approximativement 68% des
données.
(ii) L’intervalle (x̄ − 2s, x̄ + 2s) contient approximativement 95%
des données.
(iii) L’intervalle (x̄ − 3s, x̄ + 3s) contient approximativement 99%
des données.

Pierre Duchesne Chapitre 1. Statistiques descriptives

La règle 68-95-99 (suite)

▶ Si la distribution n’est pas en forme de cloche, on peut

toujours appliquer la règle 68- 95-99, mais les résultats
risquent d’être fort imprécis.
▶ Les données comprises dans l’intervalle (x̄ − s, x̄ + s) sont
celles dont la cote z se situe entre -1 et 1. De manière
similaire, les données comprises dans l’intervalle
(x̄ − 2s, x̄ + 2s) sont celles dont la cote z se situe entre -2
et 2 et les données comprises dans l’intervalle
(x̄ − 3s, x̄ + 3s) sont celles dont la cote z se situe entre -3
et 3.
▶ Cette règle sera justifiée plus formellement au Chapitre 4,
lorsque nous parlerons de la loi normale et de ses
propriétés.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Corrélation et droite des moindres carrés

▶ Jusqu’ici, nous avons mis l’accent sur la

description d’une variable (qualitative ou
quantitative).
▶ En pratique, la relation entre deux variables
quantitatives continues est fréquemment
étudiée.
▶ Cette relation est exposée clairement à l’aide
d’un nuage de points.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple, relation entre les tailles des filles et des mères

▶ C’est un des premiers exemples des techniques de

régression linéaire.
▶ Étude de la ‘transmission’ de la taille de la mère à la fille.
▶ E. S. Pearson avait récolté n = 1375 tailles de mères en
Angleterre de moins de 65 ans et d’une de leur fille adulte
de plus de 18 ans, durant la période 1893-1898.
▶ Dans la terminologie, la taille de la mère est un préviseur
et la taille de la fille une variable réponse.
▶ Le jeu de données a été obtenu de Applied Linear
Regression de S. Weisberg (Wiley).

Pierre Duchesne Chapitre 1. Statistiques descriptives

Nuage de points de la taille de la fille (Y ) en fonction de la
taille de la mère (X)

Taille de la fille en fonction de la taille de la mère

75
70
Taille de la fille

65
60
55

55 60 65 70 75

Taille de la mère

Pierre Duchesne Chapitre 1. Statistiques descriptives

▶ Toujours regarder les axes. Compte tenu qu’il
s’agit de tailles adultes, l’échelle était
comparable pour les mères et les filles. On a
imposé que X et Y aillent de 55 à 75 pouces.
▶ La droite Y = X a été ajoutée. Si les mères et
leur fille avaient exactement la même taille, tous
les points seraient sur cette droite.
▶ L’analyse de régression vise à mettre en relation
les variables.
▶ Une relation linéaire semble présente.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Coefficient de corrélation linéaire

▶ On considère n couples (xi , yi ), i = 1, . . . , n. Le

coefficient de corrélation linéaire, noté rxy
(parfois seulement r), est défini par :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄)2 (y − ȳ) 2
i=1 i i=1 i

avec x̄ = n−1 ni=1 xi et ȳ = n−1 ni=1 yi .

P P

▶ Le coefficient de corrélation linéaire mesure le

lien linéaire entre x et y.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Coefficient de corrélation linéaire (suite)
▶ On se rappelle que s2x = ni=1 (xi − x̄)2 /(n − 1) de sorte
P
2
P n 2
que (n − 1)sPx = i=1 (xi − x̄) . De même
n
(n − 1)s2y = i=1 (yi − ȳ)2 . Donc :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄) 2 (y − ȳ)2
i i
Pn i=1 i=1

i=1 (x i − x̄)(y i − ȳ)

=
(n − 1)sx sy
▶ La covariance entre x et y basée sur (xi , yi ), i = 1, . . . , n
est définie par :
n
1 X
cxy = (xi − x̄)(yi − ȳ).
n − 1 i=1
▶ La corrélation en mots est covariance sur produit des
écarts-types.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Propriétés du coefficient de corrélation linéaire

▶ On rappelle que :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄)2 (y − ȳ)2
i=1 i i=1 i

▶ On montre que −1 ≤ rxy ≤ 1.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Propriétés du coefficient de corrélation linéaire (suite)

▶ On rappelle que :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄)2 (y − ȳ)2
i=1 i i=1 i

▶ S’il existe une relation linéaire exacte entre y et

x, yi = a + bxi , i = 1, . . . , n, alors |rxy | = 1.
▶ Une réciproque existe. Si |rxy | = 1, alors il existe
a et b tel que yi = a + bxi .

Pierre Duchesne Chapitre 1. Statistiques descriptives

Propriétés du coefficient de corrélation linéaire (suite)

▶ On rappelle que :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄)2 (y − ȳ)2
i=1 i i=1 i

▶ On parle de corrélation positive si rxy > 0.

▶ Une corrélation négative est quand rxy < 0.
▶ Lorsque rxy = 0, il y a absence de lien linéaire
entre x et y.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Propriétés du coefficient de corrélation linéaire (suite)

▶ On remarque :
Pn
− x̄)(yi − ȳ)
i=1 (xi
rxy = pPn pPn ,
2 2
i=1 (xi − x̄) i=1 (yi − ȳ)
Pn n
i=1 (xi − x̄)(yi − ȳ) 1 X (xi − x̄) (yi − ȳ)
= = .
(n − 1)sx sy n − 1 i=1 sx sy

▶ L’écriture comme la somme des produits de la forme

(xi − x̄)/sx et (yi − ȳ)/sy montre que la corrélation
demeure inchangée si on change les unités de mesure de
l’une et/ou l’autre variable.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Propriétés du coefficient de corrélation linéaire (suite)

▶ Le coefficient de corrélation donne une mesure de la force

de la relation entre deux variables si cette dernière est
linéaire. Si la relation n’est pas linéaire, le coefficient de
corrélation n’est pas d’une grande utilité.
▶ Une corrélation nulle (ou en pratique proche de zéro) peut
suggérer une absence de relation entre les deux variables.
En réalité, une corrélation nulle suggère une absence de
relation linéaire entre les variables. Il pourrait exister une
relation d’un autre type !
▶ Le coefficient de corrélation fait intervenir des sommes et
des moyennes. Il n’est pas robuste à la présence
d’observations atypiques. En effet, la présence d’une seule
valeur atypique peut faire varier le coefficient de
corrélation de manière importante.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Différents types de relation

Corrélation positive, r=0.99 Corrélation négative, r= −0.75

1.5
2.5

1.0
0.5
2.0
y

0.0
−0.5
1.5

−1.0
0.2 0.4 0.6 0.8 0.2 0.4 0.6 0.8

x x

Absence de corrélation, r= 0.01 Absence de corrélation, r= 0

0.25
0.8

0.20
0.6

0.15
y

0.10
0.4

0.05
0.2

0.00

0.2 0.4 0.6 0.8 −0.4 −0.2 0.0 0.2 0.4

x x

Pierre Duchesne Chapitre 1. Statistiques descriptives

Formule pour les calculs

▶ La formule suivante permet de calculer le coefficient de

corrélation plus facilement (par exemple à la calculatrice) :
Pn
(xi − x̄)(yi − ȳ)
rxy = pPn i=1 pPn ,
(x − x̄)2 (y − ȳ)2
i=1 i i=1 i
Pn
x y
i i − nx̄ȳ
= pPn 2 i=1 pPn 2
2 2
i=1 xi − nx̄ i=1 yi − nȳ

Pierre Duchesne Chapitre 1. Statistiques descriptives

Régression linéaire simple

▶ Lorsque le nuage de points montre qu’il existe une relation

entre deux variables, et que cette relation est linéaire, il
est bon de l’exprimer à l’aide de l’équation d’une droite :

y = a + bx.
▶ La régression linéaire simple cherche à formuler une
relation entre une variable réponse Y , et une seule
variable explicative X.
▶ La régression linéaire multiple s’applique lorsque Y est
expliqué par plusieurs variables explicatives.
▶ L’ensemble de ces méthodes fait partie de la théorie des
modèles linéaires.
▶ Quand ce n’est pas linéaire, il existe des méthodes de
régression non-linéaire.
Pierre Duchesne Chapitre 1. Statistiques descriptives
Méthode des moindres carrés
▶ On suppose que l’on dispose des données (xi , yi ),
i = 1, . . . , n et que le nuage de points suggère une
relation linéaire. On postule alors :
y = a + bx.
▶ La relation entre X et Y ne sera pas exacte. Comment
faire alors pour déterminer a et b ? Il faut se donner un
critère.
▶ La méthode des moindres carrés est un critère possible. Il
y en a d’autres.
▶ Intuitivement, la droite doit passer le plus près possible
des points du nuage. Pour préciser cette notion, nous
devons définir une mesure de la distance entre les points
et la droite. Le critère des moindres carrés est :
Xn
S(a, b) = {yi − (a + bxi )}2
i=1
Pierre Duchesne Chapitre 1. Statistiques descriptives
Représentation visuelle du critère des moindres carrés

Pierre Duchesne Chapitre 1. Statistiques descriptives

Estimateurs des moindres carrés

▶ Le problème des moindres carrés dans la

régression linéaire simple consiste à minimiser
S(a, b) :
n
X
min {yi − (a + bxi )}2
(a,b)
i=1

▶ On chercher donc à minimiser une fonction de

deux variables S(a, b) par rapport à a et b.
▶ On doit calculer les dérivées partielles de S(a, b)
par rapport à a et b.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Estimateurs des moindres carrés (suite)
▶ Les valeurs de a et b qui minimisent S = S(a, b) satisfont
le système :
n
∂S X
= −2 (yi − a − bxi ) = 0,
∂a i=1
n
∂S X
= −2 (yi − a − bxi )xi = 0
∂b i=1

▶ La première équation implique que a et b satisfont :

n
X n
X
yi − na − b xi = 0.
i=1 i=1

▶ Ainsi, ȳ = a + bx̄ et a = ȳ − bx̄.

▶ En mots la droite des moindres carrés passe par (x̄, ȳ).
Pierre Duchesne Chapitre 1. Statistiques descriptives
Estimateurs des moindres carrés (suite)
▶ La seconde équation est :
n
X
(yi − a − bxi )xi = 0,
i=1

et la première équation se résume à a = ȳ − bx̄. Donc :

n
X n
X
(yi − a − bxi )xi = {yi − (ȳ − bx̄) − bxi } xi ,
i=1 i=1
Xn
= {(yi − ȳ) − b(xi − x̄)} xi ,
i=1
Xn n
X
= (yi − ȳ)xi − b (xi − x̄)xi = 0,
i=1 i=1

▶ Résolvant pour b ceci donne :

Pn
(yi − ȳ)xi
b = Pni=1
i=1 i − x̄)xi
(x

Pierre Duchesne Chapitre 1. Statistiques descriptives

Estimateurs des moindres carrés (suite)

▶ Les formules peuvent être plus facile à interpréter en rappelant que

Pn
la somme des écarts à la moyenne est nulle : i=1 (yi − ȳ) = 0 :
n
X n
X n
X
(xi − x̄)(yi − ȳ) = (yi − ȳ)xi − (yi − ȳ)x̄,
i=1 i=1 i=1
Xn Xn
= (yi − ȳ)xi − x̄ (yi − ȳ),
i=1 i=1
Xn
= (yi − ȳ)xi
i=1

▶ De même
n
X n
X n
X
(xi − x̄)2 = (xi − x̄)(xi − x̄) = (xi − x̄)xi .
i=1 i=1 i=1

Pierre Duchesne Chapitre 1. Statistiques descriptives

Estimateurs des moindres carrés (suite)

▶ Nous obtenons alors :

Pn
(yi − ȳ)xi
b = Pni=1 ,
(x i − x̄)xi
Pi=1
n
(y − ȳ)(xi − x̄)
= Pn i
i=1
2
,
i=1 (xi − x̄)
▶ En mots, l’estimateur des moindres carrés du
coefficient de pente est un terme de covariance
entre y et x sur la variance de x.

Pierre Duchesne Chapitre 1. Statistiques descriptives

En résumé, estimateurs des moindres carrés

▶ Les estimateurs des moindres carrés sont alors :

Pn
(y − ȳ)(xi − x̄)
b = i=1 Pn i 2
,
i=1 (xi − x̄)
avec a = ȳ − bx̄.
▶ Une formule pour le calcul de l’estimateur de la
pente est :
n ni=1 xi yi − ( ni=1 xi )( ni=1 yi )
P P P
b= .
n ni=1 x2i − ( ni=1 xi )2
P P

Pierre Duchesne Chapitre 1. Statistiques descriptives

En résumé, estimateurs des moindres carrés (suite)

▶ La droite des moindres carrés passe par le point (x̄, ȳ).

▶ En comparant les expressions de b et de rxy , on constate
que rxy et b sont de même signe et que rxy = 0 si et
seulement si b = 0. En fait nous avons la relation
suivante :
Sx
rxy = b .
Sy
▶ De manière équivalente :

b = rxy Sy /Sx

Pierre Duchesne Chapitre 1. Statistiques descriptives

En résumé, estimateurs des moindres carrés (suite)

▶ Ainsi rxy > 0 si et seulement si la droite des moindres

carrés est de pente positive, et rxy = 0 si et seulement si
la droite des moindres carrés est horizontale.
▶ On rappelle que rxy est une mesure de dépendance
linéaire, reposant sur la covariance au numérateur,
standardisée par un produit d’écarts-types au
dénominateur.
▶ Le coefficient b peut être affecté par un changement
d’échelle (changement d’unité de mesures), contrairement
à rxy .

Pierre Duchesne Chapitre 1. Statistiques descriptives

Interprétation des estimateurs des moindres carrés

▶ Le coefficient a est l’ordonnée à l’origine et

représente la valeur sur la droite lorsque x = 0.
▶ Le coefficient b représente la pente de la droite.
Une interprétation utile est que lorsque l’on
augmente x d’une unité, la variable y croı̂t de b
unités si b > 0 et décroı̂t de b unités si b < 0.

Pierre Duchesne Chapitre 1. Statistiques descriptives

Exemple sur les tailles
▶ La droite des moindres carrés est y = 29.92 + 0.54x.
▶ Ainsi une mère de 67 pouces aura une taille de fille prévue
de 29.92 + 0.54 × 67 = 66.2 pouces.
▶ Ainsi une mère de 57 pouces aura une taille de fille prévue
de 29.92 + 0.54 × 57 = 60.8 pouces.
Taille de la fille en fonction de la taille de la mère
75
70
Taille de la fille

65
60
55

55 60 65 70 75

Taille de la mère

Pierre Duchesne Chapitre 1. Statistiques descriptives