Ajustement

Correlation

Ajustement linéaire par les moindres carrés

Clément Rau
Laboratoire de Mathématiques de Toulouse
Université Paul Sabatier-IUT GEA Ponsan

Module: Maths approfondies

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Introduction

Motivations :
Examiner la dépendance entre deux variables.
Trouver un critère.
Si il y a une dépendance, trouver une relation linéaire la
plus "fidèle".
Intérets : Prévisions, pronostics...

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 1
Un responsable du tourisme d’une station balnéaire fait le bilan de la
fréquentation touristique de 1994 à 2001 :

Année xi 1994 1995 1996 1997 1998 1999 2000 2001

Nbr de
touristes
24,4 26,3 27,8 29,5 30,7 32,8 34,4 35,7
yi en
milliers

1 Est il légitime de supposer une relation linéaire entre le nombre de

touristes et les années ?
2 Déterminer le nombre de touristes que l’on peut prévoir en 2004 ?
3 À partir de quelle année la fréquentation touristique dépassera 45000
touristes ?

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 1
Un responsable du tourisme d’une station balnéaire fait le bilan de la
fréquentation touristique de 1994 à 2001 :

Année xi 1994 1995 1996 1997 1998 1999 2000 2001

Nbr de
touristes
24,4 26,3 27,8 29,5 30,7 32,8 34,4 35,7
yi en
milliers

1 Est il légitime de supposer une relation linéaire entre le nombre de

touristes et les années ?
2 Déterminer le nombre de touristes que l’on peut prévoir en 2004 ?
3 À partir de quelle année la fréquentation touristique dépassera 45000
touristes ?

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 1
Un responsable du tourisme d’une station balnéaire fait le bilan de la
fréquentation touristique de 1994 à 2001 :

Année xi 1994 1995 1996 1997 1998 1999 2000 2001

Nbr de
touristes
24,4 26,3 27,8 29,5 30,7 32,8 34,4 35,7
yi en
milliers

1 Est il légitime de supposer une relation linéaire entre le nombre de

touristes et les années ?
2 Déterminer le nombre de touristes que l’on peut prévoir en 2004 ?
3 À partir de quelle année la fréquentation touristique dépassera 45000
touristes ?

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 1
Un responsable du tourisme d’une station balnéaire fait le bilan de la
fréquentation touristique de 1994 à 2001 :

Année xi 1994 1995 1996 1997 1998 1999 2000 2001

Nbr de
touristes
24,4 26,3 27,8 29,5 30,7 32,8 34,4 35,7
yi en
milliers

1 Est il légitime de supposer une relation linéaire entre le nombre de

touristes et les années ?
2 Déterminer le nombre de touristes que l’on peut prévoir en 2004 ?
3 À partir de quelle année la fréquentation touristique dépassera 45000
touristes ?

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 1
Un responsable du tourisme d’une station balnéaire fait le bilan de la
fréquentation touristique de 1994 à 2001 :

Année xi 1994 1995 1996 1997 1998 1999 2000 2001

Nbr de
touristes
24,4 26,3 27,8 29,5 30,7 32,8 34,4 35,7
yi en
milliers

1 Est il légitime de supposer une relation linéaire entre le nombre de

touristes et les années ?
2 Déterminer le nombre de touristes que l’on peut prévoir en 2004 ?
3 À partir de quelle année la fréquentation touristique dépassera 45000
touristes ?

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Exemple 2
On a demandé à 100 entreprises, le bénéfice annuel et l’écart
d’âge entre le directeur et le sous directeur. On a obtenu les
résultats suivants :

Est il légitime de supposer une relation linéaire entre ces 2

variables ?
Clément Rau Ajustement linéaire par les moindres carrés
 Ajustement
Correlation

Exemple 2
On a demandé à 100 entreprises, le bénéfice annuel et l’écart
d’âge entre le directeur et le sous directeur. On a obtenu les
résultats suivants :

Est il légitime de supposer une relation linéaire entre ces 2

variables ?
Clément Rau Ajustement linéaire par les moindres carrés
 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

Buts du chapitre

Ces problèmes de dépendance entrent dans la théorie de

la correlation.
Dans le premier exemple, un dépendance semble plausible.
Dans le second exemple, une dépendance semble illusoire.
Fabriquer un nombre qui "mesure" cette dépendance
(linéaire).
Si ce nombre est "correct", trouver la "meilleure" relation
linéaire qui lie les deux grandeurs.
Application du chapitre précédent : pb d’optimisation !

Clément Rau Ajustement linéaire par les moindres carrés

 Ajustement
Correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Selon l’allure du nuage, on a envie de remplacer ce nuage par le

graphe d’une fonction f . (la courbe y “ f pxq) Cette opération s’appelle
un ajustement

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Selon l’allure du nuage, on a envie de remplacer ce nuage par le

graphe d’une fonction f . (la courbe y “ f pxq) Cette opération s’appelle
un ajustement

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On se donne deux séries X “ pxi qi et Y “ pyi qi ayant le même nombre

d’éléments. But : établir un lien (si il existe) entre X et Y .
On peut dans un premier temps, représenter ces points sur un graphe
pour se faire une idée. Ce graphe s’appelle nuage de points

Selon l’allure du nuage, on a envie de remplacer ce nuage par le

graphe d’une fonction f . (la courbe y “ f pxq) Cette opération s’appelle
un ajustement

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

La nature de l’ajustement dépend de la forme du nuage de

points. Essentiellement, on étudiera ici les ajustements
linéaires (ou ceux qui s’y raménent). On approchera donc
le nuage par une droite...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

La nature de l’ajustement dépend de la forme du nuage de

points. Essentiellement, on étudiera ici les ajustements
linéaires (ou ceux qui s’y raménent). On approchera donc
le nuage par une droite...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

La nature de l’ajustement dépend de la forme du nuage de

points. Essentiellement, on étudiera ici les ajustements
linéaires (ou ceux qui s’y raménent). On approchera donc
le nuage par une droite...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

La nature de l’ajustement dépend de la forme du nuage de

points. Essentiellement, on étudiera ici les ajustements
linéaires (ou ceux qui s’y raménent). On approchera donc
le nuage par une droite...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

La nature de l’ajustement dépend de la forme du nuage de

points. Essentiellement, on étudiera ici les ajustements
linéaires (ou ceux qui s’y raménent). On approchera donc
le nuage par une droite...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Divers ajustements

On peut penser à beaucoup d’ajustements.

Ajustement linéaire Y “ aX ` b
Ajustement non linéaire :
ajustement exponentiel : Y “ λeαX
ajustement logarithmique : Y “ a lnpX q ` b
ajustement polynomial, par ex : Y “ aX 2 ` bX ` c .

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Principe

Historiquement, l’idée est manuelle. On tracait le nuage de

points et on faisait "pivoter" une règle qui passait au
"mieux" entre les points du nuage.
Il faut avoir conscience que l’on pourrait ajuster de
diverses manières, en fonction du choix de la distance on
veut minimiser.
La méthode des moindres carrés s’interesse à une
certaine distance. Précisons les choses...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Principe

Historiquement, l’idée est manuelle. On tracait le nuage de

points et on faisait "pivoter" une règle qui passait au
"mieux" entre les points du nuage.
Il faut avoir conscience que l’on pourrait ajuster de
diverses manières, en fonction du choix de la distance on
veut minimiser.
La méthode des moindres carrés s’interesse à une
certaine distance. Précisons les choses...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Principe

Historiquement, l’idée est manuelle. On tracait le nuage de

points et on faisait "pivoter" une règle qui passait au
"mieux" entre les points du nuage.
Il faut avoir conscience que l’on pourrait ajuster de
diverses manières, en fonction du choix de la distance on
veut minimiser.
La méthode des moindres carrés s’interesse à une
certaine distance. Précisons les choses...

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Soient Pi la projection de Mi sur D parallèlement à pOy q.
Donc les coordonnées de Pi sont de la forme pxi , yi1 q. Notez
que Pi P D, donc yi1 “ axi ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Soient Pi la projection de Mi sur D parallèlement à pOy q.
Donc les coordonnées de Pi sont de la forme pxi , yi1 q. Notez
que Pi P D, donc yi1 “ axi ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Soient X “ pxi qi et Y “ pyi qi deux séries. On note Mi les

points du plan de coordonnées pxi , yi q

Soit D une droite quelconque, d’équation y “ ax ` b.

Soient Pi la projection de Mi sur D parallèlement à pOy q.
Donc les coordonnées de Pi sont de la forme pxi , yi1 q. Notez
que Pi P D, donc yi1 “ axi ` b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Definition
Ajuster par la méthode des moindres carrés consiste à
rechercher parmi toutes les droites D, celle qui rend mimimal la
somme des carrés des longueur Pi Mi .
ie : la quantité
ÿ ÿ ÿ
Z“ Pi Mi2 “ pyi ´ yi1 q2 “ pyi ´ axi ´ bq2 .
i i i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Definition
Ajuster par la méthode des moindres carrés consiste à
rechercher parmi toutes les droites D, celle qui rend mimimal la
somme des carrés des longueur Pi Mi .
ie : la quantité
ÿ ÿ ÿ
Z“ Pi Mi2 “ pyi ´ yi1 q2 “ pyi ´ axi ´ bq2 .
i i i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Definition
Ajuster par la méthode des moindres carrés consiste à
rechercher parmi toutes les droites D, celle qui rend mimimal la
somme des carrés des longueur Pi Mi .
ie : la quantité
ÿ ÿ ÿ
Z“ Pi Mi2 “ pyi ´ yi1 q2 “ pyi ´ axi ´ bq2 .
i i i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Definition
Ajuster par la méthode des moindres carrés consiste à
rechercher parmi toutes les droites D, celle qui rend mimimal la
somme des carrés des longueur Pi Mi .
ie : la quantité
ÿ ÿ ÿ
Z“ Pi Mi2 “ pyi ´ yi1 q2 “ pyi ´ axi ´ bq2 .
i i i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On notera
i “ Pi Mi ,
( mesure algèbrique de Pi Mi ).
Ainsi on cherche la (ou les) droite(s) D qui rende(nt) minimal
ÿ
Z “ 2i
i
ÿ
“ pyi ´ axi ´ bq2
i
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

On notera
i “ Pi Mi ,
( mesure algèbrique de Pi Mi ).
Ainsi on cherche la (ou les) droite(s) D qui rende(nt) minimal
ÿ
Z “ 2i
i
ÿ
“ pyi ´ axi ´ bq2
i
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

ñ Probléme d’optimisation sans contraintes.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Détermination du min
Le nuage pxi , yi qi“1..n est fixé. On a donc l’application :

tDroitesu Ñ R`
D ↦ Z “ ZD

que l’on cherche à minimiser.

Une droite D non parallèle à l’axe pOy q étant déterminée par
son coeff directeur a et son ordonnée à l’origine b, on peut
plutôt considérer l’application suivante

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Détermination du min
Le nuage pxi , yi qi“1..n est fixé. On a donc l’application :

tDroitesu Ñ R`
D ↦ Z “ ZD

que l’on cherche à minimiser.

Une droite D non parallèle à l’axe pOy q étant déterminée par
son coeff directeur a et son ordonnée à l’origine b, on peut
plutôt considérer l’application suivante

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Détermination du min
Le nuage pxi , yi qi“1..n est fixé. On a donc l’application :

tDroitesu Ñ R`
D ↦ Z “ ZD

que l’on cherche à minimiser.

Une droite D non parallèle à l’axe pOy q étant déterminée par
son coeff directeur a et son ordonnée à l’origine b, on peut
plutôt considérer l’application suivante

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Point(s) critique(s) de φ

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i
Determinons le (ou
# les) point(s) critique(s) de φ.
Bφ
On résoud donc : Ba pa, bq “ 0
Bφ
Bb pa, bq “ 0
" ř
´2 ři xi pyi ´ axi ´ bq “ 0
ie ∶
´2 i pyi ´ axi ´ bq “ 0
D’où
" ř ř 2 ř
ři x i yi ´ a
ř i x i ´ b i xi “ 0
i yi ´ a i xi ´ bn “ 0

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Point(s) critique(s) de φ

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i
Determinons le (ou
# les) point(s) critique(s) de φ.
Bφ
On résoud donc : Ba pa, bq “ 0
Bφ
Bb pa, bq “ 0
" ř
´2 ři xi pyi ´ axi ´ bq “ 0
ie ∶
´2 i pyi ´ axi ´ bq “ 0
D’où
" ř ř 2 ř
ři x i yi ´ a
ř i x i ´ b i xi “ 0
i yi ´ a i xi ´ bn “ 0

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Point(s) critique(s) de φ

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i
Determinons le (ou
# les) point(s) critique(s) de φ.
Bφ
On résoud donc : Ba pa, bq “ 0
Bφ
Bb pa, bq “ 0
" ř
´2 ři xi pyi ´ axi ´ bq “ 0
ie ∶
´2 i pyi ´ axi ´ bq “ 0
D’où
" ř ř 2 ř
ři x i yi ´ a
ř i x i ´ b i xi “ 0
i yi ´ a i xi ´ bn “ 0

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Point(s) critique(s) de φ

φ∶ R2 Ñ R`
ÿ
pa, bq ↦ Z “ pyi ´ axi ´ bq2
i
Determinons le (ou
# les) point(s) critique(s) de φ.
Bφ
On résoud donc : Ba pa, bq “ 0
Bφ
Bb pa, bq “ 0
" ř
´2 ři xi pyi ´ axi ´ bq “ 0
ie ∶
´2 i pyi ´ axi ´ bq “ 0
D’où
" ř ř 2 ř
ři x i yi ´ a
ř i x i ´ b i xi “ 0
i yi ´ a i xi ´ bn “ 0

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1
xi et ȳ “ n1 i yi , le systéme se réécrit :
ř ř
En notant, x̄ “ n i
" ř ř 2
i xi yi ´ a i xi ´ bnx̄ “ 0
ȳ ´ ax̄ ´ b “ 0
De la ligne 2, on tire que b “ ȳ ´ ax̄, que l’on reporte dans la
ligne [Link] trouve alors :
ř ř 2
i xi yi ´ a i xi ´ pȳ ´ ax̄qnx̄ “ 0.
Puis,
ř
x y ´ nx̄ ȳ
a “ ři i 2i 2
i xi ´ nx̄
1ř
n i xi yi ´ x̄ ȳ cov px, y q
“ 1ř 2
“
n i xi ´ x̄
2 var pxq
On a donc un point critique pa, bq définit par les formules
précédentes. Reste à voir si c’est bien un extremum...
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1
xi et ȳ “ n1 i yi , le systéme se réécrit :
ř ř
En notant, x̄ “ n i
" ř ř 2
i xi yi ´ a i xi ´ bnx̄ “ 0
ȳ ´ ax̄ ´ b “ 0
De la ligne 2, on tire que b “ ȳ ´ ax̄, que l’on reporte dans la
ligne [Link] trouve alors :
ř ř 2
i xi yi ´ a i xi ´ pȳ ´ ax̄qnx̄ “ 0.
Puis,
ř
x y ´ nx̄ ȳ
a “ ři i 2i 2
i xi ´ nx̄
1ř
n i xi yi ´ x̄ ȳ cov px, y q
“ 1ř 2
“
n i xi ´ x̄
2 var pxq
On a donc un point critique pa, bq définit par les formules
précédentes. Reste à voir si c’est bien un extremum...
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1
xi et ȳ “ n1 i yi , le systéme se réécrit :
ř ř
En notant, x̄ “ n i
" ř ř 2
i xi yi ´ a i xi ´ bnx̄ “ 0
ȳ ´ ax̄ ´ b “ 0
De la ligne 2, on tire que b “ ȳ ´ ax̄, que l’on reporte dans la
ligne [Link] trouve alors :
ř ř 2
i xi yi ´ a i xi ´ pȳ ´ ax̄qnx̄ “ 0.
Puis,
ř
x y ´ nx̄ ȳ
a “ ři i 2i 2
i xi ´ nx̄
1ř
n i xi yi ´ x̄ ȳ cov px, y q
“ 1ř 2
“
n i xi ´ x̄
2 var pxq
On a donc un point critique pa, bq définit par les formules
précédentes. Reste à voir si c’est bien un extremum...
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1
xi et ȳ “ n1 i yi , le systéme se réécrit :
ř ř
En notant, x̄ “ n i
" ř ř 2
i xi yi ´ a i xi ´ bnx̄ “ 0
ȳ ´ ax̄ ´ b “ 0
De la ligne 2, on tire que b “ ȳ ´ ax̄, que l’on reporte dans la
ligne [Link] trouve alors :
ř ř 2
i xi yi ´ a i xi ´ pȳ ´ ax̄qnx̄ “ 0.
Puis,
ř
x y ´ nx̄ ȳ
a “ ři i 2i 2
i xi ´ nx̄
1ř
n i xi yi ´ x̄ ȳ cov px, y q
“ 1ř 2
“
n i xi ´ x̄
2 var pxq
On a donc un point critique pa, bq définit par les formules
précédentes. Reste à voir si c’est bien un extremum...
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1
xi et ȳ “ n1 i yi , le systéme se réécrit :
ř ř
En notant, x̄ “ n i
" ř ř 2
i xi yi ´ a i xi ´ bnx̄ “ 0
ȳ ´ ax̄ ´ b “ 0
De la ligne 2, on tire que b “ ȳ ´ ax̄, que l’on reporte dans la
ligne [Link] trouve alors :
ř ř 2
i xi yi ´ a i xi ´ pȳ ´ ax̄qnx̄ “ 0.
Puis,
ř
x y ´ nx̄ ȳ
a “ ři i 2i 2
i xi ´ nx̄
1ř
n i xi yi ´ x̄ ȳ cov px, y q
“ 1ř 2
“
n i xi ´ x̄
2 var pxq
On a donc un point critique pa, bq définit par les formules
précédentes. Reste à voir si c’est bien un extremum...
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Hessienne de φ

˜ ¸
B2 φ B2 φ ˆ ř 2 ř ˙
B2 a
pa, bq BaBb pa, bq 2 ři xi 2 i xi
Hpa,bq “ B2 φ B2 φ
“
2 i xi 2n
BaBb pa, bq B2 b
pa, bq

On a :
& Tr pHpa,bq q “ 2n ` 2 i xi2 ą 0
$ ř

et
detpHpa,bq q “ 4n i xi2 ´ 4p i xi q2 “ 4n2 Var pxq ą 0
% ř ř

Ainsi, le pa, bq trouvé est bien

ř un min. Et la droite d’équation
y “ ax ` b minimise bien i 2i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Hessienne de φ

˜ ¸
B2 φ B2 φ ˆ ř 2 ř ˙
B2 a
pa, bq BaBb pa, bq 2 ři xi 2 i xi
Hpa,bq “ B2 φ B2 φ
“
2 i xi 2n
BaBb pa, bq B2 b
pa, bq

On a :
& Tr pHpa,bq q “ 2n ` 2 i xi2 ą 0
$ ř

et
detpHpa,bq q “ 4n i xi2 ´ 4p i xi q2 “ 4n2 Var pxq ą 0
% ř ř

Ainsi, le pa, bq trouvé est bien

ř un min. Et la droite d’équation
y “ ax ` b minimise bien i 2i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Hessienne de φ

˜ ¸
B2 φ B2 φ ˆ ř 2 ř ˙
B2 a
pa, bq BaBb pa, bq 2 ři xi 2 i xi
Hpa,bq “ B2 φ B2 φ
“
2 i xi 2n
BaBb pa, bq B2 b
pa, bq

On a :
& Tr pHpa,bq q “ 2n ` 2 i xi2 ą 0
$ ř

et
detpHpa,bq q “ 4n i xi2 ´ 4p i xi q2 “ 4n2 Var pxq ą 0
% ř ř

Ainsi, le pa, bq trouvé est bien

ř un min. Et la droite d’équation
y “ ax ` b minimise bien i 2i

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Remarques

Bφ ř
Bb pa, bq“ 0, donne que i i “ 0 La droite "passe bien au
milieu" du nuage...
Autre expression du coeff directeur a, on a :
ř
i px ´x̄qpyi ´ȳ q
a“ ři 2 .
i pxi ´x̄q

Géométriquement toutes ces manipulations,

correspondent à une projection

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Remarques

Bφ ř
Bb pa, bq“ 0, donne que i i “ 0 La droite "passe bien au
milieu" du nuage...
Autre expression du coeff directeur a, on a :
ř
i px ´x̄qpyi ´ȳ q
a“ ři 2 .
i pxi ´x̄q

Géométriquement toutes ces manipulations,

correspondent à une projection

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Remarques

Bφ ř
Bb pa, bq“ 0, donne que i i “ 0 La droite "passe bien au
milieu" du nuage...
Autre expression du coeff directeur a, on a :
ř
i px ´x̄qpyi ´ȳ q
a“ ři 2 .
i pxi ´x̄q

Géométriquement toutes ces manipulations,

correspondent à une projection

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Remarques

Bφ ř
Bb pa, bq“ 0, donne que i i “ 0 La droite "passe bien au
milieu" du nuage...
Autre expression du coeff directeur a, on a :
ř
i px ´x̄qpyi ´ȳ q
a“ ři 2 .
i pxi ´x̄q

Géométriquement toutes ces manipulations,

correspondent à une projection

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Remarques
Bφ ř
Bb pa, bq“ 0, donne que i i “ 0. La droite "passe bien au
milieu" du nuage...
Autre expression du coeff directeur a, on a :
ř
i px ´x̄qpyi ´ȳ q
a“ ři 2 .
i pxi ´x̄q

Géométriquement toutes ces manipulations,

correspondent à une projection

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Exemple Taille - Poids

On donne :

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

L’ajustement linéaire fournit y “ 0, 876x ´ 78, 7

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Exemple Taille - Poids

On donne :

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

L’ajustement linéaire fournit y “ 0, 876x ´ 78, 7

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Attention aux erreurs d’approximation. Conserver un nombre

de décimales suffisant dans vos calculs à la main pour ne pas
altérer les valeurs de a et b.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Exemple non linéaire

On a relevé le bénéfice en milliers d’euros sur 24 mois :

Mois 0 1 2 4 6 8 12 16 20 24
Bénéfice 15 13,3 11,8 10,7 9,1 7,4 5, 8 4, 2 2, 9 2

Traçons le nuage.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Exemple non linéaire

On a relevé le bénéfice en milliers d’euros sur 24 mois :

Mois 0 1 2 4 6 8 12 16 20 24
Bénéfice 15 13,3 11,8 10,7 9,1 7,4 5, 8 4, 2 2, 9 2

Traçons le nuage.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Exemple non linéaire

On a relevé le bénéfice en milliers d’euros sur 24 mois :

Mois 0 1 2 4 6 8 12 16 20 24
Bénéfice 15 13,3 11,8 10,7 9,1 7,4 5, 8 4, 2 2, 9 2

Traçons le nuage.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Un ajustement linéaire "brut" semble peu adapté.

On cherche un ajustement de la forme

Bptq “ B0 e´αt ,
où B représente le bénéfice au temps t. (B0 et α sont à
déterminer)
En passant au ln, on obtient
lnpBptqq “ lnpB0 q ´ αt.
Ainsi lnpBq est une fonction linéaire de t. On réalise ainsi
un ajustement linéaire avec les variables lnpBq et t.
On obtient
lnpBq « ´0, 081t ` 2, 68.
D’où
Bptq « 14, 6 e´0,081t .
Clément Rau Ajustement linéaire par les moindres carrés
 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du problème
Ajustement
Ajustement par la méthode des moindres carrés
Correlation
Exemples

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Ajuster linéairement S2 semble réaliste alors que ajuster linéairement S1

semble illusoire. Pourtant tous les calculs effectués en partie 1, peuvent être
pratiqués...Les résultats seront de mauvaise "qualité".
Ñ Mesurer la qualité de l’ajustement.
outil ∶ coefficient de correlation.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Ajuster linéairement S2 semble réaliste alors que ajuster linéairement S1

semble illusoire. Pourtant tous les calculs effectués en partie 1, peuvent être
pratiqués...Les résultats seront de mauvaise "qualité".
Ñ Mesurer la qualité de l’ajustement.
outil ∶ coefficient de correlation.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Ajuster linéairement S2 semble réaliste alors que ajuster linéairement S1

semble illusoire. Pourtant tous les calculs effectués en partie 1, peuvent être
pratiqués...Les résultats seront de mauvaise "qualité".
Ñ Mesurer la qualité de l’ajustement.
outil ∶ coefficient de correlation.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction

Reprenons l’exemple Taille/Poids.

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

On avait exprimé Y en fonction de X et on avait obtenu y “ 0, 876x ´ 78, 7.

On dit qu’on a effectué une régression de Y en fonction X .
On aurait tres bien pu effectuer une régression de X en fonction Y ! ! !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction

Reprenons l’exemple Taille/Poids.

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

On avait exprimé Y en fonction de X et on avait obtenu y “ 0, 876x ´ 78, 7.

On dit qu’on a effectué une régression de Y en fonction X .
On aurait tres bien pu effectuer une régression de X en fonction Y ! ! !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction

Reprenons l’exemple Taille/Poids.

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

On avait exprimé Y en fonction de X et on avait obtenu y “ 0, 876x ´ 78, 7.

On dit qu’on a effectué une régression de Y en fonction X .
On aurait tres bien pu effectuer une régression de X en fonction Y ! ! !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction

Reprenons l’exemple Taille/Poids.

Individu 1 2 3 4 5 6 7 8 9 10 11 12
Taille
X (en 145 150 153 158 160 163 165 171 175 177 183 187
cm)
Poids
Y (en 50 52 58 60 61 65 62 68 76 75 80 90
kg)

On avait exprimé Y en fonction de X et on avait obtenu y “ 0, 876x ´ 78, 7.

On dit qu’on a effectué une régression de Y en fonction X .
On aurait tres bien pu effectuer une régression de X en fonction Y ! ! !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Intervertissons les rôles de X et Y . On refait l’ajustement

linéaire. On obtient un a1 et un b1 , donné par :
# ř
x y ´nx̄ ȳ
a1 “ ři yi 2i´nȳ 2
i i
b1 “ x̄ ´ a1 ȳ

La droite D 1 de régression de X par rapport à Y a donc pour

équation x “ a1 y ` b1 .
1 b1
ie : y “ a1 x ´ a1 .

Dans notre exemple Taille/Poids, on trouve :

"
pDq y “ 0, 876x ´ 78, 7
pD 1 q x “ 1, 092y ` 93, 1, ie ∶ y “ 0, 916x ´ 85, 2

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Intervertissons les rôles de X et Y . On refait l’ajustement

linéaire. On obtient un a1 et un b1 , donné par :
# ř
x y ´nx̄ ȳ
a1 “ ři yi 2i´nȳ 2
i i
b1 “ x̄ ´ a1 ȳ

La droite D 1 de régression de X par rapport à Y a donc pour

équation x “ a1 y ` b1 .
1 b1
ie : y “ a1 x ´ a1 .

Dans notre exemple Taille/Poids, on trouve :

"
pDq y “ 0, 876x ´ 78, 7
pD 1 q x “ 1, 092y ` 93, 1, ie ∶ y “ 0, 916x ´ 85, 2

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Intervertissons les rôles de X et Y . On refait l’ajustement

linéaire. On obtient un a1 et un b1 , donné par :
# ř
x y ´nx̄ ȳ
a1 “ ři yi 2i´nȳ 2
i i
b1 “ x̄ ´ a1 ȳ

La droite D 1 de régression de X par rapport à Y a donc pour

équation x “ a1 y ` b1 .
1 b1
ie : y “ a1 x ´ a1 .

Dans notre exemple Taille/Poids, on trouve :

"
pDq y “ 0, 876x ´ 78, 7
pD 1 q x “ 1, 092y ` 93, 1, ie ∶ y “ 0, 916x ´ 85, 2

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Intervertissons les rôles de X et Y . On refait l’ajustement

linéaire. On obtient un a1 et un b1 , donné par :
# ř
x y ´nx̄ ȳ
a1 “ ři yi 2i´nȳ 2
i i
b1 “ x̄ ´ a1 ȳ

La droite D 1 de régression de X par rapport à Y a donc pour

équation x “ a1 y ` b1 .
1 b1
ie : y “ a1 x ´ a1 .

Dans notre exemple Taille/Poids, on trouve :

"
pDq y “ 0, 876x ´ 78, 7
pD 1 q x “ 1, 092y ` 93, 1, ie ∶ y “ 0, 916x ´ 85, 2

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

D minimise la somme des écarts au carrés verticaux alors que pD 1 q minimise

la somme des écarts au carrés horizontaux

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

D minimise la somme des écarts au carrés verticaux alors que pD 1 q minimise

la somme des écarts au carrés horizontaux

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

D minimise la somme des écarts au carrés verticaux alors que pD 1 q minimise

la somme des écarts au carrés horizontaux

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Proposition
pDq et pD 1 q sont d’autant plus distinctes que le nuage de
point est dispersé.
Plus le nuage de points est "aligné", plus les deux droites
de régression sont "proches" (les v.a X et Y sont
dépendantes.)

Cas particulier : Si le nuage est parfaitement aligné, on a

D “ D 1 . Ainsi, les 2 droites ont les mêmes équations, ce qui se
traduit par :
1 1
a“ a1 et b “ ´ ba1
[Rappel : pDq a pour équation y “ ax ` b et pD 1 q a pour équation
1 b1
y“ a1
x ´ a1
.]

Dans ce cas le produit aa1 “ 1.

Clément Rau Ajustement linéaire par les moindres carrés
 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Proposition
pDq et pD 1 q sont d’autant plus distinctes que le nuage de
point est dispersé.
Plus le nuage de points est "aligné", plus les deux droites
de régression sont "proches" (les v.a X et Y sont
dépendantes.)

Cas particulier : Si le nuage est parfaitement aligné, on a

D “ D 1 . Ainsi, les 2 droites ont les mêmes équations, ce qui se
traduit par :
1 1
a“ a1 et b “ ´ ba1
[Rappel : pDq a pour équation y “ ax ` b et pD 1 q a pour équation
1 b1
y“ a1
x ´ a1
.]

Dans ce cas le produit aa1 “ 1.

Clément Rau Ajustement linéaire par les moindres carrés
 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Proposition
pDq et pD 1 q sont d’autant plus distinctes que le nuage de
point est dispersé.
Plus le nuage de points est "aligné", plus les deux droites
de régression sont "proches" (les v.a X et Y sont
dépendantes.)

Cas particulier : Si le nuage est parfaitement aligné, on a

D “ D 1 . Ainsi, les 2 droites ont les mêmes équations, ce qui se
traduit par :
1 1
a“ a1 et b “ ´ ba1
[Rappel : pDq a pour équation y “ ax ` b et pD 1 q a pour équation
1 b1
y“ a1
x ´ a1
.]

Dans ce cas le produit aa1 “ 1.

Clément Rau Ajustement linéaire par les moindres carrés
 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Proposition
pDq et pD 1 q sont d’autant plus distinctes que le nuage de
point est dispersé.
Plus le nuage de points est "aligné", plus les deux droites
de régression sont "proches" (les v.a X et Y sont
dépendantes.)

Cas particulier : Si le nuage est parfaitement aligné, on a

D “ D 1 . Ainsi, les 2 droites ont les mêmes équations, ce qui se
traduit par :
1 1
a“ a1 et b “ ´ ba1
[Rappel : pDq a pour équation y “ ax ` b et pD 1 q a pour équation
1 b1
y“ a1
x ´ a1
.]

Dans ce cas le produit aa1 “ 1.

Clément Rau Ajustement linéaire par les moindres carrés
 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction
Ce qui précéde, incite donc à considérer le nombre aa1 , puis à
le comparer à 1.
Remarque : a et a1 sont du même signe. En effet, on a :
ř ř
i xi yi ´ nx̄ ȳ xi yi ´ nx̄ ȳ
a“ ř 2 2
et a “ ři 2
1
2
,
i xi ´ nx̄ i yi ´ nȳ

1 ř 1 ř
n xi yi ´ x̄ ȳ
i n xi yi ´ x̄ ȳ
i
a“ et a1 “ ,
var pX q var pY q
qui se retient ainsi :

cov pX , Y q cov pX , Y q
a“ et a1 “ .
var pX q var pY q

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction
Ce qui précéde, incite donc à considérer le nombre aa1 , puis à
le comparer à 1.
Remarque : a et a1 sont du même signe. En effet, on a :
ř ř
i xi yi ´ nx̄ ȳ xi yi ´ nx̄ ȳ
a“ ř 2 2
et a “ ři 2
1
2
,
i xi ´ nx̄ i yi ´ nȳ

1 ř 1 ř
n xi yi ´ x̄ ȳ
i n xi yi ´ x̄ ȳ
i
a“ et a1 “ ,
var pX q var pY q
qui se retient ainsi :

cov pX , Y q cov pX , Y q
a“ et a1 “ .
var pX q var pY q

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction
Ce qui précéde, incite donc à considérer le nombre aa1 , puis à
le comparer à 1.
Remarque : a et a1 sont du même signe. En effet, on a :
ř ř
i xi yi ´ nx̄ ȳ xi yi ´ nx̄ ȳ
a“ ř 2 2
et a “ ři 2
1
2
,
i xi ´ nx̄ i yi ´ nȳ

1 ř 1 ř
n xi yi ´ x̄ ȳ
i n xi yi ´ x̄ ȳ
i
a“ et a1 “ ,
var pX q var pY q
qui se retient ainsi :

cov pX , Y q cov pX , Y q
a“ et a1 “ .
var pX q var pY q

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction
Ce qui précéde, incite donc à considérer le nombre aa1 , puis à
le comparer à 1.
Remarque : a et a1 sont du même signe. En effet, on a :
ř ř
i xi yi ´ nx̄ ȳ xi yi ´ nx̄ ȳ
a“ ř 2 2
et a “ ři 2
1
2
,
i xi ´ nx̄ i yi ´ nȳ

1 ř 1 ř
n xi yi ´ x̄ ȳ
i n xi yi ´ x̄ ȳ
i
a“ et a1 “ ,
var pX q var pY q
qui se retient ainsi :

cov pX , Y q cov pX , Y q
a“ et a1 “ .
var pX q var pY q

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Introduction
Ce qui précéde, incite donc à considérer le nombre aa1 , puis à
le comparer à 1.
Remarque : a et a1 sont du même signe. En effet, on a :
ř ř
i xi yi ´ nx̄ ȳ xi yi ´ nx̄ ȳ
a“ ř 2 2
et a “ ři 2
1
2
,
i xi ´ nx̄ i yi ´ nȳ

1 ř 1 ř
n xi yi ´ x̄ ȳ
i n xi yi ´ x̄ ȳ
i
a“ et a1 “ ,
var pX q var pY q
qui se retient ainsi :

cov pX , Y q cov pX , Y q
a“ et a1 “ .
var pX q var pY q

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Definition
On appelle coefficient de correlation le nombre r tel que
r 2 “ aa1 et tel que r soit du signe de a et a1 .
?
Si a et a1 >0, alors r “ aa1 ,
?
Si a et a1 <0, alors r “ ´ aa1 ,
On peut retenir r “ ? cov pX ,Y q “ σpXcov pX ,Y q
qσpY q .
var pX qvar pY q

cov pX , Y q est du même signe que a et a1 .

var pX q “ cov pX , X q.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Definition
On appelle coefficient de correlation le nombre r tel que
r 2 “ aa1 et tel que r soit du signe de a et a1 .
?
Si a et a1 >0, alors r “ aa1 ,
?
Si a et a1 <0, alors r “ ´ aa1 ,
On peut retenir r “ ? cov pX ,Y q “ σpXcov pX ,Y q
qσpY q .
var pX qvar pY q

cov pX , Y q est du même signe que a et a1 .

var pX q “ cov pX , X q.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Definition
On appelle coefficient de correlation le nombre r tel que
r 2 “ aa1 et tel que r soit du signe de a et a1 .
?
Si a et a1 >0, alors r “ aa1 ,
?
Si a et a1 <0, alors r “ ´ aa1 ,
On peut retenir r “ ? cov pX ,Y q “ σpXcov pX ,Y q
qσpY q .
var pX qvar pY q

cov pX , Y q est du même signe que a et a1 .

var pX q “ cov pX , X q.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Definition
On appelle coefficient de correlation le nombre r tel que
r 2 “ aa1 et tel que r soit du signe de a et a1 .
?
Si a et a1 >0, alors r “ aa1 ,
?
Si a et a1 <0, alors r “ ´ aa1 ,
On peut retenir r “ ? cov pX ,Y q “ σpXcov pX ,Y q
qσpY q .
var pX qvar pY q

cov pX , Y q est du même signe que a et a1 .

var pX q “ cov pX , X q.

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

1 Ajustement
Position du problème
Ajustement par la méthode des moindres carrés
Exemples

2 Correlation
Position du probléme
Droites de régression
Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Droites de ré-
Coeff de Liaison entre
gression pDq et Nuage de points
correlation X et Y
pD 1 q
dépendance li-
|r | “ 1 confondues aligné
néaire parfaite
dépendance
linéaire d’au-
d’autant plus ali-
tant plus
|r | « 1 voisine gné que r est
prononcée
proche de 1
que r est
proche de 1
pDq et pD 1 q sont
|r | « 0 quasi orthogo- indépendant dispersé
nales

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Explication du contrôle de la dépendance par r

Vocabulaire :
1ř 2 1ř
Variance résiduelle : Vr “ n i i “ n i pyi ´ axi ´ bq2 .
1ř 1 2
Variance expliquée : Ve “ n i pyi ´ ȳ q

“ 0 et yi1 “ yi ` i , donc ȳ “ y¯1 . Ainsi,

ř
Or i i

1 ÿ 1 ¯1 2
Ve “ py ´ y q “ var pY 1 q “ var paX ` bq “ a2 var pX q.
n i i

Fait 1 : V pY q “ Ve ` Vr

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Fait 1 : V pY q “ Ve ` Vr Preuve : On a successivement,

1ÿ
V pY q “ pyi ´ ȳ q2
n i
1ÿ
“ pyi ´ yi1 ` yi1 ´ ȳ q2
n i
1ÿ 1ÿ 1 2ÿ
“ pyi ´ yi1 q2 ` pyi ´ ȳ q2 ` pyi ´ yi1 qpyi1 ´ ȳ q
n i n i n i
2ÿ
“ Vr ` Ve ` pyi ´ yi1 qpyi1 ´ ȳ q
n i
Or,
ÿ ÿ ÿ
pyi ´ yi1 qpyi1 ´ ȳ q “ yi1 pyi ´ yi1 q ´ ȳ pyi ´ yi1 q
i i i
ÿ ÿ
“ paxi ` bqi ´ ȳ i
i i
Bφ Bφ
“ 0 rcar “ 0 et “ 0s
Ba Bb

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Fait 1 : V pY q “ Ve ` Vr Preuve : On a successivement,

1ÿ
V pY q “ pyi ´ ȳ q2
n i
1ÿ
“ pyi ´ yi1 ` yi1 ´ ȳ q2
n i
1ÿ 1ÿ 1 2ÿ
“ pyi ´ yi1 q2 ` pyi ´ ȳ q2 ` pyi ´ yi1 qpyi1 ´ ȳ q
n i n i n i
2ÿ
“ Vr ` Ve ` pyi ´ yi1 qpyi1 ´ ȳ q
n i
Or,
ÿ ÿ ÿ
pyi ´ yi1 qpyi1 ´ ȳ q “ yi1 pyi ´ yi1 q ´ ȳ pyi ´ yi1 q
i i i
ÿ ÿ
“ paxi ` bqi ´ ȳ i
i i
Bφ Bφ
“ 0 rcar “ 0 et “ 0s
Ba Bb

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

Fait 1 : V pY q “ Ve ` Vr Preuve : On a successivement,

1ÿ
V pY q “ pyi ´ ȳ q2
n i
1ÿ
“ pyi ´ yi1 ` yi1 ´ ȳ q2
n i
1ÿ 1ÿ 1 2ÿ
“ pyi ´ yi1 q2 ` pyi ´ ȳ q2 ` pyi ´ yi1 qpyi1 ´ ȳ q
n i n i n i
2ÿ
“ Vr ` Ve ` pyi ´ yi1 qpyi1 ´ ȳ q
n i
Or,
ÿ ÿ ÿ
pyi ´ yi1 qpyi1 ´ ȳ q “ yi1 pyi ´ yi1 q ´ ȳ pyi ´ yi1 q
i i i
ÿ ÿ
“ paxi ` bqi ´ ȳ i
i i
Bφ Bφ
“ 0 rcar “ 0 et “ 0s
Ba Bb

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

On peut maintenant faire le lien entre le coefficient de

corrélation r et "l’alignement du nuage". On a :

Vr var pY q ´ Ve
“
var pY q var pY q
Ve
“ 1´
var pY q
var pX q
“ 1 ´ a2
var pY q
´ cov pX , Y q ¯2 var pX q
“ 1´
var pX q var pY q
“ 1 ´ r2
1
Ainsi, si r 2 proche de 1, alors Vr “ 2
ř
n i i est petit !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

On peut maintenant faire le lien entre le coefficient de

corrélation r et "l’alignement du nuage". On a :

Vr var pY q ´ Ve
“
var pY q var pY q
Ve
“ 1´
var pY q
var pX q
“ 1 ´ a2
var pY q
´ cov pX , Y q ¯2 var pX q
“ 1´
var pX q var pY q
“ 1 ´ r2
1
Ainsi, si r 2 proche de 1, alors Vr “ 2
ř
n i i est petit !

Clément Rau Ajustement linéaire par les moindres carrés

 Position du probléme
Ajustement Droites de régression
Correlation Coefficient de correlation
Interpretation du coefficient de correlation

On peut maintenant faire le lien entre le coefficient de

corrélation r et "l’alignement du nuage". On a :

Vr var pY q ´ Ve
“
var pY q var pY q
Ve
“ 1´
var pY q
var pX q
“ 1 ´ a2
var pY q
´ cov pX , Y q ¯2 var pX q
“ 1´
var pX q var pY q
“ 1 ´ r2
1
Ainsi, si r 2 proche de 1, alors Vr “ 2
ř
n i i est petit !

Clément Rau Ajustement linéaire par les moindres carrés